Best practice
Consigliamo queste best practice per utilizzare efficacemente AgentCore la memoria nelle applicazioni degli agenti AI.
Argomenti
Crittografia della memoria
I dati archiviati in AgentCore memoria sono sempre crittografati quando sono inattivi utilizzando chiavi AWS KMS. Per impostazione predefinita, la crittografia utilizza una chiave AWS KMS di proprietà e gestita. Facoltativamente, puoi configurare una chiave KMS gestita dal cliente dal tuo AWS account per un ulteriore controllo sulla crittografia specificando quando creare memoria. encryptionKeyArn
Avvelenamento della memoria o iniezione immediata
Durante l'elaborazione di dati conversazionali tramite l' CreateEvent API e l'estrazione di memoria a lungo termine tramite LLM, è importante proteggersi dall'avvelenamento della memoria e dagli attacchi di pronta iniezione che potrebbero compromettere l'integrità dei dati o il comportamento del sistema. Questi problemi di sicurezza sono fondamentali in quanto possono portare al danneggiamento degli archivi di memoria e alla manipolazione delle risposte del sistema.
Il modello AWS di responsabilità condivisa di Following AWS è responsabile della protezione dell'infrastruttura Amazon Bedrock Amazon AgentCore Bedrock. Tuttavia, i clienti hanno la responsabilità dello sviluppo sicuro delle applicazioni, della convalida degli input e della prevenzione delle vulnerabilità di iniezione immediata nel servizio di estrazione della memoria. Ciò è simile a come AWS fornisce motori di database sicuri come RDS, ma i clienti devono impedire l'iniezione di SQL nelle loro applicazioni.
Minacce
-
L'avvelenamento della memoria rappresenta una minaccia in cui gli aggressori incorporano informazioni false nelle conversazioni per danneggiare gli archivi di memoria a lungo termine. Ciò può manifestarsi come inquinamento del contesto, in cui il contesto fuorviante influenza il recupero futuro della memoria, o come attacchi intenzionali all'integrità dei dati progettati per degradare la qualità del servizio nel tempo.
-
Gli attacchi di prompt injection si verificano quando gli utenti tentano di ignorare le istruzioni di sistema durante l'estrazione della memoria o quando il contenuto dannoso nei dati conversazionali manipola il comportamento LLM. Questi attacchi possono anche comportare tentativi di escalation dei privilegi per accedere o modificare la memoria oltre le autorizzazioni degli utenti.
Tecniche di prevenzione
-
La convalida degli input costituisce la base della protezione a livello di
CreateEventAPI. Disinfetta i dati di input dell'utente con dei guardrail prima che rimangano in memoria -
Test di sicurezza: testate regolarmente le vostre applicazioni per verificare la presenza di iniezioni tempestive e altre vulnerabilità di sicurezza utilizzando tecniche come test di penetrazione, analisi statica del codice e test dinamici di sicurezza delle applicazioni (DAST).
Least-privilege principio
Identity-based le politiche determinano se qualcuno può creare, accedere o eliminare le AgentCore risorse Amazon Bedrock Amazon Bedrock dal tuo account. Queste azioni possono comportare costi per il tuo account. AWS Quando si creano o modificano policy basate sull’identità, seguire queste linee guida e raccomandazioni:
-
Inizia con le policy AWS gestite e passa alle autorizzazioni con privilegi minimi: per iniziare a concedere autorizzazioni a utenti e carichi di lavoro, utilizza le politiche AWS gestite che concedono le autorizzazioni per molti casi d'uso comuni. Sono disponibili nel tuo account. AWS Ti consigliamo di ridurre ulteriormente le autorizzazioni definendo politiche gestite dai AWS clienti specifiche per i tuoi casi d'uso.
-
Applicazione delle autorizzazioni con privilegio minimo - Quando si impostano le autorizzazioni con le policy IAM, concedere solo le autorizzazioni richieste per eseguire un’attività. È possibile farlo definendo le azioni che possono essere intraprese su risorse specifiche in condizioni specifiche, note anche come autorizzazioni con privilegio minimo.
-
Condizioni d’uso nelle policy IAM per limitare ulteriormente l’accesso - Per limitare l’accesso ad azioni e risorse è possibile aggiungere una condizione alle policy. Ad esempio, è possibile scrivere una condizione di policy per specificare il ruolo di servizio che può essere assunto solo da una particolare risorsa di AgentCore memoria.
-
Utilizza IAM Access Analyzer per convalidare le tue policy IAM per mantenere autorizzazioni sicure e funzionali: IAM Access Analyzer convalida le policy nuove ed esistenti in modo che aderiscano al linguaggio di policy IAM (JSON) e alle best practice IAM. Lo strumento di analisi degli accessi IAM offre oltre 100 controlli delle policy e consigli utili per creare policy sicure e funzionali.
