Bonnes pratiques
Nous recommandons ces meilleures pratiques pour utiliser efficacement AgentCore la mémoire dans vos applications d'agent d'intelligence artificielle.
Rubriques
Chiffrer votre mémoire
Vos données stockées en AgentCore mémoire sont toujours cryptées au repos à l'aide de clés AWS KMS. Par défaut, le chiffrement utilise une clé KMS AWS détenue et gérée. Vous pouvez éventuellement configurer une clé KMS gérée par le client à partir de votre propre AWS compte pour un contrôle supplémentaire sur le chiffrement en spécifiant encryptionKeyArn lors de la création de mémoire.
Empoisonnement de la mémoire ou injection rapide
Lors du traitement de données conversationnelles via l' CreateEvent API et de l'extraction de mémoire à long terme via LLM, il est important de se protéger contre l'empoisonnement de la mémoire et les attaques par injection rapide susceptibles de compromettre l'intégrité des données ou le comportement du système. Ces problèmes de sécurité sont critiques car ils peuvent entraîner la corruption des mémoires stockées et la manipulation des réponses du système.
Le modèle AWS de responsabilité partagée de Following AWS est chargé de sécuriser l'infrastructure Amazon Bedrock Amazon Bedrock AgentCore . Cependant, les clients sont responsables du développement sécurisé des applications, de la validation des entrées et de la prévention des vulnérabilités d'injection rapide dans le service d'extraction de mémoire. Cette méthode est similaire à celle utilisée pour AWS fournir des moteurs de base de données sécurisés tels que RDS, mais les clients doivent empêcher l'injection de code SQL dans leurs applications.
Menaces
-
L'empoisonnement de la mémoire représente une menace lorsque les attaquants intègrent de fausses informations dans les conversations afin de corrompre les réserves de mémoire à long terme. Cela peut se traduire par une pollution du contexte, un contexte trompeur influant sur la récupération future de la mémoire, ou par des attaques délibérées contre l'intégrité des données conçues pour dégrader la qualité du service au fil du temps.
-
Les attaques par injection rapide se produisent lorsque les utilisateurs tentent de contourner les instructions du système lors de l'extraction de mémoire ou lorsque du contenu malveillant contenu dans des données conversationnelles manipule le comportement du LLM. Ces attaques peuvent également impliquer des tentatives d'augmentation de privilèges visant à accéder à la mémoire ou à la modifier au-delà des autorisations des utilisateurs.
Techniques de prévention
-
La validation des entrées constitue le fondement de la protection au niveau de l'
CreateEventAPI. Nettoyez les données saisies par l'utilisateur à l'aide de glissières de sécurité avant de les conserver en mémoire -
Tests de sécurité : testez régulièrement vos applications pour détecter l'injection rapide et d'autres vulnérabilités de sécurité à l'aide de techniques telles que les tests de pénétration, l'analyse de code statique et les tests dynamiques de sécurité des applications (DAST).
Least-privilege principe
Identity-based les politiques déterminent si quelqu'un peut créer, accéder ou supprimer les AgentCore ressources Amazon Bedrock Amazon Bedrock de votre compte. Ces actions peuvent entraîner des frais pour votre AWS compte. Lorsque vous créez ou modifiez des politiques basées sur l’identité, suivez ces instructions et recommandations :
-
Commencez AWS par les politiques gérées et passez aux autorisations du moindre privilège : pour commencer à accorder des autorisations à vos utilisateurs et à vos charges de travail, utilisez les politiques AWS gérées qui accordent des autorisations pour de nombreux cas d'utilisation courants. Ils sont disponibles dans votre AWS compte. Nous vous recommandons de réduire davantage les autorisations en définissant des politiques gérées par les AWS clients spécifiques à vos cas d'utilisation.
-
Accordez les autorisations de moindre privilège : lorsque vous définissez des autorisations avec des politiques IAM, accordez uniquement les autorisations nécessaires à l’exécution d’une seule tâche. Pour ce faire, vous définissez les actions qui peuvent être entreprises sur des ressources spécifiques dans des conditions spécifiques, également appelées autorisations de moindre privilège.
-
Utilisez des conditions dans les politiques IAM pour restreindre davantage l’accès : vous pouvez ajouter une condition à vos politiques afin de limiter l’accès aux actions et aux ressources. Par exemple, vous pouvez écrire une condition de politique pour spécifier que le rôle de service ne peut être assumé que par une ressource de AgentCore mémoire particulière.
-
Utilisez IAM Access Analyzer pour valider vos politiques IAM afin de conserver des autorisations sécurisées et fonctionnelles. IAM Access Analyzer valide les politiques nouvelles et existantes afin qu'elles soient conformes au langage de politique IAM (JSON) et aux meilleures pratiques IAM. IAM Access Analyzer fournit plus de 100 vérifications de politiques et des recommandations exploitables pour vous aider à créer des politiques sécurisées et fonctionnelles.
