View a markdown version of this page

모범 사례 - Amazon Bedrock AgentCore
메모리 암호화메모리 중독 또는 프롬프트 주입최소 권한 원칙

모범 사례

AI 에이전트 애플리케이션에서 AgentCore 메모리를 효과적으로 사용하려면 이러한 모범 사례를 따르는 것이 좋습니다.

메모리 암호화

AgentCore 메모리에 저장된 데이터는 항상 AWS KMS 키를 사용하여 저장 시 암호화됩니다. 기본적으로 암호화는 소유 및 관리 AWS형 KMS 키를 사용합니다. 선택적으로 메모리를 생성할 encryptionKeyArn 때를 지정하여 암호화를 추가로 제어할 수 있도록 자체 AWS 계정에서 고객 관리형 KMS 키를 구성할 수 있습니다.

메모리 중독 또는 프롬프트 주입

CreateEvent API를 통해 대화 데이터를 처리하고 LLM을 통해 장기 메모리를 추출할 때는 데이터 무결성 또는 시스템 동작을 손상시킬 수 있는 메모리 중독 및 즉각적인 주입 공격으로부터 보호하는 것이 중요합니다. 이러한 보안 문제는 메모리 스토어가 손상되고 시스템 응답이 조작될 수 있으므로 매우 중요합니다.

다음 AWS공동 책임 모델은 Amazon Bedrock Amazon Bedrock AgentCore 인프라를 보호할 AWS 책임이 있습니다. 그러나 고객은 안전한 애플리케이션 개발, 입력 검증 및 메모리 추출 서비스의 프롬프트 주입 취약성 방지에 대한 책임이 있습니다. 이는가 RDS와 같은 안전한 데이터베이스 엔진을 AWS 제공하는 방법과 비슷하지만 고객은 애플리케이션에서 SQL 주입을 방지해야 합니다.

위협

  • 메모리 중독은 공격자가 대화에 잘못된 정보를 임베드하여 장기 메모리 스토어를 손상시키는 위협을 나타냅니다. 이는 잘못된 컨텍스트가 향후 메모리 검색에 영향을 미치는 컨텍스트 오염 또는 시간이 지남에 따라 서비스 품질을 저하하도록 설계된 의도적인 데이터 무결성 공격으로 나타날 수 있습니다.

  • 프롬프트 주입 공격은 사용자가 메모리 추출 중에 시스템 프롬프트를 재정의하려고 하거나 대화 데이터의 악성 콘텐츠가 LLM 동작을 조작할 때 발생합니다. 이러한 공격에는 사용자 권한 이상으로 메모리에 액세스하거나 메모리를 수정하려는 권한 에스컬레이션 시도가 포함될 수도 있습니다.

예방 기법

  • 입력 검증은 CreateEvent API 수준에서 보호의 기반을 형성합니다. 메모리 지속성 전에 가드레일로 사용자 입력 데이터 삭제

  • 보안 테스트 - 침투 테스트, 정적 코드 분석, 동적 애플리케이션 보안 테스트(DAST)와 같은 기술을 사용하여 애플리케이션에 프롬프트 주입 및 기타 보안 취약성이 있는지 정기적으로 테스트합니다.

최소 권한 원칙

자격 증명 기반 정책에 따라 계정에서 사용자가 Amazon Bedrock Amazon Bedrock AgentCore 리소스를 생성, 액세스 또는 삭제할 수 있는지 여부가 결정됩니다. 이러한 작업으로 AWS 인해 계정에 비용이 발생할 수 있습니다. ID 기반 정책을 생성하거나 편집할 때는 다음 지침과 권장 사항을 따르세요.

  • AWS 관리형 정책을 시작하고 최소 권한으로 전환 - 사용자 및 워크로드에 권한 부여를 시작하려면 많은 일반적인 사용 사례에 대한 권한을 부여하는 AWS 관리형 정책을 사용합니다. AWS 계정에서 사용할 수 있습니다. 사용 사례에 맞는 AWS 고객 관리형 정책을 정의하여 권한을 추가로 줄이는 것이 좋습니다.

  • 최소 권한 적용 – IAM 정책을 사용하여 권한을 설정하는 경우, 작업을 수행하는 데 필요한 권한만 부여합니다. 이렇게 하려면 최소 권한으로 알려진 특정 조건에서 특정 리소스에 대해 수행할 수 있는 작업을 정의합니다.

  • IAM 정책의 조건을 사용하여 액세스 추가 제한 – 정책에 조건을 추가하여 작업 및 리소스에 대한 액세스를 제한할 수 있습니다. 예를 들어 정책 조건을 작성하여 특정 AgentCore 메모리 리소스만 서비스 역할을 수임할 수 있도록 지정할 수 있습니다.

  • IAM Access Analyzer를 사용하여 IAM 정책을 검증하여 안전하고 기능적인 권한을 유지합니다. IAM Access Analyzer는 정책이 IAM 정책 언어(JSON) 및 IAM 모범 사례를 준수하도록 신규 및 기존 정책을 검증합니다. IAM Access Analyzer는 100개 이상의 정책 확인 항목과 실행 가능한 추천을 제공하여 안전하고 기능적인 정책을 작성하도록 돕습니다.