保护 AI 工作负载 GuardDuty - Amazon GuardDuty

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

保护 AI 工作负载 GuardDuty

Amazon GuardDuty 基础威胁检测Lambda Protection 可帮助您更好地保护和检测基于人工智能工作负载的威胁。 AWS

基础 GuardDuty 威胁检测可监控 AWS CloudTrail 管理事件,以检测使用 AWS 服务(包括 Amazon B edrock 和 Amazon AI)创建的生成式 AI 工作负载中的可疑和恶意活动。 SageMaker 例如, GuardDuty 可以识别以下活动:

  • Amazon Bedrock 安全护栏的不寻常移除

  • 可能导致数据中毒攻击的模型训练数据来源更改

  • 对 Amazon Bedrock 模型的可疑调用

  • 不寻常的笔记本实例或在 SageMaker AI 中训练创造就业机会

  • 被泄露的亚马逊弹性计算云凭证可能被用来调用EC2实例、EKS集群或任务上的 APIs Amazon Bedrock、 SageMaker Amazon AI 或自我管理的 AI 工作负载。ECS

GuardDuty Lambda Protection 可以帮助检测与 Amazon Bedrock 代理相关的潜在威胁。这可能包括加密币挖矿等可疑的网络活动,以及与可能因供应链攻击或复杂提示导致的恶意命令和控制服务器之间的通信。

以下视频展示了相关调查发现的样子。