As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
IA generativa para o AWS SRA
Esta seção fornece recomendações atuais para o uso seguro da IA generativa para melhorar a produtividade e a eficiência de usuários e organizações. Ele se concentra no uso do Amazon Bedrock com base no AWS SRA conjunto holístico de diretrizes para implantar o conjunto completo de serviços de AWS segurança em um ambiente com várias contas. Esta orientação se baseia na capacitação SRA de recursos generativos de IA em uma estrutura segura e de nível empresarial. Ele abrange os principais controles de segurança, como IAM permissões, proteção de dados, validação de entrada/saída, isolamento de rede, registro e monitoramento, específicos dos recursos de IA generativa do Amazon Bedrock.
O público-alvo dessa orientação são profissionais de segurança, arquitetos e desenvolvedores responsáveis por integrar com segurança os recursos generativos de IA em suas organizações e aplicativos.
SRAExplora as considerações de segurança e as melhores práticas desses recursos de IA generativa do Amazon Bedrock:
A orientação também aborda como integrar a funcionalidade de IA generativa do Amazon Bedrock às AWS cargas de trabalho tradicionais com base no seu caso de uso.
As seções a seguir desta orientação abordam cada um desses quatro recursos, discutem a lógica do que é o recurso e seu uso, abordam considerações de segurança relacionadas ao recurso e explicam como você pode usar AWS serviços e recursos para abordar as considerações de segurança (remediação). A justificativa, as considerações de segurança e as correções do uso de modelos básicos (capacidade 1) se aplicam a todos os outros recursos, porque todos eles usam inferência de modelos. Por exemplo, se seu aplicativo de negócios usa um modelo personalizado do Amazon Bedrock com capacidade de recuperação de geração aumentada (RAG), você deve considerar a justificativa, as considerações de segurança e as correções dos recursos 1, 2 e 4.
A arquitetura ilustrada no diagrama a seguir é uma extensão da UO de AWS SRA cargas de trabalho descrita anteriormente neste guia.
Uma OU específica é dedicada a aplicativos que usam IA generativa. A OU consiste em uma conta de aplicativo na qual você hospeda seu AWS aplicativo tradicional que fornece funcionalidades comerciais específicas. Esse AWS aplicativo usa os recursos de IA generativa que o Amazon Bedrock fornece. Esses recursos são fornecidos pela conta Generative AI, que hospeda o Amazon Bedrock relevante e serviços associadosAWS. O agrupamento de AWS serviços com base no tipo de aplicativo ajuda a aplicar controles de segurança por meio de políticas de controle de serviços específicas da OU e da AWS conta. Isso também facilita a implementação de um forte controle de acesso e menos privilégios. Além dessas contas OUs e contas específicas, a arquitetura de referência descreve contas adicionais OUs e que fornecem recursos básicos de segurança que se aplicam a todos os tipos de aplicativos. As contas de gerenciamento organizacional, ferramentas de segurança, arquivamento de registros, rede e serviços compartilhados são discutidas nas seções anteriores deste guia.
Considerações sobre design
Se a arquitetura do seu aplicativo exigir que os serviços generativos de IA fornecidos pelo Amazon Bedrock e outros AWS serviços sejam consolidados na mesma conta em que seu aplicativo comercial está hospedado, você pode mesclar as contas de aplicativos e de IA generativa em uma única conta. Esse também será o caso se o uso generativo de IA estiver espalhado por toda a AWS organização.
Considerações sobre design
Você pode dividir ainda mais sua conta de IA generativa com base no ambiente do ciclo de vida de desenvolvimento de software (SDLC) (por exemplo, desenvolvimento, teste ou produção) ou por modelo ou comunidade de usuários.
-
Separação de contas com base no SDLC ambiente: como prática recomendada, separe os SDLC ambientes em separados OUs. Essa separação garante isolamento e controle adequados sobre cada ambiente e suporte. Ele fornece:
-
Acesso controlado. Diferentes equipes ou indivíduos podem ter acesso a ambientes específicos com base em suas funções e responsabilidades.
-
Isolamento de recursos. Cada ambiente pode ter seus próprios recursos dedicados (como modelos ou bases de conhecimento) sem interferir em outros ambientes.
-
Rastreamento de custos. Os custos associados a cada ambiente podem ser rastreados e monitorados separadamente.
-
Mitigação de riscos. Problemas ou experimentos em um ambiente (por exemplo, desenvolvimento) não afetam a estabilidade de outros ambientes (por exemplo, produção).
-
-
Separação de contas com base no modelo ou na comunidade de usuários: na arquitetura atual, uma conta fornece acesso a várias para inferência FMs por meio do AWS Bedrock. Você pode usar IAM funções para fornecer controle de acesso a pessoas pré-treinadas FMs com base nas funções e responsabilidades do usuário. (Para ver um exemplo, consulte a documentação do Amazon Bedrock.) Por outro lado, você pode escolher separar suas contas de IA generativa com base no nível de risco, modelo ou comunidade de usuários. Isso pode ser benéfico em determinados cenários:
-
Níveis de risco da comunidade de usuários: se diferentes comunidades de usuários tiverem níveis variados de risco ou requisitos de acesso, contas separadas podem ajudar a aplicar filtros e controles de acesso adequados.
-
Modelos personalizados: para modelos personalizados com dados do cliente, se informações abrangentes sobre os dados de treinamento estiverem disponíveis, contas separadas podem fornecer melhor isolamento e controle.
-
Com base nessas considerações, você pode avaliar os requisitos específicos, as necessidades de segurança e as complexidades operacionais associadas ao seu caso de uso. Se o foco principal estiver no Amazon Bedrock e for pré-treinadoFMs, uma única conta com IAM funções pode ser uma abordagem viável. No entanto, se você tiver requisitos específicos para separação de modelos ou comunidades de usuários, ou se planeja trabalhar com modelos carregados de clientes, contas separadas podem ser necessárias. Em última análise, a decisão deve ser orientada pelas necessidades e fatores específicos do aplicativo, como segurança, complexidade operacional e considerações de custo.
Observação: para simplificar as discussões e os exemplos a seguir, este guia pressupõe uma única estratégia de conta de IA generativa com IAM funções.
Amazon Bedrock
O Amazon Bedrock é uma maneira fácil de criar e escalar aplicativos generativos de IA com modelos básicos ()FMs. Como um serviço totalmente gerenciado, ele oferece opções de alto desempenho das principais empresas FMs de IA, incluindo AI21 Labs, Anthropic, Cohere, Meta, Stability AI e Amazon. Ele também oferece um amplo conjunto de recursos necessários para criar aplicativos generativos de IA e simplifica o desenvolvimento, mantendo a privacidade e a segurança. FMsservem como alicerces para o desenvolvimento de aplicativos e soluções generativas de IA. Ao fornecer acesso ao Amazon Bedrock, os usuários podem interagir diretamente com eles FMs por meio de uma interface amigável ou por meio do Amazon Bedrock. API O objetivo do Amazon Bedrock é fornecer opções de modelos por meio de um único modelo API para rápida experimentação, personalização e implantação na produção, ao mesmo tempo em que oferece suporte à rápida rotação para diferentes modelos. Tudo gira em torno da escolha do modelo.
Você pode experimentar modelos pré-treinados, personalizar os modelos para seus casos de uso específicos e integrá-los aos seus aplicativos e fluxos de trabalho. Essa interação direta com o FMs permite que as organizações criem rapidamente protótipos e iterem soluções generativas de IA e aproveitem os últimos avanços em aprendizado de máquina sem a necessidade de recursos extensivos ou experiência no treinamento de modelos complexos do zero. O console Amazon Bedrock simplifica o processo de acessar e usar esses poderosos recursos generativos de IA.
O Amazon Bedrock fornece uma variedade de recursos de segurança para ajudar com a privacidade e a segurança de seus dados:
-
Todo o conteúdo do usuário processado pelo Amazon Bedrock é isolado pelo usuário, criptografado em repouso e armazenado na AWS região em que você está usando o Amazon Bedrock. Seu conteúdo também é criptografado em trânsito usando TLS 1,2 no mínimo. Para saber mais sobre a proteção de dados no Amazon Bedrock, consulte a documentação do Amazon Bedrock.
-
O Amazon Bedrock não armazena nem registra suas solicitações e conclusões. O Amazon Bedrock não usa suas instruções e conclusões para treinar nenhum AWS modelo e não os distribui para terceiros.
-
Quando você sintoniza um FM, suas alterações usam uma cópia privada desse modelo. Isso significa que seus dados não são compartilhados com fornecedores de modelos nem usados para melhorar os modelos básicos.
-
O Amazon Bedrock implementa mecanismos automatizados de detecção de abusos para identificar possíveis violações da Política de IA AWS Responsável
. Para saber mais sobre a detecção de abuso no Amazon Bedrock, consulte a documentação do Amazon Bedrock. -
O Amazon Bedrock está no escopo de padrões de conformidade comuns, incluindo Organização Internacional de Padronização (), Controles de Sistemas e Organizações (ISO), Programa Federal de Gerenciamento de Riscos e Autorizações (FedRAMP) Moderado e Cloud Security Alliance (CSA) Security Trust Assurance and Risk (STAR) Nível 2. SOC O Amazon Bedrock é elegível para a Lei de Portabilidade e Responsabilidade de Seguros de Saúde (HIPAA), e você pode usar esse serviço em conformidade com o Regulamento Geral de Proteção de Dados (). GDPR Para saber se um AWS serviço está dentro do escopo de programas de conformidade específicos, consulte AWSos serviços em Escopo por Programa de Conformidade
e escolha o programa de conformidade em que você está interessado.
Para saber mais, consulte a abordagem AWS segura da IA generativa
Guardrails para Amazon Bedrock
O Guardrails for Amazon Bedrock permite que você implemente proteções para seus aplicativos generativos de IA com base em seus casos de uso e políticas de IA responsáveis. Uma grade de proteção no Amazon Bedrock consiste em filtros que você pode configurar, tópicos que você pode definir para bloquear e mensagens para enviar aos usuários quando o conteúdo é bloqueado ou filtrado.
A filtragem de conteúdo depende da classificação de confiança das entradas do usuário (validação de entrada) e das respostas FM (validação de saída) em seis categorias prejudiciais. Todas as declarações de entrada e saída são classificadas em um dos quatro níveis de confiança (nenhum, baixo, médio, alto) para cada categoria prejudicial. Para cada categoria, você pode configurar a força dos filtros. A tabela a seguir mostra o grau de conteúdo que cada intensidade do filtro bloqueia e permite.
Força do filtro |
Confiança em conteúdo bloqueado |
Confiança permitida no conteúdo |
|---|---|---|
Nenhum |
Sem filtragem |
Nenhum, baixo, médio, alto |
Baixo |
Alto |
Nenhum, baixo, médio |
Médio |
Alto, médio |
Nenhum, baixo |
Alto |
Alto, médio, baixo |
Nenhum |
Quando estiver pronto para implantar seu guardrail na produção, você cria uma versão dele e invoca a versão do guardrail em seu aplicativo. Siga as etapas na APIguia na seção Testar uma grade de proteção da documentação do Amazon Bedrock.
Segurança
Por padrão, as grades de proteção são criptografadas com uma chave AWS gerenciada nos Serviços de Gerenciamento de AWS Chaves () AWSKMS. Para evitar que usuários não autorizados tenham acesso às grades de proteção, o que pode resultar em alterações indesejadas, recomendamos que você use uma chave gerenciada pelo cliente para criptografar suas grades de proteção e restringir o acesso às grades de proteção usando permissões de privilégio mínimo. IAM
Avaliação do modelo Amazon Bedrock
O Amazon Bedrock oferece suporte a trabalhos de avaliação de modelos. Você pode usar os resultados de um trabalho de avaliação de modelo para comparar os resultados do modelo e, em seguida, escolher o modelo que melhor se adequa às suas aplicações de IA generativa posterior.
Você pode usar um trabalho de avaliação automática de modelo para avaliar o desempenho de um modelo usando um conjunto de dados de prompt personalizado ou um conjunto de dados integrado. Para obter mais informações, consulte Criação de uma avaliação automática de modelos e Uso de conjuntos de dados imediatos em trabalhos de avaliação de modelos na documentação do Amazon Bedrock.
Os trabalhos de avaliação de modelos que usam trabalhadores humanos trazem contribuições humanas de funcionários ou especialistas no assunto para o processo de avaliação.
Segurança
A avaliação do modelo deve ocorrer em um ambiente de desenvolvimento. Para obter recomendações para organizar seus ambientes que não sejam de produção, consulte o whitepaper Organizando seu AWS ambiente usando várias contas.
Todos os trabalhos de avaliação de modelos exigem IAM permissões e funções IAM de serviço. Para obter mais informações, consulte a documentação do Amazon Bedrock para obter as permissões necessárias para criar um trabalho de avaliação de modelo usando o console do Amazon Bedrock, os requisitos da função de serviço e as permissões necessárias de compartilhamento de recursos entre origens ()CORS. Os trabalhos de avaliação automática e os trabalhos de avaliação de modelos que usam trabalhadores humanos exigem funções de serviço diferentes. Para obter mais informações sobre as políticas necessárias para que uma função realize trabalhos de avaliação de modelos, consulte Requisitos de função de serviço para trabalhos de avaliação automática de modelos e Requisitos de função de serviço para trabalhos de avaliação de modelos que usam avaliadores humanos na documentação do Amazon Bedrock.
Para conjuntos de dados de prompts personalizados, você deve especificar uma CORS configuração no bucket do S3. Para obter a configuração mínima necessária, consulte a documentação do Amazon Bedrock. Em trabalhos de avaliação de modelo com a participação de operadores humanos, é necessário ter uma equipe de trabalho. Você pode criar ou gerenciar, criar ou gerenciar equipes de trabalho enquanto configura um trabalho de avaliação de modelo e adiciona trabalhadores a uma força de trabalho privada gerenciada pela Amazon SageMaker Ground Truth. Para gerenciar equipes de trabalho criadas no Amazon Bedrock fora da configuração do trabalho, você deve usar os consoles Amazon Cognito ou Amazon Ground SageMaker Truth. O Amazon Bedrock oferece suporte a um máximo de 50 trabalhadores por equipe de trabalho.
Durante o trabalho de avaliação do modelo, o Amazon Bedrock faz uma cópia temporária dos seus dados e, em seguida, exclui os dados após a conclusão do trabalho. Ele usa uma AWS KMS chave para criptografá-lo. Por padrão, os dados são criptografados com uma chave AWS gerenciada, mas recomendamos que você use uma chave gerenciada pelo cliente. Para obter mais informações, consulte Criptografia de dados para trabalhos de avaliação de modelos na documentação do Amazon Bedrock.
