IA generativa em ambientes de SageMaker notebook - Amazon SageMaker

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

IA generativa em ambientes de SageMaker notebook

O Jupyter AI é uma extensão de código aberto de JupyterLab integração de recursos generativos de IA nos notebooks Jupyter. Por meio da interface de bate-papo do Jupyter AI e dos comandos mágicos, os usuários experimentam o código gerado a partir de instruções em linguagem natural, explicam o código existente, fazem perguntas sobre seus arquivos locais, geram cadernos inteiros e muito mais. A extensão conecta os notebooks Jupyter a grandes modelos de linguagem (LLMs) que os usuários podem usar para gerar texto, código ou imagens e fazer perguntas sobre seus próprios dados. O Jupyter AI oferece suporte a fornecedores de modelos generativosAI21, como Anthropic ( AWS e JumpStart Amazon Bedrock), Cohere e OpenAI.

Você também pode usar o Amazon Q Developer como uma solução pronta para uso. Em vez de ter que configurar manualmente uma conexão com um modelo, você pode começar a usar o Amazon Q Developer com configuração mínima. Quando você ativa o Amazon Q Developer, ele se torna o provedor de soluções padrão dentro do Jupyter AI. Para obter mais informações sobre o uso do Amazon Q Developer, consulteSageMaker JupyterLab.

O pacote da extensão está incluído na versão 1.2 e posteriores da Amazon SageMaker Distribution. O Amazon SageMaker Distribution é um ambiente Docker para ciência de dados e computação científica usado como imagem padrão de instâncias de JupyterLab notebooks. Usuários de diferentes IPython ambientes podem instalar o Jupyter AI manualmente.

Nesta seção, fornecemos uma visão geral dos recursos do Jupyter AI e demonstramos como configurar modelos fornecidos pelo JumpStart Amazon Bedrock JupyterLabou pelos notebooks Studio Classic. Para obter informações mais detalhadas sobre o projeto Jupyter AI, consulte sua documentação. Como alternativa, você pode consultar a postagem do blog Generative AI in Jupyter para obter uma visão geral e exemplos dos principais recursos do Jupyter AI.

Antes de usar o Jupyter AI e interagir com vocêLLMs, certifique-se de atender aos seguintes pré-requisitos:

  • Para modelos hospedados por AWS, você deve ter o ARN do seu SageMaker endpoint ou ter acesso ao Amazon Bedrock. Para outros fornecedores de modelos, você deve ter a API chave usada para autenticar e autorizar solicitações para seu modelo. O Jupyter AI oferece suporte a uma ampla variedade de fornecedores de modelos e modelos de linguagem. Consulte a lista de modelos compatíveis para se manter atualizado sobre os modelos mais recentes disponíveis. Para obter informações sobre como implantar um modelo em JumpStart, consulte Implantar um modelo na JumpStart documentação. Você precisa solicitar acesso ao Amazon Bedrock para usá-lo como seu fornecedor de modelos.

  • Certifique-se de que as bibliotecas de IA do Jupyter estejam presentes em seu ambiente. Caso contrário, instale o pacote necessário seguindo as instruções emInstalação do Jupyter AI.

  • Familiarize-se com os recursos do Jupyter AI em. Acesse os recursos do Jupyter AI

  • Configure os modelos de destino que você deseja usar seguindo as instruções emConfigure seu provedor de modelos.

Depois de concluir as etapas de pré-requisito, você pode prosseguir para. Use o Jupyter AI em nosso Studio JupyterLab Classic

Tópicos