AI21 Labs modelos

Esta seção descreve os parâmetros de solicitação e os campos de resposta para AI21 Labs modelos. Use essas informações para fazer chamadas de inferência para AI21 Labs modelos com as operações InvokeModele InvokeModelWithResponseStream(streaming). Esta seção também inclui Python exemplos de código que mostram como chamar AI21 Labs modelos. Para usar um modelo em uma operação de inferência, você precisa do ID do modelo. Para obter o ID do modelo, consulteModelo Amazon Bedrock IDs. Alguns modelos também funcionam com o Converse. API Para verificar se o Converse API suporta um específico AI21 Labs modelo, vejaModelos e recursos do modelo compatíveis. Para obter mais exemplos de código, consulteExemplos de código para o Amazon Bedrock usando AWS SDKs.

Os modelos Foundation no Amazon Bedrock oferecem suporte às modalidades de entrada e saída, que variam de modelo para modelo. Para verificar as modalidades que AI21 Labs suporte de modelos, consulteModelos de base compatíveis com o Amazon Bedrock. Para verificar qual Amazon Bedrock apresenta o AI21 Labs suporte de modelos, consulteSuporte de modelo por recurso. Para verificar quais AWS regiões que AI21 Labs os modelos estão disponíveis em, consulteSuporte de modelo por AWS região.

Quando você faz chamadas de inferência com AI21 Labs modelos, você inclui uma solicitação para o modelo. Para obter informações gerais sobre a criação de prompts para os modelos que o Amazon Bedrock suporta, consulte. Conceitos de engenharia rápidos Para AI21 Labs informações imediatas específicas, consulte o AI21 Labs guia de engenharia rápido.