Definições chave

Modelo básico (FM) — Um modelo de IA com um grande número de parâmetros e treinado em uma grande quantidade de dados diversos. Um modelo básico pode gerar uma variedade de respostas para uma ampla variedade de casos de uso. Os modelos de base podem gerar texto ou imagem e também podem converter entradas em incorporações. Antes de usar um modelo de fundação Amazon Bedrock, você deve solicitar acesso. Para obter mais informações sobre modelos de base, consulteModelos de base compatíveis com o Amazon Bedrock.

Modelo básico — Um modelo básico que é fornecido por um fornecedor e pronto para uso. O Amazon Bedrock oferece uma variedade de modelos de fundação líderes do setor, dos principais fornecedores. Para ter mais informações, consulte Modelos de base compatíveis com o Amazon Bedrock.

Inferência de modelo — O processo de um modelo básico gerando uma saída (resposta) a partir de uma determinada entrada (prompt). Para ter mais informações, consulte Executar inferência de modelos.

Prompt — Uma entrada fornecida a um modelo para orientá-lo a gerar uma resposta ou saída apropriada para a entrada. Por exemplo, um prompt de texto pode consistir em uma única linha para o modelo responder, ou pode detalhar instruções ou uma tarefa para o modelo executar. O prompt pode conter o contexto da tarefa, exemplos de saídas ou texto para um modelo usar em sua resposta. Os prompts podem ser usados para realizar tarefas como classificação, resposta a perguntas, geração de código, redação criativa e muito mais. Para ter mais informações, consulte Diretrizes da engenharia de prompts.

Token — Uma sequência de caracteres que um modelo pode interpretar ou prever como uma única unidade de significado. Por exemplo, com modelos de texto, um símbolo pode corresponder não apenas a uma palavra, mas também a uma parte de uma palavra com significado gramatical (como “-ed”), um sinal de pontuação (como “?”) , ou uma frase comum (como “muito”).

Parâmetros do modelo — Valores que definem um modelo e seu comportamento na interpretação de entradas e na geração de respostas. Os parâmetros do modelo são controlados e atualizados pelos fornecedores. Você também pode atualizar os parâmetros do modelo para criar um novo modelo por meio do processo de personalização do modelo.

Parâmetros de inferência — Valores que podem ser ajustados durante a inferência do modelo para influenciar uma resposta. Os parâmetros de inferência podem afetar a variedade das respostas e também podem limitar a duração de uma resposta ou a ocorrência de sequências especificadas. Para obter mais informações e definições de parâmetros de inferência específicos, consulteParâmetros de inferência.

Playground — Uma interface gráfica fácil de usar AWS Management Console na qual você pode experimentar a execução da inferência de modelos para se familiarizar com o Amazon Bedrock. Use o playground para testar os efeitos de diferentes modelos, configurações e parâmetros de inferência nas respostas geradas para diferentes solicitações que você insere. Para ter mais informações, consulte Playgrounds.

Incorporação — O processo de condensar informações transformando a entrada em um vetor de valores numéricos, conhecido como incorporação, para comparar a semelhança entre objetos diferentes usando uma representação numérica compartilhada. Por exemplo, as frases podem ser comparadas para determinar a semelhança de significado, as imagens podem ser comparadas para determinar a semelhança visual ou o texto e a imagem podem ser comparados para ver se são relevantes um para o outro. Você também pode combinar entradas de texto e imagem em um vetor médio de incorporações, se for relevante para seu caso de uso. Para obter mais informações, consulte Bases de conhecimento do Amazon Bedrock e Executar inferência de modelos.

Orquestração — O processo de coordenação entre modelos básicos e dados e aplicativos corporativos para realizar uma tarefa. Para ter mais informações, consulte Agentes para Amazon Bedrock.

Agente — Um aplicativo que executa orquestrações por meio da interpretação cíclica de entradas e da produção de saídas usando um modelo básico. Um agente pode ser usado para atender às solicitações dos clientes. Para ter mais informações, consulte Agentes para Amazon Bedrock.

Geração aumentada de recuperação (RAG) — O processo de consultar e recuperar informações de uma fonte de dados para aumentar a resposta gerada a uma solicitação. Para ter mais informações, consulte Bases de conhecimento do Amazon Bedrock.

Personalização do modelo — O processo de usar dados de treinamento para ajustar os valores dos parâmetros do modelo em um modelo básico a fim de criar um modelo personalizado. Exemplos de personalização do modelo incluem o ajuste fino, que usa dados rotulados (entradas e saídas correspondentes), e o pré-treinamento contínuo, que usa dados não rotulados (somente entradas) para ajustar os parâmetros do modelo. Para obter mais informações sobre as técnicas de personalização de modelos disponíveis no Amazon Bedrock, consulte. Modelos personalizados

Hiperparâmetros — Valores que podem ser ajustados para a personalização do modelo para controlar o processo de treinamento e, consequentemente, o modelo personalizado de saída. Para obter mais informações e definições de hiperparâmetros específicos, consulteHiperparâmetros de modelo personalizado.

Avaliação do modelo — O processo de avaliar e comparar os resultados do modelo para determinar o modelo mais adequado para um caso de uso. Para ter mais informações, consulte Avaliação de modelos.

Taxa de transferência provisionada — Um nível de taxa de transferência que você compra para um modelo básico ou personalizado a fim de aumentar a quantidade e/ou a taxa de tokens processados durante a inferência do modelo. Quando você compra o Provisioned Throughput para um modelo, é criado um modelo provisionado que pode ser usado para realizar a inferência do modelo. Para ter mais informações, consulte Taxa de transferência provisionada para Amazon Bedrock.