Blogs e estudos de caso Cadernos de exemplo Recursos adicionais

Blogs, exemplos de cadernos e recursos adicionais

As seções a seguir contêm exemplos e recursos adicionais para você aprender mais sobre a Amazon SageMaker AI.

Blogs e estudos de caso

Consulte a tabela a seguir para ver listas de blogs e estudos de caso sobre vários recursos do SageMaker AI Inference. Você pode usar os blogs para ajudá-lo a criar soluções que funcionam para o seu caso de uso.

Atributo	Recursos
Inferência em tempo real	Introdução à implantação de modelos em tempo real na Amazon AI SageMaker Implante o BLOOM-176B e o OPT-30B na Amazon AI com inferência de SageMaker modelos grandes, Deep Learning Containers e DeepSpeed Criação de uma API REST baseada em aprendizado de máquina com modelos de mapeamento do Amazon API Gateway e Amazon AI SageMaker
Ajuste de escala automático	Configurando endpoints de inferência de escalonamento automático na Amazon AI SageMaker
Inferência Sem Servidor	Amazon SageMaker Serverless Inference — Inferência de Machine Learning sem se preocupar com servidores Hospede modelos de transformadores Hugging Face usando o Amazon Serverless Inference SageMaker Apresentando o kit de ferramentas de benchmarking de inferência SageMaker sem servidor da Amazon
Inferência assíncrona	Execute inferência de visão computacional em vídeos grandes com endpoints assíncronos de SageMaker IA da Amazon Crie uma solução de manutenção preditiva com o Amazon Kinesis e AWS Glue o Amazon AI SageMaker Melhore pesquisas de alto valor com os endpoints Hugging Face e SageMaker Amazon Asynchronous Inference
Transformação em lote	Associando resultados de previsão a dados de entrada usando o Amazon SageMaker AI Batch Transform
Endpoints multimodelo	Economize nos custos de inferência usando endpoints multimodelo de SageMaker IA da Amazon Execute vários modelos de aprendizado profundo na GPU com endpoints multimodelo Amazon SageMaker AI Como escalar a inferência de machine learning para casos de uso de SaaS multilocatário Execute e otimize a inferência de vários modelos com endpoints multimodelo de SageMaker IA da Amazon
Pipelines de inferência serial	Padrões de design para inferência serial na Amazon AI SageMaker
Endpoint com vários contêineres	Inferência de ML econômica com modelos de várias estruturas na Amazon AI SageMaker
Conjuntos de modelos em execução	Execute modelos de ML em conjunto na Amazon AI SageMaker
Recomendador de inferência	SageMaker Exemplo de caderno de referência do Inference Recommender SageMaker Exemplo de caderno Inference Recommender for HuggingFace BERT Sentiment Analysis Obtenha desempenho em hiperescala para fornecimento de modelos usando o NVIDIA Triton Inference Server na Amazon AI SageMaker
Série de blogs de hospedagem de modelos avançados	Parte 1: Padrões de design comuns para criar aplicativos de ML na Amazon SageMaker AI Parte 2: Introdução à implantação de modelos em tempo real na IA SageMaker Parte 3: Execute e otimize a inferência de vários modelos com endpoints multimodelo de SageMaker IA da Amazon Parte 4: Padrões de design para inferência serial na Amazon AI SageMaker Parte 5: Inferência de ML econômica com modelos de várias estruturas na Amazon AI SageMaker Parte 6: Melhores práticas para testar e atualizar modelos em SageMaker IA Parte 7: Execute modelos de ML em conjunto na Amazon AI SageMaker

Cadernos de exemplo

Consulte a tabela a seguir para ver exemplos de notebooks que podem ajudar você a aprender mais sobre a SageMaker inferência de IA.

Atributo	Cadernos de exemplo
Inference Recommender	SageMaker Exemplo de caderno de referência do Inference Recommender SageMaker Exemplo de caderno Inference Recommender for HuggingFace BERT Sentiment Analysis
Otimize modelos de linguagem grandes (LLMs) para SageMaker IA	Workshop de IA LLMs generativa

Recursos adicionais

Para obter mais informações sobre cada opção de inferência de SageMaker IA em detalhes, assista ao vídeo a seguir.

Atenção O Javascript está desativado ou não está disponível no seu navegador.

Para usar a documentação da AWS, o Javascript deve estar ativado. Consulte as páginas de Ajuda do navegador para obter instruções.

Convenções do documento

Recursos

Solução de problemas e referência