As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Use uma grade de proteção com operações de inferência para avaliar a entrada do usuário
Você pode usar grades de proteção com as operações básicas de inferência InvokeModele InvokeModelWithResponseStream(streaming). Esta seção aborda como você avalia seletivamente a entrada do usuário e como você pode configurar o comportamento da resposta de streaming. Observe que, para aplicativos de conversação, você pode obter os mesmos resultados com o APIConverse.
Por exemplo, código que chama as operações básicas de inferência, consulteEnvie uma única solicitação com InvokeModel. Para obter informações sobre como usar uma grade de proteção com as operações básicas de inferência, siga as etapas na API guia de. Teste uma grade de proteção
Tópicos
