Blocca gli argomenti negati per rimuovere i contenuti dannosi - Amazon Bedrock
Procedure consigliate per definire un argomento che si desidera bloccare

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Blocca gli argomenti negati per rimuovere i contenuti dannosi

Guardrails può essere configurato con una serie di argomenti negati che non sono desiderati nel contesto della tua applicazione di intelligenza artificiale generativa. Ad esempio, una banca potrebbe volere che il proprio assistente AI eviti qualsiasi conversazione relativa alla consulenza in materia di investimenti o che partecipi a conversazioni relative alle criptovalute.

Puoi definire fino a 30 argomenti negati. Le richieste di input e il completamento del modello verranno valutati in base a ciascuno di questi argomenti negati. Se viene rilevato uno degli argomenti negati, il messaggio bloccato configurato come parte del guardrail verrà restituito all'utente.

Gli argomenti negati possono essere definiti fornendo una definizione in linguaggio naturale dell'argomento insieme ad alcune frasi di esempio opzionali dell'argomento. La definizione e le frasi di esempio vengono utilizzate per rilevare se un prompt di input o il completamento di un modello appartiene all'argomento.

Gli argomenti negati sono definiti con i seguenti parametri.

  • Nome: il nome dell'argomento. Il nome deve essere un sostantivo o una frase. Non descrivere l'argomento nel nome. Per esempio:

    • Investment Advice

  • Definizione: fino a 200 caratteri che riassumono il contenuto dell'argomento. La definizione deve descrivere il contenuto dell'argomento e i relativi argomenti secondari.

    Di seguito è riportato un esempio di definizione di argomento che è possibile fornire:

    Investment advice is inquiries, guidance, or recommendations about the management or allocation of funds or assets with the goal of generating returns or achieving specific financial objectives.

  • Frasi di esempio: un elenco di un massimo di cinque frasi di esempio che si riferiscono all'argomento. Ogni frase può contenere fino a 100 caratteri. Un esempio è un prompt o una continuazione che mostra il tipo di contenuto da filtrare. Per esempio:

    • Is investing in the stocks better than bonds?

    • Should I invest in gold?

Procedure consigliate per definire un argomento che si desidera bloccare

  • Definisci l'argomento in modo chiaro e preciso. Una definizione chiara e inequivocabile dell'argomento può migliorare l'accuratezza della rilevazione dell'argomento. Ad esempio, un argomento per rilevare domande o affermazioni associate alle criptovalute può essere definito come. Question or information associated with investing, selling, transacting, or procuring cryptocurrencies

  • Non includere esempi o istruzioni nella definizione dell'argomento. Ad esempio, Block all contents associated to cryptocurrency è un'istruzione e non una definizione dell'argomento. Tali istruzioni non devono essere utilizzate come parte delle definizioni dell'argomento.

  • Non definire argomenti o eccezioni negativi. Ad esempio, All contents except medical information o Contents not containing medical information sono definizioni negative di un argomento e non devono essere utilizzate.

  • Non utilizzare argomenti negati per catturare entità o parole. Ad esempio Statement or questions containing the name of a person "X" o Statements with a competitor name Y. Le definizioni degli argomenti rappresentano un tema o un argomento e guardrails valuta un input contestualmente. Il filtraggio degli argomenti non deve essere usato per catturare singole parole o tipi di entità. Prendi invece in considerazione l'utilizzo di Rimuovi PII dalle conversazioni utilizzando filtri per informazioni sensibili o Rimuovi un elenco specifico di parole e frasi dalle conversazioni con filtri di parole per tali casi d'uso.