View a markdown version of this page

Accesso e sicurezza per i modelli a peso aperto - Amazon Bedrock
PrerequisitiAutorizzazioni Lambda per le funzioni di ricompensa

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Accesso e sicurezza per i modelli a peso aperto

Prima di iniziare il reinforcement fine-tuning (RFT), assicurati di aver compreso il tipo di accesso necessario ad Amazon Bedrock per le operazioni. RFT-specific RFT richiede autorizzazioni aggiuntive oltre alla messa a punto standard grazie alle sue capacità di esecuzione delle funzioni di ricompensa.

Prerequisiti

Prima di utilizzare le API di ottimizzazione OpenAI compatibili con Amazon Bedrock, assicurati di disporre di quanto segue:

  1. Un AWS account con le autorizzazioni appropriate per accedere ad Amazon Bedrock

  2. Autenticazione: puoi autenticarti utilizzando:

    • Chiave API Amazon Bedrock (richiesta per l'OpenAISDK e disponibile per le richieste HTTP)

    • AWS credenziali (supportate per le richieste HTTP)

    Nota

    Se utilizzi chiavi API a breve term/long termine di Amazon Bedrock, assicurati che il tuo ruolo abbia accesso alle seguenti autorizzazioni della policy IAM: e. AmazonBedrockMantleFullAccess Autorizzazioni Lambda per le funzioni di ricompensa

  3. OpenAISDK (opzionale): installa l'SDK OpenAI Python se utilizzi le richieste. SDK-based

  4. Variabili di ambiente: imposta le seguenti variabili di ambiente:

    • OPENAI_API_KEY— Impostato sulla tua chiave API Amazon Bedrock

    • OPENAI_BASE_URL— Impostato sull'endpoint Amazon Bedrock per la tua regione (ad esempio,) https://bedrock-mantle.us-west-2.api.aws/v1

    Per ulteriori informazioni, consulta API per le risposte.

  5. Dati di allenamento formattati come file JSONL con lo scopo. fine-tune Per ulteriori informazioni, consulta Preparare i dati per modelli a peso aperto.

Autorizzazioni Lambda per le funzioni di ricompensa

È necessario aggiungere le autorizzazioni di chiamata Lambda. Quanto segue mostra un esempio di policy che puoi utilizzare:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "lambda:InvokeFunction"
            ],
            "Resource": [
                "arn:aws:lambda:*:*:function:reward-function-name"
            ]
        }
    ]
}

Puoi anche utilizzare i modelli ospitati su Amazon Bedrock come giudici per impostare le funzioni di ricompensa. Dovrai aggiungere autorizzazioni specifiche per richiamare i modelli di base al ruolo di esecuzione Lambda. Nel tuo ruolo lambda, puoi configurare queste politiche gestite per gli LLM per la classificazione. Per informazioni, consulta AmazonBedrockLimitedAccess.

Di seguito è riportato un esempio di invocazione dei modelli Amazon Bedrock Foundation come giudice utilizzando l'API Invoke:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel"
            ],
            "Resource": [
                "arn:aws:bedrock:*:*:foundation-model/*"
            ]
        }
    ]
}