View a markdown version of this page

Acceso y seguridad para modelos de peso abierto - Amazon Bedrock
Requisitos previosPermisos de Lambda para las funciones de recompensa

Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Acceso y seguridad para modelos de peso abierto

Antes de comenzar con el ajuste fino de los refuerzos (RFT), asegúrese de entender qué tipo de acceso necesita Amazon Bedrock para las operaciones. RFT-specific RFT requiere permisos adicionales además de los ajustes estándar debido a sus capacidades de ejecución de funciones de recompensa.

Requisitos previos

Antes de utilizar las API de optimización OpenAI compatibles con Amazon Bedrock, asegúrese de disponer de lo siguiente:

  1. Una AWS cuenta con los permisos adecuados para acceder a Amazon Bedrock

  2. Autenticación: puede autenticarse mediante:

    • Clave de API de Amazon Bedrock (requerida para el OpenAI SDK y disponible para las solicitudes HTTP)

    • AWS credenciales (compatibles con las solicitudes HTTP)

    nota

    Si utiliza claves de API a corto term/long plazo de Amazon Bedrock, asegúrese de que su rol tenga acceso a los siguientes permisos de la política de IAM: y. AmazonBedrockMantleFullAccess Permisos de Lambda para las funciones de recompensa

  3. OpenAISDK (opcional): instale el SDK de OpenAI Python si utiliza solicitudes. SDK-based

  4. Variables de entorno: defina las siguientes variables de entorno:

    • OPENAI_API_KEY— Configure su clave de API de Amazon Bedrock

    • OPENAI_BASE_URL— Establezca el punto final de Amazon Bedrock para su región (por ejemplo,) https://bedrock-mantle.us-west-2.api.aws/v1

    Para obtener más información, consulte API de respuestas.

  5. Los datos de entrenamiento se formatearon como archivos JSONL con ese propósito. fine-tune Para obtener más información, consulte Prepare los datos para los modelos de peso abierto.

Permisos de Lambda para las funciones de recompensa

Debe agregar los permisos de invocación de Lambda. A continuación se muestra un ejemplo de política que puede usar:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "lambda:InvokeFunction"
            ],
            "Resource": [
                "arn:aws:lambda:*:*:function:reward-function-name"
            ]
        }
    ]
}

También puede utilizar modelos alojados en Amazon Bedrock como jueces para configurar las funciones de recompensa. Tendrá que añadir permisos específicos para invocar modelos básicos para la función de ejecución de Lambda. En su rol de lambda, puede configurar estas políticas administradas para que los LLM los califiquen. Consulte AmazonBedrockLimitedAccess.

El siguiente es un ejemplo de cómo invocar modelos básicos de Amazon Bedrock como jueces mediante la API Invoke:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel"
            ],
            "Resource": [
                "arn:aws:bedrock:*:*:foundation-model/*"
            ]
        }
    ]
}