View a markdown version of this page

Akses dan keamanan untuk model dengan bobot terbuka - Amazon Bedrock
PrasyaratIzin Lambda untuk fungsi hadiah

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Akses dan keamanan untuk model dengan bobot terbuka

Sebelum memulai penguatan fine tuning (RFT), pastikan Anda memahami jenis akses yang dibutuhkan Amazon Bedrock untuk operasi. RFT-specific RFT memerlukan izin tambahan di luar penyetelan standar karena kemampuan eksekusi fungsi hadiahnya.

Prasyarat

Sebelum menggunakan API fine tuning yang OpenAI kompatibel dengan Amazon Bedrock, pastikan Anda memiliki yang berikut:

  1. AWS Akun dengan izin yang sesuai untuk mengakses Amazon Bedrock

  2. Otentikasi — Anda dapat mengotentikasi menggunakan:

    • Kunci API Amazon Bedrock (diperlukan untuk OpenAI SDK dan tersedia untuk permintaan HTTP)

    • AWS kredenSIAL (didukung untuk permintaan HTTP)

    catatan

    Jika Anda menggunakan kunci API term/long jangka pendek Amazon Bedrock, pastikan peran Anda memiliki akses ke izin kebijakan IAM berikut: dan. AmazonBedrockMantleFullAccess Izin Lambda untuk fungsi hadiah

  3. OpenAISDK (opsional) - Instal OpenAI Python SDK jika menggunakan SDK-based permintaan.

  4. Variabel lingkungan — Mengatur variabel lingkungan berikut:

    • OPENAI_API_KEY— Setel ke kunci API Amazon Bedrock Anda

    • OPENAI_BASE_URL— Setel ke titik akhir Amazon Bedrock untuk wilayah Anda (misalnya,https://bedrock-mantle.us-west-2.api.aws/v1)

    Untuk informasi selengkapnya, lihat API Tanggapan.

  5. Data pelatihan diformat sebagai file JSONL dengan tujuan. fine-tune Untuk informasi selengkapnya, lihat Siapkan data untuk model berbobot terbuka.

Izin Lambda untuk fungsi hadiah

Anda harus menambahkan izin pemanggilan Lambda. Berikut ini menunjukkan contoh kebijakan yang dapat Anda gunakan:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "lambda:InvokeFunction"
            ],
            "Resource": [
                "arn:aws:lambda:*:*:function:reward-function-name"
            ]
        }
    ]
}

Anda juga dapat menggunakan model yang dihosting Amazon Bedrock sebagai Hakim untuk menyiapkan fungsi hadiah. Anda perlu menambahkan izin khusus untuk memanggil model dasar ke peran eksekusi Lambda. Dalam peran lambda Anda, Anda dapat mengonfigurasi kebijakan terkelola ini untuk LLM untuk penilaian. Lihat AmazonBedrockLimitedAccess.

Berikut ini adalah contoh untuk memanggil model dasar Amazon Bedrock sebagai hakim menggunakan API Invoke:

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel"
            ],
            "Resource": [
                "arn:aws:bedrock:*:*:foundation-model/*"
            ]
        }
    ]
}