View a markdown version of this page

Menyebarkan model khusus - Amazon Nova
Menyebarkan model kustom (konsol)Menyebarkan model khusus (AWS Command Line Interface)Menyebarkan model khusus (AWS SDK)

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menyebarkan model khusus

Anda dapat menerapkan model khusus dengan konsol Amazon Bedrock, AWS Command Line Interface, atau AWS SDK. Untuk informasi tentang menggunakan penerapan untuk inferensi, lihat Menggunakan penerapan untuk infer ensi sesuai permintaan.

Menyebarkan model kustom (konsol)

Anda menerapkan model kustom dari halaman Model kustom sebagai berikut. Anda juga dapat menerapkan model dari halaman Custom model on-demand dengan bidang yang sama. Untuk menemukan halaman ini, di Inferensi dan Penilaian di panel navigasi, pilih Model kustom sesuai permintaan.

Untuk menerapkan model kustom

  1. Masuk ke peran Konsol Manajemen AWS menggunakan IAM dengan izin Amazon Bedrock, dan buka konsol Amazon Bedrock di. https://console.aws.amazon.com/nova/

  2. Dari panel navigasi kiri, pilih Model kustom di bawah Model Foundation.

  3. Di tab Model, pilih tombol radio untuk model yang ingin Anda terapkan.

  4. Pilih A tur inferensi dan pilih Deploy untuk sesuai permintaan.

  5. Di Detail Deployment, berikan informasi berikut:

    • Nama Pener apan (wajib) — Masukkan nama unik untuk penerapan Anda.

    • Deskripsi (opsional) — Masukkan deskripsi untuk penerapan Anda.

    • Tag (opsional) — Tambahkan tag untuk alokasi biaya dan manajemen sumber daya.

  6. Pilih Buat. Saat status ditampilkanCompleted, model kustom Anda siap untuk inferensi sesuai permintaan. Untuk informasi selengkapnya tentang menggunakan model kustom, lihat Menggunakan penerapan untuk inferensi sesuai permintaan.

Menyebarkan model khusus (AWS Command Line Interface)

Untuk menerapkan model kustom untuk inferensi sesuai permintaan menggunakan AWS Command Line Interface, gunakan create-custom-model-deployment perintah dengan Nama Sumber Daya Amazon (ARN) model kustom Anda. Perintah ini menggunakan operasi CreateCustomModelDeployment API. Ini mengembalikan ARN penerapan yang dapat Anda gunakan sebagai modelId saat membuat permintaan inferensi. Untuk informasi tentang menggunakan penerapan untuk inferensi, lihat Menggunakan penerapan untuk infer ensi sesuai permintaan.

aws bedrock create-custom-model-deployment \
--model-deployment-name "Unique name" \
--model-arn "Custom Model ARN" \
--description "Deployment description" \
--tags '[
    {
        "key": "Environment",
        "value": "Production"
    },
    {
        "key": "Team",
        "value": "ML-Engineering"
    },
    {
        "key": "Project",
        "value": "CustomerSupport"
    }
]' \
--client-request-token "unique-deployment-token" \
--region region

Menyebarkan model khusus (AWS SDK)

Untuk menerapkan model kustom untuk inferensi sesuai permintaan, gunakan operasi CreateCustomModelDeployment API dengan Nama Sumber Daya Amazon (ARN) model kustom Anda. Respons mengembalikan ARN penerapan yang dapat Anda gunakan sebagai modelId saat membuat permintaan inferensi. Untuk informasi tentang menggunakan penerapan untuk inferensi, lihat Menggunakan penerapan untuk infer ensi sesuai permintaan.

Kode berikut menunjukkan cara menggunakan SDK untuk Python (Boto3) untuk menerapkan model kustom. 

def create_custom_model_deployment(bedrock_client):
    """Create a custom model deployment
    Args:
        bedrock_client: A boto3 Bedrock client for making API calls
 
    Returns:
        str: The ARN of the created custom model deployment
 
    Raises:
        Exception: If there is an error creating the deployment
    """
 
    try:
        response = bedrock_client.create_custom_model_deployment(
            modelDeploymentName="Unique deployment name",
            modelArn="Custom Model ARN",
            description="Deployment description",
            tags=[
                {'key': 'Environment', 'value': 'Production'},
                {'key': 'Team', 'value': 'ML-Engineering'},
                {'key': 'Project', 'value': 'CustomerSupport'}
            ],
            clientRequestToken=f"deployment-{uuid.uuid4()}"
        )
 
        deployment_arn = response['customModelDeploymentArn']
        print(f"Deployment created: {deployment_arn}")
        return deployment_arn
 
    except Exception as e:
        print(f"Error creating deployment: {str(e)}")
        raise