View a markdown version of this page

Menggunakan API Invoke - Amazon Nova

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menggunakan API Invoke

API Invoke menyediakan akses langsung ke model Amazon Nova dengan lebih banyak kemampuan untuk mengontrol format permintaan dan respons. Tidak seperti API Converse yang mengabstraksi detail spesifik model, API Invoke memungkinkan Anda untuk bekerja secara langsung dengan struktur permintaan dan respons asli model.

catatan

Invoke API mendukung fitur yang sama dengan Converse API kecuali untuk modalitas input dokumen, yang khusus untuk Converse API.

Struktur permintaan

Permintaan API Invoke memerlukan ID model dan badan permintaan JSON:

import boto3 import json bedrock = boto3.client('bedrock-runtime', region_name='us-east-1') request_body = { 'messages': [ { 'role': 'user', 'content': [{'text': 'What is machine learning?'}] } ], 'inferenceConfig': { 'maxTokens': 512, 'temperature': 0.7 } } response = bedrock.invoke_model( modelId='us.amazon.nova-2-lite-v1:0', body=json.dumps(request_body) ) response_body = json.loads(response['body'].read()) content_list = response_body["output"]["message"]["content"] # Extract the first text block text_block = next((item for item in content_list if "text" in item), None) if text_block is not None: print(text_block["text"])

Permintaan parameter

API Invoke mendukung parameter kunci berikut:

  • messages: Array pesan percakapan dengan peran dan konten

  • system: Permintaan sistem opsional untuk konteks dan instruksi

  • inferenceConfig: Parameter yang mengontrol keluaran model (suhu, MaxTokens, TopP, TopK, StopSequences, ReasoningConfig)

  • toolConfig: Spesifikasi alat dan pilihan alat untuk pemanggilan fungsi