Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Menggunakan API Invoke
API Invoke menyediakan akses langsung ke model Amazon Nova dengan lebih banyak kemampuan untuk mengontrol format permintaan dan respons. Tidak seperti API Converse yang mengabstraksi detail spesifik model, API Invoke memungkinkan Anda untuk bekerja secara langsung dengan struktur permintaan dan respons asli model.
catatan
Invoke API mendukung fitur yang sama dengan Converse API kecuali untuk modalitas input dokumen, yang khusus untuk Converse API.
Struktur permintaan
Permintaan API Invoke memerlukan ID model dan badan permintaan JSON:
import boto3 import json bedrock = boto3.client('bedrock-runtime', region_name='us-east-1') request_body = { 'messages': [ { 'role': 'user', 'content': [{'text': 'What is machine learning?'}] } ], 'inferenceConfig': { 'maxTokens': 512, 'temperature': 0.7 } } response = bedrock.invoke_model( modelId='us.amazon.nova-2-lite-v1:0', body=json.dumps(request_body) ) response_body = json.loads(response['body'].read()) content_list = response_body["output"]["message"]["content"] # Extract the first text block text_block = next((item for item in content_list if "text" in item), None) if text_block is not None: print(text_block["text"])
Permintaan parameter
API Invoke mendukung parameter kunci berikut:
-
messages: Array pesan percakapan dengan peran dan konten -
system: Permintaan sistem opsional untuk konteks dan instruksi -
inferenceConfig: Parameter yang mengontrol keluaran model (suhu, MaxTokens, TopP, TopK, StopSequences, ReasoningConfig) -
toolConfig: Spesifikasi alat dan pilihan alat untuk pemanggilan fungsi