Invoke API 사용

Invoke API는 요청 및 응답 형식을 제어하는 추가 기능과 함께 Amazon Nova 모델에 대한 직접 액세스 권한을 제공합니다. 모델별 세부 정보를 추상화하는 Converse API와 달리, Invoke API를 사용하면 모델의 기본 요청 및 응답 구조를 직접 작업할 수 있습니다.

요청 구조

Invoke API 요청에는 모델 ID 및 JSON 요청 본문이 필요합니다.

import boto3
import json

bedrock = boto3.client('bedrock-runtime', region_name='us-east-1')

request_body = {
    'messages': [
        {
            'role': 'user',
            'content': [{'text': 'What is machine learning?'}]
        }
    ],
    'inferenceConfig': {
        'maxTokens': 512,
        'temperature': 0.7
    }
}

response = bedrock.invoke_model(
    modelId='us.amazon.nova-2-lite-v1:0',
    body=json.dumps(request_body)
)

response_body = json.loads(response['body'].read())
content_list = response_body["output"]["message"]["content"]
# Extract the first text block
text_block = next((item for item in content_list if "text" in item), None)
if text_block is not None:
    print(text_block["text"])

요청 파라미터

Invoke API는 다음과 같은 주요 파라미터를 지원합니다.