翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

AI21 Labs Jamba モデル

このセクションでは、AI21 Labs Jamba モデルを使用する際の推論パラメータとコード例について説明します。

必須フィールド

AI21 Labs Jamba モデルは、次の必須フィールドをサポートしています。

推論パラメータ

AI21 Labs Jamba もでるは、次の推論パラメータをサポートしています。

ランダム性と多様性

AI21 Labs Jamba モデルでは。レスポンスのランダム性と多様性を制御する以下のパラメータをサポートしています。

長さ

AI21 Labs Jamba モデルでは、生成されるレスポンスの長さを制御する以下のパラメータがサポートされています。

繰り返し

AI21 Labs Jamba モデルでは、生成されるレスポンスの長さを制御する以下のパラメータがサポートされています。

モデル呼び出しリクエストの body フィールド

AI21 Labs モデルを使用して InvokeModel または InvokeModelWithResponseStream 呼び出しを行うときは、以下と一致する JSON オブジェクトを body フィールドに入力します。[prompt] フィールドにプロンプトを入力します。

{
  "messages": [
    {
      "role":"system", // Non-printing contextual information for the model
      "content":"You are a helpful history teacher. You are kind and you respond with helpful content in a professional manner. Limit your answers to three sentences. Your listener is a high school student."
    },
    {
      "role":"user", // The question we want answered.
      "content":"Who was the first emperor of rome?"
    }
  ],
  "n":1 // Limit response to one answer
}

モデル呼び出しレスポンスの body フィールド

レスポンス内の フィールドの形式については、bodyhttps://docs.ai21.com/reference/jamba-instruct-api#response-details を参照してください。

コード例

この例では、AI21 Labs Jamba-Instruct モデルを呼び出す方法を示しています。

invoke_model

import boto3 
import json

bedrock = session.client('bedrock-runtime', 'us-east-1') 
response = bedrock.invoke_model( 
        modelId='ai21.jamba-instruct-v1:0', 
        body=json.dumps({
            'messages': [ 
                { 
                    'role': 'user', 
                    'content': 'which llm are you?' 
                } 
             ], 
         }) 
       ) 

print(json.dumps(json.loads(response['body']), indent=4))
            

converse

import boto3 
import json

bedrock = session.client('bedrock-runtime', 'us-east-1')
response = bedrock.converse( 
    modelId='ai21.jamba-instruct-v1:0', 
    messages=[ 
        { 
            'role': 'user', 
            'content': [ 
                { 
                    'text': 'which llm are you?' 
                } 
             ] 
          } 
     ] 
  ) 

print(json.dumps(json.loads(response['body']), indent=4))

            

Code example for Jamba 1.5 Large

この例では、AI21 Labs Jamba 1.5 Large モデルを呼び出す方法を示しています。

invoke_model

POST https://bedrock-runtime.us-east-1.amazonaws.com/model/ai21.jamba-1-5-mini-v1:0/invoke-model HTTP/1.1
{
  "messages": [
    {
      "role": "system",
      "content": "You are a helpful chatbot with a background in earth sciences and a charming French accent."
    },
    {
      "role": "user",
      "content": "What are the main causes of earthquakes?"
    }
  ],
  "max_tokens": 512,
  "temperature": 0.7,
  "top_p": 0.9,
  "stop": ["###"],
  "n": 1
}