翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

AI21 Labs Jamba モデル

このセクションでは、 を使用するための推論パラメータとコード例を示します。AI21 Labs Jamba モデル。

必須フィールド

AI21 Labs Jamba モデルは、次の必須フィールドをサポートしています。

推論パラメータ

AI21 Labs Jamba モデルは、以下の推論パラメータをサポートしています。

ランダム性と多様性

AI21 Labs Jamba モデルは、レスポンスのランダム性と多様性を制御するために以下のパラメータをサポートしています。

長さ

AI21 Labs Jamba モデルは、生成されたレスポンスの長さを制御するために以下のパラメータをサポートしています。

繰り返し

AI21 Labs Jamba モデルは、生成されたレスポンスの繰り返しを制御するために、次のパラメータをサポートしています。

モデル呼び出しリクエストの body フィールド

を使用して InvokeModelまたは をInvokeModelWithResponseStream呼び出す場合 AI21 Labs モデルで、以下のオブジェクトに一致するJSONオブジェクトを body フィールドに入力します。[prompt] フィールドにプロンプトを入力します。

{
  "messages": [
    {
      "role":"system", // Non-printing contextual information for the model
      "content":"You are a helpful history teacher. You are kind and you respond with helpful content in a professional manner. Limit your answers to three sentences. Your listener is a high school student."
    },
    {
      "role":"user", // The question we want answered.
      "content":"Who was the first emperor of rome?"
    }
  ],
  "n":1 // Limit response to one answer
}

モデル呼び出しレスポンスの body フィールド

レスポンス内のbodyフィールドの形式の詳細については、https://docs.ai21.com/reference/jamba-instruct-api「#response-details」を参照してください。

コード例

この例では、 AI21 Labs Jamba-Instruct モデルを呼び出す方法を示しています。

invoke_model

import boto3 
import json

bedrock = session.client('bedrock-runtime', 'us-east-1') 
response = bedrock.invoke_model( 
        modelId='ai21.jamba-instruct-v1:0', 
        body=json.dumps({
            'messages': [ 
                { 
                    'role': 'user', 
                    'content': 'which llm are you?' 
                } 
             ], 
         }) 
       ) 

print(json.dumps(json.loads(response['body']), indent=4))
            

会話

import boto3 
import json

bedrock = session.client('bedrock-runtime', 'us-east-1')
response = bedrock.converse( 
    modelId='ai21.jamba-instruct-v1:0', 
    messages=[ 
        { 
            'role': 'user', 
            'content': [ 
                { 
                    'text': 'which llm are you?' 
                } 
             ] 
          } 
     ] 
  ) 

print(json.dumps(json.loads(response['body']), indent=4))

            

Jamba 1.5 Large のコード例

この例では、 AI21 Labs Jamba 1.5 ラージモデルを呼び出す方法を示しています。

invoke_model

POST https://bedrock-runtime.us-east-1.amazonaws.com/model/ai21.jamba-1-5-mini-v1:0/invoke-model HTTP/1.1
{
  "messages": [
    {
      "role": "system",
      "content": "You are a helpful chatbot with a background in earth sciences and a charming French accent."
    },
    {
      "role": "user",
      "content": "What are the main causes of earthquakes?"
    }
  ],
  "max_tokens": 512,
  "temperature": 0.7,
  "top_p": 0.9,
  "stop": ["###"],
  "n": 1
}