Amazon Bedrock モデル抽出の前提条件

教師モデルを決定する

学生モデルよりも大幅に大きく、能力が高く、ユースケースで達成したい精度を持つ教師モデルを選択します。抽出ジョブをより効果的にするには、ユースケースと同様のタスクでトレーニング済みのモデルを選択します。Amazon Bedrock でサポートされている教師モデルの詳細については、「」を参照してくださいAmazon Bedrock モデル抽出でサポートされているモデルとリージョン。

学生モデルを決定する

サイズが大幅に小さい学生モデルを選択します。Amazon Bedrock がサポートする学生モデルの詳細については、「」を参照してくださいAmazon Bedrock モデル抽出でサポートされているモデルとリージョン。

入力データセットを準備する

カスタムモデルの入力データセットを準備するには、.jsonlファイルを作成します。各行はレコードに対応する JSON オブジェクトです。作成するファイルは、選択したカスタマイズ方法とモデルの形式に沿っており、その中のレコードは、サイズ要件を満たしている必要があります。

入力データをプロンプトとして指定します。Amazon Bedrock は、入力データを使用して教師モデルからレスポンスを生成し、生成されたレスポンスを使用して学生モデルを微調整します。Amazon Bedrock が使用する入力の詳細と、ユースケースに最適なオプションを選択する方法については、「」を参照してくださいAmazon Bedrock モデル抽出の仕組み。

入力データセットを準備する手順については、ユースケースに最適なオプションを選択します。

オプション 1: 独自のプロンプトを提供する

プロンプトを収集し、JSON Line (JSONL) 形式で保存します。JSONL の各レコードは、次の構造を使用する必要があります。

プレビューリリースではAnthropic、 Meta Llama モデルがサポートする会話プロンプトは 1 回のみとなります。つまり、ユーザープロンプトは 1 回しか使用できません。このAmazon Novaモデルはマルチターン会話をサポートしているため、1 つのレコード内で複数のユーザーとアシスタントの交換を提供できます。

形式例

{
    "schemaVersion": "bedrock-conversation-2024",
    "system": [
        {
            "text": "A chat between a curious User and an artificial intelligence Bot. The Bot gives helpful, detailed, and polite answers to the User's questions."
        }
    ],    
    "messages": [
        {
            "role": "user",
            "content": [
                {
                    "text": "why is the sky blue"
                }
            ]
        },
        {
            "role": "assistant"
            "content": [
               {
                   "text": "The sky is blue because molecules in the air scatter blue light from the Sun more than other colors."
               }
            ]
        }
    ]
}

オプション 2: 呼び出しログを使用する

モデル抽出に呼び出しログを使用するには、モデル呼び出しログをオンに設定し、モデル呼び出しオペレーションのいずれかを使用して、ログの送信先として Amazon S3 バケットが設定されていることを確認します。モデル抽出ジョブを開始する前に、ログにアクセスするための Amazon Bedrock アクセス許可を付与する必要があります。呼び出しログの設定の詳細については、Amazon CloudWatch Logs を使用してモデル呼び出しをモニタリングする」を参照してください。

このオプションでは、Amazon Bedrock でプロンプトのみを使用するか、呼び出しログのプロンプトとレスポンスのペアを使用するかを指定できます。Amazon Bedrock でプロンプトのみを使用する場合、Amazon Bedrock は独自のデータ合成手法を追加して、教師モデルから多様で高品質のレスポンスを生成する場合があります。Amazon Bedrock でプロンプトとレスポンスのペアを使用する場合、Amazon Bedrock は教師モデルからのレスポンスを再生成しません。Amazon Bedrock は、呼び出しログからのレスポンスを直接使用して、学生モデルを微調整します。

必要に応じて、モデル呼び出しオペレーションのいずれかを使用して呼び出しログのプロンプトとレスポンスのペアにリクエストメタデータを追加し、後でそれを使用してログをフィルタリングできます。Amazon Bedrock は、フィルタリングされたログを使用して学生モデルを微調整できます。

複数のリクエストメタデータを使用してログをフィルタリングするには、単一のオペレーションブール演算子 AND、OR、または NOT を使用します。オペレーションを組み合わせることはできません。単一リクエストメタデータフィルタリングには、ブール演算子 NOT を使用します。

適切なアクセス許可を持つ IAM サービスロールがまだない場合は、「」の手順に従ってロールCreate a service role for model customizationを設定することで、適切なアクセス許可を持つ新しい custom AWS Identity and Access Management (IAM) サービスロールを作成します。を使用してサービスロールを自動的に作成する場合は AWS Management Console 、この前提条件をスキップできます。

(オプション) 追加のセキュリティ設定を行います。