翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

基盤モデルをファインチューニングする

Amazon SageMaker Canvas からアクセスできる基盤モデルは、さまざまな汎用タスクに役立ちます。ただし、特定のユースケースがあり、独自のデータに基づいてレスポンスをカスタマイズする場合は、基盤モデルをファインチューニングできます。

基盤モデルをファインチューニングするには、サンプルプロンプトとモデルレスポンスで構成されるデータセットを指定します。次に、データに対して基盤モデルをトレーニングします。最後に、ファインチューニングされた基盤モデルは、より具体的なレスポンスを提供できるようになります。

次のリストには、Canvas でファインチューニングできる基盤モデルが含まれています。

モデルをファインチューニングしながら、Canvas アプリケーションの各基盤モデルに関するより詳細な情報にアクセスできます。詳細については、「モデルをファインチューニングする」を参照してください。

このトピックでは、Canvas で基盤モデルをファインチューニングする方法について説明します。

[開始する前に]

基盤モデルをファインチューニングする前に、Canvas で Ready-to-use モデルのアクセス許可と Amazon Bedrock との信頼関係を持つ AWS Identity and Access Management 実行ロールがあることを確認してください。これにより、Amazon Bedrock は基盤モデルをファインチューニングしながらロールを引き受けることができます。

Amazon SageMaker AI ドメインを設定または編集するときは、1) Canvas の Ready-to-use モデルの設定権限を有効にし、2) SageMaker AI が Amazon Bedrock との信頼関係をアタッチする IAM 実行ロールである Amazon Bedrock ロールを作成または指定する必要があります。これらの設定の実行に関する詳細については、「Amazon SageMaker Canvas を設定するための前提条件」を参照してください。

(SageMaker AI がユーザーに代わってロールを作成するのではなく) 独自の IAM 実行ロールを使用する場合は、Amazon Bedrock ロールを手動で設定できます。Amazon Bedrock との独自の IAM 実行ロールの信頼関係の設定の詳細については、「Canvas で Amazon Bedrock と生成 AI 機能を使用する権限をユーザーに付与する」を参照してください。

また、大規模言語モデル (LLMs) をファインチューニングするためにフォーマットされたデータセットも必要です。以下は、データセットの要件のリストです。

Amazon Bedrock モデルをファインチューニングするときは、Amazon Bedrock のクォータに従う必要があります。詳細については、Amazon Bedrock ユーザーガイドの「Model customization quotas」を参照してください。

Canvas の一般的なデータセットの要件と制限の詳細については、「データセットを作成する」を参照してください。

基盤モデルの微調整

Canvas アプリケーションで次のいずれかの方法を使用して、基盤モデルをファインチューニングできます。

モデルのファインチューニングを開始したら、次の操作を行います。

データセットを選択する

モデルのファインチューニングの [選択] タブで、基盤モデルをトレーニングするデータを選択します。

既存のデータセットを選択するか、「[開始する前に]」のセクションに記載されている要件を満たす新しいデータセットを作成します。データセットの作成方法の詳細については、「データセットを作成する」を参照してください。

データセットを選択または作成し、先に進む準備ができたら、[データセットを選択] を選択します。

モデルをファインチューニングする

データを選択すると、トレーニングを開始し、モデルをファインチューニングする準備が整います。

[微調整] タブで、次の作業を行います。

ファインチューニングジョブが開始されたら、ページを離れることができます。[自分のモデル] ページでモデルが [準備完了] と表示されると、モデルの使用準備が整い、ファインチューニングされた基盤モデルのパフォーマンスを分析できるようになります。

ファインチューニングされた基盤モデルを分析する

ファインチューニングされた基盤モデルの [分析] タブでは、モデルのパフォーマンスを確認できます。

このページの [概要] タブには、Perplexity および Loss スコアのほか、トレーニング中のモデルの経時的な改善を視覚化する分析が表示されます。次のスクリーンショットは、[概要] タブを示しています。

このページには、次の視覚化が表示されます。

[高度なトメトリクス] タブには、モデルのハイパーパラメータと追加のメトリクスが表示されます。次のスクリーンショットのようになります。

[高度なメトリクス] タブには次の情報が含まれています。

モデル評価のインサイトをさらに取得するには、モデルとデータのバイアスを検出するのに役立つ機能である SageMaker Clarify を使用して生成されるレポートをダウンロードします。まず、ページ下部の [評価レポートの生成] を選択してレポートを生成します。レポートが生成されたら、[レポートのダウンロード] を選択するか、[アーティファクト] セクションに戻ることで、レポート全体をダウンロードできます。

Python コードでファインチューニングジョブをレプリケートする方法を示す Jupyter Notebook にアクセスすることもできます。これを使用して、ファインチューニングジョブのレプリケートまたはプログラムによる変更を行うことも、Canvas がモデルをファインチューニングする方法をより深く理解することもできます。モデルノートブックとそのアクセス方法の詳細については、「モデルノートブックをダウンロードする」を参照してください。

ファインチューニングされた基盤モデルの [分析] タブで情報を解釈する方法の詳細については、「モデル評価」のトピックを参照してください。

[概要] タブと [高度なメトリクス] タブを分析した後、モデルリーダーボードを開くこともできます。リーダーボードには、ビルド中にトレーニングされたベースモデルのリストが表示されます。Loss スコアが最も低いモデルは、最もパフォーマンスの高いモデルと見なされ、[分析] タブに表示される分析のモデルである [デフォルトのモデル] として選択されます。テストしてデプロイできるのはデフォルトのモデルのみです。モデルリーダーボードとデフォルトのモデルの変更方法の詳細については、「モデルリーダーボードでモデル候補を表示する」を参照してください。

チャットでファインチューニングされた基盤モデルをテストする

ファインチューニングされた基盤モデルのパフォーマンスを分析した後は、それをテストしたり、そのレスポンスをベースモデルと比較したりできます。ファインチューニングされた基盤モデルは、[コンテンツの生成、抽出、要約] 機能のチャットでテストできます。

次のいずれかの方法を選択して、ファインチューニングされたモデルとのチャットを開始します。

モデルがチャットで起動し、他の基盤モデルと同様に操作できるようになります。チャットにさらにモデルを追加すると、出力を比較できます。チャット機能の詳細については、「SageMaker Canvas の生成 AI 基盤モデル」を参照してください。

ファインチューニングされた基盤モデルを運用する

Canvas でモデルをファインチューニングした後は、以下の操作を実行できます。