Amazon Titan Multimodal Embeddings G1 モデル

Amazon Titan Foundation Models は大規模なデータセットで事前トレーニングされているため、強力で汎用的なモデルになります。そのまま使用するか、大量のデータに注釈を付けずに、特定のタスクの独自のデータでモデルを微調整してカスタマイズします。

Titan モデルには、埋め込み、テキスト生成、イメージ生成の 3 種類があります。

2 つの Titan Multimodal Embeddings G1 モデル。Titan Multimodal Embeddings G1 モデルは、テキスト入力 (単語、フレーズ、場合によっては大きなテキスト単位) を、テキストの意味を含む数値表現 (埋め込みと呼ばれます) に変換します。このモデルはテキストを生成しませんが、パーソナライゼーションや検索などのアプリケーションに役立ちます。埋め込みを比較することで、モデルは単語マッチングよりも関連性が高くコンテキストに応じたレスポンスを生成します。マルチモーダル埋め込み G1 モデルは、テキスト、類似点の画像、またはテキストと画像の組み合わせによる画像の検索などのユースケースに使用されます。入力イメージまたはテキストを、同じセマンティック空間内のイメージとテキストの両方のセマンティック意味を含む埋め込みに変換します。

Titan Text モデルは、要約、テキスト生成、分類、オープンエンド QnA 、情報抽出などのタスクLLMsの生成です。また、さまざまなプログラミング言語や、テーブル、、JSON.csv ファイルなどのリッチテキスト形式でもトレーニングされています。

Amazon Titan マルチモーダル埋め込みモデル G1 - テキストモデル

Titan Text Embeddings V1 は、最大 8,192 個のトークンを含む空でない文字列を入力として受け取り、1,024 次元の埋め込みを返します。英語の文字とトークンの比率は 4.6 文字/トークンです。RAG ユースケースに関する注意: Titan Text Embeddings V2 は最大 8,192 個のトークンに対応できますが、ドキュメントを論理セグメント (段落やセクションなど) にセグメント化することをお勧めします。

埋め込みの長さ

埋め込みの長さのカスタム設定は任意です。埋め込みのデフォルトの長さは 1,024 文字で、ほとんどのユースケースで使うことができます。埋め込みの長さは 256 文字、384 文字、または 1,024 文字に設定できます。埋め込みサイズを大きくすると、より詳細なレスポンスが得られますが、処理時間も長くなります。埋め込みの長さを短くすると詳細度は低くなりますが、応答時間は短くなります。

    # EmbeddingConfig Shape
    {
     'outputEmbeddingLength': int // Optional, One of: [256, 384, 1024], default: 1024
    }
    
    # Updated API Payload Example
    body = json.dumps({
     "inputText": "hi",
     "inputImage": image_string,
     "embeddingConfig": { 
     "outputEmbeddingLength": 256
     }
    })
  

ファインチューニング

データセットの準備

トレーニングデータセットには、複数のJSON行を含む.jsonlファイルを作成します。各JSON行には、Sagemaker Augmented Manifest 形式 と同様の image-refと caption 属性の両方が含まれます。検証データセットが必要です。自動キャプションは現在サポートされていません。

   {"image-ref": "s3://bucket-1/folder1/0001.png", "caption": "some text"}
   {"image-ref": "s3://bucket-1/folder2/0002.png", "caption": "some text"}
   {"image-ref": "s3://bucket-1/folder1/0003.png", "caption": "some text"}
  

トレーニングデータセットと検証データセットの両方について、複数のJSON行を含む.jsonlファイルを作成します。

Amazon S3 パスは、Amazon Bedrock サービスロールにIAMポリシーをアタッチして Amazon Bedrock がデータにアクセスするためのアクセス許可を付与したフォルダにある必要があります。トレーニングデータのIAMポリシーの付与の詳細については、「トレーニングデータへのアクセスをカスタムジョブに付与する」を参照してください。

ハイパーパラメータ

これらの値は Multimodal Embeddings モデルのハイパーパラメータに合わせて調整できます。デフォルト値は、ほとんどのユースケースで十分に機能します。