View a markdown version of this page

トレーニングデータセットとテストデータセットの準備 - Amazon Textract

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

トレーニングデータセットとテストデータセットの準備

データセットのトレーニングとテスト

トレーニングデータセットは、アダプターを作成するための基本です。アダプターをトレーニングするには、注釈付きのトレーニングデータセットを提供する必要があります。このトレーニングデータセットは、ユーザーがアップロードしたドキュメントページ、クエリ、および注釈付きクエリ回答で構成されます。このモデルは、このデータセットから学習し、提供するドキュメントのタイプのパフォーマンスを向上させます。

テストデータセットは、アダプターのパフォーマンスを評価するために使用されます。テストデータセットは、モデルが以前に見たことのない元のデータセットのスライスを使用して作成されます。このプロセスでは、アダプターのパフォーマンスを新しいデータで評価し、正確な測定値とメトリクスを作成します。

すべてのドキュメントをトレーニングセットとテストセットに分割する必要があります。トレーニングセットは、アダプターのトレーニングに使用されます。アダプターは、これらの注釈付きドキュメントに含まれるパターンを学習します。テストセットは、アダプターのパフォーマンスを評価するために使用されます。アップロードするドキュメントが 20 個未満の場合は、トレーニングとテストの間で均等に分割します。20 個を超えるドキュメントをアップロードする場合は、データの 70% をトレーニングに、30% をテストに割り当てます。でドキュメントを分割する場合 AWS マネジメントコンソール、Amazon Textract でドキュメントを自動的に分割できます。または、ドキュメントをトレーニングセットとテストセットに手動で分割することもできます。

データセットコンポーネント

データセットには次の 4 つのコンポーネントが含まれており、自分で、または を使用して準備する必要があります AWS マネジメントコンソール。

  • イメージ - イメージには、JPEG、PNG、1 ページの PDF、または 1 ページの TIFF を使用できます。マルチページドキュメントを送信する場合、 AWS マネジメントコンソール は注釈用に各ページを個別に視覚化します。

  • 注釈ファイル - 注釈ファイルは Amazon Textract Block 構造に従いますが、QUERY ブロックと QUERY_RESULT ブロックのみが含まれます。

  • ファイルのプレラベル付け - これは Amazon Textract の現在の API レスポンスからのブロック構造で、DetectDocumentText オペレーションまたは AnalyzeDocument オペレーションの結果から取得されます。以前に Amazon Textract を呼び出し、オペレーションの結果を保存している場合は、それらの結果への参照を指定できます。ドキュメントページに非同期 API からエクスポートされた複数のレスポンスファイルがある場合、Amazon Textract は複数のプレラベルファイルを受け入れます。

  • マニフェストファイル - 各行が注釈ファイル、プレラベルファイル、イメージまたは単一ページの PDF を指す JSONL ベースのファイル。マニフェストファイルを構造化するときは、このマニフェストファイル形式を参照してください。

マニフェストファイルには 1 つ以上の JSON 行が含まれ、各行には 1 つのイメージの情報が含まれます。マニフェストファイルの 1 行は次のとおりです。


{
    "source-ref": "s3://textract-adapters-sample-bucket-129090f9e-d51c-4034-a732-48caa3b532e7/adapters/0000000000/assets/1003_3_1.png",
    "source-ref-version": "uPNKaY_2I8dxj9Kp2sO0zDUt4q3MAJen",
    "source-ref-metadata": {
        "origin-ref": "s3://textract-adapters-sample-bucket-129090f9e-d51c-4034-a732-48caa3b532e7/adapters/0000000000/original_assets/1003_3.tiff",
        "page-number": 1
    },
    "annotations-ref": "s3://textract-adapters-sample-bucket-129090f9e-d51c-4034-a732-48caa3b532e7/adapters/0000000000/annotations/1003_3_1.png.json",
    "annotations-ref-version": "nwj_MC40zsAae_idwsdEa0r4ZQaVthGs",
    "annotations-ref-metadata": {
        "prelabeling-refs": [{
            "prelabeling-ref": "s3://textract-adapters-sample-bucket-129090f9e-d51c-4034-a732-48caa3b532e7/adapters/0000000000/prelabels/fd958ee156b5b5de1ee6101dd05263120790836856774c871b877baa35e2f373/1"
            "prelabeling-ref-version": "uPNKaY_2I8dxj9Kp2sO0zDUt4q3MAJen"
        ]},
        "assignment": "TRAINING",
        "include": true,
    },
    "schema-version": "1.0"
}

マニフェストファイルには次の情報が含まれていることに注意してください。

  • source-ref: (必須) イメージまたは単一ページファイルの Amazon S3 の場所。形式は「s3://BUCKET/OBJECT_PATH」です。

  • source-ref-version: (オプション) イメージまたは単一ページのファイルの Amazon S3 オブジェクトバージョン。

  • source-ref-metadata: (オプション) 単一ページのファイルのこのイメージが複数ページのドキュメントの一部である必要があるときの source-ref に関するメタデータ。この情報は、複数ページのドキュメントでアダプターを評価する場合に役立ちます。指定しない場合、各 source-ref はスタンドアロンドキュメントと見なされます。

  • origin-ref: (必須) 元のマルチページドキュメントへの Amazon S3 の場所。

  • page-number: (必須) 元のドキュメントの source-ref のページ番号。

  • annotations-ref: (必須) お客様がイメージで注釈を実行した Amazon S3 の場所。形式は「s3://BUCKET/OBJECT_PATH」です。

  • annotations-ref-metadata: (必須) 注釈属性に関するメタデータ。マニフェスト明細項目の割り当てタイプ、およびドキュメントをトレーニングに含める/除外するかどうかとともに、ラベル付け前の参照を保持します。

  • prelabeling-refs: (必須) source-ref ファイルの Amazon Textract 非同期 API レスポンスからのファイルのリスト。prelabeling-refs の各ファイルには、最大 1000 個のブロックを含む Block プロパティが含まれている必要があります。

  • prelabeling-ref (必須) Amazon Textract API を使用したイメージ上の自動注釈の Amazon S3 の場所。

  • prelabeling-ref-version (オプション) プレラベルファイルの Amazon S3 オブジェクトバージョン。

  • assignment: (必須) イメージがトレーニングデータセットに属している場合は「TRAINING」を指定します。それ以外の場合は、「TESTING」を使用します。

  • include: (必須) トレーニング用の明細項目を含めるには true を指定します。それ以外の場合は、false を使用します。

  • schema-version: (オプション) マニフェストファイルのバージョン。有効な値は 1.0 です。

最適な精度の向上については、「」を参照してくださいAmazon Textract カスタムクエリのベストプラクティス。

クエリとレスポンスを使用してドキュメントに注釈を付ける

ドキュメントに注釈を付けるときは、事前トレーニング済みのクエリ機能を使用してドキュメントに自動ラベル付けし、必要に応じてラベルを編集できます。または、ドキュメントクエリごとにレスポンスに手動でラベルを付けることもできます。

ドキュメントに手動でラベルを付けると、Amazon Textract はドキュメントから未加工のテキストを抽出します。raw テキストが抽出されたら、 AWS マネジメントコンソール 注釈インターフェイスを使用してドキュメントのクエリを作成できます。これらのクエリをドキュメント内の関連する回答にリンクして、トレーニング用の「グラウンドトゥルース」を確立します。

ドキュメントの自動ラベル付けを行うときは、ドキュメントに適切なクエリを指定します。ドキュメントへのクエリの追加が完了すると、Amazon Textract はドキュメントから適切な要素の抽出を試み、注釈を生成します。次に、これらの注釈の精度を検証し、正しくない注釈を修正する必要があります。クエリを回答にリンクすることで、ドキュメントで重要な情報をモデルに教えることができます。

クエリを作成するときは、ドキュメント内の関連データを取得するために尋ねる必要がある質問のタイプを考慮してください。このレスポンス構造の詳細については、「クエリレスポンス構造」を参照してください。クエリのベストプラクティスの詳細については、「クエリのベストプラクティス」を参照してください。

ドキュメントの代表的なサンプルについてアダプターをトレーニングする必要があります。を使用してドキュメントに AWS マネジメントコンソール 注釈を付けると、コンソールによってこれらのファイルが自動的に準備されます。