モデル評価ジョブでのプロンプトデータセットと使用可能な評価ディメンションの使用

実際の知識 – モデルが事実知識をどの程度うまくエンコードしているかを評価します。FMEval は、独自のカスタムデータセットに対してモデルを測定するか、 TREX オープンソースデータセット。

セマンティックロバスト性 – 入力のセマンティック保存による小さな変更の結果として、モデル出力がどの程度変化するかを評価します。FMEval は、キーボードの誤字、大文字へのランダムな変更、空白のランダムな追加または削除の結果としてモデル出力がどのように変化するかを測定します。

プロンプトステレオタイプ化 — モデルが応答でバイアスをエンコードする可能性を測定します。これらのバイアスには、人種、性別、性的指向、宗教、年齢、国籍、障害、外見、社会経済的地位に関するバイアスが含まれます。FMEval は、独自のカスタムデータセットに対してモデルレスポンスを測定するか、 CrowS-Pairs オープンソースチャレンジデータセット。

毒性 – 毒性検出モデルを使用してテキストを評価します。FMEval は、モデルに性的な言及、失礼、不合理、憎悪的または攻撃的なコメント、冒涜、侮辱、動揺、アイデンティティに対する攻撃、脅威がないかをチェックします。FMEval は、独自のカスタムデータセットに対してモデルを測定するか、 RealToxicityPrompts, RealToxicityPromptsChallenging、および BOLD データセット。

RealToxicityPromptsChallenging は のサブセットです。RealToxicityPrompts は、大規模な言語モデル () の制限をテストするために使用されますLLM。またLLMs、有害なテキストの生成に対して脆弱な領域も特定します。

次の毒性ディテクターを使用してモデルを評価できます。

精度 – 要約とゴールドスタンダードとして受け入れられるリファレンスサマリーの類似性を示す数値スコア。数値スコアが高い場合は、概要が高品質であることを示します。数値スコアが低い場合は、概要が悪いことを示します。以下のメトリクスは、要約の精度を評価するために使用されます。

毒性 – 毒性検出器モデルを使用して計算された生成された概要のスコア。詳細については、前の「オープンエンド生成タスク」の「毒性」セクションを参照してください。

セマンティックロバスト性 – 入力のセマンティック保存による小さな変更の結果として、モデルのテキストサマリーの品質がどの程度変化するかの尺度。これらの変更の例としては、誤字、大文字へのランダムな変更、空白のランダムな追加または削除などがあります。セマンティックロバスト性は、摂動されていないテキストサマリーと摂動されているテキストサマリーの精度の絶対差を使用します。精度アルゴリズムは、 ROUGE-N, Meteor、および BERTScore このセクションで前述したように、 メトリクス。

精度 – 生成されたレスポンスと、リファレンスで指定された質問回答ペアを比較する平均スコア。スコアは、次の方法から平均されます。

セマンティックロバスト性 – 入力のセマンティック保存による小さな変更の結果として、モデルのテキストサマリーの品質がどの程度変化するかの尺度。これらの変更の例としては、キーボードの誤字、数字の単語への不正確な変換、大文字へのランダムな変更、空白のランダムな追加または削除などがあります。セマンティックロバスト性は、摂動されていないテキストサマリーと摂動されているテキストサマリーの精度の絶対差を使用します。精度は、前述のように、完全一致、準完全一致、単語に対する F1 を使用して測定されます。

毒性 – スコアは、毒性検出器モデルを使用して生成された回答を評価します。詳細については、前の「オープンエンド生成タスク」の「毒性」セクションを参照してください。

精度 – 予測クラスをラベルと比較するスコア。精度は、次のメトリクスを使用して測定されます。

セマンティックロバスト性 – 入力のセマンティック保存による小さな変更の結果として、モデル出力がどの程度変化するかを評価します。FMEval は、キーボードの誤字、大文字へのランダムな変更、空白のランダムな追加または削除の結果としてモデル出力を測定します。セマンティック堅牢性は、混乱していないテキストサマリーと混乱しているテキストサマリーの精度の絶対差をスコアします。

（比較) リッカートスケール - 比較 – 人間の評価者は、指示に従って 5 ポイントのリッカートスケールで 2 つのレスポンス間の好みを示します。最終レポートでは、データセット全体に対する好みの強度によって、結果が評価のヒストグラムとして表示されます。評価者が期待どおりに回答を評価する方法を理解できるように、手順で 5 ポイントスケールの重要なポイントを定義します。

（比較) 選択ボタン – 人間の評価者は、指示に従って、ラジオボタンを使用して別の応答よりも優先する応答を 1 つ指定できます。最終レポートの結果は、各モデルでワーカーがより適切であると回答した割合として表示されます。評価方法を手順で明確に説明します。

（比較) 順序ランク – 人間の評価者がプロンプトに対して希望する応答を 1 から順にランク付けし、指示に従ってランク付けできるようにします。最終レポートでは、データセット全体の評価者からのランキングのヒストグラムとして結果が表示されます。手順1で のランクが意味するものを定義していることを確認してください。

（個人) サムのアップ/ダウン – 人間の評価者は、指示に従ってモデルからの各レスポンスを許容可能または許容不可として評価できます。最終レポートでは、各モデルのサムアップ評価を受け取った評価者による評価の合計数の割合が結果に表示されます。この評価方法を使用して、1 つ以上のモデルを評価できます。これを 2 つのモデルを含む評価で使用すると、UI はモデルレスポンスごとにサムの上下オプションを作業チームに提供します。最終レポートには、各モデルの集計結果が個別に表示されます。作業チームへの指示で許容される対応を定義します。

（個別) リッカートスケール - 個別 – 人間の評価者は、指示に基づいて、5 ポイントのリッカートスケールでモデルレスポンスをどの程度強く承認するかを示すことができます。最終レポートでは、データセット全体の評価者からの 5 ポイント評価のヒストグラムが結果に表示されます。この評価方法は、1 つ以上のモデルを含む評価に使用できます。複数のモデルを含む評価でこの評価方法を選択すると、モデルレスポンスごとに 5 ポイントのリッカートスケールが作業チームに表示されます。最終レポートには、各モデルの集計結果が個別に表示されます。評価者が期待どおりに回答を評価する方法を理解できるように、手順で 5 ポイントスケールの重要なポイントを定義します。