모델 평가 작업에서 프롬프트 데이터 세트 및 사용 가능한 평가 차원 사용

사실 지식 - 모델이 사실 지식을 얼마나 잘 인코딩하는지 평가합니다. FMEval 는 자체 사용자 지정 데이터 세트와 비교하여 모델을 측정하거나 를 기반으로 기본 제공 데이터 세트를 사용할 수 있습니다. TREX 오픈 소스 데이터 세트.

의미론적 견고성 - 입력의 작은 의미론적 보존 변경으로 인해 모델 출력이 얼마나 많이 변경되는지 평가합니다. FMEval 는 키보드 오타, 대문자에 대한 무작위 변경, 공백의 무작위 추가 또는 삭제로 인해 모델 출력이 어떻게 변경되는지를 측정합니다.

프롬프트 고정 관념 - 응답에서 편향을 암호화하는 모델의 확률을 측정합니다. 이러한 편향에는 인종, 성별, 성적 지향, 종교, 연령, 국적, 장애, 신체적 외모 및 사회경제적 상태에 대한 편향이 포함됩니다. FMEval 는 자체 사용자 지정 데이터 세트에 대한 모델 응답을 측정하거나 CrowS-Pairs 오픈 소스 챌린지 데이터 세트.

독성 - 독성 감지 모델을 사용하여 텍스트를 평가합니다. FMEval 는 모델에 성적 참조, 무례, 불합리, 증오 또는 공격적인 의견, 비속어, 모욕, 유혹, 자격 증명에 대한 공격 및 위협이 있는지 확인합니다. FMEval 는 자체 사용자 지정 데이터 세트와 비교하여 모델을 측정하거나 를 기반으로 기본 제공 데이터 세트를 사용할 수 있습니다. RealToxicityPrompts, RealToxicityPromptsChallenging, 및 BOLD 데이터 세트.

RealToxicityPromptsChallenging 는 의 하위 집합입니다.RealToxicityPrompts 는 대형 언어 모델의 제한을 테스트하는 데 사용됩니다(LLM). 또한 LLMs가 독성 텍스트를 생성하기에 취약한 영역을 식별합니다.

다음 독성 감지기로 모델을 평가할 수 있습니다.

정확도 - 최적 표준으로 허용되는 참조 요약과 요약의 유사성을 나타내는 숫자 점수입니다. 높은 숫자 점수는 요약의 품질이 높음을 나타냅니다. 숫자 점수가 낮으면 요약이 좋지 않음을 나타냅니다. 다음 지표는 요약의 정확도를 평가하는 데 사용됩니다.

독성 - 독성 탐지기 모델을 사용하여 계산된 생성된 요약 점수입니다. 자세한 내용은 이전 개방형 생성 작업의 독성 섹션을 참조하세요.

의미론적 견고성 - 입력의 작은 의미론적 보존 변경으로 인해 모델 텍스트 요약의 품질이 얼마나 변경되는지 측정한 값입니다. 이러한 변경의 예로는 오타, 대문자에 대한 무작위 변경, 공백의 무작위 추가 또는 삭제 등이 있습니다. 의미론적 견고성은 방해받지 않는 텍스트 요약과 방해되는 텍스트 요약 간의 절대 정확도 차이를 사용합니다. 정확도 알고리즘은 ROUGE-N, Meteor 및 BERTScore 이 섹션에서 앞서 설명한 대로 지표.

정확도 - 생성된 응답을 참조에 지정된 질문 응답 페어와 비교하는 평균 점수입니다. 점수는 다음 방법의 평균입니다.

의미론적 견고성 - 입력의 작은 의미론적 보존 변경으로 인해 모델 텍스트 요약의 품질이 얼마나 변경되는지 측정한 값입니다. 이러한 변경의 예로는 키보드 오타, 숫자에서 단어로의 부정확한 변환, 대문자로의 무작위 변경, 공백의 무작위 추가 또는 삭제 등이 있습니다. 의미론적 견고성은 방해받지 않는 텍스트 요약과 방해되는 텍스트 요약 간의 절대 정확도 차이를 사용합니다. 정확도는 앞서 설명한 대로 단어에 대해 정확히 일치, 준정확도 일치 및 F1을 사용하여 측정됩니다.

독성 - 점수는 독성 탐지기 모델을 사용하여 생성된 응답을 평가합니다. 자세한 내용은 이전 개방형 생성 작업의 독성 섹션을 참조하세요.

정확도 - 예측 클래스를 레이블과 비교하는 점수입니다. 정확도는 다음 지표를 사용하여 측정됩니다.

의미론적 견고성 - 입력의 작은 의미론적 보존 변경으로 인해 모델 출력이 얼마나 많이 변경되는지 평가합니다. FMEval 는 키보드 오타, 대문자에 대한 무작위 변경, 공백의 무작위 추가 또는 삭제로 인해 모델 출력을 측정합니다. 의미론적 견고성은 방해받지 않는 텍스트 요약과 방해받는 텍스트 요약 간의 정확도의 절대 차이를 채점합니다.

(비교) 리커트 척도 - 비교 - 인간 평가자는 지침에 따라 5점 리커트 척도로 두 응답 간의 선호도를 표시합니다. 최종 보고서에서는 전체 데이터 세트보다 선호 강도에 따른 평가 히스토그램으로 결과가 표시됩니다. 평가자가 기대치에 따라 응답을 평가하는 방법을 알 수 있도록 지침에 5점 척도의 중요 사항을 정의합니다.

(비교) 선택 버튼 - 지침에 따라 인간 평가자가 라디오 버튼을 사용하여 다른 응답보다 선호하는 하나의 응답을 표시할 수 있습니다. 최종 보고서의 결과는 각 모델에 대해 작업자가 선호하는 응답의 백분율로 표시됩니다. 지침에 평가 방법을 명확하게 설명합니다.

(비교) 서수 순위 - 인간 평가자가 프롬프트에 대한 기본 응답의 순위를 1부터 시작하여 지침에 따라 순서대로 매길 수 있습니다. 최종 보고서에서 결과는 전체 데이터 세트에 대한 평가자의 순위 히스토그램으로 표시됩니다. 지침1에서 순위가 의미하는 바를 정의해야 합니다.

(개인) 썸 업/다운 - 인간 평가자가 지침에 따라 모델의 각 응답을 허용 가능 또는 허용 불가로 평가할 수 있습니다. 최종 보고서에서 결과는 각 모델에 대한 엄지손가락 평가를 받은 평가자의 총 평가 수의 백분율을 보여줍니다. 이 평가 방법을 사용하여 하나 이상의 모델을 평가할 수 있습니다. 두 모델이 포함된 평가에서 이 옵션을 사용하는 경우 UI는 작업 팀에 각 모델 응답에 대한 엄지손가락 위 또는 아래 옵션을 제공합니다. 최종 보고서에는 각 모델에 대한 집계된 결과가 개별적으로 표시됩니다. 작업 팀에 대한 지침에서 허용되는 응답이 무엇인지 정의합니다.

(개인) 리커트 척도 - 개인 - 인적 평가자가 지침에 따라 5점 리커트 척도로 모델 응답을 얼마나 강력하게 승인하는지 표시할 수 있습니다. 최종 보고서에서 결과는 전체 데이터 세트에 대한 평가자의 5점 등급 히스토그램을 표시합니다. 이 평가 방법을 사용하여 하나 이상의 모델을 포함하는 평가를 수행할 수 있습니다. 둘 이상의 모델이 포함된 평가에서 이 평가 방법을 선택하면 각 모델 응답에 대해 5점 Likert 척도가 작업 팀에 표시됩니다. 최종 보고서에는 각 모델에 대한 집계된 결과가 개별적으로 표시됩니다. 평가자가 기대치에 따라 응답을 평가하는 방법을 알 수 있도록 지침의 5점 척도에 대한 중요 사항을 정의합니다.