Amazon Bedrock에서의 모델 평가를 위한 텍스트 요약 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

Amazon Bedrock에서의 모델 평가를 위한 텍스트 요약

텍스트 요약은 뉴스, 법률 문서, 학술 논문, 콘텐츠 미리 보기, 콘텐츠 큐레이션 요약 작성 등의 작업에 사용됩니다. 모델 훈련에 사용된 텍스트의 모호성, 일관성, 편견, 유창성, 정보 손실, 정확성, 관련성 또는 문맥 불일치는 응답 품질에 영향을 미칠 수 있습니다.

중요

텍스트 요약의 경우 Cohere 모델이 독성 평가를 성공적으로 완료하지 못하는 알려진 시스템 문제가 있습니다.

다음 내장 데이터세트는 작업 요약 작업 유형과 함께 사용할 수 있도록 지원됩니다.

Gigaword

Gigaword 데이터세트는 뉴스 기사 헤드라인으로 구성되어 있습니다. 이 데이터 세트는 텍스트 요약 작업에 사용됩니다.

다음 표에는 계산된 지표 및 권장되는 기본 제공 데이터 세트가 요약되어 있습니다. 다음을 사용하여 사용 가능한 내장 데이터세트를 성공적으로 지정하려면 AWS CLI또는 지원되는 AWS SDK내장 데이터셋 (API) 열에 있는 매개변수 이름을 사용하세요.

Amazon Bedrock에서 텍스트 생성을 위해 사용할 수 있는 기본 제공 데이터 세트
작업 유형 지표 빌트인 데이터세트 (콘솔) 내장 데이터세트 () API 계산된 지표
텍스트 요약 정확도 Gigaword Builtin.Gigaword BERTScore
유해성 Gigaword Builtin.Gigaword 유해성
견고성 Gigaword Builtin.Gigaword

BERTScore및 deltaBERTScore

각 기본 제공 데이터 세트의 계산된 지표가 계산되는 방식에 대해 자세히 알아보려면 Amazon Bedrock에서 모델 평가 작업 보고서 및 지표를 검토하십시오. 섹션을 참조하세요.