기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

콘텐츠 조절

Amazon Rekognition을 사용하여 부적절하거나 원치 않거나 불쾌감을 주는 콘텐츠를 탐지할 수 있습니다. 소셜 미디어, 방송 미디어, 광고 및 전자 상거래 현장에서 Rekognition 조절 API를 사용하여 보다 안전한 사용자 경험을 제공하고, 광고주에게 브랜드 안전을 보증하고, 현지 및 글로벌 규정을 준수할 수 있습니다.

오늘날 많은 회사가 제3자 또는 사용자 제작 콘텐츠를 검토할 때 전적으로 인간 모더레이터의 도움을 받기도 하지만 어떤 회사들은 단순히 사용자 불만에 대응하여 불쾌하거나 부적절한 이미지, 광고 또는 동영상을 삭제하기도 합니다. 그러나 인간 모더레이터만으로는 이러한 요구를 충분한 품질 또는 속도로 충족할 수 있도록 규모를 확장할 수 없기 때문에 사용자 경험이 열악해지고 규모 조절에 많은 비용이 들거나 심지어 브랜드 평판이 손상될 수도 있습니다. 이미지 및 동영상 조절에 Rekognition을 사용하면 인간 모더레이터는 기계 학습에 의해 이미 표시된 훨씬 적은 양의 콘텐츠(일반적으로 전체 양의 1~5%)를 검토할 수 있습니다. 이를 통해 보다 가치 있는 활동에 집중하면서도 기존보다 훨씬 적은 비용으로 폭넓은 조절 범위를 확보할 수 있습니다. 작업 인력을 구축하고 인적 검토 작업을 수행하기 위해 Rekognition과 이미 통합된 Amazon Augmented AI를 사용할 수 있습니다.

사용자 지정 조절 기능을 사용하여 딥 러닝 조절 모델의 정확도를 향상시킬 수 있습니다. 사용자 지정 조절을 사용하여 이미지를 업로드하고 주석을 달아 사용자 지정 조절 어댑터를 훈련시키게 됩니다. 그런 다음 학습된 어댑터를 DetectModerationLabels 작업에 제공하여 이미지에서의 성능을 향상시킬 수 있습니다. 자세한 정보는 사용자 지정 조절을 통한 정확도 향상을 참조하세요.

Rekognition 콘텐츠 조정 작업에서 지원하는 레이블

다음 다이어그램은 콘텐츠 중재의 이미지 또는 비디오 구성 요소 사용 목표에 따른 통화 작업 순서를 보여줍니다.

이미지 및 비디오 조절 API 사용

Amazon Rekognition Image API에서는 레이블을 사용하여 동기적으로, 및 작업을 사용하여 DetectModeration비동기적으로 부적절하거나 원치 않거나 불쾌감을 주는 콘텐츠를 탐지할 수 있습니다. StartMediaAnalysisJobGetMediaAnalysisJob Amazon Rekognition Video API를 사용하면 중재 및 조정 작업을 사용하여 이러한 콘텐츠를 비동기적으로 탐지할 수 있습니다. StartContent GetContent

레이블 카테고리

Amazon Rekognition은 3단계 계층 분류법을 사용하여 부적절하거나 원치 않거나 불쾌감을 주는 콘텐츠의 범주에 레이블을 지정합니다. 분류 수준 1 (L1) 의 각 레이블에는 여러 분류 수준 2 레이블 (L2) 이 있으며 일부 분류 수준 2 레이블에는 분류 수준 3 레이블 (L3) 이 있을 수 있습니다. 이렇게 하면 콘텐츠를 계층적으로 분류할 수 있습니다.

탐지된 각 중재 레이블에 대해 API는 레이블이 TaxonomyLevel 속한 수준 (1, 2 또는 3) 이 포함된 도 반환합니다. 예를 들어 다음과 같은 분류에 따라 이미지에 레이블을 지정할 수 있습니다.

L1: 친밀한 부위의 노골적인 노출 및 키스, L2: 노골적이지 않은 누드, L3: 묵시적 누드.

다음 표에는 카테고리 수준과 각 수준에 사용할 수 있는 레이블 간의 관계가 나와 있습니다. 중재 라벨 목록을 다운로드하려면 여기를 클릭하십시오.

L2 카테고리의 모든 라벨에 L3 카테고리에서 지원되는 라벨이 있는 것은 아닙니다. 또한 “제품” 및 “약물 및 담배 관련 용품 및 용도” L2 라벨의 L3 라벨은 완전하지 않습니다. 이러한 L2 라벨은 언급된 L3 라벨 이외의 개념을 포함하며, 이러한 경우 API 응답에서 L2 라벨만 반환됩니다.

애플리케이션에 대한 콘텐츠 적합성을 결정합니다. 예를 들어 선정적인 성격의 이미지는 허용하되 누드가 포함된 이미지는 허용하지 않을 수 있습니다. 이미지를 필터링하려면 DetectModerationLabels (이미지) 와 (비디오) 에서 반환되는 ModerationLabel레이블 배열을 사용하십시오. GetContentModeration

콘텐츠 유형

API는 애니메이션 또는 일러스트레이션이 포함된 콘텐츠 유형을 식별할 수도 있으며, 콘텐츠 유형은 응답의 일부로 반환됩니다.

신뢰도

MinConfidence 입력 파라미터를 지정하여 부적절한 콘텐츠를 감지하기 위해 Amazon Rekognition에서 사용하는 신뢰도 임계값을 설정할 수 있습니다. MinConfidence보다 신뢰도가 낮은 것으로 감지된 부적절한 콘텐츠의 레이블은 반환되지 않습니다.

이 값을 50% 미만으로 지정하면 많은 수의 오양성 결과가 반환될 수 있습니다 (예: 재현율이 높고 정밀도가 낮아짐). MinConfidence 반면 50% MinConfidence 이상으로 지정하면 더 적은 수의 거짓양성 결과가 반환될 수 있습니다 (즉, 재현율이 낮고 정밀도가 높음). MinConfidence 값을 지정하지 않은 경우 Amazon Rekognition에서 신뢰도 50% 이상으로 감지된 부적절한 콘텐츠의 레이블을 반환합니다.

ModerationLabel 배열에는 이전 범주의 레이블 및 인식된 콘텐츠의 정확성에 대한 추정된 신뢰도가 포함되어 있습니다. 식별된 모든 2단계 레이블과 함께 최상위 레이블이 반환됩니다. 예를 들어 Amazon Rekognition에서 신뢰도 점수가 높은 “노골적 나체”를 최상위 레이블로 반환할 수 있습니다. 이는 사용자의 필터링 요건을 충족시키는데 충분할 수 있습니다. 이것으로 필터링에 충분할 수 있지만, 필요하다면 "부분적 누드" 같은 2단계 레이블의 신뢰도 점수를 사용하여 더 세분화된 필터링을 할 수도 있습니다. 예시는 부적절한 이미지 감지단원을 참조하세요.

버전 관리

Amazon Rekognition Image와 Amazon Rekognition Video는 모두 부적절한 콘텐츠를 탐지하는 데 사용되는 조절 탐지 모델 버전(ModerationModelVersion)을 반환합니다.

정렬 및 집계

를 사용하여 GetContentModeration 결과를 검색할 때는 결과를 정렬하고 집계할 수 있습니다.

Sort order - 반환된 레이블의 배열은 시간별로 정렬됩니다. 레이블별로 정렬하려면, GetContentModeration에서 SortBy 입력 파라미터에 NAME를 지정하십시오. 레이블이 비디오에 여러 번 나오는 경우 ModerationLabel 요소의 인스턴스가 여러 개 있습니다.

레이블 정보 — ModerationLabels 배열 요소에는 객체가 포함되며, ModerationLabel 객체에는 레이블 이름과 감지된 레이블의 정확성에 대한 Amazon Rekognition의 신뢰도가 포함됩니다. 타임스탬프는 ModerationLabel이 감지된 시간으로, 비디오 시작 이후 경과된 밀리초 단위의 시간으로 정의됩니다. 비디오 SEGMENTS별로 집계된 결과의 경우 세그먼트의 시작 시간, 종료 시간, 지속 시간을 각각 정의하는 StartTimestampMillis, EndTimestampMillis, DurationMillis 구조가 반환됩니다.

Aggregation - 결과가 반환될 때 집계되는 방식을 지정합니다. 기본값은 TIMESTAMPS 기준 집계입니다. 일정 기간 동안의 결과를 집계하는 SEGMENTS 집계 기준을 선택할 수도 있습니다. 세그먼트 내에서 감지된 레이블만 반환됩니다.

사용자 지정 중재 어댑터 상태

사용자 지정 중재 어댑터는 TRAINING_IN_PROGRESS, TRAINING_COMPLETED, TRAINING_FAILED, 삭제, 지원 중단 또는 만료 상태 중 하나일 수 있습니다. 이러한 어댑터 상태에 대한 자세한 설명은 어댑터 관리를 참조하십시오.

콘텐츠 조정 버전 7 테스트 및 API 응답 변환

Rekognition은 콘텐츠 조정 레이블 감지 기능의 이미지 비디오 구성 요소에 대한 기계 학습 모델을 버전 6.1에서 7로 업데이트했습니다. 이 업데이트는 전반적인 정확도를 향상시키고 몇 가지 새로운 범주를 도입하고 다른 범주를 수정했습니다.

현재 버전 6.1의 비디오 사용자인 경우 다음 조치를 취하여 버전 7로 원활하게 전환하는 것이 좋습니다.

AWS 콘텐츠 조정 버전 7용 SDK 및 사용 가이드

선택한 개발 언어에 해당하는 SDK를 다운로드하고 해당 사용 설명서를 참조하십시오.

버전 6.1~7의 레이블 매핑

콘텐츠 조정 버전 7에는 새 레이블 범주가 추가되고 기존 레이블 이름이 수정되었습니다. 6.1 레이블을 7개 레이블에 매핑하는 방법을 결정할 레이블 카테고리 때는 에 있는 분류표를 참조하십시오.

레이블 매핑의 몇 가지 예는 다음 섹션에 나와 있습니다. 애플리케이션의 사후 처리 로직에 따라 필요한 업데이트를 수행하기 전에 이러한 매핑과 레이블 정의를 검토하는 것이 좋습니다.

L1 매핑 스키마

최상위 카테고리 (L1) (예: Explicit NuditySuggestive, Violence 등) 만 필터링하는 포스트 프로세싱 로직을 사용하는 경우 아래 표를 참조하여 코드를 업데이트하십시오.

L2 매핑 스키마

L1 및 L2 카테고리 (예: Violence / Weapon Violence 등) 를 필터링하는 포스트 프로세싱 로직을 사용하는 경우 아래 표를 참조하여 코드를 업데이트하십시오. Explicit Nudity / Nudity, Suggestive / Female Swimwear Or Underwear