엔드포인트 간접 호출 - Amazon SageMaker
요청응답

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

엔드포인트 간접 호출

엔드포인트가 실행된 후 SageMaker 런타임 서비스의 SageMaker 런타임InvokeEndpoint API을 사용하여 에 요청을 보내거나 엔드포인트를 호출합니다. 이에 대한 응답으로 요청은 SageMaker Clarify 설명자가 설명 가능성 요청으로 처리합니다.

참고

엔드포인트를 간접 호출하려면 다음 옵션 중 하나를 선택합니다.

  • Boto3 또는 를 사용하여 엔드포인트를 호출 AWS CLI 하는 방법에 대한 지침은 섹션을 참조하세요실시간 추론을 위한 모델 호출.

  • Python용 를 SageMaker SDK 사용하여 엔드포인트를 호출하려면 예측기 섹션을 참조하세요API.

요청

InvokeEndpoint API 에는 HTTP 헤더 에 매핑EnableExplanations되는 선택적 파라미터 이 있습니다X-Amzn-SageMaker-Enable-Explanations. 이 파라미터가 제공되면 ClarifyExplainerConfig의 EnableExplanations 파라미터보다 우선합니다.

참고

의 ContentType 및 Accept 파라미터InvokeEndpointAPI가 필요합니다. 지원되는 형식에는 MIME 유형 text/csv 및 가 포함됩니다application/jsonlines.

다음과 같이 sagemaker_runtime_client를 사용하여 엔드포인트에 요청을 보내세요.

response = sagemaker_runtime_client.invoke_endpoint(
    EndpointName='name-of-your-endpoint',
    EnableExplanations='`true`',
    ContentType='text/csv',
    Accept='text/csv',
    Body='1,2,3,4',  # single record (of four numerical features)
)

다중 모델 엔드포인트의 경우 이전 예제 요청에서 추가 TargetModel 파라미터를 전달하여 엔드포인트에서 대상으로 지정할 모델을 지정합니다. 다중 모델 엔드포인트는 필요에 따라 대상 모델을 동적으로 로드합니다. 다중 모델 엔드포인트에 대한 자세한 내용은 섹션을 참조하세요다중 모델 엔드포인트. 단일 SageMaker 엔드포인트에서 여러 대상 모델을 설정하고 호출하는 방법의 예는 다중 모델 엔드포인트 샘플 노트북의 온라인 설명 명확화를 참조하세요.

응답

ExplainerConfig로 엔드포인트를 생성한 경우 새 응답 스키마가 사용됩니다. 이 새 스키마는 제공된 ExplainerConfig 파라미터가 없는 엔드포인트와 다르며 호환되지 않습니다.

응답 MIME 유형은 이며 application/json응답 페이로드를 UTF-8바이트에서 JSON 객체로 디코딩할 수 있습니다. 다음은 이 JSON 객체의 멤버를 다음과 같이 보여줍니다.

  • version: 문자열 형식의 응답 스키마 버전. 예: 1.0.

  • predictions: 요청에서 예측하는 결과는 다음과 같습니다.

    • content_type: 모델 컨테이너 응답MIME의 를 참조하는 예측 ContentType 유형입니다.

    • data: 요청에 대한 모델 컨테이너 응답의 페이로드로 전달되는 예측 데이터 문자열.

  • label_headers: LabelHeaders 파라미터의 레이블 헤더. 이는 설명자 구성 또는 모델 컨테이너 출력으로 제공됩니다.

  • explanations: 요청 페이로드에서 제공된 설명. 레코드가 설명되지 않은 경우 이 멤버는 빈 객체 {}을 반환합니다.

    • kernel_shap: 요청의 각 레코드에 대한 커널 SHAP 설명 배열을 나타내는 키입니다. 레코드가 설명되지 않은 경우 해당하는 설명은 null입니다.

kernel_shap 요소에는 다음 멤버가 있습니다.

  • feature_header: 설명자 구성 ExplainerConfig에서 FeatureHeaders 파라미터가 제공하는 기능의 헤더 이름.

  • feature_type: 설명자가 추론했거나 ExplainerConfig의 FeatureTypes 파라미터에 제공된 기능 유형. 이 요소는 NLP 설명 가능성 문제에만 사용할 수 있습니다.

  • attributions: 특성 객체의 배열. 텍스트 기능에는 각 단위당 여러 개의 특성 객체가 있을 수 있습니다. 이 특성 객체에는 다음 멤버가 있습니다.

    • attribution: 각 클래스에 주어진 확률 값 목록.

    • description: NLP 설명 가능성 문제에만 사용할 수 있는 텍스트 단위에 대한 설명입니다.

      • partial_text: 설명자가 설명하는 텍스트 부분.

      • start_idx: 부분 텍스트 조각의 시작 부분 배열 위치를 파악하기 위한 제로 기반 인덱스.