도구를 사용하여 Amazon Bedrock 모델 응답 완성

Amazon BedrockAPI을 사용하여 모델에 전송하는 메시지에 대한 응답을 생성하는 데 도움이 되는 도구에 대한 액세스 권한을 모델에 부여할 수 있습니다. 예를 들어, 사용자가 라디오 방송국에서 재생되는 가장 인기 있는 노래를 찾을 수 있는 채팅 애플리케이션이 있을 수 있습니다. 가장 인기 있는 노래에 대한 요청에 답변하려면 모델에 노래 정보를 쿼리하고 반환할 수 있는 도구가 필요합니다.

Amazon Bedrock에서는 모델이 도구를 직접 호출하지 않습니다. 대신 모델에 메시지를 전송할 때 모델이 응답을 생성하는 데 잠재적으로 도움이 될 수 있는 하나 이상의 도구에 대한 정의를 함께 제공합니다. 이 예제에서는 지정된 라디오 방송국에서 가장 인기 있는 노래를 반환하는 도구에 대한 정의를 제공합니다. 모델이 메시지에 대한 응답을 생성하기 위해 도구가 필요하다고 판단하면, 모델은 도구를 직접적으로 호출해 달라는 요청으로 응답합니다. 여기에는 도구에 전달할 입력 파라미터(필수 정보인 라디오 방송국)도 포함됩니다.

코드에서 사용자가 모델을 대신하여 도구를 직접 호출합니다. 이 시나리오에서는 도구 구현이 라고 가정합니다API. 이 도구는 데이터베이스, Lambda 함수 또는 기타 소프트웨어처럼 쉽게 사용할 수 있습니다. 도구를 구현할 방법을 결정합니다. 그런 다음 도구의 결과가 포함된 메시지를 제공하여 모델과의 대화를 계속합니다. 마지막으로 모델은 사용자가 모델에 전송한 도구 결과를 포함하여 원래 메시지에 대한 응답을 생성합니다.

모델과 함께 도구를 사용하려면 Converse API (대화 또는 ConverseStream). 이 주제의 예제 코드는 Converse API 라디오 방송국에 가장 인기 있는 노래를 가져오는 도구를 사용하는 방법을 보여줍니다. 호출에 대한 일반 정보 Converse API, 단원을 참조하십시오와 대화 수행 Converse API 작업.

기본 추론 작업(InvokeModel 또는 )에서 도구를 사용할 수 있습니다InvokeModelWithResponseStream. 요청 본문에서 전달하는 추론 파라미터를 찾으려면 사용하려는 모델의 추론 파라미터를 참조하세요. 를 사용하는 것이 좋습니다.Converse API 도구 사용을 지원하는 모든 Amazon Bedrock 모델에서 API작동하는 일관된를 제공합니다.

도구 직접 호출을 지원하는 모델에 대한 자세한 내용은 지원되는 모델 및 모델 기능 섹션을 참조하세요.