기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
Amazon Bedrock에서 지원하는 APIs
지원되는 추론 APIs
Amazon Bedrock은 추론을 수행하기 위한 다섯 가지 주요 API 패턴을 제공합니다. 새 애플리케이션의 경우 bedrock-runtime 엔드포인트를 사용하는 것이 좋습니다. APIs는 사용하는 서비스 엔드포인트별로 그룹화됩니다.
bedrock-runtime 엔드포인트(권장)
bedrock-runtime.{region}.amazonaws.com 엔드포인트는 다음 APIs를 지원합니다.
| API 방식 | 에 가장 적합한 사용 사례 | 주요 기능 |
|---|---|---|
| Converse(권장) | 멀티턴 채팅/표준화 | Converse API는 Amazon Bedrock의 모든 모델과 상호 작용하기 위한 통합 인터페이스를 제공합니다. |
| 간접 호출 | 단일 트랜잭션/대형 페이로드 | Invoke API를 사용하면 요청 및 응답 형식을 더 잘 제어할 수 있는 모델에 직접 액세스할 수 있습니다. |
| 응답 | OpenAI 호환 상태 저장 대화 | OpenAI 호환 상태 저장, 멀티턴 대화, 즉 동일한 OpenAI 셰이프에 대한 응답 API와 가드레일 및 리전 간 추론과 같은 Amazon Bedrock 기능을 사용합니다. 에서 bedrock-runtime요청은 항상 동기식이며 서버 측 도구를 사용할 수 없습니다. 전체 비교는 섹션을 참조Amazon Bedrock에서 지원하는 엔드포인트하세요. |
| 채팅 완료 | OpenAI 호환 상태 비저장 멀티턴 채팅 | OpenAI 호환 상태 비저장 채팅 상호 작용을 위해 채팅 완료 API를 사용합니다. |
| Anthropic Claude Messages API Messages API | Anthropic 네이티브 인터페이스 | 기본 요청 형식을 사용하여 Anthropic 모델에 직접 액세스하려면 InvokeModel을 통해 메시지 API를 사용합니다. |
bedrock-mantle 엔드포인트
bedrock-mantle.{region}.amazonaws.com 엔드포인트는 다음 APIs를 지원합니다.
| API 방식 | 에 가장 적합한 사용 사례 | 주요 기능 |
|---|---|---|
| 응답 API | 서버 측 도구를 사용한 상태 저장 대화 | 기본 제공 서버 측 도구 사용(검색, 코드 인터프리터), 멀티모달 입력 및 비동기 추론이 필요한 에이전트 애플리케이션에bedrock-mantle는의 응답 API를 사용합니다. |
| Anthropic Messages API를 사용한 추론 Messages API | Anthropic 네이티브 인터페이스 | Anthropic 네이티브 요청 및 응답 형식을 사용하여 Anthropic 모델에 직접 액세스하려면 Messages API를 사용합니다. |
| 채팅 완료 | 상태 비저장 멀티턴 채팅 | 채팅 기록 관리를 완전히 제어하고 지연 시간을 줄여야 하는 경량의 상태 비저장 텍스트 중심 작업에 Chat Completions API를 사용합니다. |
Amazon Bedrock에서 지원하는 APIs에 대해 자세히 알아보세요.
APIs 간 결정
사용하는 API는 사용 사례에 따라 다릅니다.
| 사용 사례 | 권장 API |
|---|---|
| OpenAI API 호환 엔드포인트에서 마이그레이션 | bedrock-runtime 엔드포인트에서 OpenAI 호환 응답 API |
| OpenAI 호환 엔드포인트와 호환되지 않는 모델 사용 | 네이티브 Amazon Bedrock APIs 사용: Converse 및 Invoke. 자세한 내용은 Invoke API를 사용한 추론 단원을 참조하십시오. |
| 모든 모델에서 일관된 인터페이스 | Converse API - 메시지를 지원하는 모든 모델과 함께 작동합니다. 코드를 한 번 작성하고 다른 모델과 함께 사용합니다. 예제 코드는 Converse API 예제를 참조하세요. |
| 전체 제어를 통한 직접 모델 액세스 | API 호출 - 요청 및 응답 형식을 더 잘 제어할 수 있는 모델에 대한 직접 액세스를 제공합니다. 텍스트, 이미지 및 임베딩을 생성하는 데 사용합니다. 예제 코드는 모델 코드 예제 호출을 참조하세요. |
| Amazon Bedrock 신규 | OpenAI 또는 Anthropic 호환 인터페이스를 선호하는 경우 bedrock-runtime 엔드포인트를 모델 간 통합 인터페이스용 Converse API와 함께 사용하거나 메시지 API, 채팅 완료 API 또는 응답 API와 함께 사용하는 것이 좋습니다. |
각 API 및 엔드포인트에서 지원하는 모델
먼저 모델을 탐색하여 사용하려는 모델을 결정합니다. 사용하려는 모델을 결정하면 지원하는 APIs를 확인하고 엔드포인트를 선택할 수 있습니다. Invoke, Converse, Responses, Chat Completions 및 Messages APIs를 지원하는 bedrock-runtime 엔드포인트를 사용하는 것이 좋습니다. bedrock-mantle 엔드포인트도 완벽하게 지원되며 응답, 채팅 완료 및 메시지 APIs를 제공합니다. 응답, 채팅 완료 및 메시지 APIs는 두 엔드포인트 모두에서 사용할 수 있지만 각 엔드포인트에서 동일한 기능 지원을 제공하지 않으므로 선택Amazon Bedrock에서 지원하는 엔드포인트하기 전에 섹션을 참조하세요.
