주요 정의

기초 모델 (FM) — 대량의 다양한 데이터에 대해 학습되고 많은 수의 파라미터를 포함하는 AI 모델입니다. 기초 모델은 광범위한 사용 사례에 대해 다양한 응답을 생성할 수 있습니다. 기초 모델은 텍스트 또는 이미지를 생성할 수 있으며 입력을 임베딩으로 변환할 수도 있습니다. Amazon Bedrock 기반 모델을 사용하려면 먼저 액세스를 요청해야 합니다. 기초 모델에 대한 자세한 내용은 을 참조하십시오. Amazon Bedrock에서 지원되는 파운데이션 모델

기본 모델 — 공급자가 패키징하여 바로 사용할 수 있는 기본 모델입니다. Amazon Bedrock은 주요 공급자가 제공하는 업계 최고의 다양한 기반 모델을 제공합니다. 자세한 설명은 Amazon Bedrock에서 지원되는 파운데이션 모델 섹션을 참조하세요.

모델 추론 — 기본 모델이 주어진 입력 (프롬프트) 으로부터 출력 (응답) 을 생성하는 프로세스입니다. 자세한 설명은 모델 추론을 통한 프롬프트 제출 및 응답 생성 섹션을 참조하세요.

프롬프트 — 입력에 대해 적절한 응답 또는 출력을 생성하도록 안내하기 위해 모델에 제공되는 입력입니다. 예를 들어, 텍스트 프롬프트는 모델이 응답할 한 줄로 구성되거나 모델이 수행할 지침이나 작업을 자세히 설명할 수 있습니다. 프롬프트에는 작업 컨텍스트, 결과 예제 또는 응답에 사용할 모델의 텍스트 등이 포함될 수 있습니다. 프롬프트를 사용하여 분류, 질문 답변, 코드 생성, 창의적 작성 등과 같은 작업을 수행할 수 있습니다. 자세한 설명은 신속한 엔지니어링 컨셉 섹션을 참조하세요.

토큰 — 모델이 단일 의미 단위로 해석하거나 예측할 수 있는 일련의 문자입니다. 예를 들어 텍스트 모델의 경우 토큰은 단어뿐만 아니라 문법적 의미가 있는 단어의 일부 (예: “-ed”), 문장 부호 (예: “?”) 에도 해당할 수 있습니다. 또는 일반적인 문구 (예: “a lot”).

모델 파라미터 — 입력을 해석하고 응답을 생성하는 모델 및 모델의 동작을 정의하는 값입니다. 모델 매개변수는 공급자가 제어하고 업데이트합니다. 또한 모델 사용자 지정 프로세스를 통해 모델 매개변수를 업데이트하여 새 모델을 생성할 수 있습니다.

추론 파라미터 - 모델 추론 중에 조정하여 응답에 영향을 줄 수 있는 값입니다. 추론 파라미터는 응답의 다양성에 영향을 줄 수 있으며 응답 길이나 지정된 시퀀스의 발생을 제한할 수도 있습니다. 특정 추론 매개변수에 대한 자세한 내용 및 정의는 을 참조하십시오. 추론 파라미터를 사용한 영향 응답 생성

플레이그라운드 — 모델 추론 실행을 실험하여 AWS Management Console Amazon Bedrock에 익숙해질 수 있는 사용자 친화적인 그래픽 인터페이스입니다. 플레이그라운드를 사용하여 입력하는 다양한 프롬프트에 대해 생성된 응답에 대해 다양한 모델, 구성 및 추론 파라미터가 미치는 영향을 테스트해 보십시오. 자세한 설명은 플레이그라운드를 사용하여 시각적 인터페이스에서 응답 생성 섹션을 참조하세요.

임베딩 — 공유된 수치 표현을 사용하여 여러 객체 간의 유사성을 비교하기 위해 입력값을 숫자 값으로 구성된 벡터로 변환하여 정보를 압축하는 프로세스 (임베딩이라고 함). 예를 들어 문장을 비교하여 의미의 유사성을 확인하고, 이미지를 비교하여 시각적 유사성을 확인하거나, 텍스트와 이미지를 비교하여 서로 관련이 있는지 확인할 수 있습니다. 사용 사례와 관련이 있는 경우 텍스트와 이미지 입력을 평균 임베딩 벡터로 결합할 수도 있습니다. 자세한 내용은 모델 추론을 통한 프롬프트 제출 및 응답 생성 및 지식 베이스로 데이터 검색 및 AI 응답 생성 섹션을 참조하세요.

오케스트레이션 — 작업을 수행하기 위해 기본 모델과 엔터프라이즈 데이터 및 애플리케이션 사이를 조정하는 프로세스입니다. 자세한 설명은 대화형 에이전트를 사용하여 애플리케이션의 작업을 자동화하세요. 섹션을 참조하세요.

에이전트 - 기본 모델을 사용하여 입력을 주기적으로 해석하고 결과를 생성하여 오케스트레이션을 수행하는 애플리케이션입니다. 에이전트를 사용하여 고객 요청을 수행할 수 있습니다. 자세한 설명은 대화형 에이전트를 사용하여 애플리케이션의 작업을 자동화하세요. 섹션을 참조하세요.

검색 증강 생성 (RAG) — 프롬프트에 대해 생성된 응답을 강화하기 위해 데이터 소스에서 정보를 쿼리하고 검색하는 프로세스입니다. 자세한 설명은 지식 베이스로 데이터 검색 및 AI 응답 생성 섹션을 참조하세요.

모델 사용자 지정 — 학습 데이터를 사용하여 기본 모델의 모델 매개변수 값을 조정하여 사용자 지정 모델을 만드는 프로세스입니다. 모델 사용자 지정의 예로는 레이블이 지정된 데이터 (입력 및 해당 출력) 를 사용하는 미세 조정 (Fine-Tuning) 과 레이블이 지정되지 않은 데이터 (입력만) 를 사용하여 모델 매개변수를 조정하는 Continuted Pre-Training이 있습니다. Amazon Bedrock에서 사용할 수 있는 모델 사용자 지정 기술에 대한 자세한 내용은 을 참조하십시오. 모델을 사용자 지정하여 사용 사례에 맞게 성능을 개선하십시오.

하이퍼파라미터 — 모델 사용자 지정을 위해 조정하여 교육 프로세스를 제어하고 결과적으로 사용자 지정 모델을 출력하도록 조정할 수 있는 값입니다. 특정 하이퍼파라미터에 대한 자세한 내용 및 정의는 을 참조하십시오. 사용자 지정 모델 하이퍼파라미터

모델 평가 — 사용 사례에 가장 적합한 모델을 결정하기 위해 모델 출력을 평가하고 비교하는 프로세스입니다. 자세한 설명은 Amazon Bedrock 평가를 사용하여 가장 성능이 좋은 모델을 선택하십시오. 섹션을 참조하세요.

프로비저닝된 처리량 — 모델 추론 중에 처리되는 토큰의 양 및/또는 비율을 높이기 위해 기본 또는 사용자 지정 모델에 대해 구매하는 처리량 수준입니다. 모델의 프로비저닝된 처리량을 구매하면 모델 추론을 수행하는 데 사용할 수 있는 프로비저닝된 모델이 생성됩니다. 자세한 내용은 Amazon Bedrock의 프로비저닝된 처리량으로 모델 호출 용량을 늘리십시오.을(를) 참조하세요.