핵심 용어

파운데이션 모델(FM) - 많은 수의 파라미터가 있고 방대한 양의 다양한 데이터로 훈련된 AI 모델입니다. 파운데이션 모델은 광범위한 사용 사례에 대한 다양한 응답을 생성할 수 있습니다. 파운데이션 모델은 텍스트 또는 이미지를 생성할 수 있으며, 입력을 임베딩으로 변환할 수도 있습니다. Amazon Bedrock 파운데이션 모델을 사용하려면 먼저 액세스를 요청해야 합니다. 파운데이션 모델에 대한 자세한 내용은 Amazon Bedrock에서 지원되는 파운데이션 모델 섹션을 참조하세요.

기본 모델 - 제공업체의 패키징을 거쳐 사용할 준비가 된 파운데이션 모델입니다. Amazon Bedrock은 업계를 선도하는 주요 제공업체의 다양한 파운데이션 모델을 제공합니다. 자세한 내용은 Amazon Bedrock에서 지원되는 파운데이션 모델 섹션을 참조하세요.

모델 추론 - 주어진 입력(프롬프트)에서 출력(응답)을 생성하는 파운데이션 모델의 프로세스입니다. 자세한 내용은 모델 추론을 사용하여 프롬프트 제출 및 응답 생성 섹션을 참조하세요.

프롬프트 - 적절한 응답이나 출력을 생성하도록 모델에 제공되는 입력입니다. 예를 들어, 모델이 응답해야 하는 한 줄의 텍스트 프롬프트를 입력하거나, 모델이 수행할 지침 또는 작업을 텍스트로 자세히 설명할 수 있습니다. 프롬프트에는 작업의 컨텍스트, 출력 예제 또는 모델이 응답에 사용할 텍스트가 포함될 수 있습니다. 프롬프트를 사용하여 분류, 질문 답변, 코드 생성, 창의적인 글쓰기 등의 작업을 수행할 수 있습니다. 자세한 내용은 프롬프트 엔지니어링 개념 섹션을 참조하세요.

토큰 - 모델이 의미의 단일 단위로 해석하거나 예측할 수 있는 문자 시퀀스입니다. 예를 들어 텍스트 모델의 경우, 토큰은 단어뿐만 아니라 문법적 의미가 있는 단어의 일부(예: 'ed'), 구두점(예: '?') 또는 일반적인 문구(예: 'a lot')에도 해당할 수 있습니다.

모델 파라미터 - 입력 해석 및 응답 생성 시 모델과 그 동작을 정의하는 값입니다. 모델 파라미터는 제공업체가 제어하고 업데이트합니다. 모델 사용자 지정 프로세스를 통해 모델 파라미터를 업데이트하여 새 모델을 만들 수도 있습니다.

추론 파라미터 - 모델 추론 과정에서 추론 파라미터의 값을 조정하여 응답에 영향을 미칠 수 있습니다. 추론 파라미터는 응답의 가변성에 영향을 미칠 수 있으며 응답의 길이 또는 지정된 시퀀스의 발생을 제한할 수도 있습니다. 구체적인 추론 파라미터에 대한 자세한 내용과 정의는 추론 파라미터를 사용하여 응답 생성에 영향을 주는 방법 섹션을 참조하세요.

플레이그라운드 - 실행 중인 모델 추론을 실험하여 Amazon Bedrock에 익숙해질 수 있는 AWS Management Console 의 사용자 친화적 그래픽 인터페이스입니다. 플레이그라운드를 사용하여 다양한 모델, 구성 및 추론 파라미터가 여러 가지 프롬프트 입력에 대한 응답에 어떤 영향을 미치는지 테스트할 수 있습니다. 자세한 내용은 플레이그라운드를 사용하여 콘솔에서 응답 생성 섹션을 참조하세요.

임베딩 - 입력을 임베딩이라고 하는 숫자 값의 벡터로 변환하여 정보를 압축하는 프로세스로, 공유된 숫자 표현을 사용하여 서로 다른 객체 간의 유사성을 비교할 수 있습니다. 예를 들어, 문장을 비교하여 의미의 유사성을 판단하거나, 이미지를 비교하여 시각적 유사성을 판단하거나, 텍스트와 이미지를 비교하여 서로 관련이 있는지 확인할 수 있습니다. 사용 사례와 관련된 경우 텍스트 및 이미지 입력을 평균 임베딩 벡터로 결합할 수도 있습니다. 자세한 내용은 모델 추론을 사용하여 프롬프트 제출 및 응답 생성 및 Amazon Bedrock 지식 기반을 사용하여 데이터 검색 및 AI 응답 생성 섹션을 참조하세요.

오케스트레이션 - 작업을 수행하기 위해 파운데이션 모델과 엔터프라이즈 데이터 및 애플리케이션을 조정하는 프로세스입니다. 자세한 내용은 AI 에이전트를 사용하여 애플리케이션에서 작업 자동화 단원을 참조하십시오.

에이전트 - 파운데이션 모델을 사용하여 입력을 주기적으로 해석하고 출력을 생성하여 오케스트레이션을 수행하는 애플리케이션입니다. 고객 요청을 수행하는 데 에이전트를 사용할 수 있습니다. 자세한 내용은 AI 에이전트를 사용하여 애플리케이션에서 작업 자동화 섹션을 참조하세요.

검색 증강 생성(RAG) - 프롬프트에 대해 생성된 응답을 보강하기 위해 데이터 소스에서 정보를 쿼리하고 검색하는 프로세스입니다. 자세한 내용은 Amazon Bedrock 지식 기반을 사용하여 데이터 검색 및 AI 응답 생성 섹션을 참조하세요.

모델 사용자 지정 - 사용자 지정 모델을 만들기 위해 훈련 데이터를 사용하여 기본 모델의 모델 파라미터 값을 조정하는 프로세스입니다. 모델 사용자 지정의 예로는 레이블이 지정된 데이터(입력 및 해당 출력)를 사용하는 미세 조정 과 레이블이 지정되지 않은 데이터(입력만 해당)를 사용하여 모델 파라미터를 조정하는 지속적인 사전 훈련이 있습니다. Amazon Bedrock에서 사용할 수 있는 모델 사용자 지정 기법에 대한 자세한 내용은 모델을 사용자 지정하여 사용 사례에 맞게 성능 개선 섹션을 참조하세요.

하이퍼파라미터 - 모델 사용자 지정에 맞게 조정하여 훈련 프로세스를 제어함으로써 결과적으로 출력 사용자 지정 모델을 제어할 수 있는 값입니다. 구체적인 하이퍼파라미터에 대한 자세한 내용과 정의는 사용자 지정 모델 하이퍼파라미터 섹션을 참조하세요.

모델 평가 - 사용 사례에 가장 적합한 모델을 결정하기 위해 모델 출력을 평가하고 비교하는 프로세스입니다. 자세한 내용은 Amazon Bedrock 리소스의 성능 평가 단원을 참조하십시오.

프로비저닝된 처리량 - 모델 추론 과정에서 처리되는 토큰의 양 및/또는 비율을 늘리기 위해 기본 또는 사용자 지정 모델에 대해 사용자가 구매하는 처리량 수준입니다. 모델에 대해 프로비저닝된 처리량을 구매하면 모델 추론을 수행하는 데 사용할 수 있는 프로비저닝된 모델이 만들어집니다. 자세한 내용은 Amazon Bedrock에서 프로비저닝된 처리량으로 모델 간접 호출 용량 증대 섹션을 참조하세요.