사용 가능한 파운데이션 모델

Amazon SageMaker JumpStart는 사용자의 생성형 AI 워크플로에 사용자 지정 및 통합할 수 있는 최첨단 내장형 공개적으로 사용 가능한 독점 파운데이션 모델을 제공합니다.

공개적으로 사용 가능한 파운데이션 모델

Amazon SageMaker JumpStart는 타사 소스의 오픈 소스 파운데이션 모델을 온보딩하고 유지 관리합니다. 이러한 공개적으로 사용 가능한 모델 중 하나를 시작하려면 JumpStart 파운데이션 모델 사용량를 참조하거나 사용 가능한 예제 노트북 중 하나를 탐색하세요. 공개적으로 사용 가능한 모델에 대한 주어진 예제 노트북에서 모델 ID를 변경하여 동일한 모델군 내의 다양한 모델을 실험해 보세요.

SageMaker Python SDK를 사용하여 공개적으로 사용 가능한 JumpStart 파운데이션 모델을 배포하는 데 필요한 모델 ID 및 리소스에 대한 자세한 내용은 SageMaker Python SDK로 파운데이션 모델 사용를 참조하세요.

정의에 따르면 파운데이션 모델은 많은 다운스트림 작업에 적용할 수 있습니다. 파운데이션 모델은 방대한 양의 일반 도메인 데이터를 기반으로 훈련되며 동일한 모델을 여러 사용 사례에 맞게 구현하거나 사용자 지정할 수 있습니다. 파운데이션 모델을 선택할 때는 텍스트 생성 또는 이미지 생성과 같은 특정 작업을 정의하는 것부터 시작합니다.

공개적으로 사용 가능한 시계열 예측 모델

시계열 예측 모델은 시간 경과에 따라 순차적 데이터를 분석하고 예측하도록 설계되었습니다. 이러한 모델은 재무, 기상 예측 또는 에너지 수요 예측과 같은 다양한 도메인에 적용할 수 있습니다. 크로노스 모델은 시계열 예측 작업에 맞게 조정되어 과거 데이터 패턴을 기반으로 정확한 예측이 가능합니다.

모델 이름	모델 ID	모델 소스	미세 조정 가능
크로노스 T5 스몰	`autogluon-forecasting-chronos-t5-small`	Amazon	아니요
크로노스 T5 기본	`autogluon-forecasting-chronos-t5-base`	Amazon	아니요
크로노스 T5 라지	`autogluon-forecasting-chronos-t5-large`	Amazon	아니요

공개적으로 사용 가능한 텍스트 생성 모델

텍스트 생성 파운데이션 모델은 텍스트 요약, 텍스트 분류, 질문 답변, 긴 형식의 콘텐츠 생성, 짧은 형식의 카피라이팅, 정보 추출 등을 비롯한 다양한 다운스트림 작업에 사용할 수 있습니다.

모델 이름	모델 ID	모델 소스	미세 조정 가능
Alexa TM 20B	`pytorch-textgeneration1-alexa20b`	Amazon	아니요
블룸 1b1	`huggingface-textgeneration-bloom-1b1`	Hugging Face	아니요
블룸 1b7	`huggingface-textgeneration-bloom-1b7`	Hugging Face	아니요
블룸 3B	`huggingface-textgeneration1-bloom-3b`	Hugging Face	예
블룸 560m	`huggingface-textgeneration-bloom-560m`	Hugging Face	아니요
블룸 7B1	`huggingface-textgeneration1-bloom-7b1`	Hugging Face	예
Bloomz 1b1	`huggingface-textgeneration-bloomz-1b1`	Hugging Face	아니요
Bloomz 1b7	`huggingface-textgeneration-bloomz-1b7`	Hugging Face	아니요
BloomZ 3B FP16	`huggingface-textgeneration1-bloom-3b-fp16`	Hugging Face	예
Bloomz 560m	`huggingface-textgeneration-bloomz-560m`	Hugging Face	아니요
BloomZ 7B1 FP16	`huggingface-textgeneration1-bloomz-7b1-fp16`	Hugging Face	예
코드 Llama 13B	`meta-textgeneration-llama-codellama-13b`	Meta	예
코드 Llama 13B 지침	`meta-textgeneration-llama-codellama-13b-instruct`	Meta	아니요
코드 Llama 13B Python	`meta-textgeneration-llama-codellama-13b-python`	Meta	예
코드 Llama 34B	`meta-textgeneration-llama-codellama-34b`	Meta	예
코드 Llama 34B 지침	`meta-textgeneration-llama-codellama-34b-instruct`	Meta	아니요
코드 Llama 34B Python	`meta-textgeneration-llama-codellama-34b-python`	Meta	예
코드 Llama 70B	`meta-textgeneration-llama-codellama-70b`	Meta	예
코드 Llama 70B 지침	`meta-textgeneration-llama-codellama-70b-instruct`	Meta	아니요
코드 Llama 70B Python	`meta-textgeneration-llama-codellama-70b-python`	Meta	예
코드 Llama 7B	`meta-textgeneration-llama-codellama-7b`	Meta	예
코드 Llama 7B 지침	`meta-textgeneration-llama-codellama-7b-instruct`	Meta	아니요
코드 Llama 7B Python	`meta-textgeneration-llama-codellama-7b-python`	Meta	예
CyberAgentLM2-7B-Chat(CALM2-7B-Chat)	`huggingface-llm-calm2-7b-chat-bf16`	Hugging Face	예
DistilGPT2	`huggingface-textgeneration-distilgpt2`	Hugging Face	아니요
Dolly V2 12b BF16	`huggingface-textgeneration-dolly-v2-12b-bf16`	Hugging Face	아니요
Dolly V2 3b BF16	`huggingface-textgeneration-dolly-v2-3b-bf16`	Hugging Face	아니요
Dolly V2 7b BF16	`huggingface-textgeneration-dolly-v2-7b-bf16`	Hugging Face	아니요
Dolphin 2.2.1 Mistral 7B	`huggingface-llm-dolphin-2-2-1-mistral-7b`	Hugging Face	아니요
Dolphin 2.5 Mistral 8 7B	`huggingface-llm-dolphin-2-5-mixtral-8x7b`	Hugging Face	아니요
Dolphin 2.7 Mistral 8 7B	`huggingface-llm-dolphin-2-7-mixtral-8x7b`	Hugging Face	아니요
EleutherAI GPT Neo 2.7B	`huggingface-llm-eleutherai-gpt-neo-1-3b`	Hugging Face	아니요
EleutherAI GPT Neo 2.7B	`huggingface-llm-eleutherai-gpt-neo-2-7b`	Hugging Face	아니요
Falcon 180B BF16	`huggingface-llm-falcon-180b-bf16`	Hugging Face	아니요
Falcon 180B 채팅 BF16	`huggingface-llm-falcon-180b-chat-bf16`	Hugging Face	아니요
Falcon 40B BF16	`huggingface-llm-falcon-40b-bf16`	Hugging Face	예
Falcon 40B Instruct BF16	`huggingface-llm-falcon-40b-instruct-bf16`	Hugging Face	예
Falcon 7B BF16	`huggingface-llm-falcon-7b-bf16`	Hugging Face	예
Falcon 7B Instruct BF16	`huggingface-llm-falcon-7b-instruct-bf16`	Hugging Face	예
Falcon 라이트	`huggingface-llm-amazon-falconlite`	Hugging Face	아니요
Falcon Lite 2	`huggingface-llm-amazon-falconlite2`	Hugging Face	아니요
Falcon RW 1B	`huggingface-llm-tiiuae-falcon-rw-1b`	Hugging Face	아니요
Flan-T5 Base	`huggingface-text2text-flan-t5-base`	Hugging Face	예
Samsum 데이터세트에서 미세 조정된 Flan-T5 기본 모델	`huggingface-text2text-flan-t5-base-samsum`	Hugging Face	아니요
Flan-T5 Large	`huggingface-text2text-flan-t5-large`	Hugging Face	예
Flan-T5 Small	`huggingface-text2text-flan-t5-small`	Hugging Face	예
Flan-T5 XL	`huggingface-text2text-flan-t5-xl`	Hugging Face	예
Flan-T5 XXL	`huggingface-text2text-flan-t5-xxl`	Hugging Face	예
Flan-UL2 BF16	`huggingface-text2text-flan-ul2-bf16`	Hugging Face	아니요
Gemma 2B	`huggingface-llm-gemma-2b`	Hugging Face	예
Gemma 2B 지침	`huggingface-llm-gemma-2b-instruct`	Hugging Face	예
Gemma 7B	`huggingface-llm-gemma-7b`	Hugging Face	예
Gemma 7B 지침	`huggingface-llm-gemma-7b-instruct`	Hugging Face	예
GPT 2	`huggingface-textgeneration-gpt2`	Hugging Face	아니요
GPT NeoX 20B FP16	`huggingface-textgeneration2-gpt-neox-20b-fp16`	Hugging Face	아니요
GPT NeoXT 채팅 기반 20B FP16	`huggingface-textgeneration2-gpt-neoxt-chat-base-20b-fp16`	Hugging Face	아니요
GPT-2 XL	`huggingface-textgeneration1-gpt-2-xl`	Hugging Face	예
GOT-J 6B	`huggingface-textgeneration1-gpt-j-6b`	Hugging Face	예
GPT-Neo 1.3B	`huggingface-textgeneration1-gpt-neo-1-3b`	Hugging Face	예
GPT-Neo 125M	`huggingface-textgeneration1-gpt-neo-125m`	Hugging Face	예
GPT-NEO 2.7B	`huggingface-textgeneration1-gpt-neo-2-7b`	Hugging Face	예
일본어 StableLM Instruct Alpha 7B v2	`model-textgenerationjp-japanese-stablelm-instruct-alpha-7b-v2`	Hugging Face	아니요
LightGPT 지침 6B	`huggingface-textgeneration1-lightgpt`	Hugging Face	예
Lite Llama 460M 1T	`huggingface-llm-ahxt-litellama-460m-1t`	Hugging Face	아니요
Llama 2 13B	`meta-textgeneration-llama-2-13b`	Meta	예
Llama 2 13B Chat	`meta-textgeneration-llama-2-13b-f`	Meta	예
Llama 2 13B Chat Neuron	`meta-textgenerationneuron-llama-2-13b-f`	Meta	아니요
Llama 2 13B 뉴런	`meta-textgenerationneuron-llama-2-13b`	Meta	예
Llama 2 70B	`meta-textgeneration-llama-2-70b`	Meta	예
Llama 2 70B Chat	`meta-textgeneration-llama-2-70b-f`	Meta	예
Llama 2 70B Chat Neuron	`meta-textgenerationneuron-llama-2-70b-f`	Meta	아니요
Llama 2 70B 뉴런	`meta-textgenerationneuron-llama-2-70b`	Meta	아니요
Llama 2 7B	`meta-textgeneration-llama-2-7b`	Meta	예
Llama 2 7B Chat	`meta-textgeneration-llama-2-7b-f`	Meta	예
Llama 2 7B Chat Neuron	`meta-textgenerationneuron-llama-2-7b-f`	Meta	아니요
Llama 2 7B 뉴런	`meta-textgenerationneuron-llama-2-7b`	Meta	예
Llama 3 8B	`meta-textgeneration-llama-3-8b`	Meta	예
Llama 3 8B 지침	`meta-textgeneration-llama-3-8b-instruct`	Meta	예
Llama 3 70B	`meta-textgeneration-llama-3-70b`	Meta	예
Llama 3 70B 지침	`meta-textgeneration-llama-3-70b-instruct`	Meta	예
Llama Guard 7B	`meta-textgeneration-llama-guard-7b`	Meta	아니요
Mistral 7B	`huggingface-llm-mistral-7b`	Hugging Face	예
Mistral 7B 지침	`huggingface-llm-mistral-7b-instruct`	Hugging Face	아니요
Mistral 7B OpenOrca AWQ	`huggingface-llm-thebloke-mistral-7b-openorca-awq`	Hugging Face	아니요
Mistral 7B SFT 알파	`huggingface-llm-huggingfaceh4-mistral-7b-sft-alpha`	Hugging Face	아니요
Mistral 7B SFT 베타	`huggingface-llm-huggingfaceh4-mistral-7b-sft-beta`	Hugging Face	아니요
Mistral Lite	`huggingface-llm-amazon-mistrallite`	Hugging Face	아니요
Mistral Trix V1	`huggingface-llm-cultrix-mistraltrix-v1`	Hugging Face	아니요
Mistral 8x7B	`huggingface-llm-mixtral-8x7b`	Hugging Face	예
Mistral 8x7B Instruct	`huggingface-llm-mixtral-8x7b-instruct`	Hugging Face	예
MPT 7B BF16	`huggingface-textgeneration1-mpt-7b-bf16`	Hugging Face	아니요
MPT 7B 지침 BF16	`huggingface-textgeneration1-mpt-7b-instruct-bf16`	Hugging Face	아니요
MPT 7B StoryWriter-65k + BF16	`huggingface-textgeneration1-mpt-7b-storywriter-bf16`	Hugging Face	아니요
다국어 GPT	`huggingface-llm-ai-forever-mgpt`	Hugging Face	아니요
Nous Hermes 2 SOLAR 10.7B	`huggingface-llm-nousresearch-nous-hermes-2-solar-10-7b`	Hugging Face	아니요
Nous Hermes Llama 2 13B	`huggingface-llm-nousresearch-nous-hermes-llama2-13b`	Hugging Face	아니요
누스 에르메스 라마 2 7B	`huggingface-llm-nousresearch-nous-hermes-llama-2-7b`	Hugging Face	아니요
Open Hermes 2 Mistral 7B	`huggingface-llm-teknium-openhermes-2-mistral-7b`	Hugging Face	아니요
LlaMa 열기	`huggingface-textgeneration-open-llama`	Hugging Face	아니요
Llama 7B V2 열기	`huggingface-llm-openlm-research-open-llama-7b-v2`	Hugging Face	아니요
Platypus 2 7B	`huggingface-llm-garage-baind-platypus2-7b`	Hugging Face	아니요
Pythia 160m 중복	`huggingface-llm-eleutherai-pythia-160m-deduped`	Hugging Face	아니요
Pythia 7m Deduped	`huggingface-llm-eleutherai-pythia-70m-deduped`	Hugging Face	아니요
품질 관리형 Paraphrase 생성	`huggingface-text2text-qcpg-sentences`	Hugging Face	아니요
RedPajama INCITE Base 3B V1	`huggingface-textgeneration1-redpajama-incite-base-3B-v1-fp16`	Hugging Face	예
RedPajama INCITE Base 7B V1	`huggingface-textgeneration1-redpajama-incite-base-7B-v1-fp16`	Hugging Face	예
RedPajama INCITE Chat 3B V1	`huggingface-textgeneration1-redpajama-incite-chat-3B-v1-fp16`	Hugging Face	예
RedPajama INCITE Chat 7B V1	`huggingface-textgeneration1-redpajama-incite-chat-7B-v1-fp16`	Hugging Face	예
RedPajama INCITE Instruct 3B V1	`huggingface-textgeneration1-redpajama-incite-instruct-3B-v1-fp16`	Hugging Face	예
RedPajama INCITE 지침 7B V1	`huggingface-textgeneration1-redpajama-incite-instruct-7B-v1-fp16`	Hugging Face	예
Rinna 이중 언어 GPT NeoX 4B 명령어 PPO	`huggingface-llm-bilingual-rinna-4b-instruction-ppo-bf16`	Hugging Face	아니요
Rinna 일본어 GPT NeoX 3.6B 명령어 PPO	`huggingface-llm-rinna-3-6b-instruction-ppo-bf16`	Hugging Face	아니요
스타 채팅 알파	`huggingface-llm-huggingfaceh4-starchat-alpha`	Hugging Face	아니요
스타 채팅 베타	`huggingface-llm-huggingfaceh4-starchat-beta`	Hugging Face	아니요
StarCoder	`huggingface-llm-starcoder`	Hugging Face	아니요
StarCoderBase	`huggingface-llm-starcoderbase`	Hugging Face	아니요
T0pp	`huggingface-text2text-bigscience-t0pp`	Hugging Face	아니요
T5 One Line 요약	`huggingface-text2text-t5-one-line-summary`	Hugging Face	아니요
Tiny Llama 1.1B	`huggingface-llm-tinyllama-1-1b-intermediate-step-1431k-3`	Hugging Face	아니요
Tiny Llama 1.1B Chat V0.6	`huggingface-llm-tinyllama-tinyllama-1-1b-chat-v0-6`	Hugging Face	아니요
Tiny Llama 1.1B Chat V1	`huggingface-llm-tinyllama-tinyllama-1-1b-chat-v1-0`	Hugging Face	아니요
라이터 팔미라 스몰	`huggingface-llm-writer-palmyra-small`	Hugging Face	아니요
YARN Mistral 7B 128k	`huggingface-llm-nousresearch-yarn-mistral-7b-128k`	Hugging Face	아니요
Zephyr 7B 알파	`huggingface-llm-huggingfaceh4-zephyr-7b-alpha`	Hugging Face	아니요
Zephyr 7B 베타	`huggingface-llm-huggingfaceh4-zephyr-7b-beta`	Hugging Face	아니요

최신 텍스트 생성 JumpStart 파운데이션 모델을 탐색하려면 Amazon SageMaker JumpStart 시작하기 제품 설명 페이지에서 텍스트 생성 필터를 사용하세요. Amazon SageMaker Studio UI 또는 SageMaker Studio Classic UI에서 직접 작업을 기반으로 하는 파운데이션 모델을 탐색할 수도 있습니다. JumpStart 에서는 공개적으로 사용 가능한 텍스트 생성 모델의 하위 집합만 미세 조정할 수 있습니다. 자세한 내용은 Amazon SageMaker Studio Classic에서 파운데이션 모델 사용 섹션을 참조하세요.

공개적으로 사용 가능한 이미지 생성 모델

JumpStart는 Stability AI의 기본 모델과 Hugging Face의 특정 텍스트-이미지 작업을 위한 사전 훈련된 모델을 포함하여 다양한 Stable Diffusion 이미지 생성 파운데이션 모델을 제공합니다. 텍스트-이미지 파운데이션 모델을 미세 조정해야 하는 경우 Stability AI의 Stable Diffusion 2.1 베이스를 사용할 수 있습니다. 특정 아트 스타일에 대해 이미 훈련된 모델을 탐색하려는 경우 Amazon SageMaker Studio UI 또는 SageMaker AI Studio Classic UI에서 Hugging Face 직접에서 여러 타사 모델 중 하나를 탐색할 수 있습니다.

최신 이미지 생성 JumpStart 파운데이션 모델을 탐색하려면 Amazon SageMaker JumpStart 시작하기 제품 설명 페이지에서 텍스트 투 이미지 필터를 사용하세요. 선택한 텍스트-이미지 파운데이션 모델을 시작하려면 JumpStart 파운데이션 모델 사용량을 참조하세요.

독점 파운데이션 모델

Amazon SageMaker JumpStart는 AI21 Labs, Cohere, LightOn과 같은 타사 공급자의 독점 파운데이션 모델에 대한 액세스를 제공합니다.

이러한 독점 모델 중 하나를 시작하려면 JumpStart 파운데이션 모델 사용량을 참조하세요. 독점 파운데이션 모델을 사용하려면 먼저 AWS Marketplace에서 모델을 구독해야 합니다. 모델을 구독한 후 Studio 또는 SageMaker Studio Classic에서 파운데이션 모델을 찾습니다. 자세한 내용은 SageMaker JumpStart 사전 훈련된 모델 섹션을 참조하세요.

다양한 사용 사례에 대한 최신 독점 파운데이션 모델을 살펴보려면 Amazon SageMaker JumpStart 시작하기를 참조하세요.

javascript가 브라우저에서 비활성화되거나 사용이 불가합니다.

AWS 설명서를 사용하려면 Javascript가 활성화되어야 합니다. 지침을 보려면 브라우저의 도움말 페이지를 참조하십시오.

문서 규칙

파운데이션 모델

파운데이션 모델 사용량