사용 가능한 파운데이션 모델

Amazon SageMaker JumpStart 은 생성형 AI 워크플로를 사용자 지정하고 통합하기 위해 공개적으로 사용할 수 있는 state-of-the-art독점 파운데이션 모델인 를 제공합니다.

공개적으로 사용 가능한 파운데이션 모델

Amazon은 타사 소스의 오픈 소스 파운데이션 모델을 SageMaker JumpStart 온보딩하고 유지합니다. 이러한 공개적으로 사용 가능한 모델 중 하나를 시작하려면 JumpStart 파운데이션 모델 사용량를 참조하거나 사용 가능한 예제 노트북 중 하나를 탐색하세요. 공개적으로 사용 가능한 모델에 대한 주어진 예제 노트북에서 모델 ID를 변경하여 동일한 모델군 내의 다양한 모델을 실험해 보세요.

를 사용하여 공개적으로 사용 가능한 JumpStart 파운데이션 모델을 배포하는 방법에 대한 모델 IDs 및 리소스에 대한 자세한 내용은 SageMaker Python SDK를 참조하세요에서 파운데이션 모델 사용 SageMaker Python SDK.

정의에 따르면 파운데이션 모델은 많은 다운스트림 작업에 적용할 수 있습니다. 파운데이션 모델은 방대한 양의 일반 도메인 데이터를 기반으로 훈련되며 동일한 모델을 여러 사용 사례에 맞게 구현하거나 사용자 지정할 수 있습니다. 파운데이션 모델을 선택할 때는 텍스트 생성 또는 이미지 생성과 같은 특정 작업을 정의하는 것부터 시작합니다.

공개적으로 사용 가능한 시계열 예측 모델

시계열 예측 모델은 시간 경과에 따라 순차적 데이터를 분석하고 예측하도록 설계되었습니다. 이러한 모델은 재무, 기상 예측 또는 에너지 수요 예측과 같은 다양한 도메인에 적용할 수 있습니다. 크로노스 모델은 시계열 예측 작업에 맞게 조정되어 과거 데이터 패턴을 기반으로 정확한 예측이 가능합니다.

모델 이름	모델 ID	모델 소스	미세 조정 가능
크로노스 T5 스몰	`autogluon-forecasting-chronos-t5-small`	Amazon	아니요
크로노스 T5 기본	`autogluon-forecasting-chronos-t5-base`	Amazon	아니요
크로노스 T5 라지	`autogluon-forecasting-chronos-t5-large`	Amazon	아니요

공개적으로 사용 가능한 텍스트 생성 모델

텍스트 생성 파운데이션 모델은 텍스트 요약, 텍스트 분류, 질문 답변, 긴 형식의 콘텐츠 생성, 짧은 형식의 카피라이팅, 정보 추출 등을 비롯한 다양한 다운스트림 작업에 사용할 수 있습니다.

모델 이름	모델 ID	모델 소스	미세 조정 가능
Alexa TM 20B	`pytorch-textgeneration1-alexa20b`	Amazon	아니요
블룸 1b1	`huggingface-textgeneration-bloom-1b1`	Hugging Face	아니요
블룸 1b7	`huggingface-textgeneration-bloom-1b7`	Hugging Face	아니요
블룸 3B	`huggingface-textgeneration1-bloom-3b`	Hugging Face	예
블룸 560m	`huggingface-textgeneration-bloom-560m`	Hugging Face	아니요
블룸 7B1	`huggingface-textgeneration1-bloom-7b1`	Hugging Face	예
Bloomz 1b1	`huggingface-textgeneration-bloomz-1b1`	Hugging Face	아니요
Bloomz 1b7	`huggingface-textgeneration-bloomz-1b7`	Hugging Face	아니요
BloomZ 3B FP16	`huggingface-textgeneration1-bloom-3b-fp16`	Hugging Face	예
Bloomz 560m	`huggingface-textgeneration-bloomz-560m`	Hugging Face	아니요
BloomZ 7B1 FP16	`huggingface-textgeneration1-bloomz-7b1-fp16`	Hugging Face	예
코드 Llama 13B	`meta-textgeneration-llama-codellama-13b`	Meta	예
코드 Llama 13B 지침	`meta-textgeneration-llama-codellama-13b-instruct`	Meta	아니요
코드 Llama 13B Python	`meta-textgeneration-llama-codellama-13b-python`	Meta	예
코드 Llama 34B	`meta-textgeneration-llama-codellama-34b`	Meta	예
코드 Llama 34B 지침	`meta-textgeneration-llama-codellama-34b-instruct`	Meta	아니요
코드 Llama 34B Python	`meta-textgeneration-llama-codellama-34b-python`	Meta	예
코드 Llama 70B	`meta-textgeneration-llama-codellama-70b`	Meta	예
코드 Llama 70B 지침	`meta-textgeneration-llama-codellama-70b-instruct`	Meta	아니요
코드 Llama 70B Python	`meta-textgeneration-llama-codellama-70b-python`	Meta	예
코드 Llama 7B	`meta-textgeneration-llama-codellama-7b`	Meta	예
코드 Llama 7B 지침	`meta-textgeneration-llama-codellama-7b-instruct`	Meta	아니요
코드 Llama 7B Python	`meta-textgeneration-llama-codellama-7b-python`	Meta	예
CyberAgentLM2-7B-Chat(CALM2-7B-Chat)	`huggingface-llm-calm2-7b-chat-bf16`	Hugging Face	예
사용 중지GPT2	`huggingface-textgeneration-distilgpt2`	Hugging Face	아니요
Dolly V2 12b BF16	`huggingface-textgeneration-dolly-v2-12b-bf16`	Hugging Face	아니요
Dolly V2 3b BF16	`huggingface-textgeneration-dolly-v2-3b-bf16`	Hugging Face	아니요
Dolly V2 7b BF16	`huggingface-textgeneration-dolly-v2-7b-bf16`	Hugging Face	아니요
Dolphin 2.2.1 Mistral 7B	`huggingface-llm-dolphin-2-2-1-mistral-7b`	Hugging Face	아니요
Dolphin 2.5 혼합 8 7B	`huggingface-llm-dolphin-2-5-mixtral-8x7b`	Hugging Face	아니요
Dolphin 2.7 혼합 8 7B	`huggingface-llm-dolphin-2-7-mixtral-8x7b`	Hugging Face	아니요
EleutherAI GPT Neo 2.7B	`huggingface-llm-eleutherai-gpt-neo-1-3b`	Hugging Face	아니요
EleutherAI GPT Neo 2.7B	`huggingface-llm-eleutherai-gpt-neo-2-7b`	Hugging Face	아니요
Falcon 180B BF16	`huggingface-llm-falcon-180b-bf16`	Hugging Face	아니요
Falcon 180B 채팅 BF16	`huggingface-llm-falcon-180b-chat-bf16`	Hugging Face	아니요
Falcon 40B BF16	`huggingface-llm-falcon-40b-bf16`	Hugging Face	예
Falcon 40B 지침 BF16	`huggingface-llm-falcon-40b-instruct-bf16`	Hugging Face	예
Falcon 7B BF16	`huggingface-llm-falcon-7b-bf16`	Hugging Face	예
Falcon 7B 지침 BF16	`huggingface-llm-falcon-7b-instruct-bf16`	Hugging Face	예
Falcon 라이트	`huggingface-llm-amazon-falconlite`	Hugging Face	아니요
Falcon Lite 2	`huggingface-llm-amazon-falconlite2`	Hugging Face	아니요
Falcon RW 1B	`huggingface-llm-tiiuae-falcon-rw-1b`	Hugging Face	아니요
Flan-T5 기본	`huggingface-text2text-flan-t5-base`	Hugging Face	예
Samsum 데이터 세트에서 미세 조정된 Flan-T5 기본 모델	`huggingface-text2text-flan-t5-base-samsum`	Hugging Face	아니요
Flan-T5 라지	`huggingface-text2text-flan-t5-large`	Hugging Face	예
Flan-T5 스몰	`huggingface-text2text-flan-t5-small`	Hugging Face	예
Flan-T5 XL	`huggingface-text2text-flan-t5-xl`	Hugging Face	예
Flan-T5 XXL	`huggingface-text2text-flan-t5-xxl`	Hugging Face	예
플랜-UL2 BF16	`huggingface-text2text-flan-ul2-bf16`	Hugging Face	아니요
Gemma 2B	`huggingface-llm-gemma-2b`	Hugging Face	예
Gemma 2B 지침	`huggingface-llm-gemma-2b-instruct`	Hugging Face	예
Gemma 7B	`huggingface-llm-gemma-7b`	Hugging Face	예
Gemma 7B 지침	`huggingface-llm-gemma-7b-instruct`	Hugging Face	예
GPT 2	`huggingface-textgeneration-gpt2`	Hugging Face	아니요
GPT NeoX 20B FP16	`huggingface-textgeneration2-gpt-neox-20b-fp16`	Hugging Face	아니요
GPT NeoXT 채팅 기반 20B FP16	`huggingface-textgeneration2-gpt-neoxt-chat-base-20b-fp16`	Hugging Face	아니요
GPT-2 XL	`huggingface-textgeneration1-gpt-2-xl`	Hugging Face	예
GPT-J 6B	`huggingface-textgeneration1-gpt-j-6b`	Hugging Face	예
GPT-Neo 1.3B	`huggingface-textgeneration1-gpt-neo-1-3b`	Hugging Face	예
GPT-Neo 125M	`huggingface-textgeneration1-gpt-neo-125m`	Hugging Face	예
GPT-NEO 2.7B	`huggingface-textgeneration1-gpt-neo-2-7b`	Hugging Face	예
일본어 StableLM Instruct Alpha 7B v2	`model-textgenerationjp-japanese-stablelm-instruct-alpha-7b-v2`	Hugging Face	아니요
라이트GPT 지시 6B	`huggingface-textgeneration1-lightgpt`	Hugging Face	예
Lite Llama 460M 1T	`huggingface-llm-ahxt-litellama-460m-1t`	Hugging Face	아니요
Llama 2 13B	`meta-textgeneration-llama-2-13b`	Meta	예
Llama 2 13B 채팅	`meta-textgeneration-llama-2-13b-f`	Meta	예
Llama 2 13B Chat Neuron	`meta-textgenerationneuron-llama-2-13b-f`	Meta	아니요
Llama 2 13B 뉴런	`meta-textgenerationneuron-llama-2-13b`	Meta	예
Llama 2 70B	`meta-textgeneration-llama-2-70b`	Meta	예
Llama 2 70B 채팅	`meta-textgeneration-llama-2-70b-f`	Meta	예
Llama 2 70B Chat Neuron	`meta-textgenerationneuron-llama-2-70b-f`	Meta	아니요
Llama 2 70B 뉴런	`meta-textgenerationneuron-llama-2-70b`	Meta	아니요
Llama 2 7B	`meta-textgeneration-llama-2-7b`	Meta	예
Llama 2 7B 채팅	`meta-textgeneration-llama-2-7b-f`	Meta	예
Llama 2 7B Chat Neuron	`meta-textgenerationneuron-llama-2-7b-f`	Meta	아니요
Llama 2 7B 뉴런	`meta-textgenerationneuron-llama-2-7b`	Meta	예
Llama 3 8B	`meta-textgeneration-llama-3-8b`	Meta	예
Llama 3 8B 지침	`meta-textgeneration-llama-3-8b-instruct`	Meta	예
Llama 3 70B	`meta-textgeneration-llama-3-70b`	Meta	예
Llama 3 70B 지침	`meta-textgeneration-llama-3-70b-instruct`	Meta	예
Llama Guard 7B	`meta-textgeneration-llama-guard-7b`	Meta	아니요
미스랄 7B	`huggingface-llm-mistral-7b`	Hugging Face	예
Mistral 7B 지침	`huggingface-llm-mistral-7b-instruct`	Hugging Face	아니요
미스랄 7B OpenOrca AWQ	`huggingface-llm-thebloke-mistral-7b-openorca-awq`	Hugging Face	아니요
Mistral 7B SFT 알파	`huggingface-llm-huggingfaceh4-mistral-7b-sft-alpha`	Hugging Face	아니요
Mistral 7B SFT 베타	`huggingface-llm-huggingfaceh4-mistral-7b-sft-beta`	Hugging Face	아니요
Mistral Lite	`huggingface-llm-amazon-mistrallite`	Hugging Face	아니요
Mistral Trix V1	`huggingface-llm-cultrix-mistraltrix-v1`	Hugging Face	아니요
혼합 8x7B	`huggingface-llm-mixtral-8x7b`	Hugging Face	예
혼합 8x7B 명령어	`huggingface-llm-mixtral-8x7b-instruct`	Hugging Face	예
MPT 7B BF16	`huggingface-textgeneration1-mpt-7b-bf16`	Hugging Face	아니요
MPT 7B 지침 BF16	`huggingface-textgeneration1-mpt-7b-instruct-bf16`	Hugging Face	아니요
MPT 7B StoryWriter-65k+ BF16	`huggingface-textgeneration1-mpt-7b-storywriter-bf16`	Hugging Face	아니요
다국어 GPT	`huggingface-llm-ai-forever-mgpt`	Hugging Face	아니요
Nous Hermes 2 SOLAR 10.7B	`huggingface-llm-nousresearch-nous-hermes-2-solar-10-7b`	Hugging Face	아니요
Nous Hermes Llama 2 13B	`huggingface-llm-nousresearch-nous-hermes-llama2-13b`	Hugging Face	아니요
누스 에르메스 라마 2 7B	`huggingface-llm-nousresearch-nous-hermes-llama-2-7b`	Hugging Face	아니요
Open Hermes 2 Mistral 7B	`huggingface-llm-teknium-openhermes-2-mistral-7b`	Hugging Face	아니요
열기 LlaMa	`huggingface-textgeneration-open-llama`	Hugging Face	아니요
Llama 7B V2 열기	`huggingface-llm-openlm-research-open-llama-7b-v2`	Hugging Face	아니요
Platypus 2 7B	`huggingface-llm-garage-baind-platypus2-7b`	Hugging Face	아니요
Pythia 160m 중복	`huggingface-llm-eleutherai-pythia-160m-deduped`	Hugging Face	아니요
Pythia 7m Deduped	`huggingface-llm-eleutherai-pythia-70m-deduped`	Hugging Face	아니요
품질 관리형 Paraphrase 생성	`huggingface-text2text-qcpg-sentences`	Hugging Face	아니요
RedPajama INCITE 기본 3B V1	`huggingface-textgeneration1-redpajama-incite-base-3B-v1-fp16`	Hugging Face	예
RedPajama INCITE 기본 7B V1	`huggingface-textgeneration1-redpajama-incite-base-7B-v1-fp16`	Hugging Face	예
RedPajama INCITE 채팅 3B V1	`huggingface-textgeneration1-redpajama-incite-chat-3B-v1-fp16`	Hugging Face	예
RedPajama INCITE 채팅 7B V1	`huggingface-textgeneration1-redpajama-incite-chat-7B-v1-fp16`	Hugging Face	예
RedPajama INCITE 3B V1 지시	`huggingface-textgeneration1-redpajama-incite-instruct-3B-v1-fp16`	Hugging Face	예
RedPajama INCITE 지시 7B V1	`huggingface-textgeneration1-redpajama-incite-instruct-7B-v1-fp16`	Hugging Face	예
Rinna Bilingual GPT NeoX 4B 명령어 PPO	`huggingface-llm-bilingual-rinna-4b-instruction-ppo-bf16`	Hugging Face	아니요
Rinna Japanese GPT NeoX 3.6B 명령어 PPO	`huggingface-llm-rinna-3-6b-instruction-ppo-bf16`	Hugging Face	아니요
스타 채팅 알파	`huggingface-llm-huggingfaceh4-starchat-alpha`	Hugging Face	아니요
스타 채팅 베타	`huggingface-llm-huggingfaceh4-starchat-beta`	Hugging Face	아니요
StarCoder	`huggingface-llm-starcoder`	Hugging Face	아니요
StarCoderBase	`huggingface-llm-starcoderbase`	Hugging Face	아니요
T0pp	`huggingface-text2text-bigscience-t0pp`	Hugging Face	아니요
T5 One Line 요약	`huggingface-text2text-t5-one-line-summary`	Hugging Face	아니요
Tiny Llama 1.1B	`huggingface-llm-tinyllama-1-1b-intermediate-step-1431k-3`	Hugging Face	아니요
Tiny Llama 1.1B 채팅 V0.6	`huggingface-llm-tinyllama-tinyllama-1-1b-chat-v0-6`	Hugging Face	아니요
Tiny Llama 1.1B 채팅 V1	`huggingface-llm-tinyllama-tinyllama-1-1b-chat-v1-0`	Hugging Face	아니요
라이터 팔미라 스몰	`huggingface-llm-writer-palmyra-small`	Hugging Face	아니요
YARN Mistral 7B 128k	`huggingface-llm-nousresearch-yarn-mistral-7b-128k`	Hugging Face	아니요
Zephyr 7B 알파	`huggingface-llm-huggingfaceh4-zephyr-7b-alpha`	Hugging Face	아니요
Zephyr 7B 베타	`huggingface-llm-huggingfaceh4-zephyr-7b-beta`	Hugging Face	아니요

최신 텍스트 생성 JumpStart 파운데이션 모델을 탐색하려면 Amazon 제품 시작하기 SageMaker JumpStart 설명 페이지의 텍스트 생성 필터를 사용합니다. Amazon SageMaker Studio UI 또는 SageMaker Studio Classic UI에서 직접 작업을 기반으로 파운데이션 모델을 탐색할 수도 있습니다. 에서는 공개적으로 사용 가능한 텍스트 생성 모델의 하위 집합만 미세 조정할 수 있습니다 JumpStart. 자세한 내용은 Amazon SageMaker Studio Classic에서 파운데이션 모델 사용 단원을 참조하십시오.

공개적으로 사용 가능한 이미지 생성 모델

JumpStart 는 안정성 AI의 기본 모델과 의 특정 text-to-image 작업에 대해 사전 훈련된 모델을 포함한 다양한 Stable Diffusion 이미지 생성 파운데이션 모델을 제공합니다.Hugging Face. 파운데이션 모델을 미세 조정해야 하는 경우 안정성 AI의 Stable Diffusion 2.1 기반을 사용할 수 있습니다 text-to-image. 특정 아트 스타일에 대해 이미 훈련된 모델을 탐색하려면 에서 여러 타사 모델 중 하나를 탐색할 수 있습니다.Hugging Face Amazon SageMaker Studio UI 또는 SageMaker Studio Classic UI에서 직접.

최신 이미지 생성 JumpStart 파운데이션 모델을 탐색하려면 Amazon 제품 시작하기 SageMaker JumpStart 설명 페이지의 텍스트에서 이미지로 필터를 사용합니다. 선택한 text-to-image 파운데이션 모델을 시작하려면 섹션을 참조하세요JumpStart 파운데이션 모델 사용량.

독점 파운데이션 모델

Amazon SageMaker JumpStart 은 AI21 Labs , Cohere 및 와 같은 타사 공급자의 독점 파운데이션 모델에 대한 액세스를 제공합니다LightOn.

이러한 독점 모델 중 하나를 시작하려면 JumpStart 파운데이션 모델 사용량을 참조하세요. 독점 파운데이션 모델을 사용하려면 먼저 AWS Marketplace에서 모델을 구독해야 합니다. 모델을 구독한 후 Studio 또는 SageMaker Studio Classic에서 파운데이션 모델을 찾습니다. 자세한 내용은 SageMaker JumpStart 사전 훈련된 모델 단원을 참조하십시오.

다양한 사용 사례에 대한 최신 독점 파운데이션 모델을 알아보려면 Amazon 시작하기를 참조하세요 SageMaker JumpStart.

javascript가 브라우저에서 비활성화되거나 사용이 불가합니다.

AWS 설명서를 사용하려면 Javascript가 활성화되어야 합니다. 지침을 보려면 브라우저의 도움말 페이지를 참조하십시오.

문서 규칙

파운데이션 모델

파운데이션 모델 사용량