利用可能な基盤モデル - Amazon SageMaker

利用可能な基盤モデル

Amazon SageMaker JumpStart では、最新技術を取り入れた公開の基盤モデルや独自の基盤モデルが組み込まれていて、これらをカスタマイズして生成 AI ワークフローに統合することができます。

公開されている基盤モデル

Amazon SageMaker JumpStart は、サードパーティーのソースからオープンソースの基盤モデルをオンボードし、維持しています。公開されているこれらのモデルのいずれかを使い始めるには、「JumpStart 基盤モデルの使用法」を参照するか、利用可能な サンプルノートブックの例 のいずれかを調べてください。公開されているモデルのサンプルノートブックで、モデル ID を切り替えて、同じモデルファミリー内のさまざまなモデルを試してみます。

公開されている JumpStart 基盤モデルを SageMaker Python SDK でデプロイする場合のモデル ID とリソースの詳細については、「SageMaker Python SDK で基盤モデルを使用する」を参照してください。

定義上、基盤モデルは多くのダウンストリームのタスクに適応できます。基盤モデルは膨大な量の一般的なドメインデータに基づいてトレーニングされ、同じモデルを複数のユースケースに合わせて実装またはカスタマイズすることができます。基盤モデルを選択するときは、まず、テキスト生成や画像生成など、特定のタスクを定義することから始めましょう。

公開されている時系列予測モデル

時系列予測モデルは、連続的なデータを経時的に分析し、予測するために設計されています。これらのモデルは、金融、天気予報、エネルギー需要予測など、さまざまな分野に応用できます。Chronos モデルは、時系列予測タスクに特化していて、過去のデータパターンに基づいて正確に予測できます。

モデル名 モデル ID モデルソース 微調整可能

Chronos T5 Small

autogluon-forecasting-chronos-t5-small

Amazon

不可

Chronos T5 Base

autogluon-forecasting-chronos-t5-base

Amazon

不可

Chronos T5 Large

autogluon-forecasting-chronos-t5-large

Amazon

不可

公開されているテキスト生成モデル

テキスト生成基盤モデルは、テキストの要約、テキストの分類、質問回答、長文コンテンツの生成、短い形式のコピーライティング、情報の抽出など、さまざまなダウンストリームタスクに使用できます。

モデル名 モデル ID モデルソース 微調整可能

Alexa TM 20B

pytorch-textgeneration1-alexa20b

Amazon

不可

Bloom 1b1

huggingface-textgeneration-bloom-1b1

Hugging Face

不可

Bloom 1b7

huggingface-textgeneration-bloom-1b7

Hugging Face

不可

Bloom 3B

huggingface-textgeneration1-bloom-3b

Hugging Face

可能

Bloom 560m

huggingface-textgeneration-bloom-560m

Hugging Face

不可

Bloom 7B1

huggingface-textgeneration1-bloom-7b1

Hugging Face

可能

Bloomz 1b1

huggingface-textgeneration-bloomz-1b1

Hugging Face

不可

Bloomz 1b7

huggingface-textgeneration-bloomz-1b7

Hugging Face

不可

BloomZ 3B FP16

huggingface-textgeneration1-bloom-3b-fp16

Hugging Face

可能

Bloomz 560m

huggingface-textgeneration-bloomz-560m

Hugging Face

不可

BloomZ 7B1 FP16

huggingface-textgeneration1-bloomz-7b1-fp16

Hugging Face

可能

Code Llama 13B

meta-textgeneration-llama-codellama-13b

Meta

可能

Code Llama 13B Instruct

meta-textgeneration-llama-codellama-13b-instruct

Meta

不可

Code Llama 13B Python

meta-textgeneration-llama-codellama-13b-python

Meta

可能

Code Llama 34B

meta-textgeneration-llama-codellama-34b

Meta

可能

Code Llama 34B Instruct

meta-textgeneration-llama-codellama-34b-instruct

Meta

不可

Code Llama 34B Python

meta-textgeneration-llama-codellama-34b-python

Meta

可能

Code Llama 70B

meta-textgeneration-llama-codellama-70b

Meta

可能

Code Llama 70B Instruct

meta-textgeneration-llama-codellama-70b-instruct

Meta

不可

Code Llama 70B Python

meta-textgeneration-llama-codellama-70b-python

Meta

可能

Code Llama 7B

meta-textgeneration-llama-codellama-7b

Meta

可能

Code Llama 7B Instruct

meta-textgeneration-llama-codellama-7b-instruct

Meta

不可

Code Llama 7B Python

meta-textgeneration-llama-codellama-7b-python

Meta

可能

CyberAgentLM2-7B-Chat (CALM2-7B-Chat)

huggingface-llm-calm2-7b-chat-bf16

Hugging Face

可能

DistilGPT2

huggingface-textgeneration-distilgpt2

Hugging Face

不可

Dolly V2 12b BF16

huggingface-textgeneration-dolly-v2-12b-bf16

Hugging Face

不可

Dolly V2 3b BF16

huggingface-textgeneration-dolly-v2-3b-bf16

Hugging Face

不可

Dolly V2 7b BF16

huggingface-textgeneration-dolly-v2-7b-bf16

Hugging Face

不可

Dolphin 2.2.1 Mistral 7B

huggingface-llm-dolphin-2-2-1-mistral-7b

Hugging Face

不可

Dolphin 2.5 Mixtral 8 7B

huggingface-llm-dolphin-2-5-mixtral-8x7b

Hugging Face

不可

Dolphin 2.7 Mixtral 8 7B

huggingface-llm-dolphin-2-7-mixtral-8x7b

Hugging Face

不可

EleutherAI GPT Neo 2.7B

huggingface-llm-eleutherai-gpt-neo-1-3b

Hugging Face

不可

EleutherAI GPT Neo 2.7B

huggingface-llm-eleutherai-gpt-neo-2-7b

Hugging Face

不可

Falcon 180B BF16

huggingface-llm-falcon-180b-bf16

Hugging Face

不可

Falcon 180B Chat BF16

huggingface-llm-falcon-180b-chat-bf16

Hugging Face

不可

Falcon 40B BF16

huggingface-llm-falcon-40b-bf16

Hugging Face

可能

Falcon 40B Instruct BF16

huggingface-llm-falcon-40b-instruct-bf16

Hugging Face

可能

Falcon 7B BF16

huggingface-llm-falcon-7b-bf16

Hugging Face

可能

Falcon 7B Instruct BF16

huggingface-llm-falcon-7b-instruct-bf16

Hugging Face

可能

Falcon Lite

huggingface-llm-amazon-falconlite

Hugging Face

不可

Falcon Lite 2

huggingface-llm-amazon-falconlite2

Hugging Face

不可

Falcon RW 1B

huggingface-llm-tiiuae-falcon-rw-1b

Hugging Face

不可

Flan-T5 Base

huggingface-text2text-flan-t5-base

Hugging Face

可能

Flan-T5 Base Model (Samsum データセットでファインチューニング済み)

huggingface-text2text-flan-t5-base-samsum

Hugging Face

不可

Flan-T5 Large

huggingface-text2text-flan-t5-large

Hugging Face

可能

Flan-T5 Small

huggingface-text2text-flan-t5-small

Hugging Face

可能

Flan-T5 XL

huggingface-text2text-flan-t5-xl

Hugging Face

可能

Flan-T5 XXL

huggingface-text2text-flan-t5-xxl

Hugging Face

可能

Flan-UL2 BF16

huggingface-text2text-flan-ul2-bf16

Hugging Face

不可

Gemma 2B

huggingface-llm-gemma-2b

Hugging Face

可能

Gemma 2B Instruct

huggingface-llm-gemma-2b-instruct

Hugging Face

可能

Gemma 7B

huggingface-llm-gemma-7b

Hugging Face

可能

Gemma 7B Instruct

huggingface-llm-gemma-7b-instruct

Hugging Face

可能

GPT 2

huggingface-textgeneration-gpt2

Hugging Face

不可

GPT NeoX 20B FP16

huggingface-textgeneration2-gpt-neox-20b-fp16

Hugging Face

不可

GPT NeoXT Chat Base 20B FP16

huggingface-textgeneration2-gpt-neoxt-chat-base-20b-fp16

Hugging Face

不可

GPT-2 XL

huggingface-textgeneration1-gpt-2-xl

Hugging Face

可能

GPT-J 6B

huggingface-textgeneration1-gpt-j-6b

Hugging Face

可能

GPT-Neo 1.3B

huggingface-textgeneration1-gpt-neo-1-3b

Hugging Face

可能

GPT-Neo 125M

huggingface-textgeneration1-gpt-neo-125m

Hugging Face

可能

GPT-NEO 2.7B

huggingface-textgeneration1-gpt-neo-2-7b

Hugging Face

可能

Japanese StableLM Instruct Alpha 7B v2

model-textgenerationjp-japanese-stablelm-instruct-alpha-7b-v2

Hugging Face

不可

LightGPT Instruct 6B

huggingface-textgeneration1-lightgpt

Hugging Face

可能

Lite Llama 460M 1T

huggingface-llm-ahxt-litellama-460m-1t

Hugging Face

不可

Llama 2 13B

meta-textgeneration-llama-2-13b

Meta

可能

Llama 2 13B Chat

meta-textgeneration-llama-2-13b-f

Meta

可能

Llama 2 13B Chat Neuron

meta-textgenerationneuron-llama-2-13b-f

Meta

不可

Llama 2 13B Neuron

meta-textgenerationneuron-llama-2-13b

Meta

可能

Llama 2 70B

meta-textgeneration-llama-2-70b

Meta

可能

Llama 2 70B Chat

meta-textgeneration-llama-2-70b-f

Meta

可能

Llama 2 70B Chat Neuron

meta-textgenerationneuron-llama-2-70b-f

Meta

不可

Llama 2 70B Neuron

meta-textgenerationneuron-llama-2-70b

Meta

不可

Llama 2 7B

meta-textgeneration-llama-2-7b

Meta

可能

Llama 2 7B Chat

meta-textgeneration-llama-2-7b-f

Meta

可能

Llama 2 7B Chat Neuron

meta-textgenerationneuron-llama-2-7b-f

Meta

不可

Llama 2 7B Neuron

meta-textgenerationneuron-llama-2-7b

Meta

可能

Llama 3 8B

meta-textgeneration-llama-3-8b

Meta

可能

Llama 3 8B Instruct

meta-textgeneration-llama-3-8b-instruct

Meta

可能

Llama 3 70B

meta-textgeneration-llama-3-70b

Meta

可能

Llama 3 70B Instruct

meta-textgeneration-llama-3-70b-instruct

Meta

可能

Llama Guard 7B

meta-textgeneration-llama-guard-7b

Meta

不可

Mistral 7B

huggingface-llm-mistral-7b

Hugging Face

可能

Mistral 7B Instruct

huggingface-llm-mistral-7b-instruct

Hugging Face

不可

Mistral 7B OpenOrca AWQ

huggingface-llm-thebloke-mistral-7b-openorca-awq

Hugging Face

不可

Mistral 7B SFT Alpha

huggingface-llm-huggingfaceh4-mistral-7b-sft-alpha

Hugging Face

不可

Mistral 7B SFT Beta

huggingface-llm-huggingfaceh4-mistral-7b-sft-beta

Hugging Face

不可

Mistral Lite

huggingface-llm-amazon-mistrallite

Hugging Face

不可

Mistral Trix V1

huggingface-llm-cultrix-mistraltrix-v1

Hugging Face

不可

Mixtral 8x7B

huggingface-llm-mixtral-8x7b

Hugging Face

可能

Mixtral 8x7B Instruct

huggingface-llm-mixtral-8x7b-instruct

Hugging Face

可能

MPT 7B BF16

huggingface-textgeneration1-mpt-7b-bf16

Hugging Face

不可

MPT 7B Instruct BF16

huggingface-textgeneration1-mpt-7b-instruct-bf16

Hugging Face

不可

MPT 7B StoryWriter-65k+ BF16

huggingface-textgeneration1-mpt-7b-storywriter-bf16

Hugging Face

不可

Multilingual GPT

huggingface-llm-ai-forever-mgpt

Hugging Face

不可

Nous Hermes 2 SOLAR 10.7B

huggingface-llm-nousresearch-nous-hermes-2-solar-10-7b

Hugging Face

不可

Nous Hermes Llama 2 13B

huggingface-llm-nousresearch-nous-hermes-llama2-13b

Hugging Face

不可

Nous Hermes Llama 2 7B

huggingface-llm-nousresearch-nous-hermes-llama-2-7b

Hugging Face

不可

Open Hermes 2 Mistral 7B

huggingface-llm-teknium-openhermes-2-mistral-7b

Hugging Face

不可

Open LlaMa

huggingface-textgeneration-open-llama

Hugging Face

不可

Open Llama 7B V2

huggingface-llm-openlm-research-open-llama-7b-v2

Hugging Face

不可

Platypus 2 7B

huggingface-llm-garage-baind-platypus2-7b

Hugging Face

不可

Pythia 160m Deduped

huggingface-llm-eleutherai-pythia-160m-deduped

Hugging Face

不可

Pythia 7m Deduped

huggingface-llm-eleutherai-pythia-70m-deduped

Hugging Face

不可

Quality Controlled Paraphrase Generation

huggingface-text2text-qcpg-sentences

Hugging Face

不可

RedPajama INCITE Base 3B V1

huggingface-textgeneration1-redpajama-incite-base-3B-v1-fp16

Hugging Face

可能

RedPajama INCITE Base 7B V1

huggingface-textgeneration1-redpajama-incite-base-7B-v1-fp16

Hugging Face

可能

RedPajama INCITE Chat 3B V1

huggingface-textgeneration1-redpajama-incite-chat-3B-v1-fp16

Hugging Face

可能

RedPajama INCITE Chat 7B V1

huggingface-textgeneration1-redpajama-incite-chat-7B-v1-fp16

Hugging Face

可能

RedPajama INCITE Instruct 3B V1

huggingface-textgeneration1-redpajama-incite-instruct-3B-v1-fp16

Hugging Face

可能

RedPajama INCITE Instruct 7B V1

huggingface-textgeneration1-redpajama-incite-instruct-7B-v1-fp16

Hugging Face

可能

Rinna Bilingual GPT NeoX 4B Instruction PPO

huggingface-llm-bilingual-rinna-4b-instruction-ppo-bf16

Hugging Face

不可

Rinna Japanese GPT NeoX 3.6B Instruction PPO

huggingface-llm-rinna-3-6b-instruction-ppo-bf16

Hugging Face

不可

Star Chat Alpha

huggingface-llm-huggingfaceh4-starchat-alpha

Hugging Face

不可

Star Chat Beta

huggingface-llm-huggingfaceh4-starchat-beta

Hugging Face

不可

StarCoder

huggingface-llm-starcoder

Hugging Face

不可

StarCoderBase

huggingface-llm-starcoderbase

Hugging Face

不可

T0pp

huggingface-text2text-bigscience-t0pp

Hugging Face

不可

T5 One Line Summary

huggingface-text2text-t5-one-line-summary

Hugging Face

不可

Tiny Llama 1.1B

huggingface-llm-tinyllama-1-1b-intermediate-step-1431k-3

Hugging Face

不可

Tiny Llama 1.1B Chat V0.6

huggingface-llm-tinyllama-tinyllama-1-1b-chat-v0-6

Hugging Face

不可

Tiny Llama 1.1B Chat V1

huggingface-llm-tinyllama-tinyllama-1-1b-chat-v1-0

Hugging Face

不可

Writer Palmyra Small

huggingface-llm-writer-palmyra-small

Hugging Face

不可

YARN Mistral 7B 128k

huggingface-llm-nousresearch-yarn-mistral-7b-128k

Hugging Face

不可

Zephyr 7B Alpha

huggingface-llm-huggingfaceh4-zephyr-7b-alpha

Hugging Face

不可

Zephyr 7B Beta

huggingface-llm-huggingfaceh4-zephyr-7b-beta

Hugging Face

不可

最新のテキスト生成 JumpStart 基盤モデルを調べるには、「Amazon SageMaker JumpStart の開始方法」製品詳細ページの [テキスト生成] フィルターを使用します。タスクに基づいた基盤モデルを Amazon SageMaker Studio UI または SageMaker Studio Classic UI で直接調べることもできます。JumpStart では、公開されているテキスト生成モデルの一部のみをファインチューニングに使用できます。詳細については、「Amazon SageMaker Studio Classic で基盤モデルを使用する」を参照してください。

公開されている画像生成モデル

JumpStart では、Stable Diffusion のさまざまな画像生成基盤モデルを提供しています。例えば、Stability AI のベースモデルや、テキストから画像を生成する特定のタスク向けに事前トレーニングされた Hugging Face のモデルがあります。text-to-image の基盤モデルを微調整する必要がある場合は、Stability AI の Stable Diffusion 2.1 ベースを使用できます。特定のアートスタイルでトレーニング済みのモデルを探す場合は、Hugging Face の多くのサードパーティーモデルのうちの 1 つを Amazon SageMaker Studio UI または SageMaker Studio Classic UI で直接調べることができます。

最新の画像生成 JumpStart 基盤モデルを調べるには、「Amazon SageMaker JumpStart の開始方法」製品詳細ページの [テキストで画像生成] フィルターを使用してください。選択した text-to-image 基盤モデルの使用を開始するには、「JumpStart 基盤モデルの使用法」を参照してください。

独自の基盤モデル

Amazon SageMaker JumpStart は、AI21 LabsCohereLightOn などのサードパーティープロバイダーが提供する独自の基盤モデルへのアクセスを提供します。

これらの独自モデルのいずれかを使い始めるには、「JumpStart 基盤モデルの使用法」を参照してください。独自の基盤モデルを使用するには、まず AWS Marketplace でモデルをサブスクライブする必要があります。モデルをサブスクライブした後、Studio または SageMaker Studio Classic でその基盤モデルを見つけてください。詳細については、「SageMaker JumpStart の事前トレーニング済みモデル」を参照してください。

さまざまなユースケースに対応する最新の独自の基盤モデルについては、「Amazon SageMaker JumpStart の開始方法」を参照してください。