View a markdown version of this page

モデルプロパティ - Amazon SageMaker AI

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

モデルプロパティ

HubContentType Model HubContentDocumentの には、ID、ライセンス、デプロイ設定、カスタマイズオプションなど、JumpStart モデルを記述するメタデータが含まれています。このメタデータを使用してモデルを評価および比較し、ユースケースに最適なモデルについて情報に基づいた意思決定を行います。

モデルの DescribeHubContent オペレーションを呼び出すと、レスポンスには HubContentDocumentフィールドが含まれ、JSON 形式の文字列として返されます。このセクションでは、より簡単に解釈できるように、HubContentType Model のそのドキュメントのプロパティについて説明します。

HubContentDocument 文字列を JSON として解析して、ここで説明するプロパティを読み込みます。プロパティ名は PascalCase を使用します。ドキュメントには、モデルに適用されるプロパティのみが含まれているため、ほとんどのプロパティはオプションです。

次のプロパティが常に存在します: Url、TrainingSupported、IncrementalTrainingSupported、ModelTypes、Capabilities。他のすべてのプロパティはオプションであり、モデルに適用される場合にのみ表示されます。

最上位プロパティ

次の表に、モデル の最上位プロパティを示しますHubContentDocument。

プロパティ

型

説明

Url

Url (string)

モデルのソースページの URL。

必須

MinSdkVersion

SemanticVersion

このモデルと互換性のある最も古い Python SDK バージョン。

オプション

TrainingSupported

boolean

モデルが従来の Python SDK トレーニングパス (レシピベースのパスではない) をサポートするかどうかを指定します。

必須

IncrementalTrainingSupported

boolean

前のトレーニングジョブの出力アーティファクトからモデルを再度ファインチューニングできるかどうかを指定します。

必須

ResourceNameBase

string

エンドポイントとトレーニングジョブに自動的に名前を付けるために使用されるベース名。

オプション

GatedBucket

boolean

モデルの重みをゲートするかどうかを指定します。ゲートモデルをデプロイするには、EULA (accept_eula=True) に同意する必要があります。

オプション

NovaModelType

string

Amazon Nova モデルバリアントを識別するマーカー。

オプション

ModelTypes

enum[]

モデルのライセンスクラス。有効な値は、PROPRIETARY (ロックされた重み) または OPEN_WEIGHTS (ポータブル重み) です。

必須

Task

string

ML タスクカテゴリ (テキスト生成や画像分類など)。

オプション

Framework

string

モデルのオリジン/フレームワークファミリー (huggingface、meta、nova など)。

オプション

Provider

string

モデルを生成した組織 (Meta、Anthropic、Amazon など)。

オプション

Datatype

string

モデルのモダリティ (テキスト、ビジョン、オーディオ、またはマルチモーダル)。

オプション

License

string

短いライセンス識別子 (Apache-2.0 や MIT など)。

オプション

InputModalities

string[]

モデルが受け入れる入力タイプ (テキスト、イメージ、オーディオ、ビデオなど)。

オプション

OutputModalities

string[]

モデルが生成する出力タイプ (テキスト、イメージ、オーディオ、ビデオなど)。

オプション

ModelAccess

string

アクセス階層タグ (パブリック、ゲート付き、またはプライベートハブ)。

オプション

Languages

string[]

モデルがトレーニングされた人間の言語。

オプション

ModelSize

string

パラメータ数によるモデルサイズ。

オプション

ContextWindow

string

モデルが処理できる入力トークンの最大数。

オプション

MlFramework

string

モデルが最初にトレーニングされた ML フレームワーク (PyTorch など)。

オプション

HuggingfaceId

string

モデルが Hugging Face からミラーリングされている場合のソース Hugging Face Hub ID。

オプション

ModelProviderIconUri

string

モデルカードのプロバイダーのロゴイメージへの URL。

オプション

Highlights

string[]

モデルの詳細ページに表示されるマーケティングハイライトのリスト。

オプション

Resources

{DisplayName, Url}[]

「詳細」の下に表示される外部リンク (紙、ブログ、またはコードリポジトリ) のリスト。

オプション

ContextualHelp

object

トレーニングデータ入力 (HubFormatTrainData および HubDefaultTrainData) の横に表示されるインラインヘルプテキスト。

オプション

Dependencies

object[]

インポート時にアーティファクトをハブにコピーする手順。

オプション

NotebookLocations

object

モデルのノートブックタブに表示されるサンプルノートブックのコンテナ。

オプション

RecipeCollection

RecipeMetadata[]

から独立したレシピベースのカスタマイズのコレクションTrainingSupported。

オプション

Capabilities

enum[]

モデルがサポートする機能ゲート (BEDROCK_CONSOLE、TRAINING、FINE_TUNING、CUSTOMIZATION、HYPERPOD_DEPLOYMENT など)。

必須

InferenceConfigs

object

ルートホスティングフィールドを上書きする代替デプロイ設定の名前付きセット。最上位の設定がデフォルトです。

オプション

InferenceConfigComponents

object

InferenceConfigs[*] によって参照される再利用可能なコンポーネントプール。ComponentNames。

オプション

InferenceConfigRankings

object

デフォルト (overall.Rankings[0]) の InferenceConfigs エントリを指定します。

オプション

TrainingConfigs

object

クラシックトレーニングパスの名前付きトレーニング設定のセット。

オプション

TrainingConfigComponents

object

TrainingConfigs[*] によって参照される再利用可能なコンポーネントプール。ComponentNames。

オプション

TrainingConfigRankings

object

デフォルトである TrainingConfigs エントリを指定します。

オプション

DynamicContainerDeploymentSupported

boolean

モデルを推論コンポーネント (動的コンテナエンドポイント) としてデプロイできるかどうかを指定します。

オプション

HostingAdditionalDataSources

object

追加のデプロイ時間モデルデータチャネル。通常は投機デコードドラフトモデルに使用されます。

オプション

BedrockIOMappingId

string

モデルが Amazon Bedrock から呼び出されるときに使用される I/O 契約 ID。

オプション

HostingEcrUri

EcrUri

デプロイに使用される推論コンテナイメージ。

オプション (デプロイに実質的に必要)

HostingEcrSpecs

object

Deep Learning Container イメージの計算に使用されるframework/version/Python トリプル。

オプション

HostingArtifactS3DataType

S3DataType

HostingArtifactUri が S3Prefix (ディレクトリ) か S3Object (単一の tarball) かを指定します。

オプション

HostingArtifactCompressionType

S3CompressionType

HostingArtifactUri が Gzip 圧縮か None かを指定します。

オプション

HostingArtifactUri

S3Uri

モデルの重みの S3 の場所。

オプション

HostingScriptUri

S3Uri

推論スクリプトパッケージの S3 の場所 (sourcedir.tar.gz)。

オプション

HostingUseScriptUri

boolean

別のスクリプトパッケージを取得するかどうかを指定します (false = prepacked)。

オプション

HostingEulaUri

S3Uri

モデルの EULA の S3 URI。その存在によりモデルがゲートされます (accept_eula が必要です)。

オプション

HostingEulaExternalLink

string

ベンダーのライセンスページへの外部リンク。

オプション

ModelSubscriptionLink

string

AWS Marketplace サブスクライブリンク。

オプション

ListingId

string

AWS Marketplace 出品 ID。

オプション

ProductId

string

AWS Marketplace 製品 ID。

オプション

HostingModelPackageArn

ModelPackageArn

AWS Marketplace デプロイパス。エンドポイントは、コンテナイメージとアーティファクトではなくモデルパッケージから作成されます。

オプション

InferenceAmiVersion

enum

エンドポイントホストの SageMaker マネージド AMI (ドライバー/CUDA バージョン)。

オプション

ModelDataDownloadTimeout

int 60–3600

SageMaker がモデルの重みが S3 からダウンロードされるまで待機する最大秒数。

オプション

ContainerStartupHealthCheckTimeout

int 60–3600

SageMaker がコンテナのヘルスチェックが 200 を返すまで待機する最大秒数。

オプション

InferenceEnvironmentVariables

array

デプロイ時に設定されるコンテナ環境変数。

オプション

InferenceDependencies

string[]

起動時に推論コンテナがインストールする Python パッケージ。

オプション

DefaultInferenceInstanceType

InstanceType

デフォルトのデプロイインスタンスタイプ。

オプション

SupportedInferenceInstanceTypes

InstanceType[]

デプロイに使用できるインスタンスタイプ。

オプション

SageMakerSdkPredictorSpecifications

object

モデルを呼び出すときに使用する Content-Type ヘッダーと Accept ヘッダー。

オプション

InferenceVolumeSize

int > 0

エンドポイントホストにアタッチされた追加の EBS ボリューム。GB 単位。

オプション

InferenceEnableNetworkIsolation

boolean

アウトバウンドネットワークをエンドポイントコンテナからブロックするかどうかを指定します。

オプション

DefaultPayloads

object

サンプルペイロードペインの正規リクエスト本文の例。

オプション

HostingResourceRequirements

object

推論コンポーネントとしてデプロイするための CPU、GPU、メモリの要件。

オプション

HostingInstanceTypeVariants

object

デプロイ設定 (イメージ URIs、環境変数、モデルパッケージ ARNs) のper-instance-familyオーバーライド。

オプション

TrainingArtifactS3DataType

S3DataType

TrainingArtifactUri が S3Prefix か S3Object かを指定します。

オプション

TrainingArtifactCompressionType

S3CompressionType

TrainingArtifactUri が Gzip 圧縮か None かを指定します。

オプション

TrainingModelPackageArtifactUri

S3Uri

AWS Marketplace トレーニングパス。重みは、モデルチャネルではなくモデルパッケージから取得されます。

オプション

Hyperparameters

array

トレーニングパスのカスタマー調整可能なパラメータ (名前、タイプ、デフォルト、最小値、最大値)。

オプション

TrainingScriptUri

S3Uri

トレーニングスクリプトパッケージの S3 の場所 (sourcedir.tar.gz)。

オプション

TrainingEcrUri

EcrUri

トレーニングコンテナイメージ。

オプション

TrainingMetrics

array

ログから Amazon CloudWatch メトリクスにスクレイプされた正規表現パターン。

オプション

TrainingArtifactUri

S3Uri

トレーニングジョブを開始点としてフィードする事前トレーニング済み重み。

オプション

TrainingDependencies

string[]

起動時にトレーニングコンテナがインストールする Python パッケージ。

オプション

DefaultTrainingInstanceType

InstanceType

デフォルトのトレーニングインスタンスタイプ。

オプション

SupportedTrainingInstanceTypes

InstanceType[]

トレーニングに使用できるインスタンスタイプ。

オプション

TrainingVolumeSize

int > 0

トレーニングホストにアタッチされた EBS ボリューム (GB)。

オプション

TrainingEnableNetworkIsolation

boolean

アウトバウンドネットワークをトレーニングコンテナからブロックするかどうかを指定します。

オプション

FineTuningSupported

boolean

レガシープロパティ。 TrainingSupportedと FINE_TUNING 機能は、このプロパティよりも優先されます。

オプション

ValidationSupported

boolean

レガシープロパティ。VALIDATION 機能は、このプロパティよりも優先されます。

オプション

DefaultTrainingDatasetUri

S3Uri

ウィザードが 1 ステップのファインチューニングのために事前入力できるサンプルデータセット。

オプション

EncryptInterContainerTraffic

boolean

分散トレーニング中にホスト間のトラフィックを暗号化するかどうかを指定します。

オプション

MaxRuntimeInSeconds

int >= 1

収束していない場合でも、トレーニングジョブが停止されるまでの最大秒数。

オプション

DisableOutputCompression

boolean

トレーニング出力アーティファクトの圧縮をスキップするかどうかを指定します。

オプション

ModelDir

string

スクリプトが最終モデルを書き込むトレーニングコンテナ内のディレクトリ。

オプション

TrainingInstanceTypeVariants

object

トレーニング設定 (イメージ URIs とゲートモデル環境変数) のper-instance-familyオーバーライド。

オプション

ネストされたプロパティ

次の表に、前の表のオブジェクトプロパティと配列プロパティ内にネストされたプロパティを示します。必須としてマークされたネストされたプロパティは、親プロパティが存在する場合にのみ必要です。

注記

プロパティTrainingConfigsと TrainingConfigRankingsプロパティは、 InferenceConfigsおよび InferenceConfigRankings プロパティと同じネストされた構造を持ちます。プロパティパスTrainingで を Inferenceに置き換えます。

プロパティパス

型

説明

Dependencies[].DependencyOriginPath

S3 URI

ImportHubContent 時刻にコピーするソース S3 URI。

オプション

Dependencies[].DependencyCopyPath

S3 URI

ハブ内の送信先 S3 URI。

オプション

Dependencies[].DependencyType

enum SCRIPT | ARTIFACT | DATASET | NOTEBOOK | OTHER

コピーされるアーティファクトの種類。

オプション

Resources[].DisplayName

string

人間が読めるリンクラベル。

オプション

Resources[].Url

string

外部 URL (紙、GitHub、ブログ)。

オプション

ContextualHelp.HubFormatTrainData

string[<=800][]

予想されるトレーニングデータ形式を説明する段落 (最大 50)。

オプション

ContextualHelp.HubDefaultTrainData

string[<=800][]

サンプルデータセットを記述する段落 (最大 50)。

オプション

NotebookLocations.DemoNotebook

S3 URI

従来の単一ノートブックの場所。 はこのプロパティよりもDemoNotebooks優先されます。

オプション

NotebookLocations.DemoNotebooks

array (Title, S3Uri required per item)

Notebooks タブに表示されるサンプルノートブックのリスト。

オプション

NotebookLocations.ModelFit

string

「ファインチューニング」タブの概要のマークダウンコンテンツ。

オプション

NotebookLocations.ModelDeploy

string

「デプロイ」タブの概要の Markdown コンテンツ。

オプション

NotebookLocations.DemoNotebooks[].Title

string

ノートブックの表示タイトル。

必須

NotebookLocations.DemoNotebooks[].S3Uri

S3 URI

.ipynb ファイルの S3 の場所。

必須

NotebookLocations.DemoNotebooks[].IsDefault

boolean

タブが開いたときに、このノートブックを事前に選択するかどうかを指定します。

オプション

Hyperparameters[].Name

string (max 256)

トレーニングスクリプトに渡されるハイパーパラメータ識別子。

必須

Hyperparameters[].Label

string (max 256)

フォームに表示される表示ラベル。

オプション

Hyperparameters[].Description

string

説明またはツールヒント。

オプション

Hyperparameters[].Type

enum int | float | text

ハイパーパラメータ値のデータ型。

必須

Hyperparameters[].Default

int / float / string

デフォルト値。タイプはタイプと一致する必要があります。

必須

Hyperparameters[].Min

int / float

許可される最小値。

オプション

Hyperparameters[].Max

int / float

許可される最大値。

オプション

Hyperparameters[].Options

array

使用できる値 (テキストタイプのみ)。

オプション

Hyperparameters[].Scope

enum algorithm | container

値が training-script 引数かコンテナ環境変数かを指定します。

オプション

Hyperparameters[].Validators

enum resourceName | resourceTag

値に適用される追加の形式検証。

オプション

InferenceEnvironmentVariables[].Name

string

環境変数の名前。

必須

InferenceEnvironmentVariables[].Type

enum int | float | text | bool

値タイプ。

必須

InferenceEnvironmentVariables[].Default

value

デフォルト値。タイプはタイプと一致する必要があります。

必須

InferenceEnvironmentVariables[].Description

string

説明またはツールヒント。

オプション

InferenceEnvironmentVariables[].Options

array

使用できる値 (テキストタイプのみ)。

オプション

InferenceEnvironmentVariables[].Min

int / float

最小値または長さ。

オプション

InferenceEnvironmentVariables[].Max

int / float

最大値または長さ。

オプション

InferenceEnvironmentVariables[].Scope

enum

値スコープタグ。

オプション

InferenceEnvironmentVariables[].RequiredForModelClass

string

値が必要なモデルクラス。

オプション

InferenceEnvironmentVariables[].Validators

enum

値に適用される追加の形式検証。

オプション

TrainingMetrics[].Name

string (max 255)

CloudWatch に発行されたメトリクス名。

必須

TrainingMetrics[].Regex

string (max 500)

ログに適用される正規表現。 は 1 つの数値グループのみをキャプチャします。

必須

SageMakerSdkPredictorSpecifications.DefaultContentType

string

デフォルトのリクエスト Content-Type ヘッダー。

必須

SageMakerSdkPredictorSpecifications.SupportedContentTypes

string[]

モデルが受け入れる Content-Types。

必須

SageMakerSdkPredictorSpecifications.DefaultAcceptType

string

デフォルトのレスポンス Accept ヘッダー。

必須

SageMakerSdkPredictorSpecifications.SupportedAcceptTypes

string[]

モデルが返す Accept タイプ。

必須

DefaultPayloads[alias].ContentType

string

この例の Content-Type ヘッダー。

必須

DefaultPayloads[alias].PromptKey

string

ユーザープロンプトが本文に挿入される JSON パス。

オプション

DefaultPayloads[alias].Body

string | object

リクエスト本文の例。

必須

DefaultPayloads[alias].OutputKeys.GeneratedText

string

生成されたテキストを保持するレスポンスの JSON パス。

オプション

DefaultPayloads[alias].OutputKeys.InputLogProbs

string

入力 log-probs を保持するレスポンスの JSON パス。

オプション

HostingResourceRequirements.NumAccelerators

integer

推論コンポーネントの必要なアクセラレーター数。

オプション

HostingResourceRequirements.NumCpus

integer

必要な vCPU 数。

オプション

HostingResourceRequirements.MinMemoryMb

integer

必要な最小 RAM を MB 単位で指定します。

必須

HostingAdditionalDataSources[channelName][].ChannelName

string

SageMaker チャネル名 (マウントポイント)。

必須

HostingAdditionalDataSources[channelName][].ArtifactVersion

string

追加のアーティファクトのバージョンタグ。

オプション

HostingAdditionalDataSources[channelName][].S3DataSource.S3DataType

enum

Amazon S3 データ型 (S3Prefix または S3Object)。

必須

HostingAdditionalDataSources[channelName][].S3DataSource.S3Uri

S3 URI

追加のアーティファクトの S3 の場所。

必須

HostingAdditionalDataSources[channelName][].S3DataSource.CompressionType

enum

圧縮タイプ (なしまたは Gzip)。

必須

HostingAdditionalDataSources[channelName][].S3DataSource.HubAccessConfig.HubContentArn

string

ダウンロードの属性となる HubContent ARN。

オプション

HostingAdditionalDataSources[channelName][].HostingEulaUri

S3 URI

この追加のデータソースにアクセスする前にユーザーが承諾する必要がある EULA。

オプション

HostingAdditionalDataSources[channelName][].Provider.Name

string

属性のプロバイダー名。

必須

HostingAdditionalDataSources[channelName][].Provider.Classification

string

プロバイダー分類。

必須

HostingInstanceTypeVariants.Aliases[alias]

ECR URI

多くのインスタンスタイプで共有されているイメージ URI。

オプション

HostingInstanceTypeVariants.Variants[instanceType].Properties.ImageUri

ECR URI

per-instance-type推論イメージの上書き。

オプション

HostingInstanceTypeVariants.Variants[instanceType].Properties.EnvironmentVariables

object

per-instance-type環境変数が上書きされます。

オプション

HostingInstanceTypeVariants.Variants[instanceType].Properties.ModelPackageArn

ModelPackage ARN

per-instance-type AWS Marketplace モデルパッケージオーバーライド。

オプション

HostingInstanceTypeVariants.Variants[instanceType].Properties.ListingId

string

per-instance-type AWS Marketplace リスト ID。

オプション

HostingInstanceTypeVariants.Variants[instanceType].Properties.ProductId

string

per-instance-type AWS Marketplace 製品 ID。

オプション

TrainingInstanceTypeVariants.Aliases[alias]

ECR URI

多くのインスタンスタイプで共有されているイメージ URI。

オプション

TrainingInstanceTypeVariants.Variants[instanceType].Properties.ImageUri

ECR URI

per-instance-typeトレーニングイメージの上書き。

オプション

TrainingInstanceTypeVariants.Variants[instanceType].Properties.GatedModelEnvVarUri

S3 URI

ゲートモデルは、環境変数を通過する URI を重み付けします。

オプション

TrainingInstanceTypeVariants.Variants[instanceType].Properties.TrainingArtifactUri

S3 URI

per-instance-typeトレーニングアーティファクトの上書き。

オプション

TrainingInstanceTypeVariants.Variants[instanceType].Properties.EnvironmentVariables

object

per-instance-type環境変数が上書きされます。

オプション

RecipeCollection[].Name

string (max 255)

コレクション内で一意な機械読み取り可能なレシピ ID。

必須

RecipeCollection[].DisplayName

string (max 255)

人間が読めるレシピのタイトル。

必須

RecipeCollection[].Type

enum FineTuning | Evaluation

レシピがモデルを微調整するか評価するかを指定します。

必須

RecipeCollection[].CustomizationTechnique

enum SFT | DPO | RLAIF | RLVR | PPO | CPT | DISTILL | MTRL

ファインチューニングアルゴリズム。

オプション

RecipeCollection[].EvaluationType

enum DeterministicTextBenchmark | DeterministicMultiModalBenchmark | DeterministicEvaluation | LLMAJEvaluation | MTRLEvaluation

評価方法 (Type=Evaluation の場合のみ)。

オプション

RecipeCollection[].IsSubscriptionModel

boolean

モデルをカスタマイズする前に、レシピにアクティブなサブスクリプションが必要かどうかを指定します。

オプション

RecipeCollection[].Peft

enum LORA | QLORA | FULL

パラメータ効率の高い微調整モード。

オプション

RecipeCollection[].SequenceLength

enum 1K | 2K | 4K | 8K | 16K | 32K | 64K | 128K

ファインチューニングのトレーニングコンテキストの長さ。

オプション

RecipeCollection[].Hardware

enum GPU | TRAINIUM | CPU

アクセラレーターハードウェアファミリー (GPU、TRAINIUM、CPU など)。

オプション

RecipeCollection[].Versions

string[]

レシピと互換性があるモデルバージョン。

必須

RecipeCollection[].SmtjImageUri

ECR URI

レシピが SageMaker トレーニングジョブとして実行されるときに使用されるトレーニングコンテナイメージ。

オプション

RecipeCollection[].InstanceCount

integer

トレーニングジョブのデフォルトのインスタンス数。

オプション

RecipeCollection[].Framework

enum CHECKPOINTLESS | NOVA | VERL | LLMFT

レシピを実行するトレーニングフレームワークファミリー。

オプション

RecipeCollection[].ServerlessMeteringType

enum Token-based | Hourly

サーバーレス請求モデル (トークンごとまたは 1 時間あたり)。

オプション

RecipeCollection[].ServerlessSku

string

サーバーレスメーターが請求する SKU。

オプション

RecipeCollection[].HostingConfigs

array

カスタマイズ後に利用可能なデプロイターゲット。

オプション

RecipeCollection[].UseCases

string[]

フリーテキストのユースケースタグ。

オプション

RecipeCollection[].BestFor

string[]

フリーテキストの「最適な」タグ。

オプション

RecipeCollection[].Description

string

レシピのフリーテキストの説明。

オプション

RecipeCollection[].SupportedInstanceTypes

array

レシピがサポートするトレーニングインスタンスタイプ。

オプション

RecipeCollection[].RecipeFilePath

string

レシピ定義ファイルへのパス。

オプション

RecipeCollection[].HpEksPayloadTemplateS3Uri

S3 URI

HyperPod (EKS) 起動テンプレートの S3 の場所。

オプション

RecipeCollection[].HpEksOverrideParamsS3Uri

S3 URI

HyperPod (EKS) パラメータの S3 の場所が上書きされます。

オプション

RecipeCollection[].SmtjRecipeTemplateS3Uri

S3 URI

SageMaker トレーニングジョブ起動テンプレートの S3 の場所。

オプション

RecipeCollection[].SmtjOverrideParamsS3Uri

S3 URI

SageMaker トレーニングジョブパラメータの SS3 の場所が上書きされます。

オプション

RecipeCollection[].HostingConfigs[].InstanceType

InstanceType

カスタマイズされたモデルをデプロイできるインスタンスタイプ。

必須

RecipeCollection[].HostingConfigs[].Profile

string

オプションのデプロイプロファイル名。

オプション

RecipeCollection[].HostingConfigs[].EcrAddress

ECR URI

推論コンテナイメージのオプションオーバーライド。

オプション

RecipeCollection[].HostingConfigs[].Environment

object

このデプロイターゲットのコンテナ環境変数。

オプション

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.MinMemoryRequiredInMb

int >= 1

MB 単位の最小 RAM。

必須 (親オブジェクトセットの場合)

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.NumberOfCpuCoresRequired

int >= 1

最小 vCPU 数。

必須 (親オブジェクトセットの場合)

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.NumberOfAcceleratorDevicesRequired

int >= 0

最小アクセラレーター数。

必須 (親オブジェクトセットの場合)

InferenceConfigs[configName].ComponentNames

string[]

コンポーネント (InferenceConfigComponents から) がこの設定にマージされました。

必須

InferenceConfigs[configName].HubContentDependencies[].HubContentArn

string

この設定が依存するもう 1 つの HubContent。

オプション

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Name

string

メトリクス名 (スループット、レイテンシーなど)。

必須

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Value

string

測定値。

必須

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Unit

string

単位 (トークン/秒、ミリ秒など)。

必須

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].DisplayText

string

メトリクスの表示ラベル。

オプション

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Concurrency

string

が測定した同時実行レベル。

オプション

InferenceConfigs[configName].AccelerationConfigs[].Type

string

アクセラレーションタイプ (コンパイラ、カーネルフュージョンなど)。

必須

InferenceConfigs[configName].AccelerationConfigs[].Enabled

boolean

このアクセラレーションを適用するかどうかを指定します。

必須

InferenceConfigs[configName].AccelerationConfigs[].Spec.Compiler

string

使用するコンパイラ。

オプション

InferenceConfigs[configName].AccelerationConfigs[].Spec.Version

string

コンパイラのバージョン。

オプション

InferenceConfigs[configName].AccelerationConfigs[].DiyWorkflowOverrides.Enabled

boolean

do-it-yourself (DIY) ワークフローオーバーライドフラグ。

オプション

InferenceConfigs[configName].AccelerationConfigs[].DiyWorkflowOverrides.Reason

string

オーバーライドの理由。

オプション

InferenceConfigRankings[rankingName].Description

string

ランク付けディメンションの説明 (たとえば、「一番早い」)。

オプション

InferenceConfigRankings[rankingName].Rankings

string[]

このランキングの設定名の順序付きリスト。

オプション