Properti model

Url

Url (string)

URL halaman sumber model.

Diperlukan

MinSdkVersion

SemanticVersion

Versi Python SDK tertua yang kompatibel dengan model ini.

Opsional

TrainingSupported

boolean

Menentukan apakah model mendukung jalur pelatihan Python SDK klasik (bukan jalur berbasis resep).

Diperlukan

IncrementalTrainingSupported

boolean

Menentukan apakah model dapat disempurnakan lagi mulai dari artefak keluaran pekerjaan pelatihan sebelumnya.

Diperlukan

ResourceNameBase

string

Nama dasar yang digunakan untuk memberi nama titik akhir dan pekerjaan pelatihan secara otomatis.

Opsional

GatedBucket

boolean

Menentukan apakah bobot model terjaga keamanannya. Untuk menerapkan model terjaga keamanannya, Anda harus menerima EULA (ACCEPT_EULA=true).

Opsional

NovaModelType

string

Penanda yang mengidentifikasi varian model Amazon Nova.

Opsional

ModelTypes

enum[]

Kelas lisensi untuk model. Nilai yang valid adalah PROPRIETARY (bobot terkunci) atau OPEN_WEIGHTS (bobot portabel).

Diperlukan

Task

string

Kategori tugas ML (misalnya, pembuatan teks atau klasifikasi gambar).

Opsional

Framework

string

origin/framework Keluarga model (misalnya, huggingface, meta, atau nova).

Opsional

Provider

string

Organisasi yang menghasilkan model (misalnya, Meta, Anthropic, atau Amazon).

Opsional

Datatype

string

Modalitas model (teks, visi, audio, atau multimodal).

Opsional

License

string

Pengidentifikasi lisensi pendek (misalnya, Apache-2.0 atau MIT).

Opsional

InputModalities

string[]

Jenis input yang diterima model (teks, gambar, audio, video, dan sebagainya).

Opsional

OutputModalities

string[]

Jenis keluaran yang dihasilkan model (teks, gambar, audio, video, dan sebagainya).

Opsional

ModelAccess

string

Tag tingkat akses (publik, terjaga keamanannya, atau pusat pribadi).

Opsional

Languages

string[]

Bahasa manusia yang digunakan model itu dilatih.

Opsional

ModelSize

string

Ukuran model dengan jumlah parameter.

Opsional

ContextWindow

string

Jumlah maksimum token input yang dapat diproses model.

Opsional

MlFramework

string

Kerangka kerja ML yang awalnya dilatih model (misalnya, PyTorch).

Opsional

HuggingfaceId

string

Sumber Hugging Face Hub ID, jika modelnya dicerminkan dari Hugging Face.

Opsional

ModelProviderIconUri

string

URL ke gambar logo penyedia untuk kartu model.

Opsional

Highlights

string[]

Daftar sorotan pemasaran yang ditampilkan pada halaman detail model.

Opsional

Resources

{DisplayName, Url}[]

Daftar tautan eksternal (kertas, blog, atau repositori kode) ditampilkan di bawah “Pelajari lebih lanjut.”

Opsional

ContextualHelp

object

Teks bantuan sebaris ditampilkan di sebelah input data pelatihan (HubFormatTrainDatadanHubDefaultTrainData).

Opsional

Dependencies

object[]

Instruksi untuk menyalin artefak ke hub pada waktu impor.

Opsional

NotebookLocations

object

Wadah untuk contoh notebook yang ditampilkan pada tab Notebook model.

Opsional

RecipeCollection

RecipeMetadata[]

Kumpulan penyesuaian berbasis resep, terlepas dari. TrainingSupported

Opsional

Capabilities

enum[]

Gerbang fitur yang didukung model (misalnya, BEDROCK_CONSOLE, TRAINING, FINE_TUNING, CUSTOMIZATION, HYPERPOD_DEPLOYMENT).

Diperlukan

InferenceConfigs

object

Kumpulan konfigurasi penerapan alternatif bernama yang menggantikan bidang hosting root. Konfigurasi peringkat teratas adalah default.

Opsional

InferenceConfigComponents

object

Kumpulan komponen yang dapat digunakan kembali direferensi InferenceConfigs kan oleh [*]. ComponentNames.

Opsional

InferenceConfigRankings

object

Menentukan InferenceConfigs entri mana yang merupakan default (Overall.Rankings [0]).

Opsional

TrainingConfigs

object

Satu set konfigurasi pelatihan bernama untuk jalur pelatihan klasik.

Opsional

TrainingConfigComponents

object

Kumpulan komponen yang dapat digunakan kembali direferensi TrainingConfigs kan oleh [*]. ComponentNames.

Opsional

TrainingConfigRankings

object

Menentukan TrainingConfigs entri mana yang merupakan default.

Opsional

DynamicContainerDeploymentSupported

boolean

Menentukan apakah model dapat digunakan sebagai Komponen Inferensi (titik akhir wadah dinamis).

Opsional

HostingAdditionalDataSources

object

Saluran data model-waktu penerapan tambahan, biasanya digunakan untuk model draf decoding spekulatif.

Opsional

BedrockIOMappingId

string

ID I/O kontrak yang digunakan saat model dipanggil dari Amazon Bedrock.

Opsional

HostingEcrUri

EcrUri

Gambar wadah inferensi yang digunakan untuk penerapan.

Opsional (secara efektif diperlukan untuk menyebarkan)

HostingEcrSpecs

object

Triple framework/version /Python digunakan untuk menghitung gambar Deep Learning Container.

Opsional

HostingArtifactS3DataType

S3DataType

Menentukan apakah HostingArtifactUri itu S3Prefix (direktori) atau S3Object (tarball tunggal).

Opsional

HostingArtifactCompressionType

S3CompressionType

Menentukan apakah HostingArtifactUri itu Gzip-compressed atau Tidak Ada.

Opsional

HostingArtifactUri

S3Uri

Lokasi S3 dari bobot model.

Opsional

HostingScriptUri

S3Uri

Lokasi S3 dari paket skrip inferensi (sourcedir.tar.gz).

Opsional

HostingUseScriptUri

boolean

Menentukan apakah akan mengambil paket skrip terpisah (false = prepacked).

Opsional

HostingEulaUri

S3Uri

URI S3 dari EULA model; keberadaannya menggerbang model (membutuhkan accept_eula).

Opsional

HostingEulaExternalLink

string

Tautan eksternal ke halaman lisensi vendor.

Opsional

ModelSubscriptionLink

string

Tautan AWS Marketplace berlangganan.

Opsional

ListingId

string

ID AWS Marketplace listing.

Opsional

ProductId

string

ID AWS Marketplace produk.

Opsional

HostingModelPackageArn

ModelPackageArn

Jal AWS Marketplace ur penerapan. Titik akhir dibuat dari paket model alih-alih gambar wadah dan artefak.

Opsional

InferenceAmiVersion

enum

SageMaker-managed AMI (driver/CUDA versi) untuk host titik akhir.

Opsional

ModelDataDownloadTimeout

int 60–3600

Detik maksimum SageMaker menunggu bobot model diunduh dari S3.

Opsional

ContainerStartupHealthCheckTimeout

int 60–3600

Detik maksimum SageMaker menunggu pemeriksaan kesehatan wadah mengembalikan 200.

Opsional

InferenceEnvironmentVariables

array

Variabel lingkungan kontainer ditetapkan pada waktu penerapan.

Opsional

InferenceDependencies

string[]

Paket Python yang diinstal wadah inferensi saat startup.

Opsional

DefaultInferenceInstanceType

InstanceType

Jenis instans penerapan default.

Opsional

SupportedInferenceInstanceTypes

InstanceType[]

Jenis instans yang tersedia untuk penerapan.

Opsional

SageMakerSdkPredictorSpecifications

object

He Content-Type ader dan Accept digunakan saat memanggil model.

Opsional

InferenceVolumeSize

int > 0

Volume EBS tambahan, dalam GB, dilampirkan ke host titik akhir.

Opsional

InferenceEnableNetworkIsolation

boolean

Menentukan apakah jaringan keluar diblokir dari wadah titik akhir.

Opsional

DefaultPayloads

object

Contoh kanonik meminta badan untuk panel sample-payload.

Opsional

HostingResourceRequirements

object

Persyaratan CPU, GPU, dan memori untuk penerapan sebagai Komponen Inferensi.

Opsional

HostingInstanceTypeVariants

object

Penggantian keluarga per instansi untuk konfigurasi penerapan (URI gambar, variabel lingkungan, dan ARN paket model).

Opsional

TrainingArtifactS3DataType

S3DataType

Menentukan apakah TrainingArtifactUri itu S3Prefix atau S3Object.

Opsional

TrainingArtifactCompressionType

S3CompressionType

Menentukan apakah TrainingArtifactUri itu Gzip-compressed atau Tidak Ada.

Opsional

TrainingModelPackageArtifactUri

S3Uri

Jal AWS Marketplace ur pelatihan. Bobot berasal dari paket model, bukan saluran model.

Opsional

Hyperparameters

array

Parameter yang dapat disetel pelanggan (nama, jenis, default, minimum, dan maksimum) untuk jalur pelatihan.

Opsional

TrainingScriptUri

S3Uri

Lokasi S3 dari paket skrip pelatihan (sourcedir.tar.gz).

Opsional

TrainingEcrUri

EcrUri

Gambar wadah pelatihan.

Opsional

TrainingMetrics

array

Pola ekspresi reguler terkikis dari log ke CloudWatch metrik Amazon.

Opsional

TrainingArtifactUri

S3Uri

Beban pra-terlatih dimasukkan ke dalam pekerjaan pelatihan sebagai titik awalnya.

Opsional

TrainingDependencies

string[]

Paket Python yang diinstal wadah pelatihan saat startup.

Opsional

DefaultTrainingInstanceType

InstanceType

Jenis instans pelatihan default.

Opsional

SupportedTrainingInstanceTypes

InstanceType[]

Jenis instans yang tersedia untuk pelatihan.

Opsional

TrainingVolumeSize

int > 0

Volume EBS (GB) yang melekat pada host pelatihan.

Opsional

TrainingEnableNetworkIsolation

boolean

Menentukan apakah jaringan keluar diblokir dari wadah pelatihan.

Opsional

FineTuningSupported

boolean

Properti warisan. TrainingSupporteddan kemampuan FINE_TUNING menggantikan properti ini.

Opsional

ValidationSupported

boolean

Properti warisan. Kemampuan VALIDASI menggantikan properti ini.

Opsional

DefaultTrainingDatasetUri

S3Uri

Dataset sampel yang dapat diisi sebelumnya oleh wizard untuk penyetelan satu langkah.

Opsional

EncryptInterContainerTraffic

boolean

Menentukan apakah akan mengenkripsi lalu lintas antar host selama pelatihan terdistribusi.

Opsional

MaxRuntimeInSeconds

int >= 1

Jumlah detik maksimum sebelum pekerjaan pelatihan dihentikan, meskipun belum konvergen.

Opsional

DisableOutputCompression

boolean

Menentukan apakah akan melewatkan kompresi artefak keluaran pelatihan.

Opsional

ModelDir

string

Direktori di dalam wadah pelatihan tempat skrip menulis model akhir.

Opsional

TrainingInstanceTypeVariants

object

Penggantian keluarga per instansi untuk konfigurasi pelatihan (URI gambar dan variabel lingkungan model gerbang).

Opsional

Dependencies[].DependencyOriginPath

S3 URI

Sumber URI S3 untuk disalin dari ImportHubContent waktu tertentu.

Opsional

Dependencies[].DependencyCopyPath

S3 URI

URI S3 tujuan di dalam hub.

Opsional

Dependencies[].DependencyType

enum SCRIPT | ARTIFACT | DATASET | NOTEBOOK | OTHER

Jenis artefak yang disalin.

Opsional

Resources[].DisplayName

string

Label tautan yang dapat dibaca manusia.

Opsional

Resources[].Url

string

URL eksternal (kertas, GitHub, blog).

Opsional

ContextualHelp.HubFormatTrainData

string[<=800][]

Paragraf yang menjelaskan format data pelatihan yang diharapkan (hingga 50).

Opsional

ContextualHelp.HubDefaultTrainData

string[<=800][]

Paragraf yang menggambarkan kumpulan data sampel (hingga 50).

Opsional

NotebookLocations.DemoNotebook

S3 URI

Lokasi notebook tunggal lama. DemoNotebooksmenggantikan properti ini.

Opsional

NotebookLocations.DemoNotebooks

array (Title, S3Uri required per item)

Daftar contoh buku catatan yang ditampilkan pada tab Notebook.

Opsional

NotebookLocations.ModelFit

string

Konten Markdown untuk ikhtisar tab Fine-tune "”.

Opsional

NotebookLocations.ModelDeploy

string

Ikhtisar konten Markdown untuk tab “Deploy”.

Opsional

NotebookLocations.DemoNotebooks[].Title

string

Judul tampilan notebook.

Diperlukan

NotebookLocations.DemoNotebooks[].S3Uri

S3 URI

Lokasi S3 dari file.ipynb.

Diperlukan

NotebookLocations.DemoNotebooks[].IsDefault

boolean

Menentukan apakah buku catatan ini telah dipilih sebelumnya saat tab terbuka.

Opsional

Hyperparameters[].Name

string (max 256)

Pengidentifikasi hyperparameter diteruskan ke skrip pelatihan.

Diperlukan

Hyperparameters[].Label

string (max 256)

Label tampilan ditampilkan dalam formulir.

Opsional

Hyperparameters[].Description

string

Deskripsi atau tooltip.

Opsional

Hyperparameters[].Type

enum int | float | text

Jenis data dari nilai hyperparameter.

Diperlukan

Hyperparameters[].Default

int / float / string

Nilai default; tipe harus cocok dengan Type.

Diperlukan

Hyperparameters[].Min

int / float

Nilai minimum yang diizinkan.

Opsional

Hyperparameters[].Max

int / float

Nilai maksimum yang diizinkan.

Opsional

Hyperparameters[].Options

array

Nilai yang diizinkan (hanya jenis teks).

Opsional

Hyperparameters[].Scope

enum algorithm | container

Menentukan apakah nilainya adalah argumen skrip pelatihan atau variabel lingkungan kontainer.

Opsional

Hyperparameters[].Validators

enum resourceName | resourceTag

Validasi format tambahan diterapkan pada nilai.

Opsional

InferenceEnvironmentVariables[].Name

string

Nama variabel lingkungan.

Diperlukan

InferenceEnvironmentVariables[].Type

enum int | float | text | bool

Jenis nilai.

Diperlukan

InferenceEnvironmentVariables[].Default

value

Nilai default; tipe harus cocok dengan Type.

Diperlukan

InferenceEnvironmentVariables[].Description

string

Deskripsi atau tooltip.

Opsional

InferenceEnvironmentVariables[].Options

array

Nilai yang diizinkan (hanya jenis teks).

Opsional

InferenceEnvironmentVariables[].Min

int / float

Nilai minimum atau panjang.

Opsional

InferenceEnvironmentVariables[].Max

int / float

Nilai maksimum atau panjang.

Opsional

InferenceEnvironmentVariables[].Scope

enum

Tag ruang lingkup nilai.

Opsional

InferenceEnvironmentVariables[].RequiredForModelClass

string

Kelas model yang nilainya diperlukan.

Opsional

InferenceEnvironmentVariables[].Validators

enum

Validasi format tambahan diterapkan pada nilai.

Opsional

TrainingMetrics[].Name

string (max 255)

Nama metrik yang diterbitkan ke CloudWatch.

Diperlukan

TrainingMetrics[].Regex

string (max 500)

Regex diterapkan pada log; menangkap tepat satu grup numerik.

Diperlukan

SageMakerSdkPredictorSpecifications.DefaultContentType

string

Content-Type Header permintaan default.

Diperlukan

SageMakerSdkPredictorSpecifications.SupportedContentTypes

string[]

Content-Types Yang diterima model.

Diperlukan

SageMakerSdkPredictorSpecifications.DefaultAcceptType

string

Tanggapan default Terima header.

Diperlukan

SageMakerSdkPredictorSpecifications.SupportedAcceptTypes

string[]

Jenis Accept yang dikembalikan model.

Diperlukan

DefaultPayloads[alias].ContentType

string

Content-Type Header untuk contoh ini.

Diperlukan

DefaultPayloads[alias].PromptKey

string

Jalur JSON tempat prompt pengguna dimasukkan ke dalam Body.

Opsional

DefaultPayloads[alias].Body

string | object

Contoh badan permintaan.

Diperlukan

DefaultPayloads[alias].OutputKeys.GeneratedText

string

Jalur JSON dalam respons menyimpan teks yang dihasilkan.

Opsional

DefaultPayloads[alias].OutputKeys.InputLogProbs

string

Jalur JSON dalam respons yang menyimpan input log-probs.

Opsional

HostingResourceRequirements.NumAccelerators

integer

Jumlah akselerator yang diperlukan untuk Komponen Inferensi.

Opsional

HostingResourceRequirements.NumCpus

integer

Jumlah vCPU yang diperlukan.

Opsional

HostingResourceRequirements.MinMemoryMb

integer

RAM minimum yang diperlukan dalam MB.

Diperlukan

HostingAdditionalDataSources[channelName][].ChannelName

string

Nama SageMaker saluran (titik pemasangan).

Diperlukan

HostingAdditionalDataSources[channelName][].ArtifactVersion

string

Tag versi untuk artefak tambahan.

Opsional

HostingAdditionalDataSources[channelName][].S3DataSource.S3DataType

enum

Jenis data Amazon S3 (S3Prefix atau S3Object).

Diperlukan

HostingAdditionalDataSources[channelName][].S3DataSource.S3Uri

S3 URI

Lokasi S3 dari artefak tambahan.

Diperlukan

HostingAdditionalDataSources[channelName][].S3DataSource.CompressionType

enum

Jenis kompresi (Tidak ada atau Gzip).

Diperlukan

HostingAdditionalDataSources[channelName][].S3DataSource.HubAccessConfig.HubContentArn

string

AR HubContent N untuk mengaitkan unduhan.

Opsional

HostingAdditionalDataSources[channelName][].HostingEulaUri

S3 URI

EULA yang harus diterima pengguna sebelum mengakses sumber data tambahan ini.

Opsional

HostingAdditionalDataSources[channelName][].Provider.Name

string

Nama penyedia untuk atribusi.

Diperlukan

HostingAdditionalDataSources[channelName][].Provider.Classification

string

Klasifikasi penyedia.

Diperlukan

HostingInstanceTypeVariants.Aliases[alias]

ECR URI

URI gambar yang dibagikan di banyak jenis instance.

Opsional

HostingInstanceTypeVariants.Variants[instanceType].Properties.ImageUri

ECR URI

Penggantian gambar inferensi tipe per instance.

Opsional

HostingInstanceTypeVariants.Variants[instanceType].Properties.EnvironmentVariables

object

Variabel lingkungan tipe-instance diganti.

Opsional

HostingInstanceTypeVariants.Variants[instanceType].Properties.ModelPackageArn

ModelPackage ARN

Penggantian paket AWS Marketplace model tipe-instance.

Opsional

HostingInstanceTypeVariants.Variants[instanceType].Properties.ListingId

string

ID listing tipe per instans AWS Marketplace .

Opsional

HostingInstanceTypeVariants.Variants[instanceType].Properties.ProductId

string

ID produk tipe-instans AWS Marketplace .

Opsional

TrainingInstanceTypeVariants.Aliases[alias]

ECR URI

URI gambar yang dibagikan di banyak jenis instance.

Opsional

TrainingInstanceTypeVariants.Variants[instanceType].Properties.ImageUri

ECR URI

Penggantian gambar pelatihan tipe per instance.

Opsional

TrainingInstanceTypeVariants.Variants[instanceType].Properties.GatedModelEnvVarUri

S3 URI

URI bobot model bergerbang melewati variabel lingkungan.

Opsional

TrainingInstanceTypeVariants.Variants[instanceType].Properties.TrainingArtifactUri

S3 URI

Penggantian artefak pelatihan tipe per instance.

Opsional

TrainingInstanceTypeVariants.Variants[instanceType].Properties.EnvironmentVariables

object

Variabel lingkungan tipe-instance diganti.

Opsional

RecipeCollection[].Name

string (max 255)

ID resep yang dapat dibaca mesin, unik dalam koleksi.

Diperlukan

RecipeCollection[].DisplayName

string (max 255)

Judul resep yang dapat dibaca manusia.

Diperlukan

RecipeCollection[].Type

enum FineTuning | Evaluation

Menentukan apakah resep menyempurnakan atau mengevaluasi model.

Diperlukan

RecipeCollection[].CustomizationTechnique

enum SFT | DPO | RLAIF | RLVR | PPO | CPT | DISTILL | MTRL

Algoritma penyempurnaan.

Opsional

RecipeCollection[].EvaluationType

enum DeterministicTextBenchmark | DeterministicMultiModalBenchmark | DeterministicEvaluation | LLMAJEvaluation | MTRLEvaluation

Metodologi evaluasi (hanya ketika Jenis = Evaluasi).

Opsional

RecipeCollection[].IsSubscriptionModel

boolean

Menentukan apakah resep memerlukan langganan aktif sebelum model dapat disesuaikan.

Opsional

RecipeCollection[].Peft

enum LORA | QLORA | FULL

Mode penyetelan hemat parameter.

Opsional

RecipeCollection[].SequenceLength

enum 1K | 2K | 4K | 8K | 16K | 32K | 64K | 128K

Panjang konteks pelatihan untuk penyetelan halus.

Opsional

RecipeCollection[].Hardware

enum GPU | TRAINIUM | CPU

Keluarga perangkat keras akselerator (misalnya, GPU, TRAINIUM, atau CPU).

Opsional

RecipeCollection[].Versions

string[]

Versi model yang kompatibel dengan resep tersebut.

Diperlukan

RecipeCollection[].SmtjImageUri

ECR URI

Gambar wadah pelatihan yang digunakan saat resep berjalan sebagai pekerjaan SageMaker pelatihan.

Opsional

RecipeCollection[].InstanceCount

integer

Jumlah instans default untuk pekerjaan pelatihan.

Opsional

RecipeCollection[].Framework

enum CHECKPOINTLESS | NOVA | VERL | LLMFT

Keluarga kerangka pelatihan yang menjalankan resep.

Opsional

RecipeCollection[].ServerlessMeteringType

enum Token-based | Hourly

Model penagihan tanpa server (per token atau per jam).

Opsional

RecipeCollection[].ServerlessSku

string

SKU yang dikenakan oleh meteran tanpa server.

Opsional

RecipeCollection[].HostingConfigs

array

Target penerapan tersedia setelah penyesuaian.

Opsional

RecipeCollection[].UseCases

string[]

Tag kasus penggunaan teks bebas.

Opsional

RecipeCollection[].BestFor

string[]

Tag teks bebas “terbaik untuk”.

Opsional

RecipeCollection[].Description

string

Deskripsi resep teks bebas.

Opsional

RecipeCollection[].SupportedInstanceTypes

array

Jenis contoh pelatihan yang didukung resep.

Opsional

RecipeCollection[].RecipeFilePath

string

Jalur ke file definisi resep.

Opsional

RecipeCollection[].HpEksPayloadTemplateS3Uri

S3 URI

Lokasi S3 dari template peluncuran HyperPod (EKS).

Opsional

RecipeCollection[].HpEksOverrideParamsS3Uri

S3 URI

Lokasi S3 dari parameter HyperPod (EKS) diganti.

Opsional

RecipeCollection[].SmtjRecipeTemplateS3Uri

S3 URI

Lokasi S3 dari template peluncuran pekerjaan SageMaker pelatihan.

Opsional

RecipeCollection[].SmtjOverrideParamsS3Uri

S3 URI

Lokasi S3 dari parameter pekerjaan SageMaker pelatihan diganti.

Opsional

RecipeCollection[].HostingConfigs[].InstanceType

InstanceType

Jenis instance yang dapat digunakan pada model khusus.

Diperlukan

RecipeCollection[].HostingConfigs[].Profile

string

Nama profil penerapan opsional.

Opsional

RecipeCollection[].HostingConfigs[].EcrAddress

ECR URI

Penggantian opsional untuk image kontainer inferensi.

Opsional

RecipeCollection[].HostingConfigs[].Environment

object

Variabel lingkungan kontainer untuk target penerapan ini.

Opsional

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.MinMemoryRequiredInMb

int >= 1

RAM minimum dalam MB.

Diperlukan (jika objek induk diatur)

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.NumberOfCpuCoresRequired

int >= 1

Jumlah vCPU minimum.

Diperlukan (jika objek induk diatur)

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.NumberOfAcceleratorDevicesRequired

int >= 0

Jumlah akselerator minimum.

Diperlukan (jika objek induk diatur)

InferenceConfigs[configName].ComponentNames

string[]

Komponen (dari InferenceConfigComponents) digabungkan ke dalam konfigurasi ini.

Diperlukan

InferenceConfigs[configName].HubContentDependencies[].HubContentArn

string

HubContent Yang lain tergantung pada konfigurasi ini.

Opsional

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Name

string

Nama metrik (throughput, latensi, dan sebagainya).

Diperlukan

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Value

string

Nilai yang diukur.

Diperlukan

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Unit

string

Unit (tokens/s, ms, dan sebagainya).

Diperlukan

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].DisplayText

string

Label tampilan untuk metrik.

Opsional

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Concurrency

string

Tingkat konkurensi yang diukur.

Opsional

InferenceConfigs[configName].AccelerationConfigs[].Type

string

Jenis akselerasi (kompiler, fusi kernel, dan sebagainya).

Diperlukan

InferenceConfigs[configName].AccelerationConfigs[].Enabled

boolean

Menentukan apakah akselerasi ini diterapkan.

Diperlukan

InferenceConfigs[configName].AccelerationConfigs[].Spec.Compiler

string

Kompiler yang digunakan.

Opsional

InferenceConfigs[configName].AccelerationConfigs[].Spec.Version

string

Versi kompiler.

Opsional

InferenceConfigs[configName].AccelerationConfigs[].DiyWorkflowOverrides.Enabled

boolean

Bendera penggantian alur kerja do-it-yourself (DIY).

Opsional

InferenceConfigs[configName].AccelerationConfigs[].DiyWorkflowOverrides.Reason

string

Alasan penggantian.

Opsional

InferenceConfigRankings[rankingName].Description

string

Deskripsi dimensi peringkat (misalnya, “termurah dulu”).

Opsional

InferenceConfigRankings[rankingName].Rankings

string[]

Daftar nama konfigurasi yang diurutkan untuk peringkat ini.

Opsional