View a markdown version of this page

Eigenschaften des Modells - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Eigenschaften des Modells

Das HubContentDocument für Model HubContentType enthält die Metadaten, die ein JumpStart Modell beschreiben, einschließlich seiner ID, Lizenzierung, Bereitstellungskonfiguration und Anpassungsoptionen. Verwenden Sie diese Metadaten, um Modelle zu bewerten und zu vergleichen und fundierte Entscheidungen darüber zu treffen, welches Modell am besten zu Ihrem Anwendungsfall passt.

Beim Aufrufen der DescribeHubContent Operation für ein Modell enthält die Antwort ein HubContentDocument Feld, das als JSON-formatted Zeichenfolge zurückgegeben wird. In diesem Abschnitt werden die Eigenschaften des Dokuments für den beschrieben, Model HubContentType sodass es einfacher interpretiert werden kann.

Analysieren Sie die HubContentDocument Zeichenfolge als JSON, um die hier beschriebenen Eigenschaften zu lesen. Eigenschaftsnamen verwenden PascalCase. Ein Dokument enthält nur die Eigenschaften, die für das Modell gelten, daher sind die meisten Eigenschaften optional.

Die folgenden Eigenschaften sind immer vorhanden: Url TrainingSupportedIncrementalTrainingSupported,ModelTypes, undCapabilities. Alle anderen Eigenschaften sind optional und werden nur angezeigt, wenn sie für das Modell gelten.

Top-level Eigenschaften

In der folgenden Tabelle sind die Eigenschaften des Modells HubContentDocument auf oberster Ebene aufgeführt.

Eigenschaft

Typ

Description

Url

Url (string)

Die URL der Quellseite des Modells.

Erforderlich

MinSdkVersion

SemanticVersion

Die älteste Python-SDK-Version, die mit diesem Modell kompatibel ist.

Optional

TrainingSupported

boolean

Gibt an, ob das Modell den klassischen Python SDK-Trainingspfad unterstützt (nicht den rezeptbasierten Pfad).

Erforderlich

IncrementalTrainingSupported

boolean

Gibt an, ob das Modell ausgehend vom Ausgabeartefakt eines früheren Trainingsjobs erneut optimiert werden kann.

Erforderlich

ResourceNameBase

string

Der Basisname, der zur automatischen Benennung von Endpunkten und Trainingsjobs verwendet wird.

Optional

GatedBucket

boolean

Gibt an, ob die Modellgewichte angepasst sind. Um ein Gated Model bereitzustellen, müssen Sie die EULA akzeptieren (accept_EULA=true).

Optional

NovaModelType

string

Eine Markierung, die Amazon Nova-Modellvarianten identifiziert.

Optional

ModelTypes

enum[]

Die Lizenzklasse für das Modell. Gültige Werte sind PROPRIETARY (gesperrte Gewichte) oder OPEN_WEIGHTS (tragbare Gewichte).

Erforderlich

Task

string

Die ML-Aufgabenkategorie (z. B. Textgenerierung oder Bildklassifizierung).

Optional

Framework

string

Die origin/framework Familie des Modells (z. B. Huggingface, Meta oder Nova).

Optional

Provider

string

Die Organisation, die das Modell erstellt hat (z. B. Meta, Anthropic oder Amazon).

Optional

Datatype

string

Die Modalität des Modells (Text, Vision, Audio oder multimodal).

Optional

License

string

Eine kurze Lizenz-ID (z. B. Apache-2.0 MIT).

Optional

InputModalities

string[]

Die vom Modell akzeptierten Eingabetypen (Text, Bild, Audio, Video usw.).

Optional

OutputModalities

string[]

Die Ausgabetypen, die das Modell erzeugt (Text, Bild, Audio, Video usw.).

Optional

ModelAccess

string

Ein Tag der Zugriffsebene (öffentlich, geschlossen oder privat).

Optional

Languages

string[]

Die menschlichen Sprachen, in denen das Modell trainiert wurde.

Optional

ModelSize

string

Die Modellgröße nach Anzahl der Parameter.

Optional

ContextWindow

string

Die maximale Anzahl von Eingabe-Token, die das Modell verarbeiten kann.

Optional

MlFramework

string

Das ML-Framework, in dem das Modell ursprünglich trainiert wurde (zum Beispiel PyTorch).

Optional

HuggingfaceId

string

Die Hugging Face Hub-ID der Quelle, wenn das Modell aus Hugging Face gespiegelt wurde.

Optional

ModelProviderIconUri

string

Eine URL zum Logo-Bild des Anbieters für die Modellkarte.

Optional

Highlights

string[]

Eine Liste der Marketing-Highlights, die auf der Modelldetailseite angezeigt werden.

Optional

Resources

{DisplayName, Url}[]

Eine Liste externer Links (Fachartikel, Blog oder Code-Repository), die unter „Weitere Informationen“ angezeigt wird.

Optional

ContextualHelp

object

Der Inline-Hilfetext, der neben der Eingabe der Trainingsdaten (HubFormatTrainDataundHubDefaultTrainData) angezeigt wird.

Optional

Dependencies

object[]

Die Anweisungen zum Kopieren von Artefakten in einen Hub beim Import.

Optional

NotebookLocations

object

Der Container für die Beispiel-Notizbücher, der auf der Registerkarte Notizbücher des Modells angezeigt wird.

Optional

RecipeCollection

RecipeMetadata[]

Eine Sammlung von rezeptbasierten Anpassungen, unabhängig von. TrainingSupported

Optional

Capabilities

enum[]

Die Feature-Gates, die das Modell unterstützt (z. B. BEDROCK_CONSOLE, TRAINING, FINE_TUNING, CUSTOMIZATION, HYPERPOD_DEPLOYMENT).

Erforderlich

InferenceConfigs

object

Ein benannter Satz alternativer Bereitstellungskonfigurationen, die Root-Hosting-Felder überschreiben. Die Konfiguration mit der höchsten Priorität ist die Standardkonfiguration.

Optional

InferenceConfigComponents

object

Ein wiederverwendbarer Komponentenpool, auf den InferenceConfigs [*] verweist. ComponentNames.

Optional

InferenceConfigRankings

object

Gibt an, welcher InferenceConfigs Eintrag der Standardeintrag ist (Overall.rankings [0]).

Optional

TrainingConfigs

object

Ein benannter Satz von Trainingskonfigurationen für den klassischen Trainingspfad.

Optional

TrainingConfigComponents

object

Ein wiederverwendbarer Komponentenpool, auf den TrainingConfigs [*] verweist. ComponentNames.

Optional

TrainingConfigRankings

object

Gibt an, welcher TrainingConfigs Eintrag der Standardeintrag ist.

Optional

DynamicContainerDeploymentSupported

boolean

Gibt an, ob das Modell als Inferenzkomponente (dynamischer Container-Endpunkt) bereitgestellt werden kann.

Optional

HostingAdditionalDataSources

object

Zusätzliche Kanäle für Modelldaten zur Bereitstellungszeit, die in der Regel für die spekulative Dekodierung von Modellentwürfen verwendet werden.

Optional

BedrockIOMappingId

string

Die I/O Vertrags-ID, die verwendet wird, wenn das Modell von Amazon Bedrock aus aufgerufen wird.

Optional

HostingEcrUri

EcrUri

Das für die Bereitstellung verwendete Inferenzcontainer-Image.

Optional (für die Bereitstellung tatsächlich erforderlich)

HostingEcrSpecs

object

Das framework/version /Python-Triple, das zur Berechnung eines Deep-Learning-Container-Images verwendet wird.

Optional

HostingArtifactS3DataType

S3DataType

Gibt an, ob HostingArtifactUri es sich um ein S3Prefix (Verzeichnis) oder ein S3Object (einzelner Tarball) handelt.

Optional

HostingArtifactCompressionType

S3CompressionType

Gibt an, ob es oder None ist. HostingArtifactUri Gzip-compressed

Optional

HostingArtifactUri

S3Uri

Die S3-Position der Modellgewichte.

Optional

HostingScriptUri

S3Uri

Der S3-Speicherort des Inferenzskriptpakets (sourcedir.tar.gz).

Optional

HostingUseScriptUri

boolean

Gibt an, ob ein separates Skriptpaket abgerufen werden soll (false = vorverpackt).

Optional

HostingEulaUri

S3Uri

Die S3-URI der EULA des Modells; ihr Vorhandensein bestimmt das Modell (erfordert accept_eula).

Optional

HostingEulaExternalLink

string

Ein externer Link zur Lizenzseite des Anbieters.

Optional

ModelSubscriptionLink

string

Ein AWS Marketplace Abonnement-Link.

Optional

ListingId

string

Die AWS Marketplace Angebots-ID.

Optional

ProductId

string

Die AWS Marketplace Produkt-ID.

Optional

HostingModelPackageArn

ModelPackageArn

Der AWS Marketplace Bereitstellungspfad. Der Endpunkt wird aus einem Modellpaket statt aus einem Container-Image und einem Artefakt erstellt.

Optional

InferenceAmiVersion

enum

Das SageMaker-managed AMI (driver/CUDA Version) für den Endpunkt-Host.

Optional

ModelDataDownloadTimeout

int 60–3600

Die maximale SageMaker Wartezeit in Sekunden, bis die Modellgewichte von S3 heruntergeladen wurden.

Optional

ContainerStartupHealthCheckTimeout

int 60–3600

Die maximale SageMaker Wartezeit in Sekunden, bis die Integritätsprüfung des Containers 200 zurückgibt.

Optional

InferenceEnvironmentVariables

array

Die Container-Umgebungsvariablen, die zum Zeitpunkt der Bereitstellung festgelegt wurden.

Optional

InferenceDependencies

string[]

Die Python-Pakete, die der Inferenzcontainer beim Start installiert.

Optional

DefaultInferenceInstanceType

InstanceType

Der Standard-Instanztyp für die Bereitstellung.

Optional

SupportedInferenceInstanceTypes

InstanceType[]

Die für die Bereitstellung verfügbaren Instanztypen.

Optional

SageMakerSdkPredictorSpecifications

object

Die Header Content-Type und Accept, die beim Aufrufen des Modells verwendet wurden.

Optional

InferenceVolumeSize

int > 0

Das zusätzliche EBS-Volume in GB, das an den Endpunkt-Host angehängt ist.

Optional

InferenceEnableNetworkIsolation

boolean

Gibt an, ob das ausgehende Netzwerk für den Endpoint-Container gesperrt ist.

Optional

DefaultPayloads

object

Das kanonische Beispiel für Anforderungstexte für den Bereich mit den Beispielnutzdaten.

Optional

HostingResourceRequirements

object

Die CPU-, GPU- und Speicheranforderungen für die Bereitstellung als Inferenzkomponente.

Optional

HostingInstanceTypeVariants

object

Die Überschreibungen pro Instanzfamilie für die Bereitstellungskonfiguration (Image-URIs, Umgebungsvariablen und Modellpaket-ARNs).

Optional

TrainingArtifactS3DataType

S3DataType

Gibt an, ob es sich um ein S3Prefix oder ein S3Object handelt. TrainingArtifactUri

Optional

TrainingArtifactCompressionType

S3CompressionType

Gibt an, ob TrainingArtifactUri es oder None ist. Gzip-compressed

Optional

TrainingModelPackageArtifactUri

S3Uri

Der AWS Marketplace Trainingspfad. Die Gewichte stammen aus einem Modellpaket und nicht aus dem Modellkanal.

Optional

Hyperparameters

array

Die vom Kunden einstellbaren Parameter (Name, Typ, Standard, Minimum und Maximum) für den Trainingspfad.

Optional

TrainingScriptUri

S3Uri

Der S3-Speicherort des Trainingsskriptpakets (sourcedir.tar.gz).

Optional

TrainingEcrUri

EcrUri

Das Trainingscontainer-Image.

Optional

TrainingMetrics

array

Die Muster für reguläre Ausdrücke wurden aus den Protokollen in die CloudWatch Amazon-Metriken übernommen.

Optional

TrainingArtifactUri

S3Uri

Die vorab trainierten Gewichte flossen als Ausgangspunkt in den Trainingsjob ein.

Optional

TrainingDependencies

string[]

Die Python-Pakete, die der Trainingscontainer beim Start installiert.

Optional

DefaultTrainingInstanceType

InstanceType

Der Standard-Trainingsinstanztyp.

Optional

SupportedTrainingInstanceTypes

InstanceType[]

Die für das Training verfügbaren Instanztypen.

Optional

TrainingVolumeSize

int > 0

Das EBS-Volume (GB), das an den Trainingshost angeschlossen ist.

Optional

TrainingEnableNetworkIsolation

boolean

Gibt an, ob das ausgehende Netzwerk für den Trainingscontainer gesperrt ist.

Optional

FineTuningSupported

boolean

Ein veraltetes Eigentum. TrainingSupportedund die FINE_TUNING-Fähigkeit ersetzt diese Eigenschaft.

Optional

ValidationSupported

boolean

Eine veraltete Immobilie. Die VALIDATION-Funktion ersetzt diese Eigenschaft.

Optional

DefaultTrainingDatasetUri

S3Uri

Ein Beispieldatensatz, den der Assistent für eine Feinabstimmung in einem Schritt vorab ausfüllen kann.

Optional

EncryptInterContainerTraffic

boolean

Gibt an, ob der Datenverkehr zwischen Hosts während des verteilten Trainings verschlüsselt werden soll.

Optional

MaxRuntimeInSeconds

int >= 1

Die maximale Anzahl von Sekunden, bis der Trainingsjob beendet wird, auch wenn er nicht konvergiert ist.

Optional

DisableOutputCompression

boolean

Gibt an, ob die Komprimierung des Trainingsausgabeartefakts übersprungen werden soll.

Optional

ModelDir

string

Das Verzeichnis im Trainingscontainer, in das das Skript das endgültige Modell schreibt.

Optional

TrainingInstanceTypeVariants

object

Die Überschreibungen pro Instanzfamilie für die Trainingskonfiguration (Image-URIs und Gated-Model-Umgebungsvariablen).

Optional

Verschachtelte Eigenschaften

In der folgenden Tabelle sind die Eigenschaften aufgeführt, die in den Objekt- und Array-Eigenschaften der vorherigen Tabelle verschachtelt sind. Eine als erforderlich markierte verschachtelte Eigenschaft ist nur erforderlich, wenn die übergeordnete Eigenschaft vorhanden ist.

Anmerkung

Die TrainingConfigRankings Eigenschaften TrainingConfigs und haben dieselbe verschachtelte Struktur wie ihre Gegenstücke InferenceConfigs undInferenceConfigRankings. InferenceErsetzen Sie Training in den Eigenschaftenpfaden durch.

Pfad der Eigenschaft

Typ

Description

Dependencies[].DependencyOriginPath

S3 URI

Die S3-Quell-URI, aus der ImportHubContent jeweils kopiert werden soll.

Optional

Dependencies[].DependencyCopyPath

S3 URI

Die S3-Ziel-URI im Hub.

Optional

Dependencies[].DependencyType

enum SCRIPT | ARTIFACT | DATASET | NOTEBOOK | OTHER

Die Art des Artefakts, das kopiert wird.

Optional

Resources[].DisplayName

string

Das für Menschen lesbare Link-Label.

Optional

Resources[].Url

string

Die externe URL (Papier GitHub, Blog).

Optional

ContextualHelp.HubFormatTrainData

string[<=800][]

Die Absätze, in denen das erwartete Format der Trainingsdaten erklärt wird (bis zu 50).

Optional

ContextualHelp.HubDefaultTrainData

string[<=800][]

Die Absätze, die den Beispieldatensatz beschreiben (bis zu 50).

Optional

NotebookLocations.DemoNotebook

S3 URI

Der alte Speicherort für ein einzelnes Notizbuch. DemoNotebooksersetzt diese Eigenschaft.

Optional

NotebookLocations.DemoNotebooks

array (Title, S3Uri required per item)

Die Liste der Beispiel-Notizbücher, die auf der Registerkarte Notizbücher angezeigt wird.

Optional

NotebookLocations.ModelFit

string

Der Markdown-Inhalt für den Tab „Fine-tune“ im Überblick.

Optional

NotebookLocations.ModelDeploy

string

Der Markdown-Inhalt für die Tab-Übersicht „Bereitstellen“.

Optional

NotebookLocations.DemoNotebooks[].Title

string

Der angezeigte Titel des Notizbuches.

Erforderlich

NotebookLocations.DemoNotebooks[].S3Uri

S3 URI

Der S3-Speicherort der .ipynb-Datei.

Erforderlich

NotebookLocations.DemoNotebooks[].IsDefault

boolean

Gibt an, ob dieses Notizbuch vorausgewählt ist, wenn die Registerkarte geöffnet wird.

Optional

Hyperparameters[].Name

string (max 256)

Die Hyperparameter-ID, die an das Trainingsskript übergeben wurde.

Erforderlich

Hyperparameters[].Label

string (max 256)

Die im Formular angezeigte Anzeigenbezeichnung.

Optional

Hyperparameters[].Description

string

Eine Beschreibung oder ein Tooltip.

Optional

Hyperparameters[].Type

enum int | float | text

Der Datentyp des Hyperparameterwerts.

Erforderlich

Hyperparameters[].Default

int / float / string

Der Standardwert; type muss mit Type übereinstimmen.

Erforderlich

Hyperparameters[].Min

int / float

Der zulässige Mindestwert.

Optional

Hyperparameters[].Max

int / float

Der zulässige Höchstwert.

Optional

Hyperparameters[].Options

array

Die zulässigen Werte (nur Texttyp).

Optional

Hyperparameters[].Scope

enum algorithm | container

Gibt an, ob der Wert ein Trainingsskript-Argument oder eine Container-Umgebungsvariable ist.

Optional

Hyperparameters[].Validators

enum resourceName | resourceTag

Die zusätzliche Formatüberprüfung wurde auf den Wert angewendet.

Optional

InferenceEnvironmentVariables[].Name

string

Der Name der Umgebungsvariablen.

Erforderlich

InferenceEnvironmentVariables[].Type

enum int | float | text | bool

Der Wertetyp.

Erforderlich

InferenceEnvironmentVariables[].Default

value

Der Standardwert; Typ muss mit Type übereinstimmen.

Erforderlich

InferenceEnvironmentVariables[].Description

string

Eine Beschreibung oder ein Tooltip.

Optional

InferenceEnvironmentVariables[].Options

array

Die zulässigen Werte (nur Texttyp).

Optional

InferenceEnvironmentVariables[].Min

int / float

Der Mindestwert oder die Mindestlänge.

Optional

InferenceEnvironmentVariables[].Max

int / float

Der Höchstwert oder die maximale Länge.

Optional

InferenceEnvironmentVariables[].Scope

enum

Das Tag für den Wertebereich.

Optional

InferenceEnvironmentVariables[].RequiredForModelClass

string

Die Modellklasse, für die der Wert erforderlich ist.

Optional

InferenceEnvironmentVariables[].Validators

enum

Die zusätzliche Formatüberprüfung wurde auf den Wert angewendet.

Optional

TrainingMetrics[].Name

string (max 255)

Der Metrikname, unter dem veröffentlicht wurde CloudWatch.

Erforderlich

TrainingMetrics[].Regex

string (max 500)

Der auf Logs angewendete Regex; erfasst genau eine numerische Gruppe.

Erforderlich

SageMakerSdkPredictorSpecifications.DefaultContentType

string

Der Standard-Anforderungsheader Content-Type .

Erforderlich

SageMakerSdkPredictorSpecifications.SupportedContentTypes

string[]

Der Content-Types , den das Modell akzeptiert.

Erforderlich

SageMakerSdkPredictorSpecifications.DefaultAcceptType

string

Der Accept-Header der Standardantwort.

Erforderlich

SageMakerSdkPredictorSpecifications.SupportedAcceptTypes

string[]

Die Accept-Typen, die das Modell zurückgibt.

Erforderlich

DefaultPayloads[alias].ContentType

string

Die Content-Type Kopfzeile für dieses Beispiel.

Erforderlich

DefaultPayloads[alias].PromptKey

string

Der JSON-Pfad, über den eine Benutzeraufforderung in Body eingefügt wird.

Optional

DefaultPayloads[alias].Body

string | object

Der Beispiel-Anforderungstext.

Erforderlich

DefaultPayloads[alias].OutputKeys.GeneratedText

string

Der JSON-Pfad in der Antwort, der den generierten Text enthält.

Optional

DefaultPayloads[alias].OutputKeys.InputLogProbs

string

Der JSON-Pfad in der Antwort, der die Eingabe-Log-Probs enthält.

Optional

HostingResourceRequirements.NumAccelerators

integer

Die erforderliche Beschleunigeranzahl für eine Inferenzkomponente.

Optional

HostingResourceRequirements.NumCpus

integer

Die erforderliche vCPU-Anzahl.

Optional

HostingResourceRequirements.MinMemoryMb

integer

Der erforderliche Mindest-RAM in MB.

Erforderlich

HostingAdditionalDataSources[channelName][].ChannelName

string

Der SageMaker Kanalname (Mountpoint).

Erforderlich

HostingAdditionalDataSources[channelName][].ArtifactVersion

string

Das Versions-Tag für das zusätzliche Artefakt.

Optional

HostingAdditionalDataSources[channelName][].S3DataSource.S3DataType

enum

Der Amazon S3-Datentyp (S3Prefix oder S3Object).

Erforderlich

HostingAdditionalDataSources[channelName][].S3DataSource.S3Uri

S3 URI

Die S3-Position des zusätzlichen Artefakts.

Erforderlich

HostingAdditionalDataSources[channelName][].S3DataSource.CompressionType

enum

Der Komprimierungstyp (None oder Gzip).

Erforderlich

HostingAdditionalDataSources[channelName][].S3DataSource.HubAccessConfig.HubContentArn

string

Der HubContent ARN, dem der Download zugeordnet werden soll.

Optional

HostingAdditionalDataSources[channelName][].HostingEulaUri

S3 URI

Die EULA, die ein Benutzer akzeptieren muss, bevor er auf diese zusätzliche Datenquelle zugreifen kann.

Optional

HostingAdditionalDataSources[channelName][].Provider.Name

string

Der Anbietername für die Zuordnung.

Erforderlich

HostingAdditionalDataSources[channelName][].Provider.Classification

string

Die Anbieterklassifizierung.

Erforderlich

HostingInstanceTypeVariants.Aliases[alias]

ECR URI

Eine Bild-URI, die von vielen Instanztypen gemeinsam genutzt wird.

Optional

HostingInstanceTypeVariants.Variants[instanceType].Properties.ImageUri

ECR URI

Eine Inferenz-Image-Überschreibung pro Instanztyp.

Optional

HostingInstanceTypeVariants.Variants[instanceType].Properties.EnvironmentVariables

object

Die Umgebungsvariable pro Instanztyp überschreibt.

Optional

HostingInstanceTypeVariants.Variants[instanceType].Properties.ModelPackageArn

ModelPackage ARN

Eine Modellpaketüberschreibung pro Instanztyp AWS Marketplace .

Optional

HostingInstanceTypeVariants.Variants[instanceType].Properties.ListingId

string

Eine Auflistungs-ID pro Instanztyp AWS Marketplace .

Optional

HostingInstanceTypeVariants.Variants[instanceType].Properties.ProductId

string

Eine Produkt-ID pro Instanztyp AWS Marketplace .

Optional

TrainingInstanceTypeVariants.Aliases[alias]

ECR URI

Eine Bild-URI, die von vielen Instanztypen gemeinsam genutzt wird.

Optional

TrainingInstanceTypeVariants.Variants[instanceType].Properties.ImageUri

ECR URI

Eine Überschreibung des Trainingsbilds pro Instanztyp.

Optional

TrainingInstanceTypeVariants.Variants[instanceType].Properties.GatedModelEnvVarUri

S3 URI

Der URI für die Gewichtung des Gated-Models wird über eine Umgebungsvariable übergeben.

Optional

TrainingInstanceTypeVariants.Variants[instanceType].Properties.TrainingArtifactUri

S3 URI

Eine Überschreibung des Trainingsartefakts pro Instanz.

Optional

TrainingInstanceTypeVariants.Variants[instanceType].Properties.EnvironmentVariables

object

Die Umgebungsvariable pro Instanztyp überschreibt.

Optional

RecipeCollection[].Name

string (max 255)

Die maschinenlesbare Rezept-ID, die innerhalb der Sammlung eindeutig ist.

Erforderlich

RecipeCollection[].DisplayName

string (max 255)

Der menschenlesbare Rezepttitel.

Erforderlich

RecipeCollection[].Type

enum FineTuning | Evaluation

Gibt an, ob das Rezept das Modell optimiert oder evaluiert.

Erforderlich

RecipeCollection[].CustomizationTechnique

enum SFT | DPO | RLAIF | RLVR | PPO | CPT | DISTILL | MTRL

Der Algorithmus zur Feinabstimmung.

Optional

RecipeCollection[].EvaluationType

enum DeterministicTextBenchmark | DeterministicMultiModalBenchmark | DeterministicEvaluation | LLMAJEvaluation | MTRLEvaluation

Die Bewertungsmethodik (nur wenn Type=Evaluation).

Optional

RecipeCollection[].IsSubscriptionModel

boolean

Gibt an, ob für das Rezept ein aktives Abonnement erforderlich ist, bevor das Modell angepasst werden kann.

Optional

RecipeCollection[].Peft

enum LORA | QLORA | FULL

Der parametereffiziente Feinabstimmungsmodus.

Optional

RecipeCollection[].SequenceLength

enum 1K | 2K | 4K | 8K | 16K | 32K | 64K | 128K

Die Länge des Trainingskontexts für die Feinabstimmung.

Optional

RecipeCollection[].Hardware

enum GPU | TRAINIUM | CPU

Die Beschleuniger-Hardware-Familie (z. B. GPU, TRAINIUM oder CPU).

Optional

RecipeCollection[].Versions

string[]

Die Modellversionen, mit denen das Rezept kompatibel ist.

Erforderlich

RecipeCollection[].SmtjImageUri

ECR URI

Das Training-Container-Image, das verwendet wird, wenn das Rezept als SageMaker Trainingsjob ausgeführt wird.

Optional

RecipeCollection[].InstanceCount

integer

Die Standardanzahl von Instanzen für den Trainingsjob.

Optional

RecipeCollection[].Framework

enum CHECKPOINTLESS | NOVA | VERL | LLMFT

Die Trainings-Framework-Familie, auf der das Rezept ausgeführt wird.

Optional

RecipeCollection[].ServerlessMeteringType

enum Token-based | Hourly

Das serverlose Abrechnungsmodell (pro Token oder pro Stunde).

Optional

RecipeCollection[].ServerlessSku

string

Die SKU, für die der serverlose Zähler Gebühren berechnet.

Optional

RecipeCollection[].HostingConfigs

array

Die Bereitstellungsziele sind nach der Anpassung verfügbar.

Optional

RecipeCollection[].UseCases

string[]

Die Freitext-Tags für Anwendungsfälle.

Optional

RecipeCollection[].BestFor

string[]

Die Freitext-Tags, die sich am besten eignen.

Optional

RecipeCollection[].Description

string

Eine Freitextbeschreibung des Rezepts.

Optional

RecipeCollection[].SupportedInstanceTypes

array

Die Trainingsinstanztypen, die das Rezept unterstützt.

Optional

RecipeCollection[].RecipeFilePath

string

Der Pfad zur Rezeptdefinitionsdatei.

Optional

RecipeCollection[].HpEksPayloadTemplateS3Uri

S3 URI

Der S3-Speicherort der HyperPod (EKS) -Startvorlage.

Optional

RecipeCollection[].HpEksOverrideParamsS3Uri

S3 URI

Die S3-Position des HyperPod (EKS) -Parameters wird überschrieben.

Optional

RecipeCollection[].SmtjRecipeTemplateS3Uri

S3 URI

Der S3-Speicherort der Vorlage für den Start des SageMaker Schulungsauftrags.

Optional

RecipeCollection[].SmtjOverrideParamsS3Uri

S3 URI

Der S3-Speicherort des SageMaker Trainingsauftragsparameters wird außer Kraft gesetzt.

Optional

RecipeCollection[].HostingConfigs[].InstanceType

InstanceType

Ein Instanztyp, auf dem das benutzerdefinierte Modell bereitgestellt werden kann.

Erforderlich

RecipeCollection[].HostingConfigs[].Profile

string

Ein optionaler Name für das Bereitstellungsprofil.

Optional

RecipeCollection[].HostingConfigs[].EcrAddress

ECR URI

Eine optionale Überschreibung für das Inferenz-Container-Image.

Optional

RecipeCollection[].HostingConfigs[].Environment

object

Die Container-Umgebungsvariablen für dieses Bereitstellungsziel.

Optional

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.MinMemoryRequiredInMb

int >= 1

Der minimale Arbeitsspeicher in MB.

Erforderlich (wenn das übergeordnete Objekt festgelegt ist)

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.NumberOfCpuCoresRequired

int >= 1

Die Mindestanzahl von vCPUs.

Erforderlich (wenn das übergeordnete Objekt festgelegt ist)

RecipeCollection[].HostingConfigs[].ComputeResourceRequirements.NumberOfAcceleratorDevicesRequired

int >= 0

Die Mindestanzahl der Beschleuniger.

Erforderlich (wenn das übergeordnete Objekt festgelegt ist)

InferenceConfigs[configName].ComponentNames

string[]

Die Komponenten (von InferenceConfigComponents) wurden mit dieser Konfiguration zusammengeführt.

Erforderlich

InferenceConfigs[configName].HubContentDependencies[].HubContentArn

string

Die andere HubContent , von der diese Konfiguration abhängt.

Optional

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Name

string

Der Name der Metrik (Durchsatz, Latenz usw.).

Erforderlich

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Value

string

Der gemessene Wert.

Erforderlich

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Unit

string

Die Einheit (tokens/s, ms usw.).

Erforderlich

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].DisplayText

string

Eine Anzeigenbezeichnung für die Metrik.

Optional

InferenceConfigs[configName].BenchmarkMetrics[benchmarkName][].Concurrency

string

Die Parallelitätsstufe, bei der gemessen wurde.

Optional

InferenceConfigs[configName].AccelerationConfigs[].Type

string

Der Beschleunigungstyp (Compiler, Kernelfusion usw.).

Erforderlich

InferenceConfigs[configName].AccelerationConfigs[].Enabled

boolean

Gibt an, ob diese Beschleunigung angewendet wird.

Erforderlich

InferenceConfigs[configName].AccelerationConfigs[].Spec.Compiler

string

Der verwendete Compiler.

Optional

InferenceConfigs[configName].AccelerationConfigs[].Spec.Version

string

Die Compiler-Version.

Optional

InferenceConfigs[configName].AccelerationConfigs[].DiyWorkflowOverrides.Enabled

boolean

Das Workflow-Override-Flag zum Selbermachen (DIY).

Optional

InferenceConfigs[configName].AccelerationConfigs[].DiyWorkflowOverrides.Reason

string

Der Grund für die Überschreibung.

Optional

InferenceConfigRankings[rankingName].Description

string

Eine Beschreibung der Ranking-Dimension (z. B. „Billigste zuerst“).

Optional

InferenceConfigRankings[rankingName].Rankings

string[]

Die geordnete Liste der Konfigurationsnamen für dieses Ranking.

Optional