View a markdown version of this page

Verfügbare Basismodelle - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Verfügbare Basismodelle

Amazon SageMaker JumpStart bietet hochmoderne, integrierte, öffentlich verfügbare und firmeneigene Basismodelle, mit denen Sie Ihre generativen KI-Workflows anpassen und in diese integrieren können.

In den ersten beiden Tabs sind die Fundamentmodelle aufgeführt. In den letzten beiden Tabs sind die integrierten Algorithmen und die klassischen Algorithmen für maschinelles Lernen aufgeführt, die JumpStart auch Funktionen bereitstellen, bei denen es sich nicht um Basismodelle handelt.

Um alle verfügbaren JumpStart Foundation-Modelle aufzulisten:

import boto3 sagemaker_client = boto3.client("sagemaker", region_name="us-west-2") # List all available models in the SageMakerPublicHub all_models = [] next_token = None while True: params = {"HubName": "SageMakerPublicHub", "HubContentType": "Model"} if next_token: params["NextToken"] = next_token response = sagemaker_client.list_hub_contents(**params) all_models.extend(response["HubContentSummaries"]) next_token = response.get("NextToken") if not next_token: break print(f"Total models available: {len(all_models)}") for model in all_models[:5]: print(model["HubContentName"], model["HubContentVersion"])

So rufen Sie unterstützte Instanztypen und andere Metadaten für ein bestimmtes Modell ab:

import json import boto3 sagemaker_client = boto3.client("sagemaker", region_name="us-west-2") model_id = "meta-textgeneration-llama-3-3-70b-instruct" response = sagemaker_client.describe_hub_content( HubName="SageMakerPublicHub", HubContentType="Model", HubContentName=model_id ) # Parse the model metadata model_doc = json.loads(response["HubContentDocument"]) print(f"Supported instances: {model_doc['SupportedInferenceInstanceTypes']}") print(f"Default instance: {model_doc['DefaultInferenceInstanceType']}")

In den folgenden Tabellen sind die verfügbaren Modelle mit ihren Lizenz- und unterstützten Inferenzinstanztypen (Stand: 29. Juli 2026) aufgeführt. Die aktuellsten Informationen finden Sie in den API-Beispielen oben oder im Model-Hub in SageMaker Studio.

In einer Lizenzzelle wird „Nicht zutreffend“ angezeigt, wenn der Model Hub keine Lizenz für dieses Modell veröffentlicht. Erkundigen Sie sich beim Modellanbieter nach den Lizenzbedingungen, bevor Sie ein solches Modell verwenden. Ein leerer Wert oder ein Platzhalterwert in der Tabelle gewährt keine Rechte.

Einige Modelle bieten zusätzlich zu ihren Standardkonfigurationen alternative Hosting-Bereitstellungskonfigurationen. Jede Konfiguration optimiert das Modell für einen Anwendungsfall und ein Leistungsziel, und jede unterstützt ihre eigenen Instanztypen. Eine Konfiguration unterstützt oft eine kleinere oder kostengünstigere Instanz als die Standardinstanz. Überprüfen Sie daher die Konfigurationen, bevor Sie zu dem Schluss kommen, dass ein Modell eine große Instanz benötigt.

Ein Konfigurationsname verbindet einen Anwendungsfall mit einem Leistungsziel. Dabei handelt es sich um dieselben Anwendungsfälle und Leistungsziele, die SageMaker Studio auf der Seite „Modell auf Endpunkt bereitstellen“ unter Leistung anbietet. Ein Name hier und eine Auswahl dort beschreiben also dieselbe Bereitstellung. Der Anwendungsfall beschreibt die Arbeitslast:

  • generate(Generieren): Erstellen Sie umfangreiche Inhalte wie Artikel, Berichte oder Code anhand einer Eingabeaufforderung.

  • interact(Interagieren): Unterstützen Sie Konversationen in Echtzeit wie Chatbots oder virtuelle Assistenten.

  • summarize(Zusammenfassen): Fassen Sie umfangreiche Dokumente, Artikel oder Daten zu kurzen Zusammenfassungen zusammen.

  • modify(Ändern): Transformieren oder bearbeiten Sie vorhandene Inhalte, einschließlich Umschreiben, Übersetzen oder Neuformatieren.

  • max_context(Max Context): Verarbeiten Sie große Eingaben, für die das gesamte Kontextfenster des Modells erforderlich ist.

Das Leistungsziel beschreibt, wofür die Konfiguration optimiert ist:

  • best_price_performance(Ausgewogen): Ein ausgewogener Kompromiss zwischen Kosten, Latenz und Durchsatz. Gut für allgemeine Workloads oder wenn Sie sich nicht sicher sind, welche Kennzahl am wichtigsten ist.

  • lowest_cost(Kostenoptimiert): Niedrigste Infrastrukturkosten pro Anfrage. Akzeptiert eine höhere Latenz und einen niedrigeren Durchsatz, um die Kosten zu minimieren.

  • highest_throughput(Optimierter Durchsatz): Maximale Anzahl an Tokens pro Sekunde für Workloads mit hohem Volumen. Verwendet spekulative Dekodierung, um den Durchsatz zu erhöhen.

  • lowest_latency(Latenz optimiert): Niedrigste Zeit bis zum ersten Token (TTFT). Priorisiert Geschwindigkeit vor Durchsatz und Kosten.

Einige Modelle benennen stattdessen einen Serving-Container, z. B. lmi odertgi, oder verwenden ihn all_purpose für die Bereitstellung ohne Übernahme einer Arbeitslast.

Listen Sie die Konfigurationen für ein Modell zusammen mit ihren Benchmark-Metriken auf und stellen Sie dann eine Konfiguration mit dem SageMaker Python-SDK bereit:

from sagemaker.jumpstart.model import JumpStartModel model = JumpStartModel(model_id="meta-textgeneration-llama-3-1-8b-instruct") # Print every configuration with its instance types and benchmark metrics. model.list_deployment_configs() # Select a configuration and one of the instance types it supports. model.set_deployment_config( config_name="generate_lowest_cost", instance_type="ml.g6e.xlarge", ) predictor = model.deploy()

Bei der Bereitstellung ohne Aufruf werden die Standardkonfiguration und der Standardinstanztyp set_deployment_config verwendet.

Open-Weight Models (436)

Open-weight Foundation-Modelle sind öffentlich verfügbare Modelle von Anbietern wie Meta, Google, Mistral AI und anderen. Sie können diese Modelle für Ihren Anwendungsfall bereitstellen, optimieren und anpassen.

Um mit einem dieser Modelle zu beginnen, schauen Sie sich eines der verfügbaren Beispiel-Notebooks Modelle an JumpStart Verwendung des Foundation-Modells oder erkunden Sie es. Versuchen Sie in einem bestimmten Beispielnotizbuch, die Modell-ID auszutauschen, um mit verschiedenen Modellen innerhalb derselben Modellfamilie zu experimentieren.

Weitere Informationen zu Modell-IDs und Ressourcen zur Bereitstellung öffentlich verfügbarer JumpStart Foundation-Modelle mit dem SageMaker Python SDK finden Sie unterVerwenden Sie Fundamentmodelle mit SageMaker Python SDK.

Anbieter Modellname Modell-ID Aufgabe License Fine-tunable Unterstützte Inferenz-Instanztypen

01-Ai

Yi-1.5-34B

huggingface-llm-yi-1-5-34b

Textgenerierung

Apache 2.0

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

01-Ai

Yi-1.5-9B

huggingface-llm-yi-1-5-9b

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g5.16 x groß, ml.g5.24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24 x groß, ml.p4de.24 x groß, ml.p5.48 x groß

Hxt

Lite Lama 460M 1T

huggingface-llm-ahxt-litellama-460m-1t

Textgenerierung

mit

Nein

ml.g5.2xlarge

Ai-Forever

Multilingual GPT

huggingface-llm-ai-forever-mgpt

Textgenerierung

Apache 2.0

Nein

ml.g5.2xlarge

Ai Singapur

Llama3 8B v2.1 Anleitung SEA-Lion

huggingface-llm-llama3-8b-sealionv21-instruct

Textgenerierung

Llama3

Nein

ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.p4d. 24 x groß, ml.p 5,48 x groß

Aisingapur

SEA-LION 3B

huggingface-llm-sealion-3b

Textgenerierung

mit

Nein

ml.g4dn.2 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.p 3,8 x groß

Ai Singapur

SEA-LION 7B

huggingface-llm-sealion-7b

Textgenerierung

mit

Nein

ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Ai Singapur

SEA-LION 7B anweisen

huggingface-llm-sealion-7b-instruct

Textgenerierung

mit

Nein

ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Alibaba-Nlp

Alibaba-NLP get- Qwen2-7B-instruct

huggingface-textembedding-gte-qwen2-7b-instruct

Einbettung von Text

Apache-2.0

Nein

ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß

Allenai

Olmo-3-7B-Instruct

huggingface-textgeneration-olmo-3-7b-instruct

Textgenerierung

Apache 2.0

Nein

ml.g6e.24xlarge

Amazon

Chronos 2

pytorch-forecasting-chronos-2

Zeitreihenprognosen

Apache 2.0

Nein

ml.c5,2 x groß, ml.5,4 x groß, ml.c5.x groß, ml.g4dn.2 x groß, ml.g4dn.xgroß, ml.g5,2 x groß, ml.g5.xgroß, ml.g5.xgroß, ml.g6,2 x groß, ml.g6,2 x groß, ml.g6e.xgroß, ml.m5,2 x groß, ml.g6e.xgroß, ml.m5,2 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5,x groß

Amazon

Falcon Lite

huggingface-llm-amazon-falconlite

Textgenerierung

Apache 2.0

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß

Amazon

Falcon Lite 2

huggingface-llm-amazon-falconlite2

Textgenerierung

Apache 2.0

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß

Amazon

Mistral Lite

huggingface-llm-amazon-mistrallite

Textgenerierung

Apache 2.0

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.2x groß, ml.g5.48x groß, ml.p4d.24x groß

Autogluon

Chronos-Bolt (Basis)

autogluon-forecasting-chronos-bolt-base

Zeitreihenprognosen

Apache 2.0

Nein

ml.c5,2 x groß, ml.5,4 x groß, ml.c5.x groß, ml.g4dn.2 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.xgroß, ml.p3,2 x groß

Autogluon

Chronos-Bolt (Klein)

autogluon-forecasting-chronos-bolt-small

Zeitreihenprognosen

Apache 2.0

Nein

ml.c5,2 x groß, ml.5,4 x groß, ml.c5.x groß, ml.g4dn.2 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.xgroß, ml.p3,2 x groß

Autogluon

Chronos-T5 (Basis)

autogluon-forecasting-chronos-t5-base

Zeitreihenprognosen

Apache 2.0

Nein

ml.g4dn.2 x groß, ml.g4dn. 4 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.p 3,2 x groß

Autogluon

Chronos-T5 (Groß)

autogluon-forecasting-chronos-t5-large

Zeitreihenprognosen

Apache 2.0

Nein

ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.4x groß, ml.g5.xgroß, ml.p3.2xgroß

Autogluon

Chronos-T5 (Klein)

autogluon-forecasting-chronos-t5-small

Zeitreihenprognosen

Apache 2.0

Nein

ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.4x groß, ml.g5.xgroß, ml.p3.2xgroß

Baai

BAAI bge-base-en-v1.5

huggingface-textembedding-bge-base-en-v1-5

Einbettung von Text

MIT

Nein

ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß

Baai

BGE Base De

huggingface-sentencesimilarity-bge-base-en

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Baai

BGE Base De V1.5

huggingface-sentencesimilarity-bge-base-en-v1-5

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Baai

BGE Großes Ende

huggingface-sentencesimilarity-bge-large-en

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Baai

BGE Großes Ende V1.5

huggingface-sentencesimilarity-bge-large-en-v1-5

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Baai

GROSS 3 M

huggingface-sentencesimilarity-bge-m3

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Baai

BGE Kleines Ende

huggingface-sentencesimilarity-bge-small-en

Satzähnlichkeit

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Baai

BGE Kleines Ende V1.5

huggingface-sentencesimilarity-bge-small-en-v1-5

Satzähnlichkeit

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Berkeley-Nest

Starling LM 7B Alpha

huggingface-llm-berkeley-nest-starling-lm-7b-alpha

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß

Bharatgenai

Param2-17B-A2.4B-Thinking

huggingface-llm-param2-17b-a2-4b-thinking

Textgenerierung

Nicht zutreffend

Nein

ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß

Großer Code

StarCoder

huggingface-llm-starcoder

Textgenerierung

Bigcode-OpenRail-M

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Großer Code

StarCoderBase

huggingface-llm-starcoderbase

Textgenerierung

Bigcode-OpenRail-M

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Große Wissenschaft

Bloom 1b1

huggingface-textgeneration-bloom-1b1

Textgenerierung

BigScience-Bloom-Rail-1.0

Nein

ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß

Große Wissenschaft

Bloom 3B

huggingface-textgeneration1-bloom-3b

Textgenerierung

BigScience-Bloom-Rail-1.0

Ja

ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß

Große Wissenschaft

Bloom 7B1

huggingface-textgeneration1-bloom-7b1

Textgenerierung

BigScience-Bloom-Rail-1.0

Ja

ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß

Große Wissenschaft

Bloomz 1b7

huggingface-textgeneration-bloomz-1b7

Textgenerierung

BigScience-Bloom-Rail-1.0

Nein

ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß

Große Wissenschaft

BloomZ 7B1 FP16

huggingface-textgeneration1-bloomz-7b1-fp16

Textgenerierung

BigScience-Bloom-Rail-1.0

Ja

ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß

Bingu

Bingsu meine koreanische stabile Diffusion v1 5

huggingface-txt2img-bingsu-my-korean-stable-diffusion-v1-5

Text-to-Image

creativeml-openrail-m

Nein

ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß

Black-Forest-Labs

Black Forest Labs [schnell] FLUX.1

huggingface-txt2img-black-forest-labs-flux-1-schnell

Text-to-Image

Apache 2.0

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß, ml.p5.48x groß

Black-Forest-Labs

FLUX.2-Klein-Base-4B

huggingface-img2img-flux-2-klein-base-4b

Image-Text-to-Image

Apache-2.0

Nein

ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.g7e.12 x groß, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.48 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß

Kognitive Berechnungen

Dolphin 2.2.1 Mistral 7B

huggingface-llm-dolphin-2-2-1-mistral-7b

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß

Kognitive Berechnungen

Dolphin 2.5 Mixtral 8 7B

huggingface-llm-dolphin-2-5-mixtral-8x7b

Textgenerierung

Apache 2.0

Nein

ml.g5.48xlarge

Kognitive Berechnungen

Dolphin 2.7 Mixtral 8 7B

huggingface-llm-dolphin-2-7-mixtral-8x7b

Textgenerierung

Apache 2.0

Nein

ml.g5.48xlarge

Kognitive Berechnungen

Dolphin 2.9 Lama 3 8b

huggingface-llm-cognitive-dolphin-29-llama3-8b

Textgenerierung

andere

Nein

ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß

Cohereforai

Aya 101

huggingface-llm-aya-101

Textgenerierung

Apache 2.0

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Cross-Encoder

Cross-Encoder Nil Deberta Base

huggingface-zstc-cross-encoder-nli-deberta-base

Zero-Shot Einstufung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Cross-Encoder

Cross-Encoder Nil Distilroberta Base

huggingface-zstc-cross-encoder-nli-distilroberta-base

Zero-Shot Einstufung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Cross-Encoder

Kreuzkodierer Nli MiniLM2 L6 H768

huggingface-zstc-cross-encoder-nli-minilm2-l6-h768

Zero-Shot Klassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Cross-Encoder

Cross-Encoder Nil Roberta Basse

huggingface-zstc-cross-encoder-nli-roberta-base

Zero-Shot Klassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Cyberagent

CyberAgentLM2-7B-Chat (CALM2-7B-Chat)

huggingface-llm-calm2-7b-chat-bf16

Textgenerierung

Apache 2.0

Ja

ml.g5.12x groß, ml.g5.24 x groß, ml.g5.2x groß, ml.g5.4x groß, ml.g5.x groß

Databricks

DBRX Base

huggingface-llm-dbrx-base

Textgenerierung

databricks-open-model

Nein

ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Databricks

DBRX Instruct

huggingface-llm-dbrx-instruct

Textgenerierung

databricks-open-model

Nein

ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Databricks

Dolly V2 12b BF16

huggingface-textgeneration-dolly-v2-12b-bf16

Textgenerierung

Apache 2.0

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Databricks

Dolly V2 3b BF16

huggingface-textgeneration-dolly-v2-3b-bf16

Textgenerierung

Apache 2.0

Nein

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Deepseek-Ai

DeepSeek-OCR

deepseek-vlm-deepseek-ocr

Image-Text-to-Text

mit

Nein

ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.4xgroß, ml.g5dn.xgroß, ml.g5.16xgroß, ml.g5.2xgroß, ml.g5.2xgroß, ml.g5.xgroß, ml.g6.16xgroß, ml.g6.2xgroß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xgroß, ml.p3,2 x groß

Deepseek-Ai

DeepSeek-R1

deepseek-llm-r1

Textgenerierung

mit

Nein

ml.p5e.48xgroß, ml.p5en.48x groß

Deepseek-Ai

DeepSeek-R1-0528

deepseek-llm-r1-0528

Textgenerierung

mit

Nein

ml.p5e.48xgroß, ml.p5en.48xgroß

Deepseek-Ai

DeepSeek-R1-Distill-Llama-70B

deepseek-llm-r1-distill-llama-70b

Textgenerierung

mit

Ja

Standard: ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • djl(Deep-Java-Bibliotheks-Servercontainer): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge interact_highest_throughput

  • generate_lowest_cost(Generieren, kostenoptimiert), generate_lowest_latency (Generieren, Latenz optimiert), interact_best_price_performance (Interact, Balanced), interact_lowest_cost (Interact, Kostenoptimiert), interact_lowest_latency (Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • modify_best_price_performance(Ändern, Ausgewogen), modify_highest_throughput (Ändern, Durchsatz optimiert), modify_lowest_cost (Ändern, kostenoptimiert), modify_lowest_latency (Ändern, Latenzoptimiert), summarize_best_price_performance (Zusammenfassen, Ausgewogen), summarize_highest_throughput (Zusammenfassen, Durchsatz optimiert), summarize_lowest_cost (Zusammenfassen, Kostenoptimiert), summarize_lowest_latency (Zusammenfassen, Latenzoptimiert): ml.g6e.48xlarge

Deepseek-Ai

DeepSeek-R1-Distill-Llama-8B

deepseek-llm-r1-distill-llama-8b

Textgenerierung

mit

Ja

Standard: ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.12xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • djl(Deep Java Library Serving Container): ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.24xlarge, ml.g6.48xlarge

  • generate_best_price_performance(Generieren, generate_lowest_cost Ausgewogen), (Generieren, Kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert), (Max Context, Durchsatz optimiert): ml.g6.48xlarge, interact_highest_throughput ml.g6e.48xlarge, ml.g7e.12xlarge max_context_highest_throughput

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g7e.2xlarge

  • interact_best_price_performance(Interagieren, Ausgewogen), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, modify_best_price_performance ml.g7e.2xlarge modify_lowest_cost

  • interact_lowest_cost(Interagieren, kostenoptimiert): ml.g6.48xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • interact_lowest_latency(Interagieren, Latenz optimiert), (Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.12xlarge modify_lowest_latency

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge summarize_best_price_performance summarize_lowest_cost

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): summarize_lowest_latency ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge

Deepseek-Ai

DeepSeek-R1-Distill-Qwen-1.5B

deepseek-llm-r1-distill-qwen-1-5b

Textgenerierung

mit

Ja

Standard: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), interact_best_price_performance (Interagieren, Kostenoptimiert), interact_lowest_cost (Zusammenfassen, Ausgewogen), summarize_best_price_performance (Zusammenfassen, Kostenoptimiert): ml.g6.2xlarge, summarize_lowest_cost ml.g6e.xlarge, ml.g7e.2xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), interact_highest_throughput (Interact, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge

  • interact_lowest_latency(Interagieren, Latenz optimiert), (Max Context, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.4xlarge max_context_lowest_latency

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge modify_lowest_cost

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6.24xlarge, ml.g6e.4xlarge, ml.g7e.4xlarge

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.2xlarge, ml.g7e.2xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge

Deepseek-Ai

DeepSeek-R1-Distill-Qwen-14B

deepseek-llm-r1-distill-qwen-14b

Textgenerierung

mit

Ja

Standard: ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), interact_best_price_performance (Interagieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge interact_lowest_cost

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.4xlarge interact_highest_throughput

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g7e.4xlarge

  • interact_lowest_latency(Interagieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.4xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz), (Maximaler Kontext, kostenoptimiert), max_context_lowest_cost (Maximaler Kontext, Latenz optimiert), (Zusammenfassen, Ausgewogen), max_context_lowest_latency (Zusammenfassen, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, summarize_best_price_performance ml.p5en.48xlarge summarize_highest_throughput

  • modify_best_price_performance(Ändern, Ausgewogen), modify_lowest_cost (Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.24xlarge, ml.g7e.2xlarge, ml.p5en.48xlarge

  • summarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.48xlarge

Deepseek-Ai

DeepSeek-R1-Distill-Qwen-32B

deepseek-llm-r1-distill-qwen-32b

Textgenerierung

mit

Ja

Standard: ml.g6e.48xlarge

Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), interact_best_price_performance (Interagieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge interact_lowest_cost

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.4xlarge interact_highest_throughput

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge

  • interact_lowest_latency(Interagieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Ändern, Latenzoptimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge modify_lowest_cost modify_lowest_latency

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge

Deepseek-Ai

DeepSeek-R1-Distill-Qwen-7B

deepseek-llm-r1-distill-qwen-7b

Textgenerierung

mit

Ja

Standard: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), interact_best_price_performance (Interagieren, Kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge interact_lowest_cost

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.24xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • interact_highest_throughput(Interagieren, Durchsatz optimiert), (Interact, Latenz optimiert), (Maximaler Kontext, Latenz optimiert), interact_lowest_latency (Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, max_context_lowest_latency ml.g7e.2xlarge modify_highest_throughput

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge summarize_best_price_performance summarize_lowest_cost

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Ändern, Latenzoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge modify_lowest_cost modify_lowest_latency

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

Deepseek-Ai

DeepSeek-V3.1

deepseek-llm-deepseek-v3-1

Textgenerierung

mit

Nein

ml.p5e.48xlarge, ml.p5en.48xlarge

Deepseek-Ai

DeepSeek-V3.2

deepseek-llm-deepseek-v3-2

Textgenerierung

mit

Nein

ml.p5en.48x groß

Destilbert

Distilbert Basisgehäuse

huggingface-eqa-distilbert-base-cased

Beantwortete Frage

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Destilbert

Distilbert Basisgehäuse

huggingface-spc-distilbert-base-cased

Fill-Mask

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Destilbert

Distilbert Basisgehäuse

huggingface-tc-distilbert-base-cased

Textklassifizierung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Destilbert

DistilBert Base Mehrsprachiges Gehäuse

huggingface-eqa-distilbert-base-multilingual-cased

Beantwortete Frage

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Destilbert

DistilBert Base Mehrsprachiges Gehäuse

huggingface-spc-distilbert-base-multilingual-cased

Fill-Mask

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Destilbert

DistilBert Base Mehrsprachiges Gehäuse

huggingface-tc-distilbert-base-multilingual-cased

Textklassifizierung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Destilbert

DistilGPT 2

huggingface-textgeneration-distilgpt2

Textgenerierung

Apache 2.0

Nein

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Destilbert

DistilRoBERTa Basis

huggingface-eqa-distilroberta-base

Beantwortete Frage

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Destilbert

DistilRoBERTa Basis

huggingface-tc-distilroberta-base

Textklassifizierung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Destilbert

Beantwortete Frage

huggingface-eqa-distilbert-base-uncased

Beantwortete Frage

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Destilbert

Klassifizierung von Satzpaaren

huggingface-spc-distilbert-base-uncased

Fill-Mask

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Destilbert

Textklassifizierung

huggingface-tc-distilbert-base-uncased

Textklassifizierung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Elastic

Destilbert Base ohne Ummantelung

huggingface-ner-distilbert-base-uncased-finetuned-conll03-eng

Token-Klassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Elastic

Named Entity Recognition

huggingface-ner-distilbert-base-cased-finetuned-conll03-eng

Token-Klassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Elastic

Named Entity Recognition

huggingface-ner-distilbert-base-cased-finetuned-conll03-english

Token-Klassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Eleutheria

GPT-J 6B

huggingface-textgeneration1-gpt-j-6b

Textgenerierung

Apache 2.0

Ja

ml.g5.12 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Eleutheria

GPT-Neo 125 M

huggingface-textgeneration1-gpt-neo-125m

Textgenerierung

mit

Ja

ml. g 5,16 x groß, ml. G 5,2 x groß, ml. G 5,8 x groß

Eleutheria

gpt-neox-20b

huggingface-textgeneration2-gpt-neox-20b-fp16

Textgenerierung

Apache-2.0

Nein

ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.p4d.24 x groß

Eleutherai

Pythia 160m Dedupliziert

huggingface-llm-eleutherai-pythia-160m-deduped

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß

Eleutheria

Pythia 7m Dedupliziert

huggingface-llm-eleutherai-pythia-70m-deduped

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß

Elyza

ELYZA-japanese-Llama-2-13b-chat

huggingface-llm-elyza-japanese-llama-2-13b-chat

Textgenerierung

Llama 2

Ja

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Elyza

ELYZA-japanese-Llama-2-13b-fast-chat

huggingface-llm-elyza-japanese-llama-2-13b-fast-chat

Textgenerierung

Llama 2

Ja

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Elyza

ELYZA-japanese-Llama-2-7b-chat

huggingface-llm-elyza-japanese-llama-2-7b-chat-bf16

Textgenerierung

Llama 2

Ja

ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,4 x groß, ml.g 5,x groß

Elyza

ELYZA-japanese-Llama-2-7b-fast-chat

huggingface-llm-elyza-japanese-llama-2-7b-fast-chat-bf16

Textgenerierung

Llama 2

Ja

ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,4 x groß, ml.g 5,x groß

Emercan

Amerikanischer Bert auf türkischer Basis Allenli-Tr

huggingface-zstc-emrecan-bert-base-turkish-cased-allnli-tr

Zero-Shot Einstufung

mit

Nein

ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß

Facebook

Zero-Shot Textklassifizierung

huggingface-zstc-facebook-bart-large-mnli

Zero-Shot Klassifizierung

mit

Nein

ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß

Facebookai

Roberta Base

huggingface-eqa-roberta-base

Beantwortete Frage

mit

Ja

ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß

Facebookai

Roberta Base

huggingface-spc-roberta-base

Fill-Mask

mit

Ja

ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß

Facebookai

Roberta Base

huggingface-tc-roberta-base

Textklassifizierung

mit

Ja

ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß

Facebookai

Robert A Large

huggingface-eqa-roberta-large

Beantwortete Frage

mit

Ja

ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß

Facebookai

Robert A Large

huggingface-spc-roberta-large

Fill-Mask

mit

Ja

ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß

Facebookai

Robert A Large

huggingface-tc-roberta-large

Textklassifizierung

mit

Ja

ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß

Facebookai

XLM CLM English-German

huggingface-spc-xlm-clm-ende-1024

Fill-Mask

mit

Ja

ml.c5.2x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2x groß

Facebookai

XLM CLM English-German

huggingface-tc-xlm-clm-ende-1024

Textklassifizierung

mit

Ja

ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß

Facebookai

XML MLM 15 XNLI Sprachen

huggingface-spc-xlm-mlm-xnli15-1024

Fill-Mask

cc-by-nc-4.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Facebookai

XLM MLM English-German

huggingface-spc-xlm-mlm-ende-1024

Fill-Mask

cc-by-nc-4.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Facebookai

XLM MLM English-German

huggingface-tc-xlm-mlm-ende-1024

Textklassifizierung

cc-by-nc-4.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Facebookai

XLM MLM English-Romanian

huggingface-spc-xlm-mlm-enro-1024

Fill-Mask

cc-by-nc-4.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Facebookai

XLM MLM English-Romanian

huggingface-tc-xlm-mlm-enro-1024

Textklassifizierung

cc-by-nc-4.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Facebookai

XLM MLM TLM 15 XNLI Sprachen

huggingface-spc-xlm-mlm-tlm-xnli15-1024

Fill-Mask

cc-by-nc-4.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Facebookai

XLM MLM TLM 15 XNLI Sprachen

huggingface-tc-xlm-mlm-tlm-xnli15-1024

Textklassifizierung

cc-by-nc-4.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Fiktives Vers

Fiktives stabiles Diffusionsmodell BalloonArt

huggingface-txt2img-fictiverse-stable-diffusion-balloonart

Text-to-Image

creativeml-openrail-m

Nein

ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß

Fiktives Vers

Fiktives stabiles diffusionsmikroskopisches Modell

huggingface-txt2img-fictiverse-stable-diffusion-micro-model

Text-to-Image

offene Schiene

Nein

ml.g4dn.2 x groß, ml.g4dn.xlarge, ml.p3.2 x groß

Fiktives Vers

Fiktives stabiles Diffusionsmodell PaperCut

huggingface-txt2img-fictiverse-stable-diffusion-papercut-model

Text-to-Image

creativeml-openrail-m

Nein

ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß

Fiktives Vers

Fiktives stabiles Diffusionsmodell VoxelArt

huggingface-txt2img-fictiverse-stable-diffusion-voxelart-model

Text-to-Image

creativeml-openrail-m

Nein

ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß

Google

Bigbird Pegasus Large Archiv

huggingface-summarization-bigbird-pegasus-large-arxiv

Textzusammenfassung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google

Bigbird Pegasus Large Pubmed

huggingface-summarization-bigbird-pegasus-large-pubmed

Textzusammenfassung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google

Flan-T5 Basis

huggingface-text2text-flan-t5-base

Generierung von Text zu Text

Apache 2.0

Ja

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Google

Flan-T5 Groß

huggingface-text2text-flan-t5-large

Generierung von Text zu Text

Apache 2.0

Ja

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Google

Flan-T5 Klein

huggingface-text2text-flan-t5-small

Generierung von Text zu Text

Apache 2.0

Ja

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Google

Flan-T5 XL

huggingface-text2text-flan-t5-xl

Generierung von Text zu Text

Apache 2.0

Ja

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Google

Flan-T5 XXL

huggingface-text2text-flan-t5-xxl

Generierung von Text zu Text

Apache 2.0

Ja

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Google

Gemma 2 27B

huggingface-llm-gemma-2-27b

Textgenerierung

Gemma

Nein

ml. g 5,48 x groß, ml. 4 x 24 x groß

Google

Gemma 2 27B Instruct

huggingface-llm-gemma-2-27b-instruct

Textgenerierung

Gemma

Nein

ml. g 5,48 x groß, ml. 4 x 24 x groß

Google

Gemma 2 2B

huggingface-llm-gemma-2-2b

Textgenerierung

Gemma

Nein

ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.p4de. 24 x groß, ml.p 5,48 x groß

Google

Gemma 2 2B Instruct

huggingface-llm-gemma-2-2b-instruct

Textgenerierung

gemma

Nein

ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.p4de. 24 x groß, ml.p 5,48 x groß

Google

Gemma 2 9B

huggingface-llm-gemma-2-9b

Textgenerierung

gemma

Nein

ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß, ml. 4 x 24 x groß

Google

Gemma 2 9B Instruct

huggingface-llm-gemma-2-9b-instruct

Textgenerierung

Gemma

Nein

ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß, ml. 4 x 24 x groß

Google

Gemma 3 1B Anleitung

huggingface-llm-gemma-3-1b-instruct

Textgenerierung

Gemma

Nein

ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß

Google

Gemma 3 27B Anleitung

huggingface-vlm-gemma-3-27b-instruct

Image-Text-to-Text

Gemma

Nein

ml. g 5,48 x groß, ml. g 6,48 x groß, ml. P4 x 24 x groß, ml x 5,48 x groß

Google

Gemma 3 4B Anleitung

huggingface-vlm-gemma-3-4b-instruct

Image-Text-to-Text

Gemma

Nein

ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß

Google

gemma-2b

huggingface-llm-gemma-2b

Textgenerierung

Gemma

Ja

Standard: ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge, ml.p3.2xlarge, ml.p4d.24xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.2xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge max_context_highest_throughput

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge interact_lowest_cost max_context_lowest_cost

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interagieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g4dn.2xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Google

gemma-2b-it

huggingface-llm-gemma-2b-instruct

Textgenerierung

Gemma

Ja

Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), interact_best_price_performance (Interagieren, Kostenoptimiert), interact_lowest_cost max_context_lowest_cost (Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), max_context_lowest_latency (Maximaler Kontext, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert), max_context_highest_throughput (Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert), interact_lowest_latency (Interact, Latenz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Google

gemma-4-26b-a4b-it

huggingface-vlm-gemma-4-26b-a4b-it

Textgenerierung

Apache 2.0

Nein

Standard: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_highest_throughput(Generieren, Durchsatz optimiert), interact_highest_throughput (Interact, Durchsatz optimiert), summarize_lowest_latency (Zusammenfassen, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), interact_best_price_performance (Interagieren, Ausgewogen), interact_lowest_cost (Interagieren, Kostenoptimiert), modify_best_price_performance (Ändern, Ausgewogen), modify_lowest_cost (Ändern, Kostenoptimiert), summarize_best_price_performance (Zusammenfassen, Ausgewogen), summarize_lowest_cost (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.p5.48xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert), (Ändern, Latenz optimiert), (Zusammenfassen, Durchsatz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge modify_lowest_latency summarize_highest_throughput

Google

gemma-4-31b-it

huggingface-vlm-gemma-4-31b-it

Image-Text-to-Text

Apache-2.0

Ja

ml. g 6,24 x groß, ml. g 7, 2 x groß

Google

gemma-4- E2B-it

huggingface-vlm-gemma-4-e2b-instruct

Image-Text-to-Text

Apache-2.0

Nein

Standard: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.4xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.4xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.8xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Zusammenfassen, Ausgewogen), modify_lowest_cost (Zusammenfassen, Kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge, summarize_best_price_performance ml.g7e.2xlarge summarize_lowest_cost

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6.24xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.xlarge, ml.g7e.2xlarge summarize_lowest_latency

Google

gemma-4-e4b-it

huggingface-vlm-gemma-4-e4b-it

Textgenerierung

Apache 2.0

Ja

Standard: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), interact_best_price_performance (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert), interact_lowest_cost (Ändern, Ausgewogen), modify_best_price_performance (Ändern, Kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.p5.48xlarge modify_lowest_cost

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.2xlarge, ml.g6e.2xlarge, ml.p5en.48xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5.48xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6.16xlarge, ml.g6e.16xlarge, ml.p5.48xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.p5.48xlarge summarize_best_price_performance summarize_lowest_cost

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.p5.48xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6e.16xlarge, ml.p5.48xlarge

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): ml.g6e.8xlarge, ml.p5.48xlarge, ml.p5en.48xlarge summarize_lowest_latency

Google

gemma-7b

huggingface-llm-gemma-7b

Textgenerierung

Gemma

Ja

ml. G 6 E 48 x groß, ml P 4 D 24 x groß, ml P 5 ca. 48 x groß

Google

Gemma-7-Bit

huggingface-llm-gemma-7b-instruct

Textgenerierung

Gemma

Ja

Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Interactinteract_highest_throughput, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge interact_lowest_cost max_context_lowest_cost

  • generate_lowest_latency(Generieren, Latenz optimiert), (Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge max_context_highest_throughput

  • interact_best_price_performance(Interaktiv, ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g5.48xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Google-Bert

BERT-Basisgehäuse

huggingface-eqa-bert-base-cased

Beantwortete Frage

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT-Basisgehäuse

huggingface-spc-bert-base-cased

Fill-Mask

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT-Basisgehäuse

huggingface-tc-bert-base-cased

Textklassifizierung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Base Mehrsprachiges Gehalten

huggingface-eqa-bert-base-multilingual-cased

Beantwortete Frage

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Base Mehrsprachiges Gehalten

huggingface-spc-bert-base-multilingual-cased

Fill-Mask

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Base Mehrsprachiges Gehalten

huggingface-tc-bert-base-multilingual-cased

Textklassifizierung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Base Mehrsprachig ohne Groß- und Kleinschreibung

huggingface-eqa-bert-base-multilingual-uncased

Beantwortete Frage

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Base Mehrsprachig ohne Groß- und Kleinschreibung

huggingface-spc-bert-base-multilingual-uncased

Fill-Mask

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Base Mehrsprachig ohne Groß- und Kleinschreibung

huggingface-tc-bert-base-multilingual-uncased

Textklassifizierung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT-Base ohne Hülle

huggingface-eqa-bert-base-uncased

Beantwortete Frage

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT-Base ohne Hülle

huggingface-spc-bert-base-uncased

Fill-Mask

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT-Base ohne Hülle

huggingface-tc-bert-base-uncased

Textklassifizierung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Großkoffer

huggingface-eqa-bert-large-cased

Beantwortete Frage

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Großkoffer

huggingface-spc-bert-large-cased

Fill-Mask

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Großkoffer

huggingface-tc-bert-large-cased

Textklassifizierung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Maskierung ganzer Wörter in Großbuchstaben

huggingface-eqa-bert-large-cased-whole-word-masking

Beantwortete Frage

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Maskierung ganzer Wörter in Großbuchstaben

huggingface-spc-bert-large-cased-whole-word-masking

Fill-Mask

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Large ohne Hülle

huggingface-spc-bert-large-uncased

Fill-Mask

Apache 2.0

Ja

ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß

Google-Bert

BERT Large ohne Hülle

huggingface-tc-bert-large-uncased

Textklassifizierung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

BERT Große Ganzwortmaskierung ohne Groß- und Kleinschreibung

huggingface-spc-bert-large-uncased-whole-word-masking

Fill-Mask

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-Bert

Maske füllen

huggingface-fillmask-bert-base-uncased

Fill-Mask

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-T5

Maschinelle Übersetzung

huggingface-translation-t5-small

Übersetzung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-T5

t5 Base en de

huggingface-translation-t5-base

Übersetzung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Google-T5

t5 Large, Ende de

huggingface-translation-t5-large

Übersetzung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Gradientai

Llama-3 8B Gradient, Instruktor 1048k

huggingface-llm-llama-3-8b-instruct-gradient

Textgenerierung

Ich rufe 3 an

Nein

ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß

Gradientai

Llama-3 8B Gradient, Instruktor 262k

huggingface-llm-gradientai-llama-3-8B-instruct-262k

Textgenerierung

Ich rufe 3 an

Nein

ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß

Helsinki-Nlp

Helsinki opus en es

huggingface-translation-opus-mt-en-es

Übersetzung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Helsinki-Nlp

Helsinki, Opus en VI

huggingface-translation-opus-mt-en-vi

Übersetzung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Helsinki-Nlp

Helsinki opus mul en

huggingface-translation-opus-mt-mul-en

Übersetzung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Umarmen Sie das Gesicht h4

HuggingFaceH4 Zephyr-Orpo-141b- A35b-v0.1

huggingface-llm-huggingfaceh4-zephyr-orpo-141b-a35b-v01

Textgenerierung

Apache 2.0

Nein

ml.g5.48x groß, ml.p4d.24x groß

Umarme das Gesicht H4

Star Chat Alpha

huggingface-llm-huggingfaceh4-starchat-alpha

Textgenerierung

bigcode-openrail-m

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß

Umarmt das Gesicht H4

Star Chat Beta

huggingface-llm-huggingfaceh4-starchat-beta

Textgenerierung

bigcode-openrail-m

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Umarmt das Gesicht H4

Zephyr 7B Beta

huggingface-llm-huggingfaceh4-zephyr-7b-beta

Textgenerierung

mit

Nein

ml.g5.12x groß, ml.g5,24x groß, ml.g5,2 x groß, ml.g5,48x groß, ml.p4d.24x groß

Ibm

Qualitätskontrollierte Generierung von Paraphrasen

huggingface-text2text-qcpg-sentences

Generierung von Text zu Text

Apache 2.0

Nein

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Idea-Ccnl

IDEA CCNL Taiyi Stable Diffusion 1B Chinesisch EN v0.1

huggingface-txt2img-idea-ccnl-taiyi-1b-chinese-en-v01

Text-to-Image

creativeml-openrail-m

Nein

ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß

Idea-Ccnl

IDEA CCNL Taiyi Stable Diffusion 1B Chinesisch v0.1

huggingface-txt2img-idea-ccnl-taiyi-1b-chinese-v0-1

Text-to-Image

creativeml-openrail-m

Nein

ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß

In Float

E5-Sockel

huggingface-sentencesimilarity-e5-base

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Infloat

E5 Basis V2

huggingface-sentencesimilarity-e5-base-v2

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Infloat

E5 Groß V2

huggingface-sentencesimilarity-e5-large-v2

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Infloat

Mehrsprachige E5-Basis

huggingface-sentencesimilarity-multilingual-e5-base

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Infloat

Mehrsprachig E5 Large

huggingface-sentencesimilarity-multilingual-e5-large

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Langboot

Langboat Guohua Diffusion

huggingface-txt2img-langboat-guohua-diffusion

Text-to-Image

creativeml-openrail-m

Nein

ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß

Licht im Inneren

Lighteternal Nli Xlm R Griechisch

huggingface-zstc-lighteternal-nli-xlm-r-greek

Zero-Shot Einstufung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Licht auf Nai

LightOnOCR-2-1B

huggingface-vlm-lightonai-lightonocr-2-1b

Image-Text-to-Text

Apache-2.0

Nein

ml.g6.2xlarge

Meta

Llama-2-7b-hf

meta-textgeneration-llama-2-7b

Textgenerierung

Lama 2

Ja

Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert): ml.g5.4xlarge, ml.g6.4xlarge, ml.g6e.4xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Generieren, Latenz optimiert), generate_lowest_latency (Maximaler Kontext, optimierter Durchsatz), max_context_highest_throughput (Maximaler Kontext, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge max_context_lowest_latency

  • interact_best_price_performance(Interagiereninteract_lowest_cost, Ausgewogen), (Interagieren, kostenoptimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.2xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

Meta

Llama-3.1-70B-Instruct

meta-textgeneration-llama-3-1-70b-instruct

Textgenerierung

Allama 3.1

Ja

Standard: ml.g6e.48xlarge, ml.p5en.48xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Generieren, Latenz optimiert): ml.p4d.24xlargegenerate_lowest_latency, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge interact_best_price_performance interact_lowest_cost

  • interact_highest_throughput(Interact, Durchsatz optimiert), (Interact, Latenz optimiert): ml.g5.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge interact_lowest_latency

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Durchsatz optimiert), (Ändern, Kostenoptimiert), modify_highest_throughput (Ändern, Latenzoptimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge modify_lowest_cost modify_lowest_latency

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), (Zusammenfassen, Latenzoptimiert): summarize_highest_throughput ml.p5en.48xlarge summarize_lowest_cost summarize_lowest_latency

Meta

Llama-3.1-8B-Instruct

meta-textgeneration-llama-3-1-8b-instruct

Textgenerierung

Allama 3.1

Ja

Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), interact_highest_throughput (Interact, Durchsatz optimiert), max_context_highest_throughput (Maximaler Kontext, optimierter Durchsatz), max_context_lowest_latency (Maximaler Kontext, Latenz optimiert), modify_highest_throughput (Ändern, optimierter Durchsatz), modify_lowest_latency (Ändern, Latenz optimiert), summarize_highest_throughput (Zusammenfassen, optimiert für Latenz), summarize_lowest_latency (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interaktiv, ausgewogen): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.2xlarge

  • interact_lowest_cost(Interact, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.p4d.24xlarge

  • modify_lowest_cost(Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • summarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

Meta

Llama-3.2-1B

meta-textgeneration-llama-3-2-1b

Textgenerierung

Lama 3.2

Ja

Standard: ml.g4dn.12xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p3.16xlarge, ml.p4d.24xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g6.2xlarge, ml.g6e.2xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge interact_highest_throughput

  • generate_lowest_cost(Generieren, kostenoptimiert): ml.g4dn.xlarge, ml.g6.2xlarge, ml.g6e.xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interagieren, Ausgewogen), (Interagieren, kostenoptimiert)interact_lowest_cost: ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6.xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g5.16xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.8xlarge, ml.g6e.2xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance(Ändern, Ausgewogenmodify_lowest_cost), (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g5.2xlarge, ml.g6e.8xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g5.xlarge, ml.g6.24xlarge, ml.g6e.xlarge summarize_lowest_cost

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6e.12xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6e.4xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

Meta

Llama-3.2-1B-Instruct

meta-textgeneration-llama-3-2-1b-instruct

Textgenerierung

Allama 3.2

Ja

Standard: ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Maximaler Kontext, optimierter Durchsatz), max_context_highest_throughput (Maximaler Kontext, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge max_context_lowest_latency

  • generate_lowest_cost(Generieren, kostenoptimiert), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.2xlarge modify_best_price_performance modify_lowest_cost

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interagieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.2xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge

  • interact_lowest_cost(Interact, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.8xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6.8xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6e.xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.4xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.8xlarge

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

  • summarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.xlarge, ml.g6.xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6e.8xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

Meta

Llama-3.2-3B

meta-textgeneration-llama-3-2-3b

Textgenerierung

Allama 3.2

Ja

Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.2xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.24xlarge, ml.p3.8xlarge, ml.p5en.48xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge interact_lowest_cost

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g5.8xlarge, ml.g6e.8xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interaktiv, ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): ml.p3.16xlarge, ml.p5.48xlarge, ml.p5en.48xlarge summarize_lowest_latency

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g5.xlarge, ml.g6.4xlarge, ml.g6e.2xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p4d.24xlarge

  • modify_lowest_cost(Ändern, kostenoptimiert): ml.g5.xlarge, ml.g6.4xlarge, ml.g6e.xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.8xlarge, ml.p3.16xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.p5.48xlarge

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • summarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge

Meta

Llama-3.2-3B-Instruct

meta-textgeneration-llama-3-2-3b-instruct

Textgenerierung

Allama 3.2

Ja

Standard: ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.48xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausbalanciert), interact_best_price_performance (Interagieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), interact_highest_throughput (Interact, Durchsatz optimiert), max_context_highest_throughput (Maximaler Kontext, Durchsatz optimiert), summarize_highest_throughput (Zusammenfassen, Durchsatz optimiert), summarize_lowest_latency (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), interact_lowest_cost (Interact, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.4xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interagieren, Latenz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_lowest_cost(Ändern, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • summarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

Meta

Llama-Guard-3-1B

meta-textgeneration-llama-guard-3-1b

Textgenerierung

Allama 3.2

Nein

ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.16 x groß, ml.g6e 24x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß, ml.p4d.24xgroß

Meta

Llama-Guard-3-8B

meta-textgeneration-llama-guard-3-8b

Textgenerierung

Lama3.1

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.g6.24x groß, ml.g6.48 x groß, ml.g6e.12x groß, ml.g6e.24xgroß, ml.p4d.24xgroß

Meta

Meta Code Llama 13B

meta-textgeneration-llama-codellama-13b

Textgenerierung

Lama 2

Ja

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß

Meta

Meta Code Llama 13B Instruct

meta-textgeneration-llama-codellama-13b-instruct

Textgenerierung

Lama 2

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß

Meta

Meta Code Llama 13B Python

meta-textgeneration-llama-codellama-13b-python

Textgenerierung

Lama 2

Ja

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß

Meta

Meta Code Llama 34B

meta-textgeneration-llama-codellama-34b

Textgenerierung

Lama 2

Ja

Standard: ml.g5.48xlarge, ml.p4d.24xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi(Großer Model Inference-Container), lmi-optimized (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta Code Llama 34B Instruct

meta-textgeneration-llama-codellama-34b-instruct

Textgenerierung

llama2

Nein

Standard: ml.g5.48xlarge, ml.p4d.24xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi(Großer Model Inference-Container), lmi-optimized (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta Code Llama 34B Python

meta-textgeneration-llama-codellama-34b-python

Textgenerierung

llama2

Ja

Standard: ml.g5.48xlarge, ml.p4d.24xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi(Großer Model Inference-Container), lmi-optimized (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta Code Llama 70B

meta-textgeneration-llama-codellama-70b

Textgenerierung

llama2

Ja

Standard: ml.g5.48xlarge, ml.p4d.24xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi(Großer Model Inference-Container), lmi-optimized (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta Code Llama 70B Instruct

meta-textgeneration-llama-codellama-70b-instruct

Textgenerierung

llama2

Nein

Standard: ml.g5.48xlarge, ml.p4d.24xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi(Großer Model Inference-Container), lmi-optimized (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta Code Llama 70B Neuron

meta-textgenerationneuron-llama-codellama-70b

Textgenerierung

llama2

Nein

ml.inf 2,48 x groß

Meta

Meta Code Llama 70B Python

meta-textgeneration-llama-codellama-70b-python

Textgenerierung

Lama 2

Ja

Standard: ml.g5.48xlarge, ml.p4d.24xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi(Großer Model Inference-Container), lmi-optimized (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta Code Llama 7B

meta-textgeneration-llama-codellama-7b

Textgenerierung

llama2

Ja

Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6,2xlarge, ml.p4d.24xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta Code Llama 7B Instruct

meta-textgeneration-llama-codellama-7b-instruct

Textgenerierung

Lama 2

Nein

Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta Code Llama 7B Neuron

meta-textgenerationneuron-llama-codellama-7b

Textgenerierung

Lama 2

Nein

ml.inf2.8 x groß, ml.inf 2.x groß

Meta

Meta Code Llama 7B Python

meta-textgeneration-llama-codellama-7b-python

Textgenerierung

Lama 2

Ja

Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.p4d.24xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta Code Llama 7B Python Neuron

meta-textgenerationneuron-llama-codellama-7b-python

Textgenerierung

Lama 2

Nein

ml.inf2.8 x groß, ml.inf 2.x groß

Meta

Meta Llama 2 13B

meta-textgeneration-llama-2-13b

Textgenerierung

Lama 2

Ja

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß, ml.p5.48x groß

Meta

Meta Llama 2 13B Chat

meta-textgeneration-llama-2-13b-f

Textgenerierung

Lama 2

Ja

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß, ml.p5.48x groß

Meta

Meta Llama 2 13B Chat Neuron

meta-textgenerationneuron-llama-2-13b-f

Textgenerierung

Lama 2

Nein

ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß

Meta

Meta Llama 2 13B Neuron

meta-textgenerationneuron-llama-2-13b

Textgenerierung

Lama 2

Ja

ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß

Meta

Meta Llama 2 70B

meta-textgeneration-llama-2-70b

Textgenerierung

Lama 2

Ja

Standard: ml.g5.48xlarge, ml.p4d.24xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi(Großer Model Inference-Container), lmi-optimized (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 2 70B Chat

meta-textgeneration-llama-2-70b-f

Textgenerierung

Lama2

Ja

Standard: ml.g5.48xlarge, ml.p4d.24xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi(Großer Model Inference-Container), lmi-optimized (Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 2 70B Chat Neuron

meta-textgenerationneuron-llama-2-70b-f

Textgenerierung

Lama2

Nein

ml.inf 2,48 x groß

Meta

Meta Llama 2 70B Neuron

meta-textgenerationneuron-llama-2-70b

Textgenerierung

Lama 2

Nein

ml.inf 2,48 x groß

Meta

Meta Llama 2 7B Chat

meta-textgeneration-llama-2-7b-f

Textgenerierung

Lama 2

Ja

Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.p4d.24xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

  • neuron(AWS Inferentia- und Trainium-Beschleuniger): ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge

Meta

Meta Llama 2 7B Chat Neuron

meta-textgenerationneuron-llama-2-7b-f

Textgenerierung

Lama2

Nein

ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß

Meta

Meta Llama 2 7B Neuron

meta-textgenerationneuron-llama-2-7b

Textgenerierung

Lama 2

Ja

ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß

Meta

Meta Llama 3 1 8B Neuron

meta-textgenerationneuron-llama-3-1-8b

Textgenerierung

Lama 3.1

Nein

ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.trn 1,2 x groß, ml.trn 1,32 x groß, ml.trn1n.32 x groß

Meta

Metalllama 30 70B

meta-textgeneration-llama-3-70b

Textgenerierung

Lama 3

Ja

ml.g 5,48 x groß, ml.g 6,48 x groß, ml.p4 d. 24 x groß, ml.p 5,48 x groß

Meta

Meta Llama 3 70B Instruct

meta-textgeneration-llama-3-70b-instruct

Textgenerierung

Lama 3

Ja

ml.g 5,48 x groß, ml.g 6,48 x groß, ml.p4 d. 24 x groß, ml.p 5,48 x groß

Meta

Meta Llama 3 70B Instruct Neuron

meta-textgenerationneuron-llama-3-70b-instruct

Textgenerierung

Lama 3

Nein

ml.trn1.32xlarge

Meta

Meta Llama 3 70B Neuron

meta-textgenerationneuron-llama-3-70b

Textgenerierung

Llama3

Nein

ml.trn1.32xlarge

Meta

Meta Llama 3 8B Instruct

meta-textgeneration-llama-3-8b-instruct

Textgenerierung

Llama3

Ja

ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.p4D 24 x groß, ml.p 5,48 x groß

Meta

Meta Llama 3 8B Instruct Neuron

meta-textgenerationneuron-llama-3-8b-instruct

Textgenerierung

Lama 3

Nein

ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß

Meta

Meta Llama 3 8B Neuron

meta-textgenerationneuron-llama-3-8b

Textgenerierung

Lama 3

Nein

ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß

Meta

Meta Llama 3.1 405B FP8

meta-textgeneration-llama-3-1-405b-fp8

Textgenerierung

Lama 3.1

Ja

ml.p4de.24x groß, ml.p5.48x groß

Meta

Meta Llama 3.1 405B Instruct FP8

meta-textgeneration-llama-3-1-405b-instruct-fp8

Textgenerierung

Lama 3.1

Ja

ml.p4de.24x groß, ml.p5.48x groß

Meta

Meta Lama 3.1 70B

meta-textgeneration-llama-3-1-70b

Textgenerierung

Lama 3.1

Ja

ml.g 5,48 x groß, ml.g 6,48 x groß, ml.p4 d. 24 x groß, ml.p 5,48 x groß

Meta

Meta Llama 3.1 70B Instruct Neuron

meta-textgenerationneuron-llama-3-1-70b-instruct

Textgenerierung

Lama 3.1

Nein

ml.inf 2,48 x groß, ml.trn 1.32 x groß, ml.trn 1 n.32 x groß

Meta

Meta Llama 3.1 70B Neuron

meta-textgenerationneuron-llama-3-1-70b

Textgenerierung

Lama 3.1

Nein

ml.inf 2,48 x groß, ml.trn 1.32 x groß, ml.trn 1 n.32 x groß

Meta

Meta Lama 3.1 8B

meta-textgeneration-llama-3-1-8b

Textgenerierung

Lama 3.1

Ja

ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6,12 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,48 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.p4d.24 x groß, ml. P 5,48 x groß

Meta

Meta Llama 3.1 8B Instruct Neuron

meta-textgenerationneuron-llama-3-1-8b-instruct

Textgenerierung

Lama3.1

Nein

ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.trn 1,2 x groß, ml.trn 1,32 x groß, ml.trn1n.32 x groß

Meta

Meta Lama 3.2 11B Vision

meta-vlm-llama-3-2-11b-vision

Image-Text-to-Text

Lama 3.2

Ja

ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.p4d. 24 x groß, ml.p 4 de 24 x groß, ml.p 5,48 x groß

Meta

Meta Lama 3.2 11B Sehanleitung

meta-vlm-llama-3-2-11b-vision-instruct

Image-Text-to-Text

Llama 3.2

Ja

ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.p4d. 24 x groß, ml.p 4 de 24 x groß, ml.p 5,48 x groß

Meta

Meta Lama 3.2 1B Instruktionsneuron

meta-textgenerationneuron-llama-3-2-1b-instruct

Textgenerierung

Lama 3.2

Nein

ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß

Meta

Meta Lama 3.2 1B Neuron

meta-textgenerationneuron-llama-3-2-1b

Textgenerierung

Lama 3.2

Nein

ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß

Meta

Meta Lama 3.2 3B Instruktions-Neuron

meta-textgenerationneuron-llama-3-2-3b-instruct

Textgenerierung

Lama 3.2

Nein

ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß

Meta

Meta Lama 3.2 3B Neuron

meta-textgenerationneuron-llama-3-2-3b

Textgenerierung

Lama 3.2

Nein

ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß

Meta

Meta Lama 3.2 90B Vision

meta-vlm-llama-3-2-90b-vision

Image-Text-to-Text

Lama 3.2

Ja

ml.p4d.24x groß, ml.p4de.24x groß, ml.p4.48x groß

Meta

Meta Llama 3.2 90B Sehanleitung

meta-vlm-llama-3-2-90b-vision-instruct

Image-Text-to-Text

Llama 3.2

Ja

ml.p4d.24x groß, ml.p4de.24x groß, ml.p4.48x groß

Meta

Meta Llama 3.3 70B Instruct

meta-textgeneration-llama-3-3-70b-instruct

Textgenerierung

Lama 3.3

Ja

Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.16xlarge, ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Meta

Meta Lama 4 Maverick 17B 128E FP8

meta-vlm-llama-4-maverick-17b-128e-instruct-fp8

Image-Text-to-Text

Ruf 4 an

Nein

ml.p5e.48x groß, ml.p5en.48x groß

Meta

Metal Lama 4 Maverick 17B 128E Anleitung

meta-vlm-llama-4-maverick-17b-128e-instruct

Image-Text-to-Text

Llama 4

Nein

ml.p5e.48x groß, ml.p5en.48x groß

Meta

Meta Lama 4 Scout 17B 16E Anleitung

meta-vlm-llama-4-scout-17b-16e-instruct

Image-Text-to-Text

Llama 4

Ja

ml.g6e.48x groß, ml.p5.48x groß, ml.p5en.48x groß

Meta

Meta Lama Guard 3 11B Vision

meta-vlm-llama-guard-3-11b-vision

Image-Text-to-Text

Lama 3.2

Nein

ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.p4d. 24 x groß, ml.p 4 de 24 x groß, ml.p 5,48 x groß

Meta

Metal Lama Guard 3 1B Neuron

meta-textgenerationneuron-llama-guard-3-1b

Textgenerierung

Lama 3.2

Nein

ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß

Meta

Meta Lama Guard 3 8B Neuron

meta-textgenerationneuron-llama-guard-3-8b

Textgenerierung

Lama 3.1

Nein

ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.trn 1,2 x groß, ml.trn 1,32 x groß, ml.trn1n.32 x groß

Meta

Lama Guard aus Metall, 7B

meta-textgeneration-llama-guard-7b

Textgenerierung

Lama 2

Nein

ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d. 24 x groß

Meta

Meta Lama Prompt Guard, 86 m

meta-tc-llama-prompt-guard-86m

Textklassifizierung

Llama 3.1

Nein

ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß

Meta

Meta SAM 2.1 Hiera Base Plus

meta-vs-sam-2-1-hiera-base-plus

Segmentierung von Bildern

Apache 2.0

Nein

ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß

Meta

Metall SAM 2.1 Hiera Large

meta-vs-sam-2-1-hiera-large

Segmentierung von Bildern

Apache 2.0

Nein

ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß

Meta

Metall SAM 2.1 Hiera, klein

meta-vs-sam-2-1-hiera-small

Segmentierung von Bildern

Apache 2.0

Nein

ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß

Meta

Metal SAM 2.1 Hierra Tiny

meta-vs-sam-2-1-hiera-tiny

Segmentierung von Bildern

Apache 2.0

Nein

ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß

Meta

Meta-Llama-3-8B

meta-textgeneration-llama-3-8b

Textgenerierung

Lama 3

Ja

Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p3.8xlarge, ml.p4d.24xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert): ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge interact_highest_throughput

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interagieren, Ausgewogen), (Interagieren, kostenoptimiert)interact_lowest_cost: ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Microsoft

Phi-2

huggingface-llm-phi-2

Textgenerierung

mit

Nein

ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.p4 de, 24 x groß, ml.p 5,48 x groß

Microsoft

Phi-3-Mini-128K-Instruct

huggingface-llm-phi-3-mini-128k-instruct

Textgenerierung

mit

Nein

ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24x groß, ml.p4de. 24 x groß, ml.p 5.48 x groß

Microsoft

Phi-3-mini-4k-instruct

huggingface-llm-phi-3-mini-4k-instruct

Textgenerierung

mit

Nein

Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausbalanciert), interact_best_price_performance (Interagieren, Ausgewogen): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge interact_lowest_cost max_context_lowest_cost

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Microsoft

Phi-3.5-mini-instruct

huggingface-llm-phi-3-5-mini-instruct

Textgenerierung

mit

Nein

ml.g5.48xlarge, ml.p4d.24xlarge

Microsoft

Phi-4-mini-instruct

huggingface-llm-phi-4-mini-instruct

Textgenerierung

Apache-2.0

Nein

Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), interact_best_price_performance (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert), interact_lowest_cost modify_lowest_cost (Ändern, Kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), interact_highest_throughput (Interact, Durchsatz optimiert), (Ändern, Durchsatz optimiert), modify_highest_throughput (Ändern, Latenz optimiert), modify_lowest_latency (Zusammenfassen, Durchsatz optimiert), summarize_highest_throughput (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, summarize_lowest_latency ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.8xlarge, ml.g7e.8xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interagieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge summarize_lowest_cost

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Microsoft

Tabelle: Erkennung von Transformatoren

huggingface-od-microsoft-table-transformer-detection

Objekterkennung

mit

Nein

ml.g5,2 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.g6,2 x groß, ml.g6,4 x groß, ml.g6.x groß, ml.g6e.2 x groß, ml.g6e.x groß

Minimaxi

MiniMax-M2

huggingface-llm-minimax-m2

Textgenerierung

andere

Nein

ml.p4de.24xlarge

Minimaxai

MiniMax-M2.1

huggingface-llm-minimax-m2-1

Textgenerierung

andere

Nein

ml.p4de.24x groß, ml.p5.48x groß

Minimaxai

MiniMax-M2.5

huggingface-llm-minimax-m2-5

Textgenerierung

andere

Nein

ml.p5.48xlarge

Minimaxai

MiniMax-M2.7

huggingface-llm-minimax-m2-7

Textgenerierung

andere

Nein

Standard: ml.p5en.48xlarge

Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_highest_throughput (Generieren, Durchsatz optimiert), generate_lowest_cost (Generieren, Kostenoptimiert), generate_lowest_latency (Generieren, Latenzoptimiert), interact_best_price_performance (Interagieren, interact_highest_throughput Ausgewogen), interact_lowest_cost (Interagieren, Durchsatzoptimiert), interact_lowest_latency (Interagieren, Kostenoptimiert), summarize_best_price_performance (Interagieren, Latenzoptimiert), summarize_highest_throughput (Zusammenfassen, Ausgewogen), summarize_lowest_cost (Zusammenfassen, optimiert für Durchsatz), summarize_lowest_latency (Zusammenfassen, Latenzoptimiert): ml.g7e.48xlarge, .p5. 48 x groß

  • modify_best_price_performance(Ändern, Ausgewogen), modify_highest_throughput (Ändern, Durchsatz optimiert), modify_lowest_cost (Ändern, Kostenoptimiert), modify_lowest_latency (Ändern, Latenzoptimiert): ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Mistralia

Ministral-3-14B-Instruct-2512

huggingface-llm-ministral-3-14b-instruct-2512

Textgenerierung

Apache-2.0

Nein

Standard: ml.p5.48xlarge, ml.p5en.48xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), interact_best_price_performance (Interagieren, Kostenoptimiert): ml.g5.12xlarge, ml.g6e.48xlarge, ml.p5.4xlarge interact_lowest_cost

  • generate_highest_throughput(Generieren, Durchsatz optimiert), generate_lowest_latency (Generieren, Latenz optimiert), interact_highest_throughput (Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g5.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Durchsatz optimiert), (Ändern, Kostenoptimiert), modify_highest_throughput (Ändern, Latenzoptimiert): ml.p5.48xlarge, ml.p5.4xlarge, modify_lowest_cost ml.p5en.48xlarge modify_lowest_latency

Mistralia

Mistral 7B Instruct Neuron

huggingface-llmneuron-mistral-7b-instruct

Textgenerierung

Apache 2.0

Nein

ml.inf2.8 x groß, ml.inf 2.x groß

Mistralia

Mistral 7B Neuron

huggingface-llmneuron-mistral-7b

Textgenerierung

Apache 2.0

Nein

ml.inf2.8 x groß, ml.inf 2.x groß

Mistralia

Mistral Nemo Base 2407

huggingface-llm-mistral-nemo-base-2407

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6.48 x groß, ml.p4d.24 x groß

Mistralia

Mistral Nemo Instruct 2407

huggingface-llm-mistral-nemo-instruct-2407

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6.48 x groß, ml.p4d.24 x groß

Mistralia

Mistral Pixtral-12B-2409

huggingface-vlm-mistral-pixtral-12b-2409

Image-Text-to-Text

Apache 2.0

Nein

ml.g6.12x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24x groß, ml.p5.48x groß

Mistralia

Mistral-7B-Instruct-v0.2

huggingface-llm-mistral-7b-instruct

Textgenerierung

Apache 2.0

Nein

Standard: ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.2xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), interact_best_price_performance (Interagieren, Kostenoptimiert): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.xlarge interact_lowest_cost

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz), (Maximaler Kontext, optimierte Latenz), (Zusammenfassen, optimierter Durchsatz), max_context_lowest_latency (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge summarize_highest_throughput summarize_lowest_latency

  • max_context_lowest_cost(Maximaler Kontext, Kostenoptimiert), modify_best_price_performance (Ändern, Ausgewogen), modify_lowest_cost (Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.8xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • summarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.p4d.24xlarge

Mistralia

Mistral-7B-Instruct-v0.3

huggingface-llm-mistral-7b-instruct-v3

Textgenerierung

Apache 2.0

Nein

Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.2xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5.48xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.xlarge interact_best_price_performance interact_lowest_cost

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz), max_context_lowest_latency (Maximaler Kontext, Latenz optimiert), modify_highest_throughput (Ändern, optimierter Durchsatz), modify_lowest_latency (Ändern, Latenz optimiert), summarize_highest_throughput (Zusammenfassen, optimierter Durchsatz), summarize_lowest_latency (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, Kostenoptimiert), modify_lowest_cost (Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • summarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

Mistralia

Mistral-7B-Instruct-v0.3

huggingface-llm-mistral-7b-v3

Textgenerierung

Apache 2.0

Nein

Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.2xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge interact_best_price_performance interact_lowest_cost

  • generate_lowest_latency(Generieren, Latenz optimiert), (Zusammenfassen, Durchsatz optimiert), summarize_highest_throughput (Zusammenfassen, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge summarize_lowest_latency

  • interact_highest_throughput(Interagieren, Durchsatz optimiert), max_context_highest_throughput (Maximaler Kontext, optimierter Durchsatz), max_context_lowest_latency (Maximaler Kontext, Latenz optimiert), modify_highest_throughput (Ändern, optimierter Durchsatz), modify_lowest_latency (Ändern, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interagieren, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Max Context, Kostenoptimiert), (Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge modify_lowest_cost

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • summarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

Mistralia

Mistral-7B-v0.1

huggingface-llm-mistral-7b

Textgenerierung

Apache 2.0

Ja

Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), (Interagieren, Kostenoptimiert), interact_lowest_cost max_context_lowest_cost (Maximaler Kontext, Kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interagieren, Ausgewogen), (Ändern, Kostenoptimiert)modify_lowest_cost: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g5.48xlarge, ml.g6e.48xlarge, ml.p3.16xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz), max_context_lowest_latency (Maximaler Kontext, Latenz optimiert), (Ändern, optimierter Durchsatz), modify_highest_throughput (Ändern, Latenz optimiert): modify_lowest_latency ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g5.12xlarge, ml.g6.12xlarge, ml.p5.48xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), summarize_highest_throughput (Zusammenfassen, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge summarize_lowest_cost summarize_lowest_latency

Mistralia

Mistral-Small-24B-Instruct-2501

huggingface-llm-mistral-small-24B-Instruct-2501

Textgenerierung

Apache 2.0

Nein

Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausbalanciert), interact_best_price_performance (Interagieren, Ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), interact_highest_throughput (Interact, Durchsatz optimiert), interact_lowest_latency (Interact, Latenz optimiert), max_context_highest_throughput (Max Context, Durchsatz optimiert), modify_highest_throughput (Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost(Generieren, Kostenoptimiert), interact_lowest_cost (Interagieren, Kostenoptimiert), max_context_lowest_cost (Maximaler Kontext, Kostenoptimiert), modify_lowest_cost (Ändern, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert), (Ändern, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge modify_lowest_latency

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), summarize_highest_throughput (Zusammenfassen, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge summarize_lowest_cost summarize_lowest_latency

Mistralia

Mistral-Small-3.1-24B-Base-2503

huggingface-vlm-mistral-small-3-1-24b-base-2503

Image-Text-to-Text

Apache 2.0

Nein

ml.g6.12 x groß, ml.g6.16 x groß, ml.g6.24 x groß, ml.g6.48 x groß, ml.g6e.12 x groß

Mistralia

Mistral-Small-3.2-24B-Instruct-2506

huggingface-vlm-mistral-small-3-2-24b-instruct-2506

Image-Text-to-Text

Apache 2.0

Nein

ml.g6.12 x groß, ml.g6.16 x groß, ml.g6.24 x groß, ml.g6.48 x groß, ml.g6e.12 x groß

Mistralia

Mixtral 8x7B

huggingface-llm-mixtral-8x7b

Textgenerierung

Apache 2.0

Ja

ml.g5.48 x groß, ml.g 6.48 x groß, ml.p4d. 24 x groß, ml.p 5.48 x groß

Mistralia

Mixtral-8x22B V1

huggingface-llm-mixtral-8x22B

Textgenerierung

Apache 2.0

Nein

ml.p4d.24x groß, ml.p4de.24x groß

Mistralia

Mixtral-8x22B-Instruct-v0.1

huggingface-llm-mistralai-mixtral-8x22B-instruct-v0-1

Textgenerierung

Apache 2.0

Nein

Standard: ml.p4de.24xlarge, ml.p5.48xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • tgi(Inferenzcontainer zur Textgenerierung): ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Mistralia

Mixtral-8x7B-Instruct-v0.1

huggingface-llm-mixtral-8x7b-instruct

Textgenerierung

Apache 2.0

Ja

Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausbalanciert), interact_best_price_performance (Interagieren, Ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert), (Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge interact_highest_throughput modify_highest_throughput

  • generate_lowest_cost(Generieren, Kostenoptimiert), interact_lowest_cost (Interagieren, Kostenoptimiert), max_context_lowest_cost (Maximaler Kontext, Kostenoptimiert), modify_lowest_cost (Ändern, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interagieren, Latenz optimiert), (Ändern, Latenz optimiert): modify_lowest_latency ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz), max_context_lowest_latency (Maximaler Kontext, Latenz optimiert), summarize_highest_throughput (Zusammenfassen, optimierter Durchsatz), summarize_lowest_latency (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): summarize_lowest_cost ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Mistralia

Voxtral-Mini-4B-Realtime-2602

huggingface-asr-voxtral-mini-4b-realtime-2602

Textgenerierung

Apache-2.0

Nein

ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.g7e.2 x groß, ml.g7e.4 x groß

Mondschüsse

Kimi-K2.5

huggingface-llm-kimi-k2-5

Textgenerierung

andere

Nein

ml.p5en.48x groß

Moritzlaurer

MoritzLaurer MDeBERTa V3 Base Xnli Mehrsprachig Nli 2mil7

huggingface-zstc-moritzlaurer-mdeberta3base-xnli-mling-nli-2m7

Zero-Shot Einstufung

mit

Nein

ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß

Mosaik ml

MPT 7B BF16

huggingface-textgeneration1-mpt-7b-bf16

Textgenerierung

Apache-2.0

Nein

ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß

Mosaik ml

MPT 7B Instruct BF16

huggingface-textgeneration1-mpt-7b-instruct-bf16

Textgenerierung

CC-BY-SA-3.0

Nein

ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß

Herr 8488

Bert Small2Bert

huggingface-summarization-bert-small2bert-cnn-dailymail-summ

Textzusammenfassung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

Einbettung von Finanztexten

mxnet-tcembedding-robertafin-base-uncased

Einbettung von Text

Apache-2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

RoBERTa-SEC-Large

mxnet-tcembedding-robertafin-large-uncased

Einbettung von Text

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

RoBERTa-SEC-WIKI-Base

mxnet-tcembedding-robertafin-base-wiki-uncased

Einbettung von Text

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

RoBERTa-SEC-WIKI-Large

mxnet-tcembedding-robertafin-large-wiki-uncased

Einbettung von Text

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Naclbit

Naclbit Trinart Stabile Diffusion V2

huggingface-txt2img-naclbit-trinart-stable-diffusion-v2

Text-to-Image

creativeml-openrail-m

Nein

ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß

Narsil

Narsil Deberta Large Mnli Zero Cls

huggingface-zstc-narsil-deberta-large-mnli-zero-cls

Zero-Shot Einstufung

mit

Nein

ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß

Nexai

Nexaai Octopus-v2

huggingface-llm-nexaaidev-octopus-v2

Textgenerierung

cc-by-nc-4.0

Nein

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Nexusfluss

Nexusfluss Starling-LM-7B-beta

huggingface-llm-nexusflow-starling-lm-7b-beta

Textgenerierung

Apache 2.0

Nein

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Keine Recherche

Hermes 2 8B Pro-Llama-3

huggingface-llm-nousresearch-hermes-2-pro-llama-3-8B

Textgenerierung

Ruf 3 an

Nein

ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß

Keine Recherche

Nous Hermes 2 SOLAR 10,7 B

huggingface-llm-nousresearch-nous-hermes-2-solar-10-7b

Textgenerierung

Apache 2.0

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß

Nova

Nova 2.0 Lite

nova-textgeneration-lite-v2

Textgenerierung

AWS Nutzungsbedingungen des Dienstes

Ja

Nicht zutreffend

Nova

Nova 2.0 Mikro

nova-textgeneration-micro-v2

Textgenerierung

Nicht zutreffend

Ja

Nicht zutreffend

Nova

Nova Lite

nova-textgeneration-lite

Textgenerierung

AWS Nutzungsbedingungen

Ja

Nicht zutreffend

Nova

Nova Micro

nova-textgeneration-micro

Textgenerierung

AWS Nutzungsbedingungen

Ja

Nicht zutreffend

Nova

Nova Pro

nova-textgeneration-pro

Textgenerierung

AWS Nutzungsbedingungen

Ja

Nicht zutreffend

Nvidia

Nvidia Llama3-ChatQA-1.5 8B

huggingface-llm-nvidia-llama3-chatqa-1-5-8B

Textgenerierung

Rufe 3 an

Nein

ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß

Nvidia

Nvidia Nemotron 3 Ultra

huggingface-reasoning-nvidia-nemotron-3-ultra-550b-a55b-nvfp4

Reasoning

Apache-2.0

Nein

Standard: ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:

  • modify_best_price_performance(Ändern, Ausgewogen), modify_highest_throughput (Ändern, Durchsatz optimiert), (Ändern, Kostenoptimiert), modify_lowest_cost (Ändern, Latenzoptimiert): ml.g7e.48xlarge, ml.p5.48xlarge modify_lowest_latency

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), summarize_highest_throughput (Zusammenfassen, Kostenoptimiert), (Zusammenfassen, Latenzoptimiert): ml.g7e.48xlarge, summarize_lowest_cost ml.p5en.48xlarge summarize_lowest_latency

Nvidia

Nvidia Nemotron 3 Nano Omni

huggingface-vlm-nvidia-nemotron3-nano-omni-30ba3b-reasoning-fp8

Image-Text-to-Text

andere

Nein

Standard: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), interact_lowest_cost (Interagieren, Kostenoptimiert), (Ändern, Ausgewogen), modify_best_price_performance (Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.xlarge modify_lowest_cost

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert), (Interact, Latenz optimiert): interact_lowest_latency ml.g6.12xlarge, ml.g6e.16xlarge, ml.g6e.8xlarge

  • interact_best_price_performance(Interagieren, Ausgewogen): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g6e.xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.48xlarge

  • max_context_highest_throughput(Maximaler Kontext, Durchsatz optimiert), (Ändern, Durchsatz optimiert), (Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge modify_highest_throughput summarize_highest_throughput

  • max_context_lowest_cost(Maximaler Kontext, Kostenoptimiert), summarize_best_price_performance (Zusammenfassen, Ausgewogen), summarize_lowest_cost (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g6e.4xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge

Nvidia

NVIDIA-Nemotron-3-Nano-30B-A3B-BF16

huggingface-reasoning-nvidia-nemotron-3-nano-30b-a3b-bf16

Reasoning

andere

Ja

Standard: ml.g6e.24xlarge, ml.g7e.12xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_highest_throughput (Generieren, Durchsatz optimiert), (Generieren, Kostenoptimiert), generate_lowest_cost (Generieren, Latenzoptimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge generate_lowest_latency

  • interact_best_price_performance(Interact, Balanced), interact_highest_throughput (Interact, Durchsatz optimiert), interact_lowest_cost (Interact, kostenoptimiert), interact_lowest_latency (Interact, Latenzoptimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.24xlarge, ml.g6.48xlarge, ml.g7e.24xlarge modify_lowest_cost

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g7e.12xlarge, ml.g7e.24xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6.24xlarge, ml.g7e.4xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert): ml.g6e.12xlarge, ml.g7e.24xlarge, ml.g7e.48xlarge summarize_highest_throughput summarize_lowest_cost

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6e.12xlarge, ml.g7e.12xlarge, ml.g7e.24xlarge

Nvidia

NVIDIA-Nemotron-3-Super-120B-A12B-BF16

huggingface-llm-nvidia-nemotron-3-super-120b-a12b-bf16

Textgenerierung

Apache-2.0

Ja

Standard: ml.p5en.48xlarge

Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert): ml.g6e.48xlarge, ml.g7e.48xlarge, ml.p5.48xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (modify_highest_throughputÄndern, Durchsatz optimiert): ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interact, Balanced), (Interact, Durchsatz optimiert), (Interact, kostenoptimiert), interact_highest_throughput (Interact, Latenz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge interact_lowest_cost interact_lowest_latency

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.p5.48xlarge modify_lowest_cost

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g7e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), summarize_highest_throughput (Zusammenfassen, Latenz optimiert): ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5.48xlarge summarize_lowest_cost summarize_lowest_latency

Nvidia

NVIDIA-Nemotron-3-Super-120B-A12B-FP8

huggingface-reasoning-nvidia-nemotron-3-super-120b-a12b-fp8

Reasoning

andere

Nein

Standard: ml.g7e.24xlarge

Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_highest_throughput (Generieren, Durchsatz optimiert), (Generieren, Kostenoptimiert), generate_lowest_cost (Generieren, Latenzoptimiert): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.g7e.48xlarge generate_lowest_latency

  • interact_best_price_performance(Interagieren, Ausgewogen), interact_highest_throughput (Interagieren, Durchsatz optimiert), interact_lowest_cost (Interagieren, Kostenoptimiert), interact_lowest_latency (Interagieren, Latenzoptimiert), summarize_best_price_performance (Zusammenfassen, Ausgewogen), summarize_highest_throughput (Zusammenfassen, Durchsatz optimiert), summarize_lowest_cost (Zusammenfassen, Kostenoptimiert), summarize_lowest_latency (Zusammenfassen, Latenzoptimiert): ml.g7e.24xlarge, ml.g7e.48xlarge

Nvidia

NVIDIA-Nemotron-Nano-12B-v2

huggingface-reasoning-nvidia-nemotron-nano-12b-v2

Reasoning

Apache-2.0

Nein

Standard: ml.g6e.48xlarge, ml.g7e.12xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.12xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.24xlarge, ml.g6e.2xlarge, ml.g7e.2xlarge

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge modify_lowest_cost

  • modify_highest_throughput(Ändern, Durchsatz optimiert), summarize_best_price_performance (Zusammenfassen, Ausgewogen), summarize_highest_throughput (Zusammenfassen, Durchsatz optimiert), summarize_lowest_cost (Zusammenfassen, Kostenoptimiert), summarize_lowest_latency (Zusammenfassen, Latenz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g7e.12xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge

Open.ai

gpt-oss-120b

openai-reasoning-gpt-oss-120b

Reasoning

Apache 2.0

Ja

Standard: ml.g6e.48xlarge, ml.g7e.2xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • lmi(Großer Model Inference-Container): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

Open.ai

gpt-oss-20b

openai-reasoning-gpt-oss-20b

Reasoning

Apache 2.0

Ja

ml.g5.12 x groß, ml.g5.24 x groß, ml.g6.12 x groß, ml.g6.24 x groß, ml.g7e.2 x groß, ml.p 5.48 x groß, ml.p5e.48 x groß, ml.p5en.48 x groß

Open.ai

Datenschutzfilter

openai-tokenclassification-privacy-filter

Token-Klassifizierung

Apache-2.0

Nein

ml.m5,2 x groß, ml.m5,4 x groß, ml.m5,x groß

Öffnen Sie

Whisper Base

huggingface-asr-whisper-base

Automatische Spracherkennung

Apache 2.0

Nein

ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß

OpenAi

Flüstern Sie groß

huggingface-asr-whisper-large

Automatische Spracherkennung

Apache 2.0

Nein

ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß

OpenAi

Whisper Large V2

huggingface-asr-whisper-large-v2

Automatische Spracherkennung

Apache 2.0

Nein

ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß

OpenAi

Whisper Large V3

huggingface-asr-whisper-large-v3

Automatische Spracherkennung

Apache 2.0

Nein

ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß

OpenAi

Whisper Large V3 Turbo

huggingface-asr-whisper-large-v3-turbo

Automatische Spracherkennung

mit

Nein

ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß

OpenAi

Whisper Medium

huggingface-asr-whisper-medium

Automatische Spracherkennung

Apache 2.0

Nein

ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß

OpenAi

Whisper Klein

huggingface-asr-whisper-small

Automatische Spracherkennung

Apache 2.0

Nein

ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß

OpenAi

Flüster Tiny

huggingface-asr-whisper-tiny

Automatische Spracherkennung

Apache 2.0

Nein

ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß

Openai-Community

GPT 2

huggingface-textgeneration-gpt2

Textgenerierung

mit

Nein

ml 5,16 x groß, ml 5,2 x groß, ml 5,4 x groß, ml g 5,8 x groß

Openai-Community

GPT-2 XL

huggingface-textgeneration1-gpt-2-xl

Textgenerierung

mit

Ja

ml. g 5,16 x groß, ml. G 5,2 x groß, ml. G 5,8 x groß

Openai-Community

OpenAI-Detektor von Roberta Base

huggingface-eqa-roberta-base-openai-detector

Beantwortete Frage

mit

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Openai-Community

OpenAI-Detektor von Roberta Base

huggingface-spc-roberta-base-openai-detector

Fill-Mask

mit

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Openai-Community

OpenAI-Detektor von Roberta Base

huggingface-tc-roberta-base-openai-detector

Textklassifizierung

mit

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Openai-Community

Roberta Großer OpenAI-Detektor

huggingface-spc-roberta-large-openai-detector

Fill-Mask

mit

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Openai-Community

Roberta Großer OpenAI-Detektor

huggingface-tc-roberta-large-openai-detector

Textklassifizierung

mit

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Openlm-Research

Öffne Llama 7B V2

huggingface-llm-openlm-research-open-llama-7b-v2

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß

Phil Schmid

Bart Large CNN samsum

huggingface-summarization-bart-large-cnn-samsum

Textzusammenfassung

mit

Nein

ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß

Phil Schmid

Flan-T5 Basismodell Fine-tuned auf dem Samsum-Datensatz

huggingface-text2text-flan-t5-base-samsum

Generierung von Text zu Text

Apache 2.0

Nein

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Pytorch

Alexa TM 20 B

pytorch-textgeneration1-alexa20b

Textgenerierung

Amazon-Softwarelizenz

Nein

ml.g4dn. 12 x groß, ml.g5.16 x groß, ml.p 3.16 x groß, ml.p 3,8 x groß

Qwen

QVQ 72B Vorschau

huggingface-vlm-qvq-72b-preview

Image-Text-to-Text

andere

Nein

ml. g 5,48 x groß, ml. g 6,48 x groß, ml. g 4 x 24 x groß

Qwen

Qwen2 0,5 B

huggingface-llm-qwen2-0-5b

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24 x groß

Qen

Qwen2 0.5B Anleitung

huggingface-llm-qwen2-0-5b-instruct

Textgenerierung

Apache-2.0

Nein

ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24 x groß

Qen

Qwen2-1.5B

huggingface-llm-qwen2-1-5b

Textgenerierung

Apache 2.0

Nein

Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert), interact_best_price_performance (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, interact_lowest_cost ml.g6.xlarge modify_lowest_cost

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g5.4xlarge, ml.g6.4xlarge, ml.g6e.2xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.2xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.24xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g5.4xlarge, ml.g6.12xlarge, ml.g6e.4xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.2xlarge

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g5.16xlarge, ml.g6.24xlarge, ml.g6e.2xlarge

  • summarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g5.4xlarge, ml.g6.24xlarge, ml.g6e.8xlarge

Qwen

Qwen2-1.5B-Instruct

huggingface-llm-qwen2-1-5b-instruct

Textgenerierung

Apache 2.0

Nein

Standard: ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p3.2xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausbalanciert), interact_best_price_performance (Interagieren, Ausgewogen), modify_best_price_performance (Ändern, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, Kostenoptimiert), interact_lowest_cost (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, max_context_lowest_cost ml.g6.xlarge modify_lowest_cost

  • generate_lowest_latency(Generieren, Latenzoptimiert): ml.g5.8xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g4dn.8xlarge, ml.g6.12xlarge, ml.g6e.4xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.12xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.4xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g5.2xlarge, ml.g6.12xlarge, ml.g6e.2xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge summarize_lowest_cost

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g5.4xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g5.8xlarge, ml.g6.8xlarge, ml.g6e.16xlarge

Qwen

Qwen2-7B

huggingface-llm-qwen2-7b

Textgenerierung

Apache 2.0

Nein

ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß g6e.xlarge

Qwen

Qwen2-7B-Instruct

huggingface-llm-qwen2-7b-instruct

Textgenerierung

Apache 2.0

Nein

ml.g4dn.12 x groß, ml.g5.12 x groß, ml.g5.24 x groß, ml.g6.12 x groß, ml.g6.24 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß

Königin

Qwen2-VL-7B-Instruct

huggingface-vlm-qwen2-vl-7b-instruct

Textgenerierung

Apache 2.0

Nein

Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge interact_lowest_cost

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g5.8xlarge, ml.g6.12xlarge, ml.g6e.8xlarge

  • interact_best_price_performance(Interaktiv, Ausgewogen): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert), modify_highest_throughput (Ändern, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.4xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.xlarge

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge modify_lowest_cost

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.16xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), summarize_highest_throughput (Zusammenfassen, Latenz optimiert): ml.g6e.12xlarge summarize_lowest_cost summarize_lowest_latency

Qwen

Qwen2.5 14B anweisen

huggingface-llm-qwen2-5-14b-instruct

Textgenerierung

Apache 2.0

Ja

ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß

Qwen

Qwen2.5 32B anweisen

huggingface-llm-qwen2-5-32b-instruct

Textgenerierung

Apache 2.0

Ja

ml.g5.48x groß, ml.g6.48x groß, ml.p4d.24x groß

Qwen

Qwen2.5 Coder 32B anweisen

huggingface-llm-qwen2-5-coder-32b-instruct

Textgenerierung

Apache 2.0

Nein

ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß

Qwen

Qwen2.5 Coder 7B anweisen

huggingface-llm-qwen2-5-coder-7b-instruct

Textgenerierung

Apache 2.0

Nein

ml.g5.16 x groß, ml.g 5.2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.p4d.24 x groß

Qen

Qwen2.5-72B-Instruct

huggingface-llm-qwen2-5-72b-instruct

Textgenerierung

andere

Ja

Standard: ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert): ml.g5.48xlargeinteract_lowest_cost, ml.g6.48xlarge, ml.g6e.12xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interaktiv, ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), summarize_highest_throughput (Zusammenfassen, Latenzoptimiert): ml.p5en.48xlarge summarize_lowest_cost summarize_lowest_latency

Qwen

Qwen2.5-7B-Instruct

huggingface-llm-qwen2-5-7b-instruct

Textgenerierung

Apache 2.0

Ja

Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Latenz optimiert), (Zusammenfassen, Latenz optimiert): ml.g5.12xlarge, interact_lowest_latency ml.g6.12xlarge, ml.g6e.24xlarge summarize_lowest_latency

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interact, Balanced), (Interact, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge interact_best_price_performance interact_lowest_cost

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.16xlarge

  • interact_highest_throughput(Interagieren, Durchsatz optimiert), (Zusammenfassen, summarize_highest_throughput Durchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge modify_best_price_performance modify_lowest_cost

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g4dn.12xlarge, ml.g6.24xlarge, ml.g6e.2xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert)summarize_lowest_cost: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

Qwen

Qwen 3 14 B

huggingface-reasoning-qwen3-14b

Reasoning

Apache 2.0

Ja

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6.48 x groß, ml.p4d.24 x groß

Qwen

Qwen3-0.6B

huggingface-reasoning-qwen3-06b

Reasoning

Apache 2.0

Ja

Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), interact_best_price_performance (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert), interact_lowest_cost modify_lowest_cost (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), interact_highest_throughput (Interact, Durchsatz optimiert), modify_highest_throughput (Ändern, Durchsatz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g5.8xlarge, ml.g6.12xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interagieren, Latenz optimiert): ml.g4dn.16xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Kostenoptimiert): summarize_lowest_cost ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Qwen

Qwen3-1.7B

huggingface-reasoning-qwen3-1-7b

Reasoning

Apache 2.0

Ja

ml.g4dn.12x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8x groß, ml.g5,12 x groß, ml.g5,24x groß, ml.g5,48x groß, ml.g6.12xgroß, ml.g6,24xgroß, ml.g6,24xgroß, ml.g6,24xgroß, .g 6,48 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. G 6E 2 x groß, ml. G 6E. 4 x groß, ml. G 6E XL, ml. P 3,2 x groß, ml. P4. 24 x groß

Qwen

Qwen3-30B-A3B

huggingface-reasoning-qwen3-30b-a3b

Reasoning

Apache 2.0

Nein

ml.g5.24xlarge

Qwen

Qwen3-30B-A3B-Instruct-2507

huggingface-reasoning-qwen3-30b-a3b-instruct-2507

Textgenerierung

Apache 2.0

Nein

ml.g5.48x groß, ml.g6.48x groß, ml.g6e.12x groß, ml.p4de.24x groß

Qwen

Qwen3-30B-A3B-Thinking-2507

huggingface-reasoning-qwen3-30b-a3b-thinking-2507

Reasoning

Apache 2.0

Nein

ml.g6e.12xlarge

Qwen

Qwen3-32B

huggingface-reasoning-qwen3-32b

Reasoning

Apache 2.0

Ja

Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), interact_best_price_performance (Interagieren, Ausgewogen), (Zusammenfassen, Ausgewogen), summarize_best_price_performance (Zusammenfassen, Kostenoptimiert): summarize_lowest_cost ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), generate_lowest_latency (Generieren, Latenz optimiert), interact_highest_throughput (Interact, Durchsatz optimiert), max_context_highest_throughput (Maximaler Kontext, optimierter Durchsatz), max_context_lowest_latency (Maximaler Kontext, Latenz optimiert), summarize_highest_throughput (Zusammenfassen, Durchsatz optimiert), summarize_lowest_latency (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), max_context_lowest_cost (Maximaler Kontext, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

  • interact_lowest_cost(Interagieren, kostenoptimiert): ml.g5.48xlarge, ml.g6.24xlarge, ml.g6e.12xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert)modify_lowest_cost: ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Qwen

Qwen3-4B

huggingface-reasoning-qwen3-4b

Reasoning

Apache 2.0

Ja

ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5.24 x groß, ml.g 5.2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, g 6,2 x groß, ml g 6,48 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß, ml g 6, 12 x groß, ml G 6 E 16 x groß, ml G 6,8 x groß, ml G 6E. 2 x groß, ml. G 6E 4 x groß, ml. g6e.8 x groß, ml. .p4d.24xlarge

Qwen

Qwen3-4B-Instruct-2507

huggingface-reasoning-qwen3-4b-instruct-2507

Reasoning

Apache 2.0

Nein

ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.p4d.24 x groß

Königin

Qwen3-8B

huggingface-reasoning-qwen3-8b

Reasoning

Apache 2.0

Ja

Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), (Interagieren, Ausgewogen), interact_best_price_performance (Interagieren, Kostenoptimiert): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlarge interact_lowest_cost

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert), (Ändern, Durchsatz optimiert), modify_highest_throughput (Ändern, Latenz optimiert), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): modify_lowest_latency ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge summarize_highest_throughput summarize_lowest_latency

  • interact_highest_throughput(Interact, optimierter Durchsatz), max_context_highest_throughput (Maximaler Kontext, optimierter Durchsatz), max_context_lowest_latency (Maximaler Kontext, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g5.12xlarge, ml.g6e.xlarge, ml.p5.48xlarge

  • modify_lowest_cost(Ändern, Kostenoptimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g5.24xlarge, ml.g6e.12xlarge, ml.p5.48xlarge summarize_lowest_cost

Qwen

Qwen3-ASR-1.7B

huggingface-asr-qwen3-asr-1-7b

Automatische Spracherkennung

Apache-2.0

Nein

ml.g6,2 x groß, ml.g6,x groß

Qwen

Qwen3-Coder-30B-A3B-Instruct

huggingface-reasoning-qwen3-coder-30b-a3b-instruct

Reasoning

Apache 2.0

Nein

ml.g6e.24x groß, ml.g7e.2x groß

Qwen

Qwen3-Coder-Next

huggingface-reasoning-qwen3-coder-next

Reasoning

Apache 2.0

Nein

ml.g7e.24x groß, ml.g7e.48x groß, ml.p4d.24x groß, ml.p5en.48x groß

Qwen

Qwen3-Embedding-0.6B

huggingface-textembedding-qwen3-embedding-0-6b

Einbettung von Text

Apache-2.0

Nein

ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.48 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß

Qwen

Qwen3-Next-80B-A3B-Instruct

huggingface-reasoning-qwen3-next-80b-a3b-instruct

Textgenerierung

Apache 2.0

Nein

ml.g6e.48x groß, ml.p4de.24x groß

Qwen

Qwen3-Reranker-4B

huggingface-textembedding-qwen3-reranker-4b

Einbettung von Text

Apache-2.0

Nein

ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xlarge, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.48 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß

Qwen

Qwen3-TTS-12Hz-1.7B-Base

huggingface-ttsvoiceclone-qwen3-tts-12hz-1-7b-base

Text-to-Speech

Apache-2.0

Nein

ml.g6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.2 x groß, ml.g6e.4x groß, ml.g6e.x groß, ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß g 7,8 x groß

Qwen

Qwen3-TTS-12Hz-1.7B-CustomVoice

huggingface-tts-qwen3-tts-customvoice

Text-to-Speech

Apache-2.0

Nein

ml.g6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.2 x groß, ml.g6e.4x groß, ml.g6e.x groß, ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß g 7,8 x groß

Qwen

Qwen3-VL-8B-Instruct

huggingface-vlm-qwen3-vl-8b-instruct

Textgenerierung

Apache 2.0

Nein

ml.g6e.24x groß, ml.g6e.48x groß, ml.p4d.24x groß

Qwen

Qwen3-VL-Embedding-2B

huggingface-textembedding-qwen3-vl-embedding-2b

Einbettung von Text

Apache-2.0

Nein

ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xlarge, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß

Qwen

Qwen3.5-0.8B

huggingface-vlm-qwen3-5-0-8b

Textgenerierung

Apache 2.0

Nein

Standard: ml.g6.4xlarge, ml.g6e.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.g7e.4xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.4xlarge, ml.g6e.4xlarge

  • interact_best_price_performance(Interagieren, Ausgewogen), (Interact, Latenz optimiert): ml.g6.2xlarge, ml.g6.xlarge, interact_lowest_latency ml.g6e.2xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge

  • interact_lowest_cost(Interagieren, kostenoptimiert), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.2xlarge, ml.g6.xlarge, ml.g6e.xlarge modify_best_price_performance modify_lowest_cost

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.4xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.16xlarge, ml.g6e.4xlarge, ml.g7e.4xlarge

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6.8xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlarge, ml.g7e.8xlarge

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.8xlarge

  • summarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.8xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.8xlarge

Qwen

Qwen3.5-27b

huggingface-vlm-qwen3-5-27b

Textgenerierung

Apache 2.0

Ja

ml.g6.48xlarge

Qwen

Qwen3.5-27B-FP8

huggingface-vlm-qwen3-5-27b-fp8

Image-Text-to-Text

Apache 2.0

Nein

ml.g6.24xlarge

Qwen

Qwen3.5-2B

huggingface-vlm-qwen3-5-2b

Textgenerierung

Apache 2.0

Nein

Standard: ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausbalanciert), modify_best_price_performance (Ändern, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Ändern, Kostenoptimiert): modify_lowest_cost ml.g6.2xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.16xlarge, ml.g6.xlarge, ml.g6e.16xlarge

  • interact_best_price_performance(Interagieren, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.48xlarge

  • interact_lowest_cost(Interact, kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g6.4xlarge, ml.g6e.4xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz), (Ändern, optimierter Durchsatz): ml.g6.12xlarge, ml.g6e.12xlarge, modify_highest_throughput ml.g6e.24xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.48xlarge, ml.g6e.16xlarge, ml.g6e.48xlarge

  • modify_lowest_latency(Ändern, Latenz optimiert): ml.g6.8xlarge, ml.g6e.2xlarge, ml.g6e.8xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.4xlarge summarize_lowest_cost

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.4xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.2xlarge, ml.g6e.2xlarge, ml.g7e.4xlarge

Qwen

Qwen3.5-4B

huggingface-vlm-qwen3-5-4b

Textgenerierung

Apache 2.0

Ja

Standard: ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_highest_throughput (Generieren, Durchsatz optimiert), (Generieren, Kostenoptimiert), generate_lowest_cost (Generieren, Latenzoptimiert): ml.g6.8xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge generate_lowest_latency

  • interact_best_price_performance(Interact, Balanced), interact_highest_throughput (Interact, Durchsatz optimiert), interact_lowest_cost (Interact, kostenoptimiert), interact_lowest_latency (Interact, Latenz optimiert): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz), max_context_lowest_cost (Maximaler Kontext, kostenoptimiert), max_context_lowest_latency (Maximaler Kontext, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Ändern, Latenzoptimiert): ml.g6.2xlarge, ml.g6e.8xlarge, modify_lowest_cost ml.g7e.2xlarge modify_lowest_latency

  • modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.2xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge summarize_lowest_cost

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.24xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge

Qwen

Qwen3.5-9b

huggingface-vlm-qwen3-5-9b

Textgenerierung

Apache 2.0

Ja

ml.g 6,24 x groß, ml.g 6,48 x groß

Qwen

Qwen3.6-27B

huggingface-vlm-qwen3-6-27b

Image-Text-to-Text

Apache 2.0

Ja

Standard: ml.g7e.12xlarge, ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), (Ändern, Ausgewogen), modify_best_price_performance (Ändern, Kostenoptimiert), modify_lowest_cost (Zusammenfassen, Ausgewogen), summarize_best_price_performance (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, summarize_lowest_cost ml.g6e.12xlarge, ml.p5en.48xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), modify_highest_throughput (Ändern, Durchsatz optimiert), modify_lowest_latency (Ändern, Latenz optimiert): ml.g7e.48xlarge, ml.p5.4xlarge, ml.p5en.48xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.12xlarge, ml.p5.4xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interagieren, Ausgewogen), (Interagieren, kostenoptimiert)interact_lowest_cost: ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert), interact_lowest_latency (Interact, Latenz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Maximaler Kontext, Latenz optimiert): ml.g7e.12xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge max_context_lowest_latency

  • summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

Qwen

Qwen3.6-35B-A3B

huggingface-vlm-qwen3-6-35b-a3b

Textgenerierung

Apache 2.0

Nein

Standard: ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), (Maximaler Kontext, optimierter Durchsatz): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge max_context_highest_throughput

  • generate_lowest_latency(Generieren, Latenz optimiert), max_context_lowest_cost (Maximaler Kontext, Kostenoptimiert), max_context_lowest_latency (Maximaler Kontext, Latenz optimiert), modify_highest_throughput (Ändern, Durchsatz optimiert), modify_lowest_latency (Ändern, Latenz optimiert), summarize_highest_throughput (Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interagieren, Ausgewogen), interact_lowest_cost (Interagieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert), (interact_lowest_latencyInteract, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Zusammenfassen, Ausgewogen), modify_lowest_cost (Zusammenfassen, Kostenoptimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p5.48xlarge summarize_best_price_performance summarize_lowest_cost

  • summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Qwen

QwQ 32 B

huggingface-llm-qwq-32b

Textgenerierung

Apache 2.0

Nein

ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß

Anerkennung

Recognai Bert Base Spanisch Wwm Cased Xanli

huggingface-zstc-recognai-bert-base-spanish-wwm-cased-xnli

Zero-Shot Einstufung

mit

Nein

ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß

Anerkennung

Erkennen Sie Zeroshot Selectra Medium

huggingface-zstc-recognai-zeroshot-selectra-medium

Zero-Shot Klassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Rinna

Rinna japanische GPT NeoX 3.6B Anleitung PPO

huggingface-llm-rinna-3-6b-instruction-ppo-bf16

Textgenerierung

mit

Nein

ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,x groß

Salesforce

Salesforce SFR-Embedding-2 _R

huggingface-textembedding-sfr-embedding-2-r

Einbettung von Text

CC-BY-NC-4.0

Nein

ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß

Salesforce

Salesforce SFR-Embedding-Mistral

huggingface-textembedding-sfr-embedding-mistral

Einbettung von Text

CC-BY-NC-4.0

Nein

ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß

Sentence-Transformers

Alle miniLM L6 v2

huggingface-sentencesimilarity-all-MiniLM-L6-v2

Ähnlichkeit des Satzes

Apache 2.0

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß

Sentence-Transformers

Alle miniLM L6 v2

huggingface-textembedding-all-MiniLM-L6-v2

Einbettung von Text

Apache-2.0

Nein

ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß

Sentence-Transformers

alle- MiniLM-L12-v2

huggingface-textembedding-all-MiniLM-L12-v2

Einbettung von Text

Apache-2.0

Nein

ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

Sentence-Transformers

Paraphrasieren Sie mehrsprachig MiniLM L12 v2

huggingface-textembedding-paraphrase-multilingual-MiniLM-L12-v2

Einbettung von Text

Apache-2.0

Nein

ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

Shenzhi-Wang

Llama3 8B Chinesischer Chat

huggingface-llm-shenzhi-wang-llama3-8B-chinese-chat

Textgenerierung

llama3

Nein

ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß

Snowflake

Snowflake Arctic Instruct Vllm

huggingface-llm-snowflake-arctic-instruct-vllm

Textgenerierung

Apache 2.0

Nein

ml.p5.48xlarge

Sprechleine

Bielik-11B-v3.0-Instruct

huggingface-llm-bielik-11b-v3-0-instruct

Textgenerierung

Apache 2.0

Nein

Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen), generate_lowest_cost (Generieren, Kostenoptimiert), (Interagieren, Kostenoptimiert), interact_lowest_cost modify_lowest_cost (Ändern, Kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert), interact_highest_throughput (Interact, Durchsatz optimiert), modify_highest_throughput (Ändern, Durchsatz optimiert), modify_lowest_latency (Ändern, Latenz optimiert), summarize_highest_throughput (Zusammenfassen, Durchsatz optimiert), summarize_lowest_latency (Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.16xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_best_price_performance(Interaktiv, ausgewogen): ml.g5.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g5.48xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g5.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance(Ändern, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • summarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

Schleifer

Distilbart CNN 12-6

huggingface-summarization-distilbart-cnn-12-6

Textzusammenfassung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Schleifer

Distilbart CNN 6-6

huggingface-summarization-distilbart-cnn-6-6

Textzusammenfassung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Schleifer

Textzusammenfassung

huggingface-summarization-distilbart-xsum-1-1

Textzusammenfassung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Stabilität ai

Japanisches StableLM Instruct Alpha 7B v2

model-textgenerationjp-japanese-stablelm-instruct-alpha-7b-v2

Textgenerierung

Apache-2.0

Nein

ml.g5.12x groß, ml.g5,16 x groß, ml.g5,24x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24xgroß

Stabilität ai

Stabile Diffusion 2

model-txt2img-stabilityai-stable-diffusion-v2

Text-to-Image

creativeml-openrail++-m

Nein

ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß

Stabilität ai

Stabile Diffusion 2 Depth FP16

model-depth2img-stable-diffusion-2-depth-fp16

Image-to-Image

creativeml-openrail++-m

Nein

ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.4xgroß, ml.g5dn.xgroß, ml.g5.16xgroß, ml.g5.2xgroß, ml.g5.2xgroß, ml.g5.4x groß, ml.g5.xgroß, ml.p3.2xgroß

Stabilität ai

Stabile Diffusion 2 FP16

model-txt2img-stabilityai-stable-diffusion-v2-fp16

Text-to-Image

creativeml-openrail++-m

Nein

ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß

Stabilität ai

Stabile Diffusion 2 beim Lackieren

model-inpainting-stabilityai-stable-diffusion-2-inpainting

Image-to-Image

creativeml-openrail++-m

Nein

ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß

Stabilität ai

Stabile Diffusion 2 beim Lackieren FP16

model-inpainting-stabilityai-stable-diffusion-2-inpainting-fp16

Image-to-Image

creativeml-openrail++-m

Nein

ml.g4dn.xlarge, ml.g5.2xgroß, ml.p3.2xgroß

Stabilität ai

Stabile Diffusion 2 beim Lackieren FP16

model-inpainting-stabilityai-stable-diffusion2-inpainting-fp16

Image-to-Image

creativeml-openrail++-m

Nein

ml.g4dn.xlarge, ml.g5.2xgroß, ml.p3.2xgroß

Stabilität ai

Stabile Diffusion 2.1

model-txt2img-stabilityai-stable-diffusion-v2-1-base

Text-to-Image

creativeml-openrail++-m

Ja

ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß

Stabilität ai

Stabile Diffusion 2.1 Neuron

huggingface-txt2imgneuron-stabilityai-stable-diffusion-v2-1

Text-to-Image

creativeml-openrail++-m

Nein

ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß

Stabilität ai

Stabiler Diffusions-x4-Upscaler FP16

model-upscaling-stabilityai-stable-diffusion-x4-upscaler-fp16

Image-to-Image

openrail++

Nein

ml.g4dn.4x groß, ml.g4dn.8x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß

Stabilität ai

Stable Diffusion XL 1.0 (quelloffen)

model-imagegeneration-stabilityai-stable-diffusion-xl-base-1-0

Text-to-Image

openrail ++

Nein

ml.g5.16x groß, ml.g5.4x groß, ml.g5.8x groß

Stabilität ai

Stabile Diffusion XL Base 1.0 Neuron

huggingface-txt2imgneuron-stabilityai-stable-diffusion-xlbase1

Text-to-Image

openrail++

Nein

ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß

Swiss-Ai

Apertus 70B 2509

huggingface-llm-apertus-70b-2509

Textgenerierung

Apache 2.0

Nein

ml.g5.48xgroß, ml.g6.48xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge

Swiss-Ai

Apertus 70B Instruktion 2509

huggingface-llm-apertus-70b-instruct-2509

Textgenerierung

Apache 2.0

Nein

ml.g5.48xgroß, ml.g6.48xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge

Swiss-Ai

Apertus 8B Instruktion 2509

huggingface-llm-apertus-8b-instruct-2509

Textgenerierung

Apache 2.0

Nein

ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48x groß

Der Kerl

Mistral 7B AWQ OpenOrca

huggingface-llm-thebloke-mistral-7b-openorca-awq

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß

Der Kerl

Mistral 7B GPTQ OpenOrca

huggingface-llm-mistral-7b-openorca-gptq

Textgenerierung

Apache 2.0

Nein

ml.g5.12x groß, ml.g5.16 x groß, ml.g5.24x groß, ml.g5.2x groß, ml.g5.48x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g5.xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß

Der Kerl

Mixtral 8x7B Instruktiere GPTQ

huggingface-llm-mixtral-8x7b-instruct-gptq

Textgenerierung

Apache 2.0

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Dann per

GTE Large

huggingface-sentencesimilarity-gte-large

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Dann per

GET Small

huggingface-sentencesimilarity-gte-small

Ähnlichkeit des Satzes

mit

Ja

ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß

Tiiae

Falcon 180 B BF16

huggingface-llm-falcon-180b-bf16

Textgenerierung

Nicht zutreffend

Nein

ml. P4 DE. 24 x groß, ml. P 5,48 x groß

Tiiuae

Falcon 180B Karte BF16

huggingface-llm-falcon-180b-chat-bf16

Textgenerierung

Nicht zutreffend

Nein

ml. P4 DE. 24 x groß, ml. P 5,48 x groß

Tiiuae

Falcon 40B BF16

huggingface-llm-falcon-40b-bf16

Textgenerierung

Apache 2.0

Ja

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Tiiae

Falcon 40B Instruct BF16

huggingface-llm-falcon-40b-instruct-bf16

Textgenerierung

Apache 2.0

Ja

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

Tiiae

Falcon 7B BF16

huggingface-llm-falcon-7b-bf16

Textgenerierung

Apache 2.0

Ja

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Tiiae

Falcon 7B Instruct BF16

huggingface-llm-falcon-7b-instruct-bf16

Textgenerierung

Apache 2.0

Ja

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Tiiae

Falcon RW 1B

huggingface-llm-tiiuae-falcon-rw-1b

Textgenerierung

Apache 2.0

Nein

ml.g5.2xlarge

Tiiuae

Falcon-H1-0.5B-Instruct

huggingface-llm-falcon-h1-0-5b-instruct

Textgenerierung

andere

Nein

ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, ml 5,4 x groß, ml g 5,8 x groß, ml g 5,x groß, ml g 6,8 x groß, ml g 6,4 x groß, ml g 6,2 x groß, ml g 6,2 x groß, ml g 6,48 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß, ml. g 6,8 x groß, ml. g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß, ml.p3.2 x groß, ml.p4d.24xgroß

Tiiuae

Falcon-H1-1.5B-Deep-Instruct

huggingface-llm-falcon-h1-1-5b-deep-instruct

Textgenerierung

andere

Nein

ml. g 5.16 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 6.16 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß, ml g 6.x groß, ml. g 6 x groß, ml. g 6e.4 x groß, ml. g 6e.4 x groß, ml. g6e.8 x groß .xlarge

Tiiuae

Falcon-H1-1.5B-Instruct

huggingface-llm-falcon-h1-1-5b-instruct

Textgenerierung

andere

Nein

ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß

Tiiuae

Falcon-H1-34B-Instruct

huggingface-llm-falcon-h1-34b-instruct

Textgenerierung

andere

Nein

ml.g6e.12x groß, ml.g6e.24x groß, ml.g6e.48x groß

Tiiuae

Falcon-H1-3B-Instruct

huggingface-llm-falcon-h1-3b-instruct

Textgenerierung

andere

Nein

ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß

Tiiae

Falcon-H1-7B-Instruct

huggingface-llm-falcon-h1-7b-instruct

Textgenerierung

andere

Nein

ml.g6e.12x groß, ml.g6e.24x groß

Tiiuae

Falcon2-11B

huggingface-llm-falcon2-11b

Textgenerierung

Nicht zutreffend

Nein

ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß, ml. 4 x 24 x groß

Tiiae

Falcon3-10B-Base

huggingface-llm-falcon-3-10B-base

Textgenerierung

andere

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6,48 x groß, ml.p4d.24 x groß, ml.p 5.48 x groß

Tiiuae

Falcon3-10B-Instruct

huggingface-llm-falcon-3-10B-Instruct

Textgenerierung

andere

Nein

ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß g6e.xlarge

Tiiuae

Falcon3-1B-Instruct

huggingface-llm-falcon-3-1B-Instruct

Textgenerierung

andere

Nein

Standard: ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge, ml.p3.2xlarge, ml.p4d.24xlarge

Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:

  • generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.2xlarge

  • generate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge interact_lowest_cost max_context_lowest_cost

  • generate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • interact_best_price_performance(Interaktiv, ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_lowest_latency(Interact, Latenz optimiert): ml.g5.2xlarge, ml.g6.48xlarge, ml.g6e.48xlarge

  • max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Tiiuae

Falcon3-3B-Base

huggingface-llm-falcon-3-3B-base

Textgenerierung

andere

Nein

ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48 x groß, ml. g 6,4 x groß, ml. g 6,8 x groß, ml. g 6,4 x groß, ml. G 6,4 x groß, ml. G 5,48 x groß

Tiiuae

Falcon3-3B-Instruct

huggingface-llm-falcon-3-3B-Instruct

Textgenerierung

andere

Nein

ml.g4dn.12x groß, ml.g4dn.16 x groß, ml.g4dn.4xgroß, ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.4x groß, ml.g6.12x groß, ml.g6.12x groß, ml.g6,16 x groß, ml.g246.6x groß x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.2 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.p 3,2 x groß

Tiiuae

Falcon3-7B-Base

huggingface-llm-falcon-3-7B-base

Textgenerierung

andere

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6,48 x groß, ml.p4d.24 x groß, ml.p 5.48 x groß

Tiiuae

Falcon3-7B-Instruct

huggingface-llm-falcon-3-7B-Instruct

Textgenerierung

andere

Nein

ml.g4dn.12 x groß, ml.g5.12 x groß, ml.g5.24 x groß, ml.g6.12 x groß, ml.g6.24 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4x groß, ml.g6e.8 x groß, ml.g6e.xgroß

Tinyllama

Tiny Lama 1,1B

huggingface-llm-tinyllama-1-1b-intermediate-step-1431k-3

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß

Kleines Lama

Tiny Lama 1.1B Chat V0.6

huggingface-llm-tinyllama-tinyllama-1-1b-chat-v0-6

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß

Kleines Lama

Tiny Lama 1.1B Chat V1

huggingface-llm-tinyllama-tinyllama-1-1b-chat-v1-0

Textgenerierung

Apache 2.0

Nein

ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß

Zusammen Computer

RedPajama INCITE Chat 3B V1

huggingface-textgeneration1-redpajama-incite-chat-3B-v1-fp16

Textgenerierung

Apache 2.0

Ja

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Zusammen Computer

RedPajama INCITE Chat 7B V1

huggingface-textgeneration1-redpajama-incite-chat-7B-v1-fp16

Textgenerierung

Apache 2.0

Ja

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Zusammen Computer

RedPajama INCITE Instruct 3B V1

huggingface-textgeneration1-redpajama-incite-instruct-3Bv1fp16

Textgenerierung

Apache 2.0

Ja

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Zusammen Computer

RedPajama INCITE Instruktion 7B V1

huggingface-textgeneration1-redpajama-incite-instruct-7B1fp16

Textgenerierung

Apache 2.0

Ja

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

Tokyotech-Llm

Swallow-7b-instruct-hf

huggingface-llm-swallow-7b-instruct-hf

Textgenerierung

Lama 2

Nein

ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5.24 x groß, ml.g 5.2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, .g 6,2 x groß, ml.g 6,48 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.16 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß

Volrath 50

Verbreitung von Fantasy-Karten von Volrath50

huggingface-txt2img-volrath50-fantasy-card-diffusion

Text-to-Image

creativeml-openrail-m

Nein

ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß

Writer

Writer Palmyra Small

huggingface-llm-writer-palmyra-small

Textgenerierung

Apache 2.0

Nein

ml.g5.2xlarge

Zai-Org

GLM-5.1-FP8

huggingface-llm-glm-5-1-fp8

Textgenerierung

Apache-2.0

Nein

ml.p5en.48x groß

Proprietary Models (121)

Proprietäre Stiftungsmodelle werden von Drittanbietern über Amazon angeboten. SageMaker JumpStart Um ein proprietäres Basismodell verwenden zu können, müssen Sie das Modell zunächst auf AWS Marketplace abonnieren. Nach dem Abonnement können Sie das Foundation-Modell in Amazon SageMaker Studio finden und bereitstellen.

Modellname Modell-ID Aufgabe Fine-tunable Unterstützte Inferenz-Instance-Typen

A.X 4.0 Licht

sk-telecom-ax4-light

Textgenerierung

Nein

ml.g5.2xlarge

AI21 Kontextuelle Antworten

ai21-contextual-answers

Textgenerierung

Nein

ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,48 x groß, ml.p4d. 24 x groß

AI21 Jurassic-2 Licht

ai21-jurassic-2-light

Textgenerierung

Nein

ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.48x groß, ml.p4d.24x groß

AI21 Jurassic-2 Mid

ai21-jurassic-2-grande-instruct

Textgenerierung

Nein

ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.48x groß, ml.p4d.24x groß

AI21 Jurassic-2 Ultra

ai21-jurassic-2-jumbo-instruct

Textgenerierung

Nein

ml.g 5,48 x groß, ml.p4d. 24 x groß, ml.p4 de 24 x groß

AI21 Paraphrase

ai21-paraphrase

Textgenerierung

Nein

ml.g4dn.2xlarge

AI21 Zusammenfassen

ai21-summarization

Textgenerierung

Nein

ml.g4dn.12x groß, ml.g4dn.4x groß, ml.g5.x groß

Arcee Lite

arcee-lite

Textgenerierung

Nein

ml.g 5.16x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,8 x groß, ml.g6,x groß

Arcee SuperNova

arcee-supernova

Textgenerierung

Nein

ml.p4d.24x groß, ml.p4de.24x groß, ml.p4.48x groß

Arcee Virtuoso Small

arcee-virtuoso-small

Textgenerierung

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.g6.24x groß, ml.g6.48 x groß, ml.g6e.12x groß, ml.g6e.24xgroß, ml.g6e.48x groß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p4de. p 5,48 x groß

Bria 2.2HD Werbespot Text-to-image

bria-ai-2-2-hd-commercial

ReRank

Nein

ml.g5.12x groß, ml.g5,2 x groß, ml.g5,48x groß, ml.p4d.24x groß, ml.p4de.24x groß

Bria 2.3 Kommerziell Text-to-image

bria-ai-2-3-commercial

ReRank

Nein

ml. g 5,12 x groß, ml. g 5,2 x groß, ml. g 5,48 x groß, ml. G 5,48 x groß, ml. 4 DE 24 x groß

Bria 2.3Fast, kommerziell Text-to-image

bria-ai-2-3-fast-commercial

ReRank

Nein

ml.g 5.12x groß, ml.g 5,2 x groß, ml.g 5,48x groß, ml.p4d.24x groß, ml.p4de.24x groß

Cohere-Befehl (RA100)

cohere-command-r-a100

Textgenerierung

Nein

ml.p4de.24xlarge

Cohere-Befehl R (H100)

cohere-command-r-h100

Textgenerierung

Nein

ml.p5.48xlarge

Cohere-Befehl R+ (A100)

cohere-command-r-plus-a100

Textgenerierung

Nein

ml.p4de.24xlarge

Cohere-Befehl R+ (H100)

cohere-command-r-plus-h100

Textgenerierung

Nein

ml.p5.48xlarge

Cohere Embed 4

cohere-embed-v4-0

Einbettung von Text

Nein

ml.g5,2 x groß, ml.g5.x groß, ml.g6,2 x groß, ml.g6.x groß

Cohere Embed Light Modell v3 — Englisch

cohere-embed-light-english

Einbettung von Text

Nein

ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xlarge, ml.p3.2xgroß

Cohere Embed Light v3 - Mehrsprachig

cohere-embed-light-multilingual

Einbettung von Text

Nein

ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xgroß, ml.p3.2xgroß

Cohere Embed Modell 3 - Mehrsprachig

cohere-embed-multilingual

Einbettung von Text

Nein

ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xgroß, ml.p3.2xgroß

Cohere Embed Model v3 — Englisch

cohere-embed-english

Einbettung von Text

Nein

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge

Cohere Rerank 2 Modell - Englisch

cohere-rerank-english-v2

ReRank

Nein

ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xlarge, ml.p3.2xgroß

Modell Cohere Rerank 2 — Mehrsprachig

cohere-rerank-multilingual-v2

ReRank

Nein

ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xgroß, ml.p3.2xgroß

Cohere Rerank 3 Modell - Englisch

cohere-rerank-v3-english

ReRank

Nein

ml.g5,2 x groß, ml.g5,x groß

Cohere Rerank 3-Modell — Mehrsprachig

cohere-rerank-v3-multilingual

ReRank

Nein

ml.g5,2 x groß, ml.g5,x groß

Cohere Rerank 3 Nimble Model — Englisch

cohere-rerank-nimble-english

ReRank

Nein

ml.g5,2 x groß, ml.g5,x groß

Cohere Rerank 3 Nimble Modell — Mehrfarbig

cohere-rerank-nimble-multi

ReRank

Nein

ml.g5,2 x groß, ml.g5,x groß

Cohere Rerank v3.5

cohere-rerank-v3-5

Einbettung von Text

Nein

ml.g5,2 x groß, ml.g5.x groß, ml.g6,2 x groß, ml.g6,x groß

Cohere Rerank v4.0 Schnell

cohere-rerank-v4-0-fast

Einbettung von Text

Nein

ml.g5.2x groß, ml.g5.xgroß, ml.p5.4x groß

Cohere Rerank v4.0 Pro

cohere-rerank-v4-0-pro

Einbettung von Text

Nein

ml.g5.2x groß, ml.g5.x groß, ml.p5.4x groß

Befehl A (A100)

cohere-command-a-a100

Textgenerierung

Nein

ml.p4de.24xlarge

Befehl A (H100)

cohere-command-a-h100

Textgenerierung

Nein

ml.p5.48xlarge

Befehl R 08-2024 (H100)

cohere-command-r-08-2024-h100

Textgenerierung

Nein

ml.p5.48xlarge

Befehl R+ 08-2024 (H100)

cohere-command-r-plus-08-2024-h100

Textgenerierung

Nein

ml.p5.48xlarge

Dokument OCR

upstage-document-ocr

Optische Zeichenerkennung

Nein

ml.g5.2xlarge

Analysieren von Dokumenten

upstage-document-layout-analysis

Optische Zeichenerkennung

Nein

ml.g 5,2 x groß, ml.g 6,2 x groß, ml.p 3,2 x groß

Einbetten

upstage-solar-embedding-large

Einbettung von Text

Nein

ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß

ESM3-open

evolutionary-scale-esm3

Multimodale Generierung

Nein

ml. g 5,4 x groß, ml. g 5,8 x groß

Evo2-NIM

nvidia-evo2-nim

Textgenerierung

Nein

ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xgroß

EXAONE Atelier - Bild zu Text

lgresearch-exaone

Generierung von Bild zu Text

Nein

ml.g5.12x groß, ml.g5.48x groß, ml.g5.x groß, ml.p4d.24x groß

Gretel Navigator Tabular

gretel-navigator-tabular

Textgenerierung

Nein

ml.g5,2 x groß, ml.g5.xgroß

H-Optimus-0

bioptimus-h-optimus-0

Extraktion von Merkmalen

Nein

ml.g5.xlarge

IBM Granite 20B Code Instruct - 8K

ibm-granite-20b-code-instruct-8k

Textgenerierung

Nein

ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß

IBM Granite 3.0 2B Anleitung

granite-3-0-2b-instruct

Textgenerierung

Nein

ml.p4d. 24 x groß, ml.p 5,48 x groß

IBM Granite 3.0 8B Anleitung

granite-3-0-8b-instruct

Textgenerierung

Nein

ml.p4d. 24 x groß, ml.p 5,48 x groß

IBM Granite 3.2 Instruktion 2B

ibm-granite-3-2-2b-instruct

Textgenerierung

Nein

ml.g6.12x groß, ml.g6.16x groß, ml.g6.24x groß, ml.g6.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24xgroß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß p 5,48 x groß

IBM Granite 3.2 Instruct 8 B

ibm-granite-3-2-8b-instruct

Textgenerierung

Nein

ml.g6.12x groß, ml.g6.16x groß, ml.g6.24x groß, ml.g6.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24xgroß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß p 5,48 x groß

IBM Granite 34B Code Instruct - 8K

ibm-granite-34b-code-instruct-8k

Textgenerierung

Nein

ml.g 5,12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß

IBM Granite 3B Code Instruct - 128K

ibm-granite-3b-code-instruct-128k

Textgenerierung

Nein

ml. g 5,12 x groß, ml. g 5,16 x groß, ml. g 5,24 x groß, ml. g 5,4 x groß, ml. g 5,8 x groß

IBM Granite 4.0 h-Mikro

ibm-granite-4-0-h-micro

Textgenerierung

Nein

ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

IBM Granite 4,0 h - klein

ibm-granite-4-0-h-small

Textgenerierung

Nein

ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

IBM Granite 4.0 h-winzig

ibm-granite-4-0-h-tiny

Textgenerierung

Nein

ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

IBM Granite 8B Code Instruct - 128K

ibm-granite-8b-code-instruct-128k

Textgenerierung

Nein

ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß

ixi- GEN-Fin-7.8B

lg-ixi-gen

Textgenerierung

Nein

ml.g5.4xlarge

JetBrains AI Mellum Alle

jbai-mellum-all

Generierung von Text zu Text

Nein

ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge

JetBrains KI Mellum Kotlin

jbai-mellum-kotlin

Generierung von Text zu Text

Nein

ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge

JetBrains AI Mellum Python

jbai-mellum-python

Generierung von Text zu Text

Nein

ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge

Jina Embeddings v2 Base - de

jinaai-embeddings-v2-base-en

Einbettung von Text

Nein

ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, .g 5,4 x groß, ml.g 5,8 x groß, ml.g5.x groß, ml.p 2,16 x groß, ml.p 2,8 x groß, ml.p2.x groß, ml.p3,16 x groß, ml.p 3,2 x groß, ml.p 3,8 x groß

KARAKURI LM 8x7b instruct

karakuri-lm-8x7b-instruct

Textgenerierung

Nein

ml. g 5,48 x groß, ml. g 6,48 x groß

LightOn Lyra-Fr 10 B

lighton-lyra-fr

Textgenerierung

Nein

ml.p4d.24xlarge

LightOn Mini-instruct 40 B

lighton-mini-instruct40b

Textgenerierung

Nein

ml.p4d.24xlarge

Flüssiges LFM 40B (A100)

liquid-lfm-40b-a100

Textgenerierung

Nein

ml.p4d.24xlarge

Flüssiges LFM 40B (H100)

liquid-lfm-40b-h100

Textgenerierung

Nein

ml.p5.48xlarge

Flüssiges LFM 40B (L40S)

liquid-lfm-40b-l40s

Textgenerierung

Nein

ml.g6e.12xlarge

Flüssiges LFM 7B (L40S)

liquid-lfm-7b-l40s

Textgenerierung

Nein

ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß

Lama 3.1 Nemotron Nano 8B V1

nvidia-nemotron-nano-8b-nim

Textgenerierung

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48xgroß, ml.g6e.4x groß, ml.g6e.8x groß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.8x groß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.8x groß p4 de.24 x groß, ml.p 5.48 x groß, ml.p5e.48 x groß, ml.p 5 en.48 x groß

Lama 3.1 SuperNova Lite

arcee-llama-3-1-supernova-lite

Textgenerierung

Nein

ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,4 x groß, ml. g 5,8 x groß, ml. g 6,2 x groß, ml. g 6,4 x groß, ml. g 6,8 x groß

Lama 3.2 hat den NIM-Microservice mit 1B bewertet

nvidia-llama3-2-nv-rerankqa-1b-v2-nim

Textgenerierung

Nein

ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß P4D. 24 x groß, ml. P4 DE. 24 x groß, ml. P 5,48 x groß

Lama 3.3 Nemotron Super 49B V1

nvidia-nemotron-super-49b-nim

Textgenerierung

Nein

ml.g5.48xgroß, ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge

Lama 3.3 Nemotron Super 49B V1.5

nvidia-nemotron-super-49b-nim-1-5

Textgenerierung

Nein

ml.g5.48xgroß, ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p4.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge

Lama Spark

arcee-llama-spark

Textgenerierung

Nein

ml.g 5,16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß

Llama-3-Varco-Offsetbias-8B

ncsoft-llama-3-varco-offsetbias-8b

Textgenerierung

Nein

ml.g5.12xlarge

Llama-3.1-8B-Instruct mit Stained Glass Transform Support

protopia-llama-3-1-8b-instruct

Textgenerierung

Nein

ml.g4dn.12x groß, ml.g5,16 x groß, ml.g5,4 x groß

Llama-3.2-NV-EmbedQA-1B-v2

nvidia-llama3-2-nv-embedqa-1b-v2-nim

Einbettung von Text

Nein

ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß P4D. 24 x groß, ml. P4 DE. 24 x groß, ml. P 5,48 x groß

MARS6

cambai-mars6

Text zu Audio

Nein

ml.g4dn.2 x groß, ml.g6,2 x groß

Medical LLM - Medium

john-snow-labs-medical-summarization-qa-8b

Textzusammenfassung

Nein

ml.g4dn.12 x groß, ml.g5,2 x groß

Medical LLM - Small

john-snow-labs-summarization-qa

Textzusammenfassung

Nein

ml.g5.12xlarge

Übersetzung medizinischer Texte () EN-ES

john-snow-labs-medical-translation-en-es

Übersetzung

Nein

ml.g5.2xlarge

Merkur

inception-mercury

Textgenerierung

Nein

ml.p5.48xlarge

Mercury Coder

inception-mercury-coder

Textgenerierung

Nein

ml.p5.48xlarge

msa-Suche

nvidia-nim-msa-search-v2-1

Textgenerierung

Nein

ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge

Nemotron nano 9b v2

nvidia-nemotron-nano-9b-v2

Textgenerierung

Nein

ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xlarge, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5.4xgroß, ml.p5e.48xgroß, ml.p5en.48xgroß

nemotron-parsen

nvidia-nemotron-parse

Textgenerierung

Nein

ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß, ml.g 5,4 x groß, ml.g5,8 x groß, ml.g5.x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48xgroß, ml.g6e.4xgroß, ml.g6e.8xgroß, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5.4xgroß, ml.p5e.48xlarge, ml.p5en.48xlarge

NEXUS von Fundamental

fundamental-technologies-nexus

Klassifizierung

Nein

ml.g4dn.8x groß, ml.p5en.48x groß

Nomic Text v1.5 einbetten

nomic-embed-text

Einbettung von Text

Nein

ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, g 5,4 x groß, ml. g 5,8 x groß, ml. g 5,x groß, ml. G 3,16 x groß, ml. G 3,2 x groß, ml. P 3,8 x groß

Nomic Embed Vision v1.5

nomic-embed-image

Einbettung von Text

Nein

ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, g 5,4 x groß, ml. g 5,8 x groß, ml. g 5,x groß, ml. G 3,16 x groß, ml. G 3,2 x groß, ml. P 3,8 x groß

NVIDIA-Kosmos Reason-1-7B

nvidia-nim-cosmos-reason1-7b

Textgenerierung

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48xgroß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xlarge, ml.pp 4d.24x groß, ml.p4de.24x groß, ml.p5.48x groß, ml.p5.4x groß, ml.p5e.48x groß, ml.p5en.48x groß

NVIDIA Nemotron-4 15B NIM-Microservice

nvidia-nemotron-4-15b-nim

Textgenerierung

Nein

ml.g5.12x groß, ml.g5.24x groß

NVIDIA Parakeet VTDT 0.6B v2

nvidia-parakeetvtdt-0-6b-v2

Generierung von Audio2-Text

Nein

ml.g6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß

NVIDIA-Parakeet-1-1b-CTC-EN-US-ASR

nvidia-parakeet-1-1b-ctc-en-us-asr

Audio2-Text-Generierung

Nein

ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.p4d.24xgroß, ml.p4de.24xgroß

Kugel

orbital-materials-orb

Wissenschaftliche Modellierung

Nein

ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.p3.16xgroß, ml.p3.2xgroß, ml.p3.8xgroß, ml.p4d.24xgroß

PLaMo Private Bereitstellung

preferred-networks-plamo-api

Textgenerierung

Nein

ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß

ProteinMPNN-NIM

nvidia-nim-proteinmpnn-v1-0-2

Textgenerierung

Nein

ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xlarge, ml.p5en.48xlarge

Rerank-Lite-1 Reranker

voyage-rerank-lite-1-reranker

ReRank

Nein

ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g5.x groß

Solar Mini - Quant

upstage-solar-mini-chat-quant

Textgenerierung

Nein

ml.g5.2xlarge

Solar Pro - Quant

upstage-solar-pro-quantized

Textgenerierung

Nein

ml.g5.12xlarge

Solar Pro 2

upstage-solar-pro

Textgenerierung

Nein

ml.p4 d. 24 x groß, ml.p 5,48 x groß

Sonic 3 SageMaker

cartesia-sonic-3-sagemaker

Text zu Audio

Nein

ml.g6e.xlarge

Stable Diffusion 3.5 Large

stabilityai-stable-diffusion-3-5-large

Text zum Bild

Nein

ml.p5.48xlarge

Stable Diffusion XL 1,0

stabilityai-sdxl-1-0

Text zum Bild

Nein

ml.g5,2 x groß, ml.p4d. 24 x groß, ml.p4de. 24 x groß

Stabile Diffusion XL Beta 0,8

stabilityai-sdxl-beta-0-8

Text zum Bild

Nein

ml.g5.xlarge

Stockmark-LLM-13b

stockmark-llm-13b

Textgenerierung

Nein

ml.g5.2xlarge

VARCO LLM KO-1.3B-IST

ncsoft-ko-1-3b-ist

Textgenerierung

Nein

ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß

BARCO LLM KO-6.4B-IST

ncsoft-ko-6-4b-ist

Textgenerierung

Nein

ml.g4dn.4 x groß, ml.g4dn.8 x groß, ml.g5.12x groß, ml.g5,4 x groß, ml.g5,8 x groß

BARCO LLM KO/EN-13B-IST

ncsoft-ko-13b-ist

Textgenerierung

Nein

ml.g 4 dn. 12 x groß, ml. g 5,12 x groß

voyage-2 Einbettungsmodell

voyage-2-embedding

Einbettung von Text

Nein

ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g5.x groß

voyage-3 Einbettungsmodell

voyage-3-embedding

Einbettung von Text

Nein

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6,8 x groß, ml.g6,x groß

voyage-3 Großes Einbettungsmodell

voyage-3-large-embedding

Einbettung von Text

Nein

ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5,x groß, ml.g 6,4 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,x groß

voyage-3.5 Einbettungsmodell

voyage-3-5-embedding

Einbettung von Text

Nein

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6,8 x groß, ml.g6,x groß

voyage-3.5-lite Einbettungsmodell

voyage-3-5-lite-embedding

Einbettung von Text

Nein

ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g6.16 x groß, ml.g6,2 x groß, ml.g6,2 x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.xgroß

voyage-code-2 Einbettungsmodell

voyage-code-2-embedding

Einbettung von Text

Nein

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,8 x groß, ml.g6,x groß

voyage-code-3 Einbettungsmodell

voyage-code-3-embedding

Einbettung von Text

Nein

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,8 x groß, ml.g6,x groß

voyage-large-2 Einbettungsmodell

voyage-large-2-embedding

Einbettung von Text

Nein

ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6.xgroß

Widn Tower Anthill

widn-tower-anthill

Übersetzung

Nein

ml.g5.xlarge

Widn Tower Sugarloaf

widn-tower-sugarloaf

Übersetzung

Nein

ml.g5.12xlarge

Windturm Vesuv

widn-llama3-tower-vesuvius

Übersetzung

Nein

ml.g 5,48 x groß, ml.p4 d. 24 x groß, ml.p 4 de 24 x groß

KI-Vision-Engine von Woven City

wovenbytoyota-woven-city-ai-vision-engine

Multimodale Generierung

Nein

ml. g 5.12 x groß, ml. g 5,24 x groß, ml. g 5,8 x groß

Autor Palmyra-Fin-70B-32K

writer-palmyra-fin-70b-32k

Textgenerierung

Nein

ml.p4d.24xlarge

Autor Palmyra-Med-70B-32K

writer-palmyra-med-70b-32k

Textgenerierung

Nein

ml.p4d.24xlarge

Autor Palmyra-X-004

writer-palmyra-x-004

Textgenerierung

Nein

ml.p5.48xlarge

Built-in Algorithms (135)

Amazon SageMaker JumpStart bietet vortrainierte, aufgabenspezifische Modelle für gängige Computer-Vision-Aufgaben wie Bildklassifizierung, Objekterkennung und Bildsegmentierung. Diese Modelle basieren auf etablierten Deep-Learning-Frameworks (PyTorch,TensorFlow,MXNet) und können sofort eingesetzt oder anhand Ihrer eigenen Daten optimiert werden.

Anbieter Modellname Modell-ID Aufgabe License Fine-tunable Unterstützte Inferenz-Instanztypen

Mxnet

Schnellerer RCNN 101 V1d ResNet

mxnet-od-faster-rcnn-fpn-resnet101-v1d-coco

Objekterkennung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

Schnellerer RCNN 101 V1d ResNet

mxnet-od-faster-rcnn-resnet101-v1d-coco

Objekterkennung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

Schnellerer RCNN 50 V1b ResNet

mxnet-od-faster-rcnn-fpn-resnet50-v1b-coco

Objekterkennung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

Schnellerer RCNN 50 V1b ResNet

mxnet-od-faster-rcnn-resnet50-v1b-coco

Objekterkennung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

Schnellerer RCNN 50 V1b ResNet

mxnet-od-faster-rcnn-resnet50-v1b-voc

Objekterkennung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

FCN 101 ADE20K ResNet

mxnet-semseg-fcn-resnet101-ade

Segmentierung von Bildern

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

FCN ResNet 101 Pascal VOC

mxnet-semseg-fcn-resnet101-voc

Segmentierung von Bildern

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

FCN 50 ADE20K ResNet

mxnet-semseg-fcn-resnet50-ade

Segmentierung von Bildern

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

Instance-Segmentierung

mxnet-is-mask-rcnn-fpn-resnet101-v1d-coco

Segmentierung von Bildern

Apache 2.0

Nein

ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß

Mxnet

MASKE RCNN FPN RESNET18 COCO

mxnet-is-mask-rcnn-fpn-resnet18-v1b-coco

Segmentierung von Bildern

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

MASKE RCNN FPN RESNET50 COCO

mxnet-is-mask-rcnn-fpn-resnet50-v1b-coco

Segmentierung von Bildern

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

MASKE RCNN RESNET18 COCO

mxnet-is-mask-rcnn-resnet18-v1b-coco

Segmentierung von Bildern

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

Objekterkennung

mxnet-od-ssd-512-mobilenet1-0-coco

Objekterkennung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

Semantische Segmentierung

mxnet-semseg-fcn-resnet101-coco

Segmentierung von Bildern

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

SSD 512 ResNet 50 V1

mxnet-od-ssd-512-resnet50-v1-coco

Objekterkennung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

SSD 1,0 MobileNet

mxnet-od-ssd-512-mobilenet1-0-voc

Objekterkennung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

SSD ResNet 50 V1

mxnet-od-ssd-512-resnet50-v1-voc

Objekterkennung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

SSD VGG 16 Atrous 300

mxnet-od-ssd-300-vgg16-atrous-voc

Objekterkennung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

SSD VGG 16 Atrous 512

mxnet-od-ssd-512-vgg16-atrous-coco

Objekterkennung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

SSD VGG16 Atrous 300

mxnet-od-ssd-300-vgg16-atrous-coco

Objekterkennung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

SSD VGG16 Atrous 512

mxnet-od-ssd-512-vgg16-atrous-voc

Objekterkennung

Apache 2.0

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

YOLO V3 53 DarkNet

mxnet-od-yolo3-darknet53-coco

Objekterkennung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

YOLO V3 53 DarkNet

mxnet-od-yolo3-darknet53-voc

Objekterkennung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

YOLO V3 1.0 MobileNet

mxnet-od-yolo3-mobilenet1-0-coco

Objekterkennung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Mxnet

YOLO V3 1.0 MobileNet

mxnet-od-yolo3-mobilenet1-0-voc

Objekterkennung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Pytorch

SqueezeNet 1

pytorch-ic-squeezenet1-1

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

AlexNet

pytorch-ic-alexnet

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

DenseNet 121

pytorch-ic-densenet121

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

DenseNet 169

pytorch-ic-densenet169

Bildklassifizierung

BSD-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

FRCNN MobileNet V3 groß 320 FPN

pytorch-od1-fasterrcnn-mobilenet-v3-large-320-fpn

Objekterkennung

bsd-3-Klausel

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß

Pytorch

FRCNN V3 großes VPN MobileNet

pytorch-od1-fasterrcnn-mobilenet-v3-large-fpn

Objekterkennung

bsd-3-Klausel

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß

Pytorch

GoogLeNet

pytorch-ic-googlenet

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

Bildklassifizierung

pytorch-ic-mobilenet-v2

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

Objekterkennung

pytorch-od1-fasterrcnn-resnet50-fpn

Objekterkennung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß

Pytorch

ResNet 101

pytorch-ic-resnet101

Bildklassifizierung

BSD-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

ResNet 152

pytorch-ic-resnet152

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

ResNet 18

pytorch-ic-resnet18

Bildklassifizierung

BSD-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

ResNet 34

pytorch-ic-resnet34

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

ResNet 50

pytorch-ic-resnet50

Bildklassifizierung

BSD-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

Weiter 50

pytorch-ic-resnext50-32x4d

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

ShuffleNet V2

pytorch-ic-shufflenet-v2-x1-0

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

SSD

pytorch-od-nvidia-ssd

Objekterkennung

bsd-3-Klausel

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß

Pytorch

VGG 1

pytorch-ic-vgg11

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

VGG 1-BN

pytorch-ic-vgg11-bn

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

VGG 13-N

pytorch-ic-vgg13-bn

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

VGG 16

pytorch-ic-vgg16

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

VGG 16-BN

pytorch-ic-vgg16-bn

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

VGG 19

pytorch-ic-vgg19

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

VGG-13

pytorch-ic-vgg13

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

Pytorch

Breit 101 ResNet

pytorch-ic-wide-resnet101-2

Bildklassifizierung

bsd-3-Klausel

Ja

ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß

TensorFlow

ALBERT-Untergestell

tensorflow-tc-albert-en-base

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

BERT-Basisgehäuse

tensorflow-tc-bert-en-cased-L-12-H-768-A-12-2

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

BERT-Basis MEDLINE/PubMed

tensorflow-tc-experts-bert-pubmed-1

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

BERT Base Mehrsprachiges Gehalten

tensorflow-tc-bert-multi-cased-L-12-H-768-A-12-2

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

BERT Large ohne Hülle

tensorflow-tc-bert-en-uncased-L-24-H-1024-A-16-2

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

BERT Small ohne Gehäuse L-10 H-128

tensorflow-tcembedding-bert-en-uncased-L-10-H-128-A-2-2

Einbettung von Text

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

BERT Small ohne Gehäuse L-12 H-256

tensorflow-tcembedding-bert-en-uncased-L-12-H-256-A-4

Einbettung von Text

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

BERT Small ohne Gehäuse L-12 H-768

tensorflow-tcembedding-bert-en-uncased-L-12-H-768-A-12-2

Einbettung von Text

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

BERT Small ohne Gehäuse L-4 H-768

tensorflow-tcembedding-bert-en-uncased-L-4-H-768-A-12-2

Einbettung von Text

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

BiT-M R 10 x 1

tensorflow-ic-bit-m-r101x1-ilsvrc2012-classification-1

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

BiT-M R101x1 Feature-Vektor

tensorflow-icembedding-bit-m-r101x1-ilsvrc2012-featurevector-1

Bildklassifizierung

Apache-2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

BiT-M R 50 x 1 ImageNet-21k

tensorflow-ic-bit-m-r50x1-imagenet21k-classification-1

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

Kait S 42 224

tensorflow-ic-cait-s24-224

Bildklassifizierung

MIT

Ja

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

CenterNet ResNet-v1-101

tensorflow-od-centernet-resnet101v1-fpn-512x512-1

Objekterkennung

apache-2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

CenterNet ResNet-v1-50

tensorflow-od-centernet-resnet50v1-fpn-512x512-1

Objekterkennung

Apache 2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

Tiny Distilled Patch 16 224 bearbeiten

tensorflow-ic-deit-tiny-distilled-patch16-224

Bildklassifizierung

MIT

Ja

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

EfficientNet B0

tensorflow-ic-efficientnet-b0-classification-1

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

EfficientNet B1

tensorflow-ic-efficientnet-b1-classification-1

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

EfficientNet B1-Feature-Vektor

tensorflow-icembedding-efficientnet-b1-featurevector-1

Bildklassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

EfficientNet B3

tensorflow-ic-efficientnet-b3-classification-1

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

EfficientNet B7

tensorflow-ic-efficientnet-b7-classification-1

Bildklassifizierung

Apache-2.0

Ja

ml.c 5,9 x groß, ml.g 4 dn. 8 x groß, ml.p 3,8 x groß

TensorFlow

EfficientNet V2 ImageNet-1k Klein

tensorflow-ic-efficientnet-v2-imagenet1k-s

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

EfficientNet V2 ImageNet-21k FT1K M

tensorflow-ic-efficientnet-v2-imagenet21k-ft1k-m

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge

TensorFlow

R-CNN Schnelleres Resnet V2 1024x1024

tensorflow-od-faster-rcnn-inception-resnet-v2-1024x1024-1

Objekterkennung

Apache 2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

Schnellerer V1 R-CNN Resnet-101 640x640

tensorflow-od-faster-rcnn-resnet101-v1-640x640-1

Objekterkennung

Apache-2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

Schnellere V1 R-CNN Resnet-50 1024x1024

tensorflow-od-faster-rcnn-resnet50-v1-1024x1024-1

Objekterkennung

Apache-2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

Schnellerer V1 R-CNN Resnet-50 640x640

tensorflow-od-faster-rcnn-resnet50-v1-640x640-1

Objekterkennung

Apache-2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

Schnellerer V1 R-CNN Resnet-50 800x1333

tensorflow-od-faster-rcnn-resnet50-v1-800x1333-1

Objekterkennung

Apache-2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

RÜSCHEN

tensorflow-audioembedding-frill-1

Audio-Klassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

Bildklassifizierung

tensorflow-ic-swin-base-patch4-window7-224

Bildklassifizierung

MIT

Ja

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

Einbettung von Bildern

tensorflow-icembedding-imagenet-mobilenet-v2-100-224-fv-4

Bildklassifizierung

apache-2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

Inception V3

tensorflow-ic-imagenet-inception-v3-classification-4

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge

TensorFlow

Vorschau-Feature-Vektor für Inception V3

tensorflow-icembedding-tf2-preview-inception-v3-fv-4

Bildklassifizierung

Apache-2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

MobileNet V2

tensorflow-ic-tf2-preview-mobilenet-v2-classification-4

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

MobileNet V2 0,35 128

tensorflow-ic-imagenet-mobilenet-v2-035-128

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge

TensorFlow

MobileNet V2 0,50 224

tensorflow-icembedding-imagenet-mobilenet-v2-050-224-fv-4

Bildklassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

MobileNet V2 1,0 224

tensorflow-ic-imagenet-mobilenet-v2-100-224-classification-4

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge

TensorFlow

MobileNet V2 1,40 224

tensorflow-ic-imagenet-mobilenet-v2-140-224-classification-4

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge

TensorFlow

MobileNet V2-Feature-Vektor

tensorflow-icembedding-tf2-preview-mobilenet-v2-featurevector-4

Bildklassifizierung

Apache-2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

MobileNet V2-Feature-Vektor

tensorflow-icembedding-tf2-preview-mobilenet-v2-fv-4

Bildklassifizierung

Apache-2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

MobileNet V3 Groß 1.00 224

tensorflow-ic-imagenet-mobilenet-v3-large-100-224

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge

TensorFlow

MobileNet V3 Klein 0,75 224

tensorflow-ic-imagenet-mobilenet-v3-small-075-224

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge

TensorFlow

MobileNet V3 Klein 1,00 224

tensorflow-ic-imagenet-mobilenet-v3-small-100-224

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge

TensorFlow

Objekterkennung

tensorflow-od1-ssd-resnet50-v1-fpn-640x640-coco17-tpu-8

Objekterkennung

apache-2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

ResNet 50

tensorflow-ic-resnet-50-classification-1

Bildklassifizierung

Apache-2.0

Ja

ml.c 5,9 x groß, ml.g 4 dn. 8 x groß, ml.p 3,8 x groß

TensorFlow

ResNet Vektor mit 50 Merkmalen

tensorflow-icembedding-resnet-50-featurevector-1

Bildklassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

ResNet V1 50

tensorflow-ic-imagenet-resnet-v1-50-classification-4

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

ResNet V2 152 Feature-Vektor

tensorflow-icembedding-imagenet-resnet-v2-152-featurevector-4

Bildklassifizierung

Apache-2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

ResNet V2 50

tensorflow-ic-imagenet-resnet-v2-50-classification-4

Bildklassifizierung

Apache-2.0

Ja

ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

ResNet V2 50 Feature-Vektor

tensorflow-icembedding-imagenet-resnet-v2-50-featurevector-4

Bildklassifizierung

Apache-2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

Resnet-101 Retinanet-SSD 640 x 640

tensorflow-od-retinanet-resnet101-v1-fpn-640x640-1

Objekterkennung

Apache 2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

Kleines BERT L-10 _ _ H-512 A-8

tensorflow-tc-small-bert-bert-en-uncased-L-10-H-512-A-8

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

Kleiner BERT L-12 _ H-256 _ A-4

tensorflow-tc-small-bert-bert-en-uncased-L-12-H-256-A-4

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

Kleiner BERT L-12 _ H-768 _ A-12

tensorflow-tc-small-bert-bert-en-uncased-L-12-H-768-A-12

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

Kleiner BERT L-2 _ H-128 _ A-2

tensorflow-tc-small-bert-bert-en-uncased-L-2-H-128-A-2

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

Kleiner BERT L-4 _ H-512 _ A-8

tensorflow-tc-small-bert-bert-en-uncased-L-4-H-512-A-8

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

Kleiner BERT L-6 _ H-768 _ A-12

tensorflow-tc-small-bert-bert-en-uncased-L-6-H-768-A-12

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

Kleiner BERT L-8 _ H-768 _ A-12

tensorflow-tc-small-bert-bert-en-uncased-L-8-H-768-A-12

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

SSD ResNet 152 V1 FPN 1024x1024 COCO '17

tensorflow-od1-ssd-resnet152-v1-fpn-1024x1024-coco17-tpu-8

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

SSD EfficientDet D0

tensorflow-od-efficientdet-d0-1

Objekterkennung

Apache 2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

SSD Efficientet D0 512x512 COC '17

tensorflow-od1-ssd-efficientdet-d0-512x512-coco17-tpu-8

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

SSD Efficientet D1 640x640 COC '17

tensorflow-od1-ssd-efficientdet-d1-640x640-coco17-tpu-8

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

SSD EfficientDet D2

tensorflow-od-efficientdet-d2-1

Objekterkennung

Apache 2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

SSD Efficientet D2 768 x 768 COC '17

tensorflow-od1-ssd-efficientdet-d2-768x768-coco17-tpu-8

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

SSD EfficientDet 3D

tensorflow-od-efficientdet-d3-1

Objekterkennung

Apache 2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

SSD Efficientet D3 896 x 896 COCO '17

tensorflow-od1-ssd-efficientdet-d3-896x896-coco17-tpu-32

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

SSD EfficientDet D5

tensorflow-od-efficientdet-d5-1

Objekterkennung

Apache 2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

SSD Mobilenet V1 FPN 640x640 COCO '17

tensorflow-od1-ssd-mobilenet-v1-fpn-640x640-coco17-tpu-8

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

SSD Mobilenet V2

tensorflow-od-ssd-mobilenet-v2-2

Objekterkennung

Apache 2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

SSD Mobilenet V2 640 x 640

tensorflow-od-ssd-mobilenet-v2-fpnlite-640x640-1

Objekterkennung

Apache 2.0

Nein

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß

TensorFlow

SSD Mobilenet V2 320x320 COCO '17 FPN-Lite

tensorflow-od1-ssd-mobilenet-v2-fpnlite-320x320-coco17-tpu-8

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

SSD MobileNet V2 640 x 640 COCO FPN-lite '17

tensorflow-od1-ssd-mobilenet-v2-fpnlite-640x640-coco17-tpu-8

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

SSD 101 V1 FPN ResNet 1024x1024 COCO '17

tensorflow-od1-ssd-resnet101-v1-fpn-1024x1024-coco17-tpu-8

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

SSD 101 V1 ResNet FPN 640X640 COCO '17

tensorflow-od1-ssd-resnet101-v1-fpn-640x640-coco17-tpu-8

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

SSD 152 V1 ResNet FPN 640X640 COCO '17

tensorflow-od1-ssd-resnet152-v1-fpn-640x640-coco17-tpu-8

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

SSD 50 G1 FPN ResNet 1024x1024 COCO '17

tensorflow-od1-ssd-resnet50-v1-fpn-1024x1024-coco17-tpu-8

Objekterkennung

Apache 2.0

Ja

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß

TensorFlow

Swin Base 4 12 384

tensorflow-ic-swin-base-patch4-window12-384

Bildklassifizierung

MIT

Ja

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge

TensorFlow

Talking Heads groß

tensorflow-tc-talking-heads-large

Textklassifizierung

apache-2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

Textklassifizierung

tensorflow-tc-bert-en-uncased-L-12-H-768-A-12-2

Textklassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß

TensorFlow

Einbettung von Text

tensorflow-tcembedding-universal-sentc-encoder-cmlm-en-large-1

Einbettung von Text

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

TRILL DESTILLIERT

tensorflow-audioembedding-trill-distilled-3

Audio-Klassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

Trillsson 1

tensorflow-audioembedding-trillsson1-1

Audio-Klassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

Trillsson 2

tensorflow-audioembedding-trillsson2-1

Audio-Klassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

Trillsson 3

tensorflow-audioembedding-trillsson3-1

Audio-Klassifizierung

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

TensorFlow

Universeller Satzkodierer CMLM Base

tensorflow-tcembedding-universal-sentc-encoder-cmlm-en-base-1

Einbettung von Text

Apache 2.0

Nein

ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß

Classic ML Algorithms (11)

Amazon bietet gebrauchsfertige SageMaker JumpStart Implementierungen klassischer Algorithmen für maschinelles Lernen für Aufgaben im Bereich tabellarischer Daten wie Klassifikation, Regression und Zeitreihenprognosen. Diese Algorithmen (XGBoost,,, LightGBM CatBoostscikit-learn,AutoGluon) sind für strukturierte Daten optimiert und können mit Ihren eigenen Datensätzen von Grund auf trainiert werden.

Anbieter Modellname Modell-ID Aufgabe License Fine-tunable Unterstützte Inferenz-Instanztypen

Autogluon

AutoGluon Tabellarische Klassifikation

autogluon-classification-ensemble

Tabellarische Klassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß

Autogluon

AutoGluon Tabellarische Regression

autogluon-regression-ensemble

Tabellarische Regression

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß

Catboost

CatBoost Einstufung

catboost-classification-model

Tabellarische Klassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5,2 x groß, ml.c5,4 x groß, ml.c5,9x groß, ml.m4.16x groß, ml.m5.12x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß

Catboost

CatBoost Regression

catboost-regression-model

Tabellarische Regression

Apache 2.0

Ja

ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c 5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß

Leicht gbm

LightGBM-Klassifizierung

lightgbm-classification-model

Tabellarische Klassifizierung

mit

Ja

ml.c5.18x groß, ml.c5,2 x groß, ml.c5,4 x groß, ml.c5.9x groß, ml.m4.16x groß, ml.m5.12x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß

Leicht gbm

LightGBM-Regression

lightgbm-regression-model

Tabellarische Regression

mit

Ja

ml.c 4,8 x groß, ml.c 5,18 x groß, ml.c 5,2 x groß, ml.c 5,4 x groß, ml.m 5,12 x groß, ml.m 5,24 x groß, ml.m 5,2 x groß, ml.m 5,4 x groß

Pytorch

TabTransformer Einstufung

pytorch-tabtransformerclassification-model

Tabellarische Klassifizierung

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß

Pytorch

TabTransformer Regression

pytorch-tabtransformerregression-model

Tabellarische Regression

Apache 2.0

Ja

ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß

S lerne

Lineare Klassifizierung

sklearn-classification-linear

Tabellarische Klassifizierung

bsd-3-Klausel

Ja

ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß

Xg Boost

XGBoost-Klassifizierung

xgboost-classification-model

Tabellarische Klassifizierung

Apache-2.0

Ja

ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c 5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß

Xg Boost

XGBoost-Regression

xgboost-regression-model

Tabellarische Regression

Apache 2.0

Ja

ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c 5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß

Anmerkung

Die genauesten und aktuellsten Lizenzinformationen finden Sie auf der Modelldetailseite in Studio oder auf der Modellseite. SageMaker Hugging Face