Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Verfügbare Basismodelle
Amazon SageMaker JumpStart bietet hochmoderne, integrierte, öffentlich verfügbare und firmeneigene Basismodelle, mit denen Sie Ihre generativen KI-Workflows anpassen und in diese integrieren können.
In den ersten beiden Tabs sind die Fundamentmodelle aufgeführt. In den letzten beiden Tabs sind die integrierten Algorithmen und die klassischen Algorithmen für maschinelles Lernen aufgeführt, die JumpStart auch Funktionen bereitstellen, bei denen es sich nicht um Basismodelle handelt.
Um alle verfügbaren JumpStart Foundation-Modelle aufzulisten:
import boto3 sagemaker_client = boto3.client("sagemaker", region_name="us-west-2") # List all available models in the SageMakerPublicHub all_models = [] next_token = None while True: params = {"HubName": "SageMakerPublicHub", "HubContentType": "Model"} if next_token: params["NextToken"] = next_token response = sagemaker_client.list_hub_contents(**params) all_models.extend(response["HubContentSummaries"]) next_token = response.get("NextToken") if not next_token: break print(f"Total models available: {len(all_models)}") for model in all_models[:5]: print(model["HubContentName"], model["HubContentVersion"])
So rufen Sie unterstützte Instanztypen und andere Metadaten für ein bestimmtes Modell ab:
import json import boto3 sagemaker_client = boto3.client("sagemaker", region_name="us-west-2") model_id = "meta-textgeneration-llama-3-3-70b-instruct" response = sagemaker_client.describe_hub_content( HubName="SageMakerPublicHub", HubContentType="Model", HubContentName=model_id ) # Parse the model metadata model_doc = json.loads(response["HubContentDocument"]) print(f"Supported instances: {model_doc['SupportedInferenceInstanceTypes']}") print(f"Default instance: {model_doc['DefaultInferenceInstanceType']}")
In den folgenden Tabellen sind die verfügbaren Modelle mit ihren Lizenz- und unterstützten Inferenzinstanztypen (Stand: 29. Juli 2026) aufgeführt. Die aktuellsten Informationen finden Sie in den API-Beispielen oben oder im Model-Hub in SageMaker Studio.
In einer Lizenzzelle wird „Nicht zutreffend“ angezeigt, wenn der Model Hub keine Lizenz für dieses Modell veröffentlicht. Erkundigen Sie sich beim Modellanbieter nach den Lizenzbedingungen, bevor Sie ein solches Modell verwenden. Ein leerer Wert oder ein Platzhalterwert in der Tabelle gewährt keine Rechte.
Einige Modelle bieten zusätzlich zu ihren Standardkonfigurationen alternative Hosting-Bereitstellungskonfigurationen. Jede Konfiguration optimiert das Modell für einen Anwendungsfall und ein Leistungsziel, und jede unterstützt ihre eigenen Instanztypen. Eine Konfiguration unterstützt oft eine kleinere oder kostengünstigere Instanz als die Standardinstanz. Überprüfen Sie daher die Konfigurationen, bevor Sie zu dem Schluss kommen, dass ein Modell eine große Instanz benötigt.
Ein Konfigurationsname verbindet einen Anwendungsfall mit einem Leistungsziel. Dabei handelt es sich um dieselben Anwendungsfälle und Leistungsziele, die SageMaker Studio auf der Seite „Modell auf Endpunkt bereitstellen“ unter Leistung anbietet. Ein Name hier und eine Auswahl dort beschreiben also dieselbe Bereitstellung. Der Anwendungsfall beschreibt die Arbeitslast:
generate(Generieren): Erstellen Sie umfangreiche Inhalte wie Artikel, Berichte oder Code anhand einer Eingabeaufforderung.interact(Interagieren): Unterstützen Sie Konversationen in Echtzeit wie Chatbots oder virtuelle Assistenten.summarize(Zusammenfassen): Fassen Sie umfangreiche Dokumente, Artikel oder Daten zu kurzen Zusammenfassungen zusammen.modify(Ändern): Transformieren oder bearbeiten Sie vorhandene Inhalte, einschließlich Umschreiben, Übersetzen oder Neuformatieren.max_context(Max Context): Verarbeiten Sie große Eingaben, für die das gesamte Kontextfenster des Modells erforderlich ist.
Das Leistungsziel beschreibt, wofür die Konfiguration optimiert ist:
best_price_performance(Ausgewogen): Ein ausgewogener Kompromiss zwischen Kosten, Latenz und Durchsatz. Gut für allgemeine Workloads oder wenn Sie sich nicht sicher sind, welche Kennzahl am wichtigsten ist.lowest_cost(Kostenoptimiert): Niedrigste Infrastrukturkosten pro Anfrage. Akzeptiert eine höhere Latenz und einen niedrigeren Durchsatz, um die Kosten zu minimieren.highest_throughput(Optimierter Durchsatz): Maximale Anzahl an Tokens pro Sekunde für Workloads mit hohem Volumen. Verwendet spekulative Dekodierung, um den Durchsatz zu erhöhen.lowest_latency(Latenz optimiert): Niedrigste Zeit bis zum ersten Token (TTFT). Priorisiert Geschwindigkeit vor Durchsatz und Kosten.
Einige Modelle benennen stattdessen einen Serving-Container, z. B. lmi odertgi, oder verwenden ihn all_purpose für die Bereitstellung ohne Übernahme einer Arbeitslast.
Listen Sie die Konfigurationen für ein Modell zusammen mit ihren Benchmark-Metriken auf und stellen Sie dann eine Konfiguration mit dem SageMaker Python-SDK bereit:
from sagemaker.jumpstart.model import JumpStartModel model = JumpStartModel(model_id="meta-textgeneration-llama-3-1-8b-instruct") # Print every configuration with its instance types and benchmark metrics. model.list_deployment_configs() # Select a configuration and one of the instance types it supports. model.set_deployment_config( config_name="generate_lowest_cost", instance_type="ml.g6e.xlarge", ) predictor = model.deploy()
Bei der Bereitstellung ohne Aufruf werden die Standardkonfiguration und der Standardinstanztyp set_deployment_config verwendet.
- Open-Weight Models (436)
-
Open-weight Foundation-Modelle sind öffentlich verfügbare Modelle von Anbietern wie Meta, Google, Mistral AI und anderen. Sie können diese Modelle für Ihren Anwendungsfall bereitstellen, optimieren und anpassen.
Um mit einem dieser Modelle zu beginnen, schauen Sie sich eines der verfügbaren Beispiel-Notebooks Modelle an JumpStart Verwendung des Foundation-Modells oder erkunden Sie es. Versuchen Sie in einem bestimmten Beispielnotizbuch, die Modell-ID auszutauschen, um mit verschiedenen Modellen innerhalb derselben Modellfamilie zu experimentieren.
Weitere Informationen zu Modell-IDs und Ressourcen zur Bereitstellung öffentlich verfügbarer JumpStart Foundation-Modelle mit dem SageMaker Python SDK finden Sie unterVerwenden Sie Fundamentmodelle mit SageMaker Python SDK.
Anbieter Modellname Modell-ID Aufgabe License Fine-tunable Unterstützte Inferenz-Instanztypen 01-Ai
Yi-1.5-34B
huggingface-llm-yi-1-5-34bTextgenerierung
Apache 2.0
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
01-Ai
Yi-1.5-9B
huggingface-llm-yi-1-5-9bTextgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g5.16 x groß, ml.g5.24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24 x groß, ml.p4de.24 x groß, ml.p5.48 x groß
Hxt
Lite Lama 460M 1T
huggingface-llm-ahxt-litellama-460m-1tTextgenerierung
mit
Nein
ml.g5.2xlarge
Ai-Forever
Multilingual GPT
huggingface-llm-ai-forever-mgptTextgenerierung
Apache 2.0
Nein
ml.g5.2xlarge
Ai Singapur
Llama3 8B v2.1 Anleitung SEA-Lion
huggingface-llm-llama3-8b-sealionv21-instructTextgenerierung
Llama3
Nein
ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.p4d. 24 x groß, ml.p 5,48 x groß
Aisingapur
SEA-LION 3B
huggingface-llm-sealion-3bTextgenerierung
mit
Nein
ml.g4dn.2 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.p 3,8 x groß
Ai Singapur
SEA-LION 7B
huggingface-llm-sealion-7bTextgenerierung
mit
Nein
ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Ai Singapur
SEA-LION 7B anweisen
huggingface-llm-sealion-7b-instructTextgenerierung
mit
Nein
ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Alibaba-Nlp
Alibaba-NLP get- Qwen2-7B-instruct
huggingface-textembedding-gte-qwen2-7b-instructEinbettung von Text
Apache-2.0
Nein
ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß
Allenai
Olmo-3-7B-Instruct
huggingface-textgeneration-olmo-3-7b-instructTextgenerierung
Apache 2.0
Nein
ml.g6e.24xlarge
Amazon
Chronos 2
pytorch-forecasting-chronos-2Zeitreihenprognosen
Apache 2.0
Nein
ml.c5,2 x groß, ml.5,4 x groß, ml.c5.x groß, ml.g4dn.2 x groß, ml.g4dn.xgroß, ml.g5,2 x groß, ml.g5.xgroß, ml.g5.xgroß, ml.g6,2 x groß, ml.g6,2 x groß, ml.g6e.xgroß, ml.m5,2 x groß, ml.g6e.xgroß, ml.m5,2 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5,x groß
Amazon
Falcon Lite
huggingface-llm-amazon-falconliteTextgenerierung
Apache 2.0
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß
Amazon
Falcon Lite 2
huggingface-llm-amazon-falconlite2Textgenerierung
Apache 2.0
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß
Amazon
Mistral Lite
huggingface-llm-amazon-mistralliteTextgenerierung
Apache 2.0
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.2x groß, ml.g5.48x groß, ml.p4d.24x groß
Autogluon
Chronos-Bolt (Basis)
autogluon-forecasting-chronos-bolt-baseZeitreihenprognosen
Apache 2.0
Nein
ml.c5,2 x groß, ml.5,4 x groß, ml.c5.x groß, ml.g4dn.2 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.xgroß, ml.p3,2 x groß
Autogluon
Chronos-Bolt (Klein)
autogluon-forecasting-chronos-bolt-smallZeitreihenprognosen
Apache 2.0
Nein
ml.c5,2 x groß, ml.5,4 x groß, ml.c5.x groß, ml.g4dn.2 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.xgroß, ml.p3,2 x groß
Autogluon
Chronos-T5 (Basis)
autogluon-forecasting-chronos-t5-baseZeitreihenprognosen
Apache 2.0
Nein
ml.g4dn.2 x groß, ml.g4dn. 4 x groß, ml.g4dn.x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.p 3,2 x groß
Autogluon
Chronos-T5 (Groß)
autogluon-forecasting-chronos-t5-largeZeitreihenprognosen
Apache 2.0
Nein
ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.4x groß, ml.g5.xgroß, ml.p3.2xgroß
Autogluon
Chronos-T5 (Klein)
autogluon-forecasting-chronos-t5-smallZeitreihenprognosen
Apache 2.0
Nein
ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.4x groß, ml.g5.xgroß, ml.p3.2xgroß
Baai
BAAI bge-base-en-v1.5
huggingface-textembedding-bge-base-en-v1-5Einbettung von Text
MIT
Nein
ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß
Baai
BGE Base De
huggingface-sentencesimilarity-bge-base-enÄhnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Baai
BGE Base De V1.5
huggingface-sentencesimilarity-bge-base-en-v1-5Ähnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Baai
BGE Großes Ende
huggingface-sentencesimilarity-bge-large-enÄhnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Baai
BGE Großes Ende V1.5
huggingface-sentencesimilarity-bge-large-en-v1-5Ähnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Baai
GROSS 3 M
huggingface-sentencesimilarity-bge-m3Ähnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Baai
BGE Kleines Ende
huggingface-sentencesimilarity-bge-small-enSatzähnlichkeit
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Baai
BGE Kleines Ende V1.5
huggingface-sentencesimilarity-bge-small-en-v1-5Satzähnlichkeit
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Berkeley-Nest
Starling LM 7B Alpha
huggingface-llm-berkeley-nest-starling-lm-7b-alphaTextgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß
Bharatgenai
Param2-17B-A2.4B-Thinking
huggingface-llm-param2-17b-a2-4b-thinkingTextgenerierung
Nicht zutreffend
Nein
ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß
Großer Code
StarCoder
huggingface-llm-starcoderTextgenerierung
Bigcode-OpenRail-M
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Großer Code
StarCoderBase
huggingface-llm-starcoderbaseTextgenerierung
Bigcode-OpenRail-M
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Große Wissenschaft
Bloom 1b1
huggingface-textgeneration-bloom-1b1Textgenerierung
BigScience-Bloom-Rail-1.0
Nein
ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß
Große Wissenschaft
Bloom 3B
huggingface-textgeneration1-bloom-3bTextgenerierung
BigScience-Bloom-Rail-1.0
Ja
ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß
Große Wissenschaft
Bloom 7B1
huggingface-textgeneration1-bloom-7b1Textgenerierung
BigScience-Bloom-Rail-1.0
Ja
ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß
Große Wissenschaft
Bloomz 1b7
huggingface-textgeneration-bloomz-1b7Textgenerierung
BigScience-Bloom-Rail-1.0
Nein
ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß
Große Wissenschaft
BloomZ 7B1 FP16
huggingface-textgeneration1-bloomz-7b1-fp16Textgenerierung
BigScience-Bloom-Rail-1.0
Ja
ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß
Bingu
Bingsu meine koreanische stabile Diffusion v1 5
huggingface-txt2img-bingsu-my-korean-stable-diffusion-v1-5Text-to-Image
creativeml-openrail-m
Nein
ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß
Black-Forest-Labs
Black Forest Labs [schnell] FLUX.1
huggingface-txt2img-black-forest-labs-flux-1-schnellText-to-Image
Apache 2.0
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß, ml.p5.48x groß
Black-Forest-Labs
FLUX.2-Klein-Base-4B
huggingface-img2img-flux-2-klein-base-4bImage-Text-to-Image
Apache-2.0
Nein
ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.g7e.12 x groß, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.48 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß
Kognitive Berechnungen
Dolphin 2.2.1 Mistral 7B
huggingface-llm-dolphin-2-2-1-mistral-7bTextgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß
Kognitive Berechnungen
Dolphin 2.5 Mixtral 8 7B
huggingface-llm-dolphin-2-5-mixtral-8x7bTextgenerierung
Apache 2.0
Nein
ml.g5.48xlarge
Kognitive Berechnungen
Dolphin 2.7 Mixtral 8 7B
huggingface-llm-dolphin-2-7-mixtral-8x7bTextgenerierung
Apache 2.0
Nein
ml.g5.48xlarge
Kognitive Berechnungen
Dolphin 2.9 Lama 3 8b
huggingface-llm-cognitive-dolphin-29-llama3-8bTextgenerierung
andere
Nein
ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß
Cohereforai
Aya 101
huggingface-llm-aya-101Textgenerierung
Apache 2.0
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Cross-Encoder
Cross-Encoder Nil Deberta Base
huggingface-zstc-cross-encoder-nli-deberta-baseZero-Shot Einstufung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Cross-Encoder
Cross-Encoder Nil Distilroberta Base
huggingface-zstc-cross-encoder-nli-distilroberta-baseZero-Shot Einstufung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Cross-Encoder
Kreuzkodierer Nli MiniLM2 L6 H768
huggingface-zstc-cross-encoder-nli-minilm2-l6-h768Zero-Shot Klassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Cross-Encoder
Cross-Encoder Nil Roberta Basse
huggingface-zstc-cross-encoder-nli-roberta-baseZero-Shot Klassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Cyberagent
CyberAgentLM2-7B-Chat (CALM2-7B-Chat)
huggingface-llm-calm2-7b-chat-bf16Textgenerierung
Apache 2.0
Ja
ml.g5.12x groß, ml.g5.24 x groß, ml.g5.2x groß, ml.g5.4x groß, ml.g5.x groß
Databricks
DBRX Base
huggingface-llm-dbrx-baseTextgenerierung
databricks-open-model
Nein
ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Databricks
DBRX Instruct
huggingface-llm-dbrx-instructTextgenerierung
databricks-open-model
Nein
ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Databricks
Dolly V2 12b BF16
huggingface-textgeneration-dolly-v2-12b-bf16Textgenerierung
Apache 2.0
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Databricks
Dolly V2 3b BF16
huggingface-textgeneration-dolly-v2-3b-bf16Textgenerierung
Apache 2.0
Nein
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Deepseek-Ai
DeepSeek-OCR
deepseek-vlm-deepseek-ocrImage-Text-to-Text
mit
Nein
ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.4xgroß, ml.g5dn.xgroß, ml.g5.16xgroß, ml.g5.2xgroß, ml.g5.2xgroß, ml.g5.xgroß, ml.g6.16xgroß, ml.g6.2xgroß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xgroß, ml.p3,2 x groß
Deepseek-Ai
DeepSeek-R1
deepseek-llm-r1Textgenerierung
mit
Nein
ml.p5e.48xgroß, ml.p5en.48x groß
Deepseek-Ai
DeepSeek-R1-0528
deepseek-llm-r1-0528Textgenerierung
mit
Nein
ml.p5e.48xgroß, ml.p5en.48xgroß
Deepseek-Ai
DeepSeek-R1-Distill-Llama-70B
deepseek-llm-r1-distill-llama-70bTextgenerierung
mit
Ja
Standard: ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
djl(Deep-Java-Bibliotheks-Servercontainer): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlargeinteract_highest_throughputgenerate_lowest_cost(Generieren, kostenoptimiert),generate_lowest_latency(Generieren, Latenz optimiert),interact_best_price_performance(Interact, Balanced),interact_lowest_cost(Interact, Kostenoptimiert),interact_lowest_latency(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlargemodify_best_price_performance(Ändern, Ausgewogen),modify_highest_throughput(Ändern, Durchsatz optimiert),modify_lowest_cost(Ändern, kostenoptimiert),modify_lowest_latency(Ändern, Latenzoptimiert),summarize_best_price_performance(Zusammenfassen, Ausgewogen),summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert),summarize_lowest_cost(Zusammenfassen, Kostenoptimiert),summarize_lowest_latency(Zusammenfassen, Latenzoptimiert): ml.g6e.48xlarge
Deepseek-Ai
DeepSeek-R1-Distill-Llama-8B
deepseek-llm-r1-distill-llama-8bTextgenerierung
mit
Ja
Standard: ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.12xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
djl(Deep Java Library Serving Container): ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.24xlarge, ml.g6.48xlargegenerate_best_price_performance(Generieren,generate_lowest_costAusgewogen), (Generieren, Kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.2xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert), (Max Context, Durchsatz optimiert): ml.g6.48xlarge,interact_highest_throughputml.g6e.48xlarge, ml.g7e.12xlargemax_context_highest_throughputgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g7e.2xlargeinteract_best_price_performance(Interagieren, Ausgewogen), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge,modify_best_price_performanceml.g7e.2xlargemodify_lowest_costinteract_lowest_cost(Interagieren, kostenoptimiert): ml.g6.48xlarge, ml.g6e.xlarge, ml.g7e.2xlargeinteract_lowest_latency(Interagieren, Latenz optimiert), (Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.12xlargemodify_lowest_latencymax_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlargesummarize_best_price_performancesummarize_lowest_costmax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.12xlargesummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert):summarize_lowest_latencyml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge
Deepseek-Ai
DeepSeek-R1-Distill-Qwen-1.5B
deepseek-llm-r1-distill-qwen-1-5bTextgenerierung
mit
Ja
Standard: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert), (Interagieren, Ausgewogen),interact_best_price_performance(Interagieren, Kostenoptimiert),interact_lowest_cost(Zusammenfassen, Ausgewogen),summarize_best_price_performance(Zusammenfassen, Kostenoptimiert): ml.g6.2xlarge,summarize_lowest_costml.g6e.xlarge, ml.g7e.2xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert),interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g7e.2xlargeinteract_lowest_latency(Interagieren, Latenz optimiert), (Max Context, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.4xlargemax_context_lowest_latencymax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.2xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlargemodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlargemodify_lowest_costmodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.4xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6.24xlarge, ml.g6e.4xlarge, ml.g7e.4xlargesummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.2xlarge, ml.g7e.2xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge
Deepseek-Ai
DeepSeek-R1-Distill-Qwen-14B
deepseek-llm-r1-distill-qwen-14bTextgenerierung
mit
Ja
Standard: ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert), (Interagieren, Ausgewogen),interact_best_price_performance(Interagieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlargeinteract_lowest_costgenerate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.4xlargeinteract_highest_throughputgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g7e.4xlargeinteract_lowest_latency(Interagieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.4xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz), (Maximaler Kontext, kostenoptimiert),max_context_lowest_cost(Maximaler Kontext, Latenz optimiert), (Zusammenfassen, Ausgewogen),max_context_lowest_latency(Zusammenfassen, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge,summarize_best_price_performanceml.p5en.48xlargesummarize_highest_throughputmodify_best_price_performance(Ändern, Ausgewogen),modify_lowest_cost(Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.2xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.24xlarge, ml.g7e.2xlarge, ml.p5en.48xlargesummarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.48xlarge
Deepseek-Ai
DeepSeek-R1-Distill-Qwen-32B
deepseek-llm-r1-distill-qwen-32bTextgenerierung
mit
Ja
Standard: ml.g6e.48xlarge
Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert), (Interagieren, Ausgewogen),interact_best_price_performance(Interagieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlargeinteract_lowest_costgenerate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.4xlargeinteract_highest_throughputgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlargeinteract_lowest_latency(Interagieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlargemodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Ändern, Latenzoptimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlargemodify_lowest_costmodify_lowest_latencymodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge
Deepseek-Ai
DeepSeek-R1-Distill-Qwen-7B
deepseek-llm-r1-distill-qwen-7bTextgenerierung
mit
Ja
Standard: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert), (Interagieren, Ausgewogen),interact_best_price_performance(Interagieren, Kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlargeinteract_lowest_costgenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.4xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.24xlarge, ml.g6e.xlarge, ml.g7e.2xlargeinteract_highest_throughput(Interagieren, Durchsatz optimiert), (Interact, Latenz optimiert), (Maximaler Kontext, Latenz optimiert),interact_lowest_latency(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge,max_context_lowest_latencyml.g7e.2xlargemodify_highest_throughputmax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlargesummarize_best_price_performancesummarize_lowest_costmodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Ändern, Latenzoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlargemodify_lowest_costmodify_lowest_latencysummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge
Deepseek-Ai
DeepSeek-V3.1
deepseek-llm-deepseek-v3-1Textgenerierung
mit
Nein
ml.p5e.48xlarge, ml.p5en.48xlarge
Deepseek-Ai
DeepSeek-V3.2
deepseek-llm-deepseek-v3-2Textgenerierung
mit
Nein
ml.p5en.48x groß
Destilbert
Distilbert Basisgehäuse
huggingface-eqa-distilbert-base-casedBeantwortete Frage
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Destilbert
Distilbert Basisgehäuse
huggingface-spc-distilbert-base-casedFill-Mask
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Destilbert
Distilbert Basisgehäuse
huggingface-tc-distilbert-base-casedTextklassifizierung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Destilbert
DistilBert Base Mehrsprachiges Gehäuse
huggingface-eqa-distilbert-base-multilingual-casedBeantwortete Frage
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Destilbert
DistilBert Base Mehrsprachiges Gehäuse
huggingface-spc-distilbert-base-multilingual-casedFill-Mask
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Destilbert
DistilBert Base Mehrsprachiges Gehäuse
huggingface-tc-distilbert-base-multilingual-casedTextklassifizierung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Destilbert
DistilGPT 2
huggingface-textgeneration-distilgpt2Textgenerierung
Apache 2.0
Nein
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Destilbert
DistilRoBERTa Basis
huggingface-eqa-distilroberta-baseBeantwortete Frage
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Destilbert
DistilRoBERTa Basis
huggingface-tc-distilroberta-baseTextklassifizierung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Destilbert
Beantwortete Frage
huggingface-eqa-distilbert-base-uncasedBeantwortete Frage
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Destilbert
Klassifizierung von Satzpaaren
huggingface-spc-distilbert-base-uncasedFill-Mask
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Destilbert
Textklassifizierung
huggingface-tc-distilbert-base-uncasedTextklassifizierung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Elastic
Destilbert Base ohne Ummantelung
huggingface-ner-distilbert-base-uncased-finetuned-conll03-engToken-Klassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Elastic
Named Entity Recognition
huggingface-ner-distilbert-base-cased-finetuned-conll03-engToken-Klassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Elastic
Named Entity Recognition
huggingface-ner-distilbert-base-cased-finetuned-conll03-englishToken-Klassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Eleutheria
GPT-J 6B
huggingface-textgeneration1-gpt-j-6bTextgenerierung
Apache 2.0
Ja
ml.g5.12 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Eleutheria
GPT-Neo 125 M
huggingface-textgeneration1-gpt-neo-125mTextgenerierung
mit
Ja
ml. g 5,16 x groß, ml. G 5,2 x groß, ml. G 5,8 x groß
Eleutheria
gpt-neox-20b
huggingface-textgeneration2-gpt-neox-20b-fp16Textgenerierung
Apache-2.0
Nein
ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.p4d.24 x groß
Eleutherai
Pythia 160m Dedupliziert
huggingface-llm-eleutherai-pythia-160m-dedupedTextgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß
Eleutheria
Pythia 7m Dedupliziert
huggingface-llm-eleutherai-pythia-70m-dedupedTextgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß
Elyza
ELYZA-japanese-Llama-2-13b-chat
huggingface-llm-elyza-japanese-llama-2-13b-chatTextgenerierung
Llama 2
Ja
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Elyza
ELYZA-japanese-Llama-2-13b-fast-chat
huggingface-llm-elyza-japanese-llama-2-13b-fast-chatTextgenerierung
Llama 2
Ja
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Elyza
ELYZA-japanese-Llama-2-7b-chat
huggingface-llm-elyza-japanese-llama-2-7b-chat-bf16Textgenerierung
Llama 2
Ja
ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,4 x groß, ml.g 5,x groß
Elyza
ELYZA-japanese-Llama-2-7b-fast-chat
huggingface-llm-elyza-japanese-llama-2-7b-fast-chat-bf16Textgenerierung
Llama 2
Ja
ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,4 x groß, ml.g 5,x groß
Emercan
Amerikanischer Bert auf türkischer Basis Allenli-Tr
huggingface-zstc-emrecan-bert-base-turkish-cased-allnli-trZero-Shot Einstufung
mit
Nein
ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß
Facebook
Zero-Shot Textklassifizierung
huggingface-zstc-facebook-bart-large-mnliZero-Shot Klassifizierung
mit
Nein
ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß
Facebookai
Roberta Base
huggingface-eqa-roberta-baseBeantwortete Frage
mit
Ja
ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß
Facebookai
Roberta Base
huggingface-spc-roberta-baseFill-Mask
mit
Ja
ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß
Facebookai
Roberta Base
huggingface-tc-roberta-baseTextklassifizierung
mit
Ja
ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß
Facebookai
Robert A Large
huggingface-eqa-roberta-largeBeantwortete Frage
mit
Ja
ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß
Facebookai
Robert A Large
huggingface-spc-roberta-largeFill-Mask
mit
Ja
ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß
Facebookai
Robert A Large
huggingface-tc-roberta-largeTextklassifizierung
mit
Ja
ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß
Facebookai
XLM CLM English-German
huggingface-spc-xlm-clm-ende-1024Fill-Mask
mit
Ja
ml.c5.2x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2x groß
Facebookai
XLM CLM English-German
huggingface-tc-xlm-clm-ende-1024Textklassifizierung
mit
Ja
ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß
Facebookai
XML MLM 15 XNLI Sprachen
huggingface-spc-xlm-mlm-xnli15-1024Fill-Mask
cc-by-nc-4.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Facebookai
XLM MLM English-German
huggingface-spc-xlm-mlm-ende-1024Fill-Mask
cc-by-nc-4.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Facebookai
XLM MLM English-German
huggingface-tc-xlm-mlm-ende-1024Textklassifizierung
cc-by-nc-4.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Facebookai
XLM MLM English-Romanian
huggingface-spc-xlm-mlm-enro-1024Fill-Mask
cc-by-nc-4.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Facebookai
XLM MLM English-Romanian
huggingface-tc-xlm-mlm-enro-1024Textklassifizierung
cc-by-nc-4.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Facebookai
XLM MLM TLM 15 XNLI Sprachen
huggingface-spc-xlm-mlm-tlm-xnli15-1024Fill-Mask
cc-by-nc-4.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Facebookai
XLM MLM TLM 15 XNLI Sprachen
huggingface-tc-xlm-mlm-tlm-xnli15-1024Textklassifizierung
cc-by-nc-4.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Fiktives Vers
Fiktives stabiles Diffusionsmodell BalloonArt
huggingface-txt2img-fictiverse-stable-diffusion-balloonartText-to-Image
creativeml-openrail-m
Nein
ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß
Fiktives Vers
Fiktives stabiles diffusionsmikroskopisches Modell
huggingface-txt2img-fictiverse-stable-diffusion-micro-modelText-to-Image
offene Schiene
Nein
ml.g4dn.2 x groß, ml.g4dn.xlarge, ml.p3.2 x groß
Fiktives Vers
Fiktives stabiles Diffusionsmodell PaperCut
huggingface-txt2img-fictiverse-stable-diffusion-papercut-modelText-to-Image
creativeml-openrail-m
Nein
ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß
Fiktives Vers
Fiktives stabiles Diffusionsmodell VoxelArt
huggingface-txt2img-fictiverse-stable-diffusion-voxelart-modelText-to-Image
creativeml-openrail-m
Nein
ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß
Google
Bigbird Pegasus Large Archiv
huggingface-summarization-bigbird-pegasus-large-arxivTextzusammenfassung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google
Bigbird Pegasus Large Pubmed
huggingface-summarization-bigbird-pegasus-large-pubmedTextzusammenfassung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google
Flan-T5 Basis
huggingface-text2text-flan-t5-baseGenerierung von Text zu Text
Apache 2.0
Ja
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Google
Flan-T5 Groß
huggingface-text2text-flan-t5-largeGenerierung von Text zu Text
Apache 2.0
Ja
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Google
Flan-T5 Klein
huggingface-text2text-flan-t5-smallGenerierung von Text zu Text
Apache 2.0
Ja
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Google
Flan-T5 XL
huggingface-text2text-flan-t5-xlGenerierung von Text zu Text
Apache 2.0
Ja
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Google
Flan-T5 XXL
huggingface-text2text-flan-t5-xxlGenerierung von Text zu Text
Apache 2.0
Ja
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Google
Gemma 2 27B
huggingface-llm-gemma-2-27bTextgenerierung
Gemma
Nein
ml. g 5,48 x groß, ml. 4 x 24 x groß
Google
Gemma 2 27B Instruct
huggingface-llm-gemma-2-27b-instructTextgenerierung
Gemma
Nein
ml. g 5,48 x groß, ml. 4 x 24 x groß
Google
Gemma 2 2B
huggingface-llm-gemma-2-2bTextgenerierung
Gemma
Nein
ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.p4de. 24 x groß, ml.p 5,48 x groß
Google
Gemma 2 2B Instruct
huggingface-llm-gemma-2-2b-instructTextgenerierung
gemma
Nein
ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.p4de. 24 x groß, ml.p 5,48 x groß
Google
Gemma 2 9B
huggingface-llm-gemma-2-9bTextgenerierung
gemma
Nein
ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß, ml. 4 x 24 x groß
Google
Gemma 2 9B Instruct
huggingface-llm-gemma-2-9b-instructTextgenerierung
Gemma
Nein
ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß, ml. 4 x 24 x groß
Google
Gemma 3 1B Anleitung
huggingface-llm-gemma-3-1b-instructTextgenerierung
Gemma
Nein
ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß
Google
Gemma 3 27B Anleitung
huggingface-vlm-gemma-3-27b-instructImage-Text-to-Text
Gemma
Nein
ml. g 5,48 x groß, ml. g 6,48 x groß, ml. P4 x 24 x groß, ml x 5,48 x groß
Google
Gemma 3 4B Anleitung
huggingface-vlm-gemma-3-4b-instructImage-Text-to-Text
Gemma
Nein
ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß
Google
gemma-2b
huggingface-llm-gemma-2bTextgenerierung
Gemma
Ja
Standard: ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge, ml.p3.2xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.2xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_highest_throughputgenerate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargeinteract_lowest_costmax_context_lowest_costgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interagieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g4dn.2xlarge, ml.g6e.12xlarge, ml.p5en.48xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Google
gemma-2b-it
huggingface-llm-gemma-2b-instructTextgenerierung
Gemma
Ja
Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert), (Interagieren, Ausgewogen),interact_best_price_performance(Interagieren, Kostenoptimiert),interact_lowest_costmax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert),max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_latency(Generieren, Latenz optimiert),max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_highest_throughput(Interact, Durchsatz optimiert),interact_lowest_latency(Interact, Latenz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Google
gemma-4-26b-a4b-it
huggingface-vlm-gemma-4-26b-a4b-itTextgenerierung
Apache 2.0
Nein
Standard: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_highest_throughput(Generieren, Durchsatz optimiert),interact_highest_throughput(Interact, Durchsatz optimiert),summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_cost(Generieren, kostenoptimiert),interact_best_price_performance(Interagieren, Ausgewogen),interact_lowest_cost(Interagieren, Kostenoptimiert),modify_best_price_performance(Ändern, Ausgewogen),modify_lowest_cost(Ändern, Kostenoptimiert),summarize_best_price_performance(Zusammenfassen, Ausgewogen),summarize_lowest_cost(Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.p5.48xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.p5en.48xlargemodify_highest_throughput(Ändern, Durchsatz optimiert), (Ändern, Latenz optimiert), (Zusammenfassen, Durchsatz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_lowest_latencysummarize_highest_throughput
Google
gemma-4-31b-it
huggingface-vlm-gemma-4-31b-itImage-Text-to-Text
Apache-2.0
Ja
ml. g 6,24 x groß, ml. g 7, 2 x groß
Google
gemma-4- E2B-it
huggingface-vlm-gemma-4-e2b-instructImage-Text-to-Text
Apache-2.0
Nein
Standard: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.4xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.4xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.4xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.8xlarge, ml.g6e.8xlarge, ml.g7e.4xlargemodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Zusammenfassen, Ausgewogen),modify_lowest_cost(Zusammenfassen, Kostenoptimiert): ml.g6.4xlarge, ml.g6e.xlarge,summarize_best_price_performanceml.g7e.2xlargesummarize_lowest_costmodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6.24xlarge, ml.g6e.8xlarge, ml.g7e.4xlargesummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.xlarge, ml.g7e.2xlargesummarize_lowest_latency
Google
gemma-4-e4b-it
huggingface-vlm-gemma-4-e4b-itTextgenerierung
Apache 2.0
Ja
Standard: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert),interact_best_price_performance(Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert),interact_lowest_cost(Ändern, Ausgewogen),modify_best_price_performance(Ändern, Kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.p5.48xlargemodify_lowest_costgenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.2xlarge, ml.g6e.2xlarge, ml.p5en.48xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5.48xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6.16xlarge, ml.g6e.16xlarge, ml.p5.48xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.p5.48xlargesummarize_best_price_performancesummarize_lowest_costmax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.p5.48xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6e.16xlarge, ml.p5.48xlargesummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): ml.g6e.8xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_lowest_latency
Google
gemma-7b
huggingface-llm-gemma-7bTextgenerierung
Gemma
Ja
ml. G 6 E 48 x groß, ml P 4 D 24 x groß, ml P 5 ca. 48 x groß
Google
Gemma-7-Bit
huggingface-llm-gemma-7b-instructTextgenerierung
Gemma
Ja
Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Interactinteract_highest_throughput, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargeinteract_lowest_costmax_context_lowest_costgenerate_lowest_latency(Generieren, Latenz optimiert), (Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_highest_throughputinteract_best_price_performance(Interaktiv, ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g5.48xlarge, ml.g6e.24xlarge, ml.p5en.48xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Google-Bert
BERT-Basisgehäuse
huggingface-eqa-bert-base-casedBeantwortete Frage
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT-Basisgehäuse
huggingface-spc-bert-base-casedFill-Mask
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT-Basisgehäuse
huggingface-tc-bert-base-casedTextklassifizierung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Base Mehrsprachiges Gehalten
huggingface-eqa-bert-base-multilingual-casedBeantwortete Frage
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Base Mehrsprachiges Gehalten
huggingface-spc-bert-base-multilingual-casedFill-Mask
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Base Mehrsprachiges Gehalten
huggingface-tc-bert-base-multilingual-casedTextklassifizierung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Base Mehrsprachig ohne Groß- und Kleinschreibung
huggingface-eqa-bert-base-multilingual-uncasedBeantwortete Frage
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Base Mehrsprachig ohne Groß- und Kleinschreibung
huggingface-spc-bert-base-multilingual-uncasedFill-Mask
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Base Mehrsprachig ohne Groß- und Kleinschreibung
huggingface-tc-bert-base-multilingual-uncasedTextklassifizierung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT-Base ohne Hülle
huggingface-eqa-bert-base-uncasedBeantwortete Frage
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT-Base ohne Hülle
huggingface-spc-bert-base-uncasedFill-Mask
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT-Base ohne Hülle
huggingface-tc-bert-base-uncasedTextklassifizierung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Großkoffer
huggingface-eqa-bert-large-casedBeantwortete Frage
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Großkoffer
huggingface-spc-bert-large-casedFill-Mask
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Großkoffer
huggingface-tc-bert-large-casedTextklassifizierung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Maskierung ganzer Wörter in Großbuchstaben
huggingface-eqa-bert-large-cased-whole-word-maskingBeantwortete Frage
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Maskierung ganzer Wörter in Großbuchstaben
huggingface-spc-bert-large-cased-whole-word-maskingFill-Mask
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Large ohne Hülle
huggingface-spc-bert-large-uncasedFill-Mask
Apache 2.0
Ja
ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß
Google-Bert
BERT Large ohne Hülle
huggingface-tc-bert-large-uncasedTextklassifizierung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
BERT Große Ganzwortmaskierung ohne Groß- und Kleinschreibung
huggingface-spc-bert-large-uncased-whole-word-maskingFill-Mask
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-Bert
Maske füllen
huggingface-fillmask-bert-base-uncasedFill-Mask
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-T5
Maschinelle Übersetzung
huggingface-translation-t5-smallÜbersetzung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-T5
t5 Base en de
huggingface-translation-t5-baseÜbersetzung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Google-T5
t5 Large, Ende de
huggingface-translation-t5-largeÜbersetzung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Gradientai
Llama-3 8B Gradient, Instruktor 1048k
huggingface-llm-llama-3-8b-instruct-gradientTextgenerierung
Ich rufe 3 an
Nein
ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß
Gradientai
Llama-3 8B Gradient, Instruktor 262k
huggingface-llm-gradientai-llama-3-8B-instruct-262kTextgenerierung
Ich rufe 3 an
Nein
ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß
Helsinki-Nlp
Helsinki opus en es
huggingface-translation-opus-mt-en-esÜbersetzung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Helsinki-Nlp
Helsinki, Opus en VI
huggingface-translation-opus-mt-en-viÜbersetzung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Helsinki-Nlp
Helsinki opus mul en
huggingface-translation-opus-mt-mul-enÜbersetzung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Umarmen Sie das Gesicht h4
HuggingFaceH4 Zephyr-Orpo-141b- A35b-v0.1
huggingface-llm-huggingfaceh4-zephyr-orpo-141b-a35b-v01Textgenerierung
Apache 2.0
Nein
ml.g5.48x groß, ml.p4d.24x groß
Umarme das Gesicht H4
Star Chat Alpha
huggingface-llm-huggingfaceh4-starchat-alphaTextgenerierung
bigcode-openrail-m
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß
Umarmt das Gesicht H4
Star Chat Beta
huggingface-llm-huggingfaceh4-starchat-betaTextgenerierung
bigcode-openrail-m
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Umarmt das Gesicht H4
Zephyr 7B Beta
huggingface-llm-huggingfaceh4-zephyr-7b-betaTextgenerierung
mit
Nein
ml.g5.12x groß, ml.g5,24x groß, ml.g5,2 x groß, ml.g5,48x groß, ml.p4d.24x groß
Ibm
Qualitätskontrollierte Generierung von Paraphrasen
huggingface-text2text-qcpg-sentencesGenerierung von Text zu Text
Apache 2.0
Nein
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Idea-Ccnl
IDEA CCNL Taiyi Stable Diffusion 1B Chinesisch EN v0.1
huggingface-txt2img-idea-ccnl-taiyi-1b-chinese-en-v01Text-to-Image
creativeml-openrail-m
Nein
ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß
Idea-Ccnl
IDEA CCNL Taiyi Stable Diffusion 1B Chinesisch v0.1
huggingface-txt2img-idea-ccnl-taiyi-1b-chinese-v0-1Text-to-Image
creativeml-openrail-m
Nein
ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß
In Float
E5-Sockel
huggingface-sentencesimilarity-e5-baseÄhnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Infloat
E5 Basis V2
huggingface-sentencesimilarity-e5-base-v2Ähnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Infloat
E5 Groß V2
huggingface-sentencesimilarity-e5-large-v2Ähnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Infloat
Mehrsprachige E5-Basis
huggingface-sentencesimilarity-multilingual-e5-baseÄhnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Infloat
Mehrsprachig E5 Large
huggingface-sentencesimilarity-multilingual-e5-largeÄhnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Langboot
Langboat Guohua Diffusion
huggingface-txt2img-langboat-guohua-diffusionText-to-Image
creativeml-openrail-m
Nein
ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß
Licht im Inneren
Lighteternal Nli Xlm R Griechisch
huggingface-zstc-lighteternal-nli-xlm-r-greekZero-Shot Einstufung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Licht auf Nai
LightOnOCR-2-1B
huggingface-vlm-lightonai-lightonocr-2-1bImage-Text-to-Text
Apache-2.0
Nein
ml.g6.2xlarge
Meta
Llama-2-7b-hf
meta-textgeneration-llama-2-7bTextgenerierung
Lama 2
Ja
Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert): ml.g5.4xlarge, ml.g6.4xlarge, ml.g6e.4xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Generieren, Latenz optimiert),generate_lowest_latency(Maximaler Kontext, optimierter Durchsatz),max_context_highest_throughput(Maximaler Kontext, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_lowest_latencyinteract_best_price_performance(Interagiereninteract_lowest_cost, Ausgewogen), (Interagieren, kostenoptimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.2xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5.48xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge
Meta
Llama-3.1-70B-Instruct
meta-textgeneration-llama-3-1-70b-instructTextgenerierung
Allama 3.1
Ja
Standard: ml.g6e.48xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Generieren, Latenz optimiert): ml.p4d.24xlargegenerate_lowest_latency, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargeinteract_best_price_performanceinteract_lowest_costinteract_highest_throughput(Interact, Durchsatz optimiert), (Interact, Latenz optimiert): ml.g5.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlargeinteract_lowest_latencymodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Durchsatz optimiert), (Ändern, Kostenoptimiert),modify_highest_throughput(Ändern, Latenzoptimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_lowest_costmodify_lowest_latencysummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert), (Zusammenfassen, Latenzoptimiert):summarize_highest_throughputml.p5en.48xlargesummarize_lowest_costsummarize_lowest_latency
Meta
Llama-3.1-8B-Instruct
meta-textgeneration-llama-3-1-8b-instructTextgenerierung
Allama 3.1
Ja
Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert),interact_highest_throughput(Interact, Durchsatz optimiert),max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz),max_context_lowest_latency(Maximaler Kontext, Latenz optimiert),modify_highest_throughput(Ändern, optimierter Durchsatz),modify_lowest_latency(Ändern, Latenz optimiert),summarize_highest_throughput(Zusammenfassen, optimiert für Latenz),summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_cost(Generieren, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interaktiv, ausgewogen): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.2xlargeinteract_lowest_cost(Interact, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.2xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.p4d.24xlargemodify_lowest_cost(Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargesummarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
Meta
Llama-3.2-1B
meta-textgeneration-llama-3-2-1bTextgenerierung
Lama 3.2
Ja
Standard: ml.g4dn.12xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p3.16xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g6.2xlarge, ml.g6e.2xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_highest_throughputgenerate_lowest_cost(Generieren, kostenoptimiert): ml.g4dn.xlarge, ml.g6.2xlarge, ml.g6e.xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interagieren, Ausgewogen), (Interagieren, kostenoptimiert)interact_lowest_cost: ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6.xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g5.16xlarge, ml.g6e.48xlarge, ml.p5en.48xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.8xlarge, ml.g6e.2xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_best_price_performance(Ändern, Ausgewogenmodify_lowest_cost), (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g5.2xlarge, ml.g6e.8xlarge, ml.p5en.48xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g5.xlarge, ml.g6.24xlarge, ml.g6e.xlargesummarize_lowest_costsummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6e.12xlarge, ml.p3.16xlarge, ml.p5en.48xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6e.4xlarge, ml.p3.16xlarge, ml.p5en.48xlarge
Meta
Llama-3.2-1B-Instruct
meta-textgeneration-llama-3-2-1b-instructTextgenerierung
Allama 3.2
Ja
Standard: ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Maximaler Kontext, optimierter Durchsatz),max_context_highest_throughput(Maximaler Kontext, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_lowest_latencygenerate_lowest_cost(Generieren, kostenoptimiert), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.2xlargemodify_best_price_performancemodify_lowest_costgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interagieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.2xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p5en.48xlargeinteract_lowest_cost(Interact, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.8xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6.8xlarge, ml.g6e.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6e.xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.4xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.8xlargesummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.p3.16xlarge, ml.p5en.48xlargesummarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.xlarge, ml.g6.xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6e.8xlarge, ml.p3.16xlarge, ml.p5en.48xlarge
Meta
Llama-3.2-3B
meta-textgeneration-llama-3-2-3bTextgenerierung
Allama 3.2
Ja
Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.2xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.24xlarge, ml.p3.8xlarge, ml.p5en.48xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargeinteract_lowest_costgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g5.8xlarge, ml.g6e.8xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interaktiv, ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargeinteract_highest_throughput(Interact, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert): ml.p3.16xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_lowest_latencyinteract_lowest_latency(Interact, Latenz optimiert): ml.g6.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.p5en.48xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g5.xlarge, ml.g6.4xlarge, ml.g6e.2xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p4d.24xlargemodify_lowest_cost(Ändern, kostenoptimiert): ml.g5.xlarge, ml.g6.4xlarge, ml.g6e.xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.8xlarge, ml.p3.16xlarge, ml.p4d.24xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.p5.48xlargesummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge
Meta
Llama-3.2-3B-Instruct
meta-textgeneration-llama-3-2-3b-instructTextgenerierung
Allama 3.2
Ja
Standard: ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.48xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausbalanciert),interact_best_price_performance(Interagieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert),interact_highest_throughput(Interact, Durchsatz optimiert),max_context_highest_throughput(Maximaler Kontext, Durchsatz optimiert),summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert),summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_cost(Generieren, kostenoptimiert),interact_lowest_cost(Interact, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.4xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interagieren, Latenz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_lowest_cost(Ändern, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargesummarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge
Meta
Llama-Guard-3-1B
meta-textgeneration-llama-guard-3-1bTextgenerierung
Allama 3.2
Nein
ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.16 x groß, ml.g6e 24x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß, ml.p4d.24xgroß
Meta
Llama-Guard-3-8B
meta-textgeneration-llama-guard-3-8bTextgenerierung
Lama3.1
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.g6.24x groß, ml.g6.48 x groß, ml.g6e.12x groß, ml.g6e.24xgroß, ml.p4d.24xgroß
Meta
Meta Code Llama 13B
meta-textgeneration-llama-codellama-13bTextgenerierung
Lama 2
Ja
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß
Meta
Meta Code Llama 13B Instruct
meta-textgeneration-llama-codellama-13b-instructTextgenerierung
Lama 2
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß
Meta
Meta Code Llama 13B Python
meta-textgeneration-llama-codellama-13b-pythonTextgenerierung
Lama 2
Ja
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß
Meta
Meta Code Llama 34B
meta-textgeneration-llama-codellama-34bTextgenerierung
Lama 2
Ja
Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi(Großer Model Inference-Container),lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta Code Llama 34B Instruct
meta-textgeneration-llama-codellama-34b-instructTextgenerierung
llama2
Nein
Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi(Großer Model Inference-Container),lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta Code Llama 34B Python
meta-textgeneration-llama-codellama-34b-pythonTextgenerierung
llama2
Ja
Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi(Großer Model Inference-Container),lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta Code Llama 70B
meta-textgeneration-llama-codellama-70bTextgenerierung
llama2
Ja
Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi(Großer Model Inference-Container),lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta Code Llama 70B Instruct
meta-textgeneration-llama-codellama-70b-instructTextgenerierung
llama2
Nein
Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi(Großer Model Inference-Container),lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta Code Llama 70B Neuron
meta-textgenerationneuron-llama-codellama-70bTextgenerierung
llama2
Nein
ml.inf 2,48 x groß
Meta
Meta Code Llama 70B Python
meta-textgeneration-llama-codellama-70b-pythonTextgenerierung
Lama 2
Ja
Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi(Großer Model Inference-Container),lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta Code Llama 7B
meta-textgeneration-llama-codellama-7bTextgenerierung
llama2
Ja
Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6,2xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta Code Llama 7B Instruct
meta-textgeneration-llama-codellama-7b-instructTextgenerierung
Lama 2
Nein
Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta Code Llama 7B Neuron
meta-textgenerationneuron-llama-codellama-7bTextgenerierung
Lama 2
Nein
ml.inf2.8 x groß, ml.inf 2.x groß
Meta
Meta Code Llama 7B Python
meta-textgeneration-llama-codellama-7b-pythonTextgenerierung
Lama 2
Ja
Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta Code Llama 7B Python Neuron
meta-textgenerationneuron-llama-codellama-7b-pythonTextgenerierung
Lama 2
Nein
ml.inf2.8 x groß, ml.inf 2.x groß
Meta
Meta Llama 2 13B
meta-textgeneration-llama-2-13bTextgenerierung
Lama 2
Ja
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß, ml.p5.48x groß
Meta
Meta Llama 2 13B Chat
meta-textgeneration-llama-2-13b-fTextgenerierung
Lama 2
Ja
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.p4d.24x groß, ml.p5.48x groß
Meta
Meta Llama 2 13B Chat Neuron
meta-textgenerationneuron-llama-2-13b-fTextgenerierung
Lama 2
Nein
ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß
Meta
Meta Llama 2 13B Neuron
meta-textgenerationneuron-llama-2-13bTextgenerierung
Lama 2
Ja
ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß
Meta
Meta Llama 2 70B
meta-textgeneration-llama-2-70bTextgenerierung
Lama 2
Ja
Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi(Großer Model Inference-Container),lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 2 70B Chat
meta-textgeneration-llama-2-70b-fTextgenerierung
Lama2
Ja
Standard: ml.g5.48xlarge, ml.p4d.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi(Großer Model Inference-Container),lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 2 70B Chat Neuron
meta-textgenerationneuron-llama-2-70b-fTextgenerierung
Lama2
Nein
ml.inf 2,48 x groß
Meta
Meta Llama 2 70B Neuron
meta-textgenerationneuron-llama-2-70bTextgenerierung
Lama 2
Nein
ml.inf 2,48 x groß
Meta
Meta Llama 2 7B Chat
meta-textgeneration-llama-2-7b-fTextgenerierung
Lama 2
Ja
Standard: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlargeneuron(AWS Inferentia- und Trainium-Beschleuniger): ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge
Meta
Meta Llama 2 7B Chat Neuron
meta-textgenerationneuron-llama-2-7b-fTextgenerierung
Lama2
Nein
ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß
Meta
Meta Llama 2 7B Neuron
meta-textgenerationneuron-llama-2-7bTextgenerierung
Lama 2
Ja
ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß
Meta
Meta Llama 3 1 8B Neuron
meta-textgenerationneuron-llama-3-1-8bTextgenerierung
Lama 3.1
Nein
ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.trn 1,2 x groß, ml.trn 1,32 x groß, ml.trn1n.32 x groß
Meta
Metalllama 30 70B
meta-textgeneration-llama-3-70bTextgenerierung
Lama 3
Ja
ml.g 5,48 x groß, ml.g 6,48 x groß, ml.p4 d. 24 x groß, ml.p 5,48 x groß
Meta
Meta Llama 3 70B Instruct
meta-textgeneration-llama-3-70b-instructTextgenerierung
Lama 3
Ja
ml.g 5,48 x groß, ml.g 6,48 x groß, ml.p4 d. 24 x groß, ml.p 5,48 x groß
Meta
Meta Llama 3 70B Instruct Neuron
meta-textgenerationneuron-llama-3-70b-instructTextgenerierung
Lama 3
Nein
ml.trn1.32xlarge
Meta
Meta Llama 3 70B Neuron
meta-textgenerationneuron-llama-3-70bTextgenerierung
Llama3
Nein
ml.trn1.32xlarge
Meta
Meta Llama 3 8B Instruct
meta-textgeneration-llama-3-8b-instructTextgenerierung
Llama3
Ja
ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.p4D 24 x groß, ml.p 5,48 x groß
Meta
Meta Llama 3 8B Instruct Neuron
meta-textgenerationneuron-llama-3-8b-instructTextgenerierung
Lama 3
Nein
ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß
Meta
Meta Llama 3 8B Neuron
meta-textgenerationneuron-llama-3-8bTextgenerierung
Lama 3
Nein
ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß
Meta
Meta Llama 3.1 405B FP8
meta-textgeneration-llama-3-1-405b-fp8Textgenerierung
Lama 3.1
Ja
ml.p4de.24x groß, ml.p5.48x groß
Meta
Meta Llama 3.1 405B Instruct FP8
meta-textgeneration-llama-3-1-405b-instruct-fp8Textgenerierung
Lama 3.1
Ja
ml.p4de.24x groß, ml.p5.48x groß
Meta
Meta Lama 3.1 70B
meta-textgeneration-llama-3-1-70bTextgenerierung
Lama 3.1
Ja
ml.g 5,48 x groß, ml.g 6,48 x groß, ml.p4 d. 24 x groß, ml.p 5,48 x groß
Meta
Meta Llama 3.1 70B Instruct Neuron
meta-textgenerationneuron-llama-3-1-70b-instructTextgenerierung
Lama 3.1
Nein
ml.inf 2,48 x groß, ml.trn 1.32 x groß, ml.trn 1 n.32 x groß
Meta
Meta Llama 3.1 70B Neuron
meta-textgenerationneuron-llama-3-1-70bTextgenerierung
Lama 3.1
Nein
ml.inf 2,48 x groß, ml.trn 1.32 x groß, ml.trn 1 n.32 x groß
Meta
Meta Lama 3.1 8B
meta-textgeneration-llama-3-1-8bTextgenerierung
Lama 3.1
Ja
ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6,12 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,48 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.p4d.24 x groß, ml. P 5,48 x groß
Meta
Meta Llama 3.1 8B Instruct Neuron
meta-textgenerationneuron-llama-3-1-8b-instructTextgenerierung
Lama3.1
Nein
ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.trn 1,2 x groß, ml.trn 1,32 x groß, ml.trn1n.32 x groß
Meta
Meta Lama 3.2 11B Vision
meta-vlm-llama-3-2-11b-visionImage-Text-to-Text
Lama 3.2
Ja
ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.p4d. 24 x groß, ml.p 4 de 24 x groß, ml.p 5,48 x groß
Meta
Meta Lama 3.2 11B Sehanleitung
meta-vlm-llama-3-2-11b-vision-instructImage-Text-to-Text
Llama 3.2
Ja
ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.p4d. 24 x groß, ml.p 4 de 24 x groß, ml.p 5,48 x groß
Meta
Meta Lama 3.2 1B Instruktionsneuron
meta-textgenerationneuron-llama-3-2-1b-instructTextgenerierung
Lama 3.2
Nein
ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß
Meta
Meta Lama 3.2 1B Neuron
meta-textgenerationneuron-llama-3-2-1bTextgenerierung
Lama 3.2
Nein
ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß
Meta
Meta Lama 3.2 3B Instruktions-Neuron
meta-textgenerationneuron-llama-3-2-3b-instructTextgenerierung
Lama 3.2
Nein
ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß
Meta
Meta Lama 3.2 3B Neuron
meta-textgenerationneuron-llama-3-2-3bTextgenerierung
Lama 3.2
Nein
ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß
Meta
Meta Lama 3.2 90B Vision
meta-vlm-llama-3-2-90b-visionImage-Text-to-Text
Lama 3.2
Ja
ml.p4d.24x groß, ml.p4de.24x groß, ml.p4.48x groß
Meta
Meta Llama 3.2 90B Sehanleitung
meta-vlm-llama-3-2-90b-vision-instructImage-Text-to-Text
Llama 3.2
Ja
ml.p4d.24x groß, ml.p4de.24x groß, ml.p4.48x groß
Meta
Meta Llama 3.3 70B Instruct
meta-textgeneration-llama-3-3-70b-instructTextgenerierung
Lama 3.3
Ja
Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi-optimized(Großer Model Inference-Container mit spekulativer Dekodierung): ml.g5.16xlarge, ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Meta
Meta Lama 4 Maverick 17B 128E FP8
meta-vlm-llama-4-maverick-17b-128e-instruct-fp8Image-Text-to-Text
Ruf 4 an
Nein
ml.p5e.48x groß, ml.p5en.48x groß
Meta
Metal Lama 4 Maverick 17B 128E Anleitung
meta-vlm-llama-4-maverick-17b-128e-instructImage-Text-to-Text
Llama 4
Nein
ml.p5e.48x groß, ml.p5en.48x groß
Meta
Meta Lama 4 Scout 17B 16E Anleitung
meta-vlm-llama-4-scout-17b-16e-instructImage-Text-to-Text
Llama 4
Ja
ml.g6e.48x groß, ml.p5.48x groß, ml.p5en.48x groß
Meta
Meta Lama Guard 3 11B Vision
meta-vlm-llama-guard-3-11b-visionImage-Text-to-Text
Lama 3.2
Nein
ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.p4d. 24 x groß, ml.p 4 de 24 x groß, ml.p 5,48 x groß
Meta
Metal Lama Guard 3 1B Neuron
meta-textgenerationneuron-llama-guard-3-1bTextgenerierung
Lama 3.2
Nein
ml.inf 2.24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2.x groß, ml.trn 1.2 x groß, ml.trn 1.32 x groß, ml.trn1n.32 x groß
Meta
Meta Lama Guard 3 8B Neuron
meta-textgenerationneuron-llama-guard-3-8bTextgenerierung
Lama 3.1
Nein
ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.trn 1,2 x groß, ml.trn 1,32 x groß, ml.trn1n.32 x groß
Meta
Lama Guard aus Metall, 7B
meta-textgeneration-llama-guard-7bTextgenerierung
Lama 2
Nein
ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d. 24 x groß
Meta
Meta Lama Prompt Guard, 86 m
meta-tc-llama-prompt-guard-86mTextklassifizierung
Llama 3.1
Nein
ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß
Meta
Meta SAM 2.1 Hiera Base Plus
meta-vs-sam-2-1-hiera-base-plusSegmentierung von Bildern
Apache 2.0
Nein
ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß
Meta
Metall SAM 2.1 Hiera Large
meta-vs-sam-2-1-hiera-largeSegmentierung von Bildern
Apache 2.0
Nein
ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß
Meta
Metall SAM 2.1 Hiera, klein
meta-vs-sam-2-1-hiera-smallSegmentierung von Bildern
Apache 2.0
Nein
ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß
Meta
Metal SAM 2.1 Hierra Tiny
meta-vs-sam-2-1-hiera-tinySegmentierung von Bildern
Apache 2.0
Nein
ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24xgroß
Meta
Meta-Llama-3-8B
meta-textgeneration-llama-3-8bTextgenerierung
Lama 3
Ja
Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p3.8xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert): ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_highest_throughputgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interagieren, Ausgewogen), (Interagieren, kostenoptimiert)interact_lowest_cost: ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Microsoft
Phi-2
huggingface-llm-phi-2Textgenerierung
mit
Nein
ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5.x groß, ml.p4 de, 24 x groß, ml.p 5,48 x groß
Microsoft
Phi-3-Mini-128K-Instruct
huggingface-llm-phi-3-mini-128k-instructTextgenerierung
mit
Nein
ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24x groß, ml.p4de. 24 x groß, ml.p 5.48 x groß
Microsoft
Phi-3-mini-4k-instruct
huggingface-llm-phi-3-mini-4k-instructTextgenerierung
mit
Nein
Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausbalanciert),interact_best_price_performance(Interagieren, Ausgewogen): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargeinteract_lowest_costmax_context_lowest_costgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p4d.24xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Microsoft
Phi-3.5-mini-instruct
huggingface-llm-phi-3-5-mini-instructTextgenerierung
mit
Nein
ml.g5.48xlarge, ml.p4d.24xlarge
Microsoft
Phi-4-mini-instruct
huggingface-llm-phi-4-mini-instructTextgenerierung
Apache-2.0
Nein
Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert),interact_best_price_performance(Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert),interact_lowest_costmodify_lowest_cost(Ändern, Kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert),interact_highest_throughput(Interact, Durchsatz optimiert), (Ändern, Durchsatz optimiert),modify_highest_throughput(Ändern, Latenz optimiert),modify_lowest_latency(Zusammenfassen, Durchsatz optimiert),summarize_highest_throughput(Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge,summarize_lowest_latencyml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.8xlarge, ml.g7e.8xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interagieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.12xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.p5.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlargesummarize_lowest_costmax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Microsoft
Tabelle: Erkennung von Transformatoren
huggingface-od-microsoft-table-transformer-detectionObjekterkennung
mit
Nein
ml.g5,2 x groß, ml.g5,4 x groß, ml.g5.x groß, ml.g6,2 x groß, ml.g6,4 x groß, ml.g6.x groß, ml.g6e.2 x groß, ml.g6e.x groß
Minimaxi
MiniMax-M2
huggingface-llm-minimax-m2Textgenerierung
andere
Nein
ml.p4de.24xlarge
Minimaxai
MiniMax-M2.1
huggingface-llm-minimax-m2-1Textgenerierung
andere
Nein
ml.p4de.24x groß, ml.p5.48x groß
Minimaxai
MiniMax-M2.5
huggingface-llm-minimax-m2-5Textgenerierung
andere
Nein
ml.p5.48xlarge
Minimaxai
MiniMax-M2.7
huggingface-llm-minimax-m2-7Textgenerierung
andere
Nein
Standard: ml.p5en.48xlarge
Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_highest_throughput(Generieren, Durchsatz optimiert),generate_lowest_cost(Generieren, Kostenoptimiert),generate_lowest_latency(Generieren, Latenzoptimiert),interact_best_price_performance(Interagieren,interact_highest_throughputAusgewogen),interact_lowest_cost(Interagieren, Durchsatzoptimiert),interact_lowest_latency(Interagieren, Kostenoptimiert),summarize_best_price_performance(Interagieren, Latenzoptimiert),summarize_highest_throughput(Zusammenfassen, Ausgewogen),summarize_lowest_cost(Zusammenfassen, optimiert für Durchsatz),summarize_lowest_latency(Zusammenfassen, Latenzoptimiert): ml.g7e.48xlarge, .p5. 48 x großmodify_best_price_performance(Ändern, Ausgewogen),modify_highest_throughput(Ändern, Durchsatz optimiert),modify_lowest_cost(Ändern, Kostenoptimiert),modify_lowest_latency(Ändern, Latenzoptimiert): ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Mistralia
Ministral-3-14B-Instruct-2512
huggingface-llm-ministral-3-14b-instruct-2512Textgenerierung
Apache-2.0
Nein
Standard: ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert), (Interagieren, Ausgewogen),interact_best_price_performance(Interagieren, Kostenoptimiert): ml.g5.12xlarge, ml.g6e.48xlarge, ml.p5.4xlargeinteract_lowest_costgenerate_highest_throughput(Generieren, Durchsatz optimiert),generate_lowest_latency(Generieren, Latenz optimiert),interact_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g5.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Durchsatz optimiert), (Ändern, Kostenoptimiert),modify_highest_throughput(Ändern, Latenzoptimiert): ml.p5.48xlarge, ml.p5.4xlarge,modify_lowest_costml.p5en.48xlargemodify_lowest_latency
Mistralia
Mistral 7B Instruct Neuron
huggingface-llmneuron-mistral-7b-instructTextgenerierung
Apache 2.0
Nein
ml.inf2.8 x groß, ml.inf 2.x groß
Mistralia
Mistral 7B Neuron
huggingface-llmneuron-mistral-7bTextgenerierung
Apache 2.0
Nein
ml.inf2.8 x groß, ml.inf 2.x groß
Mistralia
Mistral Nemo Base 2407
huggingface-llm-mistral-nemo-base-2407Textgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6.48 x groß, ml.p4d.24 x groß
Mistralia
Mistral Nemo Instruct 2407
huggingface-llm-mistral-nemo-instruct-2407Textgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6.48 x groß, ml.p4d.24 x groß
Mistralia
Mistral Pixtral-12B-2409
huggingface-vlm-mistral-pixtral-12b-2409Image-Text-to-Text
Apache 2.0
Nein
ml.g6.12x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß, ml.p4de.24x groß, ml.p5.48x groß
Mistralia
Mistral-7B-Instruct-v0.2
huggingface-llm-mistral-7b-instructTextgenerierung
Apache 2.0
Nein
Standard: ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.2xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert), (Interagieren, Ausgewogen),interact_best_price_performance(Interagieren, Kostenoptimiert): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.xlargeinteract_lowest_costgenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz), (Maximaler Kontext, optimierte Latenz), (Zusammenfassen, optimierter Durchsatz),max_context_lowest_latency(Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_highest_throughputsummarize_lowest_latencymax_context_lowest_cost(Maximaler Kontext, Kostenoptimiert),modify_best_price_performance(Ändern, Ausgewogen),modify_lowest_cost(Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.8xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargesummarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
Mistralia
Mistral-7B-Instruct-v0.3
huggingface-llm-mistral-7b-instruct-v3Textgenerierung
Apache 2.0
Nein
Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.2xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5.48xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.xlargeinteract_best_price_performanceinteract_lowest_costgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p4d.24xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz),max_context_lowest_latency(Maximaler Kontext, Latenz optimiert),modify_highest_throughput(Ändern, optimierter Durchsatz),modify_lowest_latency(Ändern, Latenz optimiert),summarize_highest_throughput(Zusammenfassen, optimierter Durchsatz),summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, Kostenoptimiert),modify_lowest_cost(Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargesummarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
Mistralia
Mistral-7B-Instruct-v0.3
huggingface-llm-mistral-7b-v3Textgenerierung
Apache 2.0
Nein
Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.2xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargeinteract_best_price_performanceinteract_lowest_costgenerate_lowest_latency(Generieren, Latenz optimiert), (Zusammenfassen, Durchsatz optimiert),summarize_highest_throughput(Zusammenfassen, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargesummarize_lowest_latencyinteract_highest_throughput(Interagieren, Durchsatz optimiert),max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz),max_context_lowest_latency(Maximaler Kontext, Latenz optimiert),modify_highest_throughput(Ändern, optimierter Durchsatz),modify_lowest_latency(Ändern, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interagieren, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(Max Context, Kostenoptimiert), (Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemodify_lowest_costmodify_best_price_performance(Ändern, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlargesummarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
Mistralia
Mistral-7B-v0.1
huggingface-llm-mistral-7bTextgenerierung
Apache 2.0
Ja
Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert), (Interagieren, Kostenoptimiert),interact_lowest_costmax_context_lowest_cost(Maximaler Kontext, Kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interagieren, Ausgewogen), (Ändern, Kostenoptimiert)modify_lowest_cost: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g5.48xlarge, ml.g6e.48xlarge, ml.p3.16xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p5en.48xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz),max_context_lowest_latency(Maximaler Kontext, Latenz optimiert), (Ändern, optimierter Durchsatz),modify_highest_throughput(Ändern, Latenz optimiert):modify_lowest_latencyml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g5.12xlarge, ml.g6.12xlarge, ml.p5.48xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert),summarize_highest_throughput(Zusammenfassen, Latenz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_lowest_costsummarize_lowest_latency
Mistralia
Mistral-Small-24B-Instruct-2501
huggingface-llm-mistral-small-24B-Instruct-2501Textgenerierung
Apache 2.0
Nein
Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausbalanciert),interact_best_price_performance(Interagieren, Ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert),interact_highest_throughput(Interact, Durchsatz optimiert),interact_lowest_latency(Interact, Latenz optimiert),max_context_highest_throughput(Max Context, Durchsatz optimiert),modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(Generieren, Kostenoptimiert),interact_lowest_cost(Interagieren, Kostenoptimiert),max_context_lowest_cost(Maximaler Kontext, Kostenoptimiert),modify_lowest_cost(Ändern, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargegenerate_lowest_latency(Generieren, Latenz optimiert), (Ändern, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_lowest_latencymax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert),summarize_highest_throughput(Zusammenfassen, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargesummarize_lowest_costsummarize_lowest_latency
Mistralia
Mistral-Small-3.1-24B-Base-2503
huggingface-vlm-mistral-small-3-1-24b-base-2503Image-Text-to-Text
Apache 2.0
Nein
ml.g6.12 x groß, ml.g6.16 x groß, ml.g6.24 x groß, ml.g6.48 x groß, ml.g6e.12 x groß
Mistralia
Mistral-Small-3.2-24B-Instruct-2506
huggingface-vlm-mistral-small-3-2-24b-instruct-2506Image-Text-to-Text
Apache 2.0
Nein
ml.g6.12 x groß, ml.g6.16 x groß, ml.g6.24 x groß, ml.g6.48 x groß, ml.g6e.12 x groß
Mistralia
Mixtral 8x7B
huggingface-llm-mixtral-8x7bTextgenerierung
Apache 2.0
Ja
ml.g5.48 x groß, ml.g 6.48 x groß, ml.p4d. 24 x groß, ml.p 5.48 x groß
Mistralia
Mixtral-8x22B V1
huggingface-llm-mixtral-8x22BTextgenerierung
Apache 2.0
Nein
ml.p4d.24x groß, ml.p4de.24x groß
Mistralia
Mixtral-8x22B-Instruct-v0.1
huggingface-llm-mistralai-mixtral-8x22B-instruct-v0-1Textgenerierung
Apache 2.0
Nein
Standard: ml.p4de.24xlarge, ml.p5.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
tgi(Inferenzcontainer zur Textgenerierung): ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Mistralia
Mixtral-8x7B-Instruct-v0.1
huggingface-llm-mixtral-8x7b-instructTextgenerierung
Apache 2.0
Ja
Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausbalanciert),interact_best_price_performance(Interagieren, Ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Durchsatz optimiert), (Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_highest_throughputmodify_highest_throughputgenerate_lowest_cost(Generieren, Kostenoptimiert),interact_lowest_cost(Interagieren, Kostenoptimiert),max_context_lowest_cost(Maximaler Kontext, Kostenoptimiert),modify_lowest_cost(Ändern, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interagieren, Latenz optimiert), (Ändern, Latenz optimiert):modify_lowest_latencyml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz),max_context_lowest_latency(Maximaler Kontext, Latenz optimiert),summarize_highest_throughput(Zusammenfassen, optimierter Durchsatz),summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert):summarize_lowest_costml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Mistralia
Voxtral-Mini-4B-Realtime-2602
huggingface-asr-voxtral-mini-4b-realtime-2602Textgenerierung
Apache-2.0
Nein
ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.g7e.2 x groß, ml.g7e.4 x groß
Mondschüsse
Kimi-K2.5
huggingface-llm-kimi-k2-5Textgenerierung
andere
Nein
ml.p5en.48x groß
Moritzlaurer
MoritzLaurer MDeBERTa V3 Base Xnli Mehrsprachig Nli 2mil7
huggingface-zstc-moritzlaurer-mdeberta3base-xnli-mling-nli-2m7Zero-Shot Einstufung
mit
Nein
ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß
Mosaik ml
MPT 7B BF16
huggingface-textgeneration1-mpt-7b-bf16Textgenerierung
Apache-2.0
Nein
ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß
Mosaik ml
MPT 7B Instruct BF16
huggingface-textgeneration1-mpt-7b-instruct-bf16Textgenerierung
CC-BY-SA-3.0
Nein
ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß
Herr 8488
Bert Small2Bert
huggingface-summarization-bert-small2bert-cnn-dailymail-summTextzusammenfassung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
Einbettung von Finanztexten
mxnet-tcembedding-robertafin-base-uncasedEinbettung von Text
Apache-2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
RoBERTa-SEC-Large
mxnet-tcembedding-robertafin-large-uncasedEinbettung von Text
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
RoBERTa-SEC-WIKI-Base
mxnet-tcembedding-robertafin-base-wiki-uncasedEinbettung von Text
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
RoBERTa-SEC-WIKI-Large
mxnet-tcembedding-robertafin-large-wiki-uncasedEinbettung von Text
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Naclbit
Naclbit Trinart Stabile Diffusion V2
huggingface-txt2img-naclbit-trinart-stable-diffusion-v2Text-to-Image
creativeml-openrail-m
Nein
ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß
Narsil
Narsil Deberta Large Mnli Zero Cls
huggingface-zstc-narsil-deberta-large-mnli-zero-clsZero-Shot Einstufung
mit
Nein
ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß
Nexai
Nexaai Octopus-v2
huggingface-llm-nexaaidev-octopus-v2Textgenerierung
cc-by-nc-4.0
Nein
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Nexusfluss
Nexusfluss Starling-LM-7B-beta
huggingface-llm-nexusflow-starling-lm-7b-betaTextgenerierung
Apache 2.0
Nein
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Keine Recherche
Hermes 2 8B Pro-Llama-3
huggingface-llm-nousresearch-hermes-2-pro-llama-3-8BTextgenerierung
Ruf 3 an
Nein
ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß
Keine Recherche
Nous Hermes 2 SOLAR 10,7 B
huggingface-llm-nousresearch-nous-hermes-2-solar-10-7bTextgenerierung
Apache 2.0
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß
Nova
Nova 2.0 Lite
nova-textgeneration-lite-v2Textgenerierung
AWS Nutzungsbedingungen des Dienstes
Ja
Nicht zutreffend
Nova
Nova 2.0 Mikro
nova-textgeneration-micro-v2Textgenerierung
Nicht zutreffend
Ja
Nicht zutreffend
Nova
Nova Lite
nova-textgeneration-liteTextgenerierung
AWS Nutzungsbedingungen
Ja
Nicht zutreffend
Nova
Nova Micro
nova-textgeneration-microTextgenerierung
AWS Nutzungsbedingungen
Ja
Nicht zutreffend
Nova
Nova Pro
nova-textgeneration-proTextgenerierung
AWS Nutzungsbedingungen
Ja
Nicht zutreffend
Nvidia
Nvidia Llama3-ChatQA-1.5 8B
huggingface-llm-nvidia-llama3-chatqa-1-5-8BTextgenerierung
Rufe 3 an
Nein
ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.48x groß, ml.g5.4x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24x groß, ml.p5.48xgroß
Nvidia
Nvidia Nemotron 3 Ultra
huggingface-reasoning-nvidia-nemotron-3-ultra-550b-a55b-nvfp4Reasoning
Apache-2.0
Nein
Standard: ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:
modify_best_price_performance(Ändern, Ausgewogen),modify_highest_throughput(Ändern, Durchsatz optimiert), (Ändern, Kostenoptimiert),modify_lowest_cost(Ändern, Latenzoptimiert): ml.g7e.48xlarge, ml.p5.48xlargemodify_lowest_latencysummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert),summarize_highest_throughput(Zusammenfassen, Kostenoptimiert), (Zusammenfassen, Latenzoptimiert): ml.g7e.48xlarge,summarize_lowest_costml.p5en.48xlargesummarize_lowest_latency
Nvidia
Nvidia Nemotron 3 Nano Omni
huggingface-vlm-nvidia-nemotron3-nano-omni-30ba3b-reasoning-fp8Image-Text-to-Text
andere
Nein
Standard: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert),interact_lowest_cost(Interagieren, Kostenoptimiert), (Ändern, Ausgewogen),modify_best_price_performance(Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.xlargemodify_lowest_costgenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlargegenerate_lowest_latency(Generieren, Latenz optimiert), (Interact, Latenz optimiert):interact_lowest_latencyml.g6.12xlarge, ml.g6e.16xlarge, ml.g6e.8xlargeinteract_best_price_performance(Interagieren, Ausgewogen): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g6e.xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.48xlargemax_context_highest_throughput(Maximaler Kontext, Durchsatz optimiert), (Ändern, Durchsatz optimiert), (Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.24xlargemodify_highest_throughputsummarize_highest_throughputmax_context_lowest_cost(Maximaler Kontext, Kostenoptimiert),summarize_best_price_performance(Zusammenfassen, Ausgewogen),summarize_lowest_cost(Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g6e.4xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge
Nvidia
NVIDIA-Nemotron-3-Nano-30B-A3B-BF16
huggingface-reasoning-nvidia-nemotron-3-nano-30b-a3b-bf16Reasoning
andere
Ja
Standard: ml.g6e.24xlarge, ml.g7e.12xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_highest_throughput(Generieren, Durchsatz optimiert), (Generieren, Kostenoptimiert),generate_lowest_cost(Generieren, Latenzoptimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.12xlargegenerate_lowest_latencyinteract_best_price_performance(Interact, Balanced),interact_highest_throughput(Interact, Durchsatz optimiert),interact_lowest_cost(Interact, kostenoptimiert),interact_lowest_latency(Interact, Latenzoptimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlargemodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.24xlarge, ml.g6.48xlarge, ml.g7e.24xlargemodify_lowest_costmodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.48xlarge, ml.g7e.12xlarge, ml.g7e.24xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6.12xlarge, ml.g6.24xlarge, ml.g7e.4xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert): ml.g6e.12xlarge, ml.g7e.24xlarge, ml.g7e.48xlargesummarize_highest_throughputsummarize_lowest_costsummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6e.12xlarge, ml.g7e.12xlarge, ml.g7e.24xlarge
Nvidia
NVIDIA-Nemotron-3-Super-120B-A12B-BF16
huggingface-llm-nvidia-nemotron-3-super-120b-a12b-bf16Textgenerierung
Apache-2.0
Ja
Standard: ml.p5en.48xlarge
Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert): ml.g6e.48xlarge, ml.g7e.48xlarge, ml.p5.48xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (modify_highest_throughputÄndern, Durchsatz optimiert): ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interact, Balanced), (Interact, Durchsatz optimiert), (Interact, kostenoptimiert),interact_highest_throughput(Interact, Latenz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_costinteract_lowest_latencymodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.p5.48xlargemodify_lowest_costmodify_lowest_latency(Ändern, Latenz optimiert): ml.g7e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert),summarize_highest_throughput(Zusammenfassen, Latenz optimiert): ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5.48xlargesummarize_lowest_costsummarize_lowest_latency
Nvidia
NVIDIA-Nemotron-3-Super-120B-A12B-FP8
huggingface-reasoning-nvidia-nemotron-3-super-120b-a12b-fp8Reasoning
andere
Nein
Standard: ml.g7e.24xlarge
Zusätzliche Instanztypen sind über diese Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_highest_throughput(Generieren, Durchsatz optimiert), (Generieren, Kostenoptimiert),generate_lowest_cost(Generieren, Latenzoptimiert): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.g7e.48xlargegenerate_lowest_latencyinteract_best_price_performance(Interagieren, Ausgewogen),interact_highest_throughput(Interagieren, Durchsatz optimiert),interact_lowest_cost(Interagieren, Kostenoptimiert),interact_lowest_latency(Interagieren, Latenzoptimiert),summarize_best_price_performance(Zusammenfassen, Ausgewogen),summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert),summarize_lowest_cost(Zusammenfassen, Kostenoptimiert),summarize_lowest_latency(Zusammenfassen, Latenzoptimiert): ml.g7e.24xlarge, ml.g7e.48xlarge
Nvidia
NVIDIA-Nemotron-Nano-12B-v2
huggingface-reasoning-nvidia-nemotron-nano-12b-v2Reasoning
Apache-2.0
Nein
Standard: ml.g6e.48xlarge, ml.g7e.12xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.12xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.24xlarge, ml.g6e.2xlarge, ml.g7e.2xlargemodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlargemodify_lowest_costmodify_highest_throughput(Ändern, Durchsatz optimiert),summarize_best_price_performance(Zusammenfassen, Ausgewogen),summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert),summarize_lowest_cost(Zusammenfassen, Kostenoptimiert),summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g7e.12xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge
Open.ai
gpt-oss-120b
openai-reasoning-gpt-oss-120bReasoning
Apache 2.0
Ja
Standard: ml.g6e.48xlarge, ml.g7e.2xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
lmi(Großer Model Inference-Container): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
Open.ai
gpt-oss-20b
openai-reasoning-gpt-oss-20bReasoning
Apache 2.0
Ja
ml.g5.12 x groß, ml.g5.24 x groß, ml.g6.12 x groß, ml.g6.24 x groß, ml.g7e.2 x groß, ml.p 5.48 x groß, ml.p5e.48 x groß, ml.p5en.48 x groß
Open.ai
Datenschutzfilter
openai-tokenclassification-privacy-filterToken-Klassifizierung
Apache-2.0
Nein
ml.m5,2 x groß, ml.m5,4 x groß, ml.m5,x groß
Öffnen Sie
Whisper Base
huggingface-asr-whisper-baseAutomatische Spracherkennung
Apache 2.0
Nein
ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß
OpenAi
Flüstern Sie groß
huggingface-asr-whisper-largeAutomatische Spracherkennung
Apache 2.0
Nein
ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß
OpenAi
Whisper Large V2
huggingface-asr-whisper-large-v2Automatische Spracherkennung
Apache 2.0
Nein
ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß
OpenAi
Whisper Large V3
huggingface-asr-whisper-large-v3Automatische Spracherkennung
Apache 2.0
Nein
ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß
OpenAi
Whisper Large V3 Turbo
huggingface-asr-whisper-large-v3-turboAutomatische Spracherkennung
mit
Nein
ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß
OpenAi
Whisper Medium
huggingface-asr-whisper-mediumAutomatische Spracherkennung
Apache 2.0
Nein
ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß
OpenAi
Whisper Klein
huggingface-asr-whisper-smallAutomatische Spracherkennung
Apache 2.0
Nein
ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß
OpenAi
Flüster Tiny
huggingface-asr-whisper-tinyAutomatische Spracherkennung
Apache 2.0
Nein
ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß
Openai-Community
GPT 2
huggingface-textgeneration-gpt2Textgenerierung
mit
Nein
ml 5,16 x groß, ml 5,2 x groß, ml 5,4 x groß, ml g 5,8 x groß
Openai-Community
GPT-2 XL
huggingface-textgeneration1-gpt-2-xlTextgenerierung
mit
Ja
ml. g 5,16 x groß, ml. G 5,2 x groß, ml. G 5,8 x groß
Openai-Community
OpenAI-Detektor von Roberta Base
huggingface-eqa-roberta-base-openai-detectorBeantwortete Frage
mit
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Openai-Community
OpenAI-Detektor von Roberta Base
huggingface-spc-roberta-base-openai-detectorFill-Mask
mit
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Openai-Community
OpenAI-Detektor von Roberta Base
huggingface-tc-roberta-base-openai-detectorTextklassifizierung
mit
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Openai-Community
Roberta Großer OpenAI-Detektor
huggingface-spc-roberta-large-openai-detectorFill-Mask
mit
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Openai-Community
Roberta Großer OpenAI-Detektor
huggingface-tc-roberta-large-openai-detectorTextklassifizierung
mit
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Openlm-Research
Öffne Llama 7B V2
huggingface-llm-openlm-research-open-llama-7b-v2Textgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß
Phil Schmid
Bart Large CNN samsum
huggingface-summarization-bart-large-cnn-samsumTextzusammenfassung
mit
Nein
ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß
Phil Schmid
Flan-T5 Basismodell Fine-tuned auf dem Samsum-Datensatz
huggingface-text2text-flan-t5-base-samsumGenerierung von Text zu Text
Apache 2.0
Nein
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Pytorch
Alexa TM 20 B
pytorch-textgeneration1-alexa20bTextgenerierung
Amazon-Softwarelizenz
Nein
ml.g4dn. 12 x groß, ml.g5.16 x groß, ml.p 3.16 x groß, ml.p 3,8 x groß
Qwen
QVQ 72B Vorschau
huggingface-vlm-qvq-72b-previewImage-Text-to-Text
andere
Nein
ml. g 5,48 x groß, ml. g 6,48 x groß, ml. g 4 x 24 x groß
Qwen
Qwen2 0,5 B
huggingface-llm-qwen2-0-5bTextgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24 x groß
Qen
Qwen2 0.5B Anleitung
huggingface-llm-qwen2-0-5b-instructTextgenerierung
Apache-2.0
Nein
ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p4d.24 x groß
Qen
Qwen2-1.5B
huggingface-llm-qwen2-1-5bTextgenerierung
Apache 2.0
Nein
Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.24xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert),interact_best_price_performance(Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge,interact_lowest_costml.g6.xlargemodify_lowest_costgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g5.4xlarge, ml.g6.4xlarge, ml.g6e.2xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.12xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.2xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.24xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g5.4xlarge, ml.g6.12xlarge, ml.g6e.4xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.2xlargesummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g5.16xlarge, ml.g6.24xlarge, ml.g6e.2xlargesummarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g5.4xlarge, ml.g6.24xlarge, ml.g6e.8xlarge
Qwen
Qwen2-1.5B-Instruct
huggingface-llm-qwen2-1-5b-instructTextgenerierung
Apache 2.0
Nein
Standard: ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p3.2xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausbalanciert),interact_best_price_performance(Interagieren, Ausgewogen),modify_best_price_performance(Ändern, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, Kostenoptimiert),interact_lowest_cost(Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge,max_context_lowest_costml.g6.xlargemodify_lowest_costgenerate_lowest_latency(Generieren, Latenzoptimiert): ml.g5.8xlarge, ml.g6.24xlarge, ml.g6e.24xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.12xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g4dn.8xlarge, ml.g6.12xlarge, ml.g6e.4xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.12xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.4xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.24xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g5.2xlarge, ml.g6.12xlarge, ml.g6e.2xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargesummarize_lowest_costsummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g5.4xlarge, ml.g6.12xlarge, ml.g6e.24xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g5.8xlarge, ml.g6.8xlarge, ml.g6e.16xlarge
Qwen
Qwen2-7B
huggingface-llm-qwen2-7bTextgenerierung
Apache 2.0
Nein
ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß g6e.xlarge
Qwen
Qwen2-7B-Instruct
huggingface-llm-qwen2-7b-instructTextgenerierung
Apache 2.0
Nein
ml.g4dn.12 x groß, ml.g5.12 x groß, ml.g5.24 x groß, ml.g6.12 x groß, ml.g6.24 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß
Königin
Qwen2-VL-7B-Instruct
huggingface-vlm-qwen2-vl-7b-instructTextgenerierung
Apache 2.0
Nein
Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargeinteract_lowest_costgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g5.8xlarge, ml.g6.12xlarge, ml.g6e.8xlargeinteract_best_price_performance(Interaktiv, Ausgewogen): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlargeinteract_highest_throughput(Interact, Durchsatz optimiert),modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.24xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.4xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.xlargemodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlargemodify_lowest_costmodify_lowest_latency(Ändern, Latenz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.16xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert),summarize_highest_throughput(Zusammenfassen, Latenz optimiert): ml.g6e.12xlargesummarize_lowest_costsummarize_lowest_latency
Qwen
Qwen2.5 14B anweisen
huggingface-llm-qwen2-5-14b-instructTextgenerierung
Apache 2.0
Ja
ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß
Qwen
Qwen2.5 32B anweisen
huggingface-llm-qwen2-5-32b-instructTextgenerierung
Apache 2.0
Ja
ml.g5.48x groß, ml.g6.48x groß, ml.p4d.24x groß
Qwen
Qwen2.5 Coder 32B anweisen
huggingface-llm-qwen2-5-coder-32b-instructTextgenerierung
Apache 2.0
Nein
ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß
Qwen
Qwen2.5 Coder 7B anweisen
huggingface-llm-qwen2-5-coder-7b-instructTextgenerierung
Apache 2.0
Nein
ml.g5.16 x groß, ml.g 5.2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.p4d.24 x groß
Qen
Qwen2.5-72B-Instruct
huggingface-llm-qwen2-5-72b-instructTextgenerierung
andere
Ja
Standard: ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert): ml.g5.48xlargeinteract_lowest_cost, ml.g6.48xlarge, ml.g6e.12xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interaktiv, ausgewogen): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Kostenoptimiert),summarize_highest_throughput(Zusammenfassen, Latenzoptimiert): ml.p5en.48xlargesummarize_lowest_costsummarize_lowest_latency
Qwen
Qwen2.5-7B-Instruct
huggingface-llm-qwen2-5-7b-instructTextgenerierung
Apache 2.0
Ja
Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Interact, Latenz optimiert), (Zusammenfassen, Latenz optimiert): ml.g5.12xlarge,interact_lowest_latencyml.g6.12xlarge, ml.g6e.24xlargesummarize_lowest_latencygenerate_lowest_cost(Generieren, kostenoptimiert), (Interact, Balanced), (Interact, kostenoptimiert): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargeinteract_best_price_performanceinteract_lowest_costgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.16xlargeinteract_highest_throughput(Interagieren, Durchsatz optimiert), (Zusammenfassen,summarize_highest_throughputDurchsatz optimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.12xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemodify_best_price_performancemodify_lowest_costmax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g4dn.12xlarge, ml.g6.24xlarge, ml.g6e.2xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert)summarize_lowest_cost: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
Qwen
Qwen 3 14 B
huggingface-reasoning-qwen3-14bReasoning
Apache 2.0
Ja
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6.48 x groß, ml.p4d.24 x groß
Qwen
Qwen3-0.6B
huggingface-reasoning-qwen3-06bReasoning
Apache 2.0
Ja
Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert),interact_best_price_performance(Interagieren, Ausgewogen), (Interagieren, Kostenoptimiert),interact_lowest_costmodify_lowest_cost(Ändern, Kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert),interact_highest_throughput(Interact, Durchsatz optimiert),modify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g5.8xlarge, ml.g6.12xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interagieren, Latenz optimiert): ml.g4dn.16xlarge, ml.g6e.48xlarge, ml.p5en.48xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Zusammenfassen, Kostenoptimiert):summarize_lowest_costml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g4dn.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlargesummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Qwen
Qwen3-1.7B
huggingface-reasoning-qwen3-1-7bReasoning
Apache 2.0
Ja
ml.g4dn.12x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8x groß, ml.g5,12 x groß, ml.g5,24x groß, ml.g5,48x groß, ml.g6.12xgroß, ml.g6,24xgroß, ml.g6,24xgroß, ml.g6,24xgroß, .g 6,48 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. g 6,8 x groß, ml. G 6E 2 x groß, ml. G 6E. 4 x groß, ml. G 6E XL, ml. P 3,2 x groß, ml. P4. 24 x groß
Qwen
Qwen3-30B-A3B
huggingface-reasoning-qwen3-30b-a3bReasoning
Apache 2.0
Nein
ml.g5.24xlarge
Qwen
Qwen3-30B-A3B-Instruct-2507
huggingface-reasoning-qwen3-30b-a3b-instruct-2507Textgenerierung
Apache 2.0
Nein
ml.g5.48x groß, ml.g6.48x groß, ml.g6e.12x groß, ml.p4de.24x groß
Qwen
Qwen3-30B-A3B-Thinking-2507
huggingface-reasoning-qwen3-30b-a3b-thinking-2507Reasoning
Apache 2.0
Nein
ml.g6e.12xlarge
Qwen
Qwen3-32B
huggingface-reasoning-qwen3-32bReasoning
Apache 2.0
Ja
Standard: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),interact_best_price_performance(Interagieren, Ausgewogen), (Zusammenfassen, Ausgewogen),summarize_best_price_performance(Zusammenfassen, Kostenoptimiert):summarize_lowest_costml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert),generate_lowest_latency(Generieren, Latenz optimiert),interact_highest_throughput(Interact, Durchsatz optimiert),max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz),max_context_lowest_latency(Maximaler Kontext, Latenz optimiert),summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert),summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_cost(Generieren, kostenoptimiert),max_context_lowest_cost(Maximaler Kontext, Kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargeinteract_lowest_cost(Interagieren, kostenoptimiert): ml.g5.48xlarge, ml.g6.24xlarge, ml.g6e.12xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert)modify_lowest_cost: ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Qwen
Qwen3-4B
huggingface-reasoning-qwen3-4bReasoning
Apache 2.0
Ja
ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5.24 x groß, ml.g 5.2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, g 6,2 x groß, ml g 6,48 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß, ml g 6, 12 x groß, ml G 6 E 16 x groß, ml G 6,8 x groß, ml G 6E. 2 x groß, ml. G 6E 4 x groß, ml. g6e.8 x groß, ml. .p4d.24xlarge
Qwen
Qwen3-4B-Instruct-2507
huggingface-reasoning-qwen3-4b-instruct-2507Reasoning
Apache 2.0
Nein
ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß, ml.g 6.12 x groß, ml.g 6,24 x groß, ml.g 6,48 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.p4d.24 x groß
Königin
Qwen3-8B
huggingface-reasoning-qwen3-8bReasoning
Apache 2.0
Ja
Standard: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert), (Interagieren, Ausgewogen),interact_best_price_performance(Interagieren, Kostenoptimiert): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlargeinteract_lowest_costgenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(Generieren, Latenz optimiert), (Ändern, Durchsatz optimiert),modify_highest_throughput(Ändern, Latenz optimiert), (Zusammenfassen, Durchsatz optimiert), (Zusammenfassen, Latenz optimiert):modify_lowest_latencyml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_highest_throughputsummarize_lowest_latencyinteract_highest_throughput(Interact, optimierter Durchsatz),max_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz),max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g5.12xlarge, ml.g6e.xlarge, ml.p5.48xlargemodify_lowest_cost(Ändern, Kostenoptimiert): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g5.24xlarge, ml.g6e.12xlarge, ml.p5.48xlargesummarize_lowest_cost
Qwen
Qwen3-ASR-1.7B
huggingface-asr-qwen3-asr-1-7bAutomatische Spracherkennung
Apache-2.0
Nein
ml.g6,2 x groß, ml.g6,x groß
Qwen
Qwen3-Coder-30B-A3B-Instruct
huggingface-reasoning-qwen3-coder-30b-a3b-instructReasoning
Apache 2.0
Nein
ml.g6e.24x groß, ml.g7e.2x groß
Qwen
Qwen3-Coder-Next
huggingface-reasoning-qwen3-coder-nextReasoning
Apache 2.0
Nein
ml.g7e.24x groß, ml.g7e.48x groß, ml.p4d.24x groß, ml.p5en.48x groß
Qwen
Qwen3-Embedding-0.6B
huggingface-textembedding-qwen3-embedding-0-6bEinbettung von Text
Apache-2.0
Nein
ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.48 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß
Qwen
Qwen3-Next-80B-A3B-Instruct
huggingface-reasoning-qwen3-next-80b-a3b-instructTextgenerierung
Apache 2.0
Nein
ml.g6e.48x groß, ml.p4de.24x groß
Qwen
Qwen3-Reranker-4B
huggingface-textembedding-qwen3-reranker-4bEinbettung von Text
Apache-2.0
Nein
ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xlarge, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.48 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß
Qwen
Qwen3-TTS-12Hz-1.7B-Base
huggingface-ttsvoiceclone-qwen3-tts-12hz-1-7b-baseText-to-Speech
Apache-2.0
Nein
ml.g6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.2 x groß, ml.g6e.4x groß, ml.g6e.x groß, ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß g 7,8 x groß
Qwen
Qwen3-TTS-12Hz-1.7B-CustomVoice
huggingface-tts-qwen3-tts-customvoiceText-to-Speech
Apache-2.0
Nein
ml.g6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.2 x groß, ml.g6e.4x groß, ml.g6e.x groß, ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4 x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß, ml.g7e.4x groß g 7,8 x groß
Qwen
Qwen3-VL-8B-Instruct
huggingface-vlm-qwen3-vl-8b-instructTextgenerierung
Apache 2.0
Nein
ml.g6e.24x groß, ml.g6e.48x groß, ml.p4d.24x groß
Qwen
Qwen3-VL-Embedding-2B
huggingface-textembedding-qwen3-vl-embedding-2bEinbettung von Text
Apache-2.0
Nein
ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xlarge, ml.g7e.24 x groß, ml.g7e.2 x groß, ml.g7e.4 x groß, ml.g7e.8 x groß
Qwen
Qwen3.5-0.8B
huggingface-vlm-qwen3-5-0-8bTextgenerierung
Apache 2.0
Nein
Standard: ml.g6.4xlarge, ml.g6e.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.g7e.4xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.24xlargegenerate_lowest_cost(Generieren, kostenoptimiert): ml.g6.xlarge, ml.g6e.xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.4xlarge, ml.g6e.4xlargeinteract_best_price_performance(Interagieren, Ausgewogen), (Interact, Latenz optimiert): ml.g6.2xlarge, ml.g6.xlarge,interact_lowest_latencyml.g6e.2xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g6e.2xlargeinteract_lowest_cost(Interagieren, kostenoptimiert), (Ändern, Ausgewogen), (Ändern, Kostenoptimiert): ml.g6.2xlarge, ml.g6.xlarge, ml.g6e.xlargemodify_best_price_performancemodify_lowest_costmax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.4xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.16xlarge, ml.g6e.4xlarge, ml.g7e.4xlargemodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6.8xlarge, ml.g6e.4xlarge, ml.g6e.8xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlarge, ml.g7e.8xlargesummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.8xlargesummarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.8xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.8xlarge
Qwen
Qwen3.5-27b
huggingface-vlm-qwen3-5-27bTextgenerierung
Apache 2.0
Ja
ml.g6.48xlarge
Qwen
Qwen3.5-27B-FP8
huggingface-vlm-qwen3-5-27b-fp8Image-Text-to-Text
Apache 2.0
Nein
ml.g6.24xlarge
Qwen
Qwen3.5-2B
huggingface-vlm-qwen3-5-2bTextgenerierung
Apache 2.0
Nein
Standard: ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausbalanciert),modify_best_price_performance(Ändern, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Ändern, Kostenoptimiert):modify_lowest_costml.g6.2xlarge, ml.g6.xlarge, ml.g6e.xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.16xlarge, ml.g6.xlarge, ml.g6e.16xlargeinteract_best_price_performance(Interagieren, Ausgewogen): ml.g6.xlarge, ml.g6e.2xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g6.24xlarge, ml.g6e.48xlargeinteract_lowest_cost(Interact, kostenoptimiert): ml.g6.xlarge, ml.g6e.xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g6.4xlarge, ml.g6e.4xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz), (Ändern, optimierter Durchsatz): ml.g6.12xlarge, ml.g6e.12xlarge,modify_highest_throughputml.g6e.24xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.48xlarge, ml.g6e.16xlarge, ml.g6e.48xlargemodify_lowest_latency(Ändern, Latenz optimiert): ml.g6.8xlarge, ml.g6e.2xlarge, ml.g6e.8xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.4xlargesummarize_lowest_costsummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.4xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.2xlarge, ml.g6e.2xlarge, ml.g7e.4xlarge
Qwen
Qwen3.5-4B
huggingface-vlm-qwen3-5-4bTextgenerierung
Apache 2.0
Ja
Standard: ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_highest_throughput(Generieren, Durchsatz optimiert), (Generieren, Kostenoptimiert),generate_lowest_cost(Generieren, Latenzoptimiert): ml.g6.8xlarge, ml.g6e.8xlarge, ml.g7e.4xlargegenerate_lowest_latencyinteract_best_price_performance(Interact, Balanced),interact_highest_throughput(Interact, Durchsatz optimiert),interact_lowest_cost(Interact, kostenoptimiert),interact_lowest_latency(Interact, Latenz optimiert): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.2xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz),max_context_lowest_cost(Maximaler Kontext, kostenoptimiert),max_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.2xlargemodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Ändern, Latenzoptimiert): ml.g6.2xlarge, ml.g6e.8xlarge,modify_lowest_costml.g7e.2xlargemodify_lowest_latencymodify_highest_throughput(Ändern, Durchsatz optimiert): ml.g6.2xlarge, ml.g6e.8xlarge, ml.g7e.4xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen), (Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlargesummarize_lowest_costsummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.24xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge
Qwen
Qwen3.5-9b
huggingface-vlm-qwen3-5-9bTextgenerierung
Apache 2.0
Ja
ml.g 6,24 x groß, ml.g 6,48 x groß
Qwen
Qwen3.6-27B
huggingface-vlm-qwen3-6-27bImage-Text-to-Text
Apache 2.0
Ja
Standard: ml.g7e.12xlarge, ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert), (Ändern, Ausgewogen),modify_best_price_performance(Ändern, Kostenoptimiert),modify_lowest_cost(Zusammenfassen, Ausgewogen),summarize_best_price_performance(Zusammenfassen, Kostenoptimiert): ml.g6.12xlarge,summarize_lowest_costml.g6e.12xlarge, ml.p5en.48xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert),modify_highest_throughput(Ändern, Durchsatz optimiert),modify_lowest_latency(Ändern, Latenz optimiert): ml.g7e.48xlarge, ml.p5.4xlarge, ml.p5en.48xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.12xlarge, ml.p5.4xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interagieren, Ausgewogen), (Interagieren, kostenoptimiert)interact_lowest_cost: ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlargeinteract_highest_throughput(Interact, Durchsatz optimiert),interact_lowest_latency(Interact, Latenz optimiert): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert), (Maximaler Kontext, Latenz optimiert): ml.g7e.12xlarge, ml.g7e.48xlarge, ml.p5en.48xlargemax_context_lowest_latencysummarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlargesummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge
Qwen
Qwen3.6-35B-A3B
huggingface-vlm-qwen3-6-35b-a3bTextgenerierung
Apache 2.0
Nein
Standard: ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Zusätzliche Instanztypen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert), (Maximaler Kontext, optimierter Durchsatz): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_highest_throughputgenerate_lowest_latency(Generieren, Latenz optimiert),max_context_lowest_cost(Maximaler Kontext, Kostenoptimiert),max_context_lowest_latency(Maximaler Kontext, Latenz optimiert),modify_highest_throughput(Ändern, Durchsatz optimiert),modify_lowest_latency(Ändern, Latenz optimiert),summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interagieren, Ausgewogen),interact_lowest_cost(Interagieren, Kostenoptimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlargeinteract_highest_throughput(Interact, Durchsatz optimiert), (interact_lowest_latencyInteract, Latenz optimiert): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlargemodify_best_price_performance(Ändern, Ausgewogen), (Ändern, Kostenoptimiert), (Zusammenfassen, Ausgewogen),modify_lowest_cost(Zusammenfassen, Kostenoptimiert): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p5.48xlargesummarize_best_price_performancesummarize_lowest_costsummarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Qwen
QwQ 32 B
huggingface-llm-qwq-32bTextgenerierung
Apache 2.0
Nein
ml.g5.24x groß, ml.g5.48x groß, ml.g6.24x groß, ml.g6.48x groß, ml.p4d.24x groß
Anerkennung
Recognai Bert Base Spanisch Wwm Cased Xanli
huggingface-zstc-recognai-bert-base-spanish-wwm-cased-xnliZero-Shot Einstufung
mit
Nein
ml.c5.2xgroß, ml.c5.xgroß, ml.g4dn.xlarge, ml.m5.xgroß, ml.m5.xgroß, ml.p3.2xgroß
Anerkennung
Erkennen Sie Zeroshot Selectra Medium
huggingface-zstc-recognai-zeroshot-selectra-mediumZero-Shot Klassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Rinna
Rinna japanische GPT NeoX 3.6B Anleitung PPO
huggingface-llm-rinna-3-6b-instruction-ppo-bf16Textgenerierung
mit
Nein
ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,x groß
Salesforce
Salesforce SFR-Embedding-2 _R
huggingface-textembedding-sfr-embedding-2-rEinbettung von Text
CC-BY-NC-4.0
Nein
ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß
Salesforce
Salesforce SFR-Embedding-Mistral
huggingface-textembedding-sfr-embedding-mistralEinbettung von Text
CC-BY-NC-4.0
Nein
ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß
Sentence-Transformers
Alle miniLM L6 v2
huggingface-sentencesimilarity-all-MiniLM-L6-v2Ähnlichkeit des Satzes
Apache 2.0
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.p 3,2 x groß
Sentence-Transformers
Alle miniLM L6 v2
huggingface-textembedding-all-MiniLM-L6-v2Einbettung von Text
Apache-2.0
Nein
ml g 5.12 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,4 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß groß, ml.g6.xgroß, ml.p4d.24xgroß
Sentence-Transformers
alle- MiniLM-L12-v2
huggingface-textembedding-all-MiniLM-L12-v2Einbettung von Text
Apache-2.0
Nein
ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge
Sentence-Transformers
Paraphrasieren Sie mehrsprachig MiniLM L12 v2
huggingface-textembedding-paraphrase-multilingual-MiniLM-L12-v2Einbettung von Text
Apache-2.0
Nein
ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge
Shenzhi-Wang
Llama3 8B Chinesischer Chat
huggingface-llm-shenzhi-wang-llama3-8B-chinese-chatTextgenerierung
llama3
Nein
ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,8 x groß
Snowflake
Snowflake Arctic Instruct Vllm
huggingface-llm-snowflake-arctic-instruct-vllmTextgenerierung
Apache 2.0
Nein
ml.p5.48xlarge
Sprechleine
Bielik-11B-v3.0-Instruct
huggingface-llm-bielik-11b-v3-0-instructTextgenerierung
Apache 2.0
Nein
Standard: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen),generate_lowest_cost(Generieren, Kostenoptimiert), (Interagieren, Kostenoptimiert),interact_lowest_costmodify_lowest_cost(Ändern, Kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert),interact_highest_throughput(Interact, Durchsatz optimiert),modify_highest_throughput(Ändern, Durchsatz optimiert),modify_lowest_latency(Ändern, Latenz optimiert),summarize_highest_throughput(Zusammenfassen, Durchsatz optimiert),summarize_lowest_latency(Zusammenfassen, Latenz optimiert): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6e.16xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_best_price_performance(Interaktiv, ausgewogen): ml.g5.12xlarge, ml.g6e.xlarge, ml.p4d.24xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g5.48xlarge, ml.g6.24xlarge, ml.g6e.24xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(Maximaler Kontext, kostenoptimiert): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g5.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_best_price_performance(Ändern, Ausgewogen): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlargesummarize_best_price_performance(Zusammenfassen, Ausgewogen): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargesummarize_lowest_cost(Zusammenfassen, kostenoptimiert): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge
Schleifer
Distilbart CNN 12-6
huggingface-summarization-distilbart-cnn-12-6Textzusammenfassung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Schleifer
Distilbart CNN 6-6
huggingface-summarization-distilbart-cnn-6-6Textzusammenfassung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Schleifer
Textzusammenfassung
huggingface-summarization-distilbart-xsum-1-1Textzusammenfassung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Stabilität ai
Japanisches StableLM Instruct Alpha 7B v2
model-textgenerationjp-japanese-stablelm-instruct-alpha-7b-v2Textgenerierung
Apache-2.0
Nein
ml.g5.12x groß, ml.g5,16 x groß, ml.g5,24x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p4d.24xgroß, ml.p4de.24xgroß
Stabilität ai
Stabile Diffusion 2
model-txt2img-stabilityai-stable-diffusion-v2Text-to-Image
creativeml-openrail++-m
Nein
ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß
Stabilität ai
Stabile Diffusion 2 Depth FP16
model-depth2img-stable-diffusion-2-depth-fp16Image-to-Image
creativeml-openrail++-m
Nein
ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.4xgroß, ml.g5dn.xgroß, ml.g5.16xgroß, ml.g5.2xgroß, ml.g5.2xgroß, ml.g5.4x groß, ml.g5.xgroß, ml.p3.2xgroß
Stabilität ai
Stabile Diffusion 2 FP16
model-txt2img-stabilityai-stable-diffusion-v2-fp16Text-to-Image
creativeml-openrail++-m
Nein
ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß
Stabilität ai
Stabile Diffusion 2 beim Lackieren
model-inpainting-stabilityai-stable-diffusion-2-inpaintingImage-to-Image
creativeml-openrail++-m
Nein
ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß
Stabilität ai
Stabile Diffusion 2 beim Lackieren FP16
model-inpainting-stabilityai-stable-diffusion-2-inpainting-fp16Image-to-Image
creativeml-openrail++-m
Nein
ml.g4dn.xlarge, ml.g5.2xgroß, ml.p3.2xgroß
Stabilität ai
Stabile Diffusion 2 beim Lackieren FP16
model-inpainting-stabilityai-stable-diffusion2-inpainting-fp16Image-to-Image
creativeml-openrail++-m
Nein
ml.g4dn.xlarge, ml.g5.2xgroß, ml.p3.2xgroß
Stabilität ai
Stabile Diffusion 2.1
model-txt2img-stabilityai-stable-diffusion-v2-1-baseText-to-Image
creativeml-openrail++-m
Ja
ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß
Stabilität ai
Stabile Diffusion 2.1 Neuron
huggingface-txt2imgneuron-stabilityai-stable-diffusion-v2-1Text-to-Image
creativeml-openrail++-m
Nein
ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß
Stabilität ai
Stabiler Diffusions-x4-Upscaler FP16
model-upscaling-stabilityai-stable-diffusion-x4-upscaler-fp16Image-to-Image
openrail++
Nein
ml.g4dn.4x groß, ml.g4dn.8x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p3,2 x groß
Stabilität ai
Stable Diffusion XL 1.0 (quelloffen)
model-imagegeneration-stabilityai-stable-diffusion-xl-base-1-0Text-to-Image
openrail ++
Nein
ml.g5.16x groß, ml.g5.4x groß, ml.g5.8x groß
Stabilität ai
Stabile Diffusion XL Base 1.0 Neuron
huggingface-txt2imgneuron-stabilityai-stable-diffusion-xlbase1Text-to-Image
openrail++
Nein
ml.inf 2,24 x groß, ml.inf 2,48 x groß, ml.inf 2,8 x groß, ml.inf 2 x groß
Swiss-Ai
Apertus 70B 2509
huggingface-llm-apertus-70b-2509Textgenerierung
Apache 2.0
Nein
ml.g5.48xgroß, ml.g6.48xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge
Swiss-Ai
Apertus 70B Instruktion 2509
huggingface-llm-apertus-70b-instruct-2509Textgenerierung
Apache 2.0
Nein
ml.g5.48xgroß, ml.g6.48xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge
Swiss-Ai
Apertus 8B Instruktion 2509
huggingface-llm-apertus-8b-instruct-2509Textgenerierung
Apache 2.0
Nein
ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48x groß
Der Kerl
Mistral 7B AWQ OpenOrca
huggingface-llm-thebloke-mistral-7b-openorca-awqTextgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß
Der Kerl
Mistral 7B GPTQ OpenOrca
huggingface-llm-mistral-7b-openorca-gptqTextgenerierung
Apache 2.0
Nein
ml.g5.12x groß, ml.g5.16 x groß, ml.g5.24x groß, ml.g5.2x groß, ml.g5.48x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g5.xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß
Der Kerl
Mixtral 8x7B Instruktiere GPTQ
huggingface-llm-mixtral-8x7b-instruct-gptqTextgenerierung
Apache 2.0
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Dann per
GTE Large
huggingface-sentencesimilarity-gte-largeÄhnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Dann per
GET Small
huggingface-sentencesimilarity-gte-smallÄhnlichkeit des Satzes
mit
Ja
ml.c6i.x groß, ml.g4dn.2 x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.p 3,2 x groß
Tiiae
Falcon 180 B BF16
huggingface-llm-falcon-180b-bf16Textgenerierung
Nicht zutreffend
Nein
ml. P4 DE. 24 x groß, ml. P 5,48 x groß
Tiiuae
Falcon 180B Karte BF16
huggingface-llm-falcon-180b-chat-bf16Textgenerierung
Nicht zutreffend
Nein
ml. P4 DE. 24 x groß, ml. P 5,48 x groß
Tiiuae
Falcon 40B BF16
huggingface-llm-falcon-40b-bf16Textgenerierung
Apache 2.0
Ja
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Tiiae
Falcon 40B Instruct BF16
huggingface-llm-falcon-40b-instruct-bf16Textgenerierung
Apache 2.0
Ja
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
Tiiae
Falcon 7B BF16
huggingface-llm-falcon-7b-bf16Textgenerierung
Apache 2.0
Ja
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Tiiae
Falcon 7B Instruct BF16
huggingface-llm-falcon-7b-instruct-bf16Textgenerierung
Apache 2.0
Ja
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Tiiae
Falcon RW 1B
huggingface-llm-tiiuae-falcon-rw-1bTextgenerierung
Apache 2.0
Nein
ml.g5.2xlarge
Tiiuae
Falcon-H1-0.5B-Instruct
huggingface-llm-falcon-h1-0-5b-instructTextgenerierung
andere
Nein
ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, ml 5,4 x groß, ml g 5,8 x groß, ml g 5,x groß, ml g 6,8 x groß, ml g 6,4 x groß, ml g 6,2 x groß, ml g 6,2 x groß, ml g 6,48 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß, ml. g 6,8 x groß, ml. g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß, ml.p3.2 x groß, ml.p4d.24xgroß
Tiiuae
Falcon-H1-1.5B-Deep-Instruct
huggingface-llm-falcon-h1-1-5b-deep-instructTextgenerierung
andere
Nein
ml. g 5.16 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 6.16 x groß, ml g 6,4 x groß, ml g 6,8 x groß, ml g 6,8 x groß, ml g 6.x groß, ml. g 6 x groß, ml. g 6e.4 x groß, ml. g 6e.4 x groß, ml. g6e.8 x groß .xlarge
Tiiuae
Falcon-H1-1.5B-Instruct
huggingface-llm-falcon-h1-1-5b-instructTextgenerierung
andere
Nein
ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g 6,2 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß
Tiiuae
Falcon-H1-34B-Instruct
huggingface-llm-falcon-h1-34b-instructTextgenerierung
andere
Nein
ml.g6e.12x groß, ml.g6e.24x groß, ml.g6e.48x groß
Tiiuae
Falcon-H1-3B-Instruct
huggingface-llm-falcon-h1-3b-instructTextgenerierung
andere
Nein
ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß
Tiiae
Falcon-H1-7B-Instruct
huggingface-llm-falcon-h1-7b-instructTextgenerierung
andere
Nein
ml.g6e.12x groß, ml.g6e.24x groß
Tiiuae
Falcon2-11B
huggingface-llm-falcon2-11bTextgenerierung
Nicht zutreffend
Nein
ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß, ml. 4 x 24 x groß
Tiiae
Falcon3-10B-Base
huggingface-llm-falcon-3-10B-baseTextgenerierung
andere
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6,48 x groß, ml.p4d.24 x groß, ml.p 5.48 x groß
Tiiuae
Falcon3-10B-Instruct
huggingface-llm-falcon-3-10B-InstructTextgenerierung
andere
Nein
ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,24 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß, ml.g6e.8 x groß g6e.xlarge
Tiiuae
Falcon3-1B-Instruct
huggingface-llm-falcon-3-1B-InstructTextgenerierung
andere
Nein
Standard: ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge, ml.p3.2xlarge, ml.p4d.24xlarge
Zusätzliche Instance-Typen sind in diesen Hosting-Bereitstellungskonfigurationen verfügbar:
generate_best_price_performance(Generieren, Ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.2xlargegenerate_highest_throughput(Generieren, Durchsatz optimiert): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(Generieren, kostenoptimiert), (Interact, kostenoptimiert), (Max Context, kostenoptimiert): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargeinteract_lowest_costmax_context_lowest_costgenerate_lowest_latency(Generieren, Latenz optimiert): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlargeinteract_best_price_performance(Interaktiv, ausgewogen): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargeinteract_highest_throughput(Interact, Durchsatz optimiert): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_lowest_latency(Interact, Latenz optimiert): ml.g5.2xlarge, ml.g6.48xlarge, ml.g6e.48xlargemax_context_highest_throughput(Maximaler Kontext, optimierter Durchsatz): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_latency(Maximaler Kontext, Latenz optimiert): ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Tiiuae
Falcon3-3B-Base
huggingface-llm-falcon-3-3B-baseTextgenerierung
andere
Nein
ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48 x groß, ml. g 6,4 x groß, ml. g 6,8 x groß, ml. g 6,4 x groß, ml. G 6,4 x groß, ml. G 5,48 x groß
Tiiuae
Falcon3-3B-Instruct
huggingface-llm-falcon-3-3B-InstructTextgenerierung
andere
Nein
ml.g4dn.12x groß, ml.g4dn.16 x groß, ml.g4dn.4xgroß, ml.g5.12x groß, ml.g5.16x groß, ml.g5.24x groß, ml.g5.2xgroß, ml.g5.4x groß, ml.g6.12x groß, ml.g6.12x groß, ml.g6,16 x groß, ml.g246.6x groß x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.2 x groß, ml.g6e.8 x groß, ml.g6e.x groß, ml.p 3,2 x groß
Tiiuae
Falcon3-7B-Base
huggingface-llm-falcon-3-7B-baseTextgenerierung
andere
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 6.12 x groß, ml.g 6.24 x groß, ml.g 6,48 x groß, ml.p4d.24 x groß, ml.p 5.48 x groß
Tiiuae
Falcon3-7B-Instruct
huggingface-llm-falcon-3-7B-InstructTextgenerierung
andere
Nein
ml.g4dn.12 x groß, ml.g5.12 x groß, ml.g5.24 x groß, ml.g6.12 x groß, ml.g6.24 x groß, ml.g6e.12 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.4x groß, ml.g6e.8 x groß, ml.g6e.xgroß
Tinyllama
Tiny Lama 1,1B
huggingface-llm-tinyllama-1-1b-intermediate-step-1431k-3Textgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß
Kleines Lama
Tiny Lama 1.1B Chat V0.6
huggingface-llm-tinyllama-tinyllama-1-1b-chat-v0-6Textgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß
Kleines Lama
Tiny Lama 1.1B Chat V1
huggingface-llm-tinyllama-tinyllama-1-1b-chat-v1-0Textgenerierung
Apache 2.0
Nein
ml.g5.12 x groß, ml.g 5.24 x groß, ml.g 5,2 x groß
Zusammen Computer
RedPajama INCITE Chat 3B V1
huggingface-textgeneration1-redpajama-incite-chat-3B-v1-fp16Textgenerierung
Apache 2.0
Ja
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Zusammen Computer
RedPajama INCITE Chat 7B V1
huggingface-textgeneration1-redpajama-incite-chat-7B-v1-fp16Textgenerierung
Apache 2.0
Ja
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Zusammen Computer
RedPajama INCITE Instruct 3B V1
huggingface-textgeneration1-redpajama-incite-instruct-3Bv1fp16Textgenerierung
Apache 2.0
Ja
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Zusammen Computer
RedPajama INCITE Instruktion 7B V1
huggingface-textgeneration1-redpajama-incite-instruct-7B1fp16Textgenerierung
Apache 2.0
Ja
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
Tokyotech-Llm
Swallow-7b-instruct-hf
huggingface-llm-swallow-7b-instruct-hfTextgenerierung
Lama 2
Nein
ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5.24 x groß, ml.g 5.2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, ml.g 6,24 x groß, .g 6,2 x groß, ml.g 6,48 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.16 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß
Volrath 50
Verbreitung von Fantasy-Karten von Volrath50
huggingface-txt2img-volrath50-fantasy-card-diffusionText-to-Image
creativeml-openrail-m
Nein
ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.p3.2xgroß
Writer
Writer Palmyra Small
huggingface-llm-writer-palmyra-smallTextgenerierung
Apache 2.0
Nein
ml.g5.2xlarge
Zai-Org
GLM-5.1-FP8
huggingface-llm-glm-5-1-fp8Textgenerierung
Apache-2.0
Nein
ml.p5en.48x groß
- Proprietary Models (121)
-
Proprietäre Stiftungsmodelle werden von Drittanbietern über Amazon angeboten. SageMaker JumpStart Um ein proprietäres Basismodell verwenden zu können, müssen Sie das Modell zunächst auf AWS Marketplace abonnieren. Nach dem Abonnement können Sie das Foundation-Modell in Amazon SageMaker Studio finden und bereitstellen.
Modellname Modell-ID Aufgabe Fine-tunable Unterstützte Inferenz-Instance-Typen A.X 4.0 Licht
sk-telecom-ax4-lightTextgenerierung
Nein
ml.g5.2xlarge
AI21 Kontextuelle Antworten
ai21-contextual-answersTextgenerierung
Nein
ml.g4dn. 12 x groß, ml.g 5.12 x groß, ml.g 5,48 x groß, ml.p4d. 24 x groß
AI21 Jurassic-2 Licht
ai21-jurassic-2-lightTextgenerierung
Nein
ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.48x groß, ml.p4d.24x groß
AI21 Jurassic-2 Mid
ai21-jurassic-2-grande-instructTextgenerierung
Nein
ml.g4dn.12x groß, ml.g5.12x groß, ml.g5.48x groß, ml.p4d.24x groß
AI21 Jurassic-2 Ultra
ai21-jurassic-2-jumbo-instructTextgenerierung
Nein
ml.g 5,48 x groß, ml.p4d. 24 x groß, ml.p4 de 24 x groß
AI21 Paraphrase
ai21-paraphraseTextgenerierung
Nein
ml.g4dn.2xlarge
AI21 Zusammenfassen
ai21-summarizationTextgenerierung
Nein
ml.g4dn.12x groß, ml.g4dn.4x groß, ml.g5.x groß
Arcee Lite
arcee-liteTextgenerierung
Nein
ml.g 5.16x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,8 x groß, ml.g6,x groß
Arcee SuperNova
arcee-supernovaTextgenerierung
Nein
ml.p4d.24x groß, ml.p4de.24x groß, ml.p4.48x groß
Arcee Virtuoso Small
arcee-virtuoso-smallTextgenerierung
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6.12x groß, ml.g6.24x groß, ml.g6.48 x groß, ml.g6e.12x groß, ml.g6e.24xgroß, ml.g6e.48x groß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p4de. p 5,48 x groß
Bria 2.2HD Werbespot Text-to-image
bria-ai-2-2-hd-commercialReRank
Nein
ml.g5.12x groß, ml.g5,2 x groß, ml.g5,48x groß, ml.p4d.24x groß, ml.p4de.24x groß
Bria 2.3 Kommerziell Text-to-image
bria-ai-2-3-commercialReRank
Nein
ml. g 5,12 x groß, ml. g 5,2 x groß, ml. g 5,48 x groß, ml. G 5,48 x groß, ml. 4 DE 24 x groß
Bria 2.3Fast, kommerziell Text-to-image
bria-ai-2-3-fast-commercialReRank
Nein
ml.g 5.12x groß, ml.g 5,2 x groß, ml.g 5,48x groß, ml.p4d.24x groß, ml.p4de.24x groß
Cohere-Befehl (RA100)
cohere-command-r-a100Textgenerierung
Nein
ml.p4de.24xlarge
Cohere-Befehl R (H100)
cohere-command-r-h100Textgenerierung
Nein
ml.p5.48xlarge
Cohere-Befehl R+ (A100)
cohere-command-r-plus-a100Textgenerierung
Nein
ml.p4de.24xlarge
Cohere-Befehl R+ (H100)
cohere-command-r-plus-h100Textgenerierung
Nein
ml.p5.48xlarge
Cohere Embed 4
cohere-embed-v4-0Einbettung von Text
Nein
ml.g5,2 x groß, ml.g5.x groß, ml.g6,2 x groß, ml.g6.x groß
Cohere Embed Light Modell v3 — Englisch
cohere-embed-light-englishEinbettung von Text
Nein
ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xlarge, ml.p3.2xgroß
Cohere Embed Light v3 - Mehrsprachig
cohere-embed-light-multilingualEinbettung von Text
Nein
ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xgroß, ml.p3.2xgroß
Cohere Embed Modell 3 - Mehrsprachig
cohere-embed-multilingualEinbettung von Text
Nein
ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xgroß, ml.p3.2xgroß
Cohere Embed Model v3 — Englisch
cohere-embed-englishEinbettung von Text
Nein
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge
Cohere Rerank 2 Modell - Englisch
cohere-rerank-english-v2ReRank
Nein
ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xlarge, ml.p3.2xgroß
Modell Cohere Rerank 2 — Mehrsprachig
cohere-rerank-multilingual-v2ReRank
Nein
ml.g4dn.2xgroß, ml.g4dn.xlarge, ml.g5.2xgroß, ml.g5.xgroß, ml.p3.2xgroß
Cohere Rerank 3 Modell - Englisch
cohere-rerank-v3-englishReRank
Nein
ml.g5,2 x groß, ml.g5,x groß
Cohere Rerank 3-Modell — Mehrsprachig
cohere-rerank-v3-multilingualReRank
Nein
ml.g5,2 x groß, ml.g5,x groß
Cohere Rerank 3 Nimble Model — Englisch
cohere-rerank-nimble-englishReRank
Nein
ml.g5,2 x groß, ml.g5,x groß
Cohere Rerank 3 Nimble Modell — Mehrfarbig
cohere-rerank-nimble-multiReRank
Nein
ml.g5,2 x groß, ml.g5,x groß
Cohere Rerank v3.5
cohere-rerank-v3-5Einbettung von Text
Nein
ml.g5,2 x groß, ml.g5.x groß, ml.g6,2 x groß, ml.g6,x groß
Cohere Rerank v4.0 Schnell
cohere-rerank-v4-0-fastEinbettung von Text
Nein
ml.g5.2x groß, ml.g5.xgroß, ml.p5.4x groß
Cohere Rerank v4.0 Pro
cohere-rerank-v4-0-proEinbettung von Text
Nein
ml.g5.2x groß, ml.g5.x groß, ml.p5.4x groß
Befehl A (A100)
cohere-command-a-a100Textgenerierung
Nein
ml.p4de.24xlarge
Befehl A (H100)
cohere-command-a-h100Textgenerierung
Nein
ml.p5.48xlarge
Befehl R 08-2024 (H100)
cohere-command-r-08-2024-h100Textgenerierung
Nein
ml.p5.48xlarge
Befehl R+ 08-2024 (H100)
cohere-command-r-plus-08-2024-h100Textgenerierung
Nein
ml.p5.48xlarge
Dokument OCR
upstage-document-ocrOptische Zeichenerkennung
Nein
ml.g5.2xlarge
Analysieren von Dokumenten
upstage-document-layout-analysisOptische Zeichenerkennung
Nein
ml.g 5,2 x groß, ml.g 6,2 x groß, ml.p 3,2 x groß
Einbetten
upstage-solar-embedding-largeEinbettung von Text
Nein
ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß
ESM3-open
evolutionary-scale-esm3Multimodale Generierung
Nein
ml. g 5,4 x groß, ml. g 5,8 x groß
Evo2-NIM
nvidia-evo2-nimTextgenerierung
Nein
ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xgroß
EXAONE Atelier - Bild zu Text
lgresearch-exaoneGenerierung von Bild zu Text
Nein
ml.g5.12x groß, ml.g5.48x groß, ml.g5.x groß, ml.p4d.24x groß
Gretel Navigator Tabular
gretel-navigator-tabularTextgenerierung
Nein
ml.g5,2 x groß, ml.g5.xgroß
H-Optimus-0
bioptimus-h-optimus-0Extraktion von Merkmalen
Nein
ml.g5.xlarge
IBM Granite 20B Code Instruct - 8K
ibm-granite-20b-code-instruct-8kTextgenerierung
Nein
ml. g 5,12 x groß, ml. g 5,24 x groß, ml. g 5,48 x groß
IBM Granite 3.0 2B Anleitung
granite-3-0-2b-instructTextgenerierung
Nein
ml.p4d. 24 x groß, ml.p 5,48 x groß
IBM Granite 3.0 8B Anleitung
granite-3-0-8b-instructTextgenerierung
Nein
ml.p4d. 24 x groß, ml.p 5,48 x groß
IBM Granite 3.2 Instruktion 2B
ibm-granite-3-2-2b-instructTextgenerierung
Nein
ml.g6.12x groß, ml.g6.16x groß, ml.g6.24x groß, ml.g6.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24xgroß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß p 5,48 x groß
IBM Granite 3.2 Instruct 8 B
ibm-granite-3-2-8b-instructTextgenerierung
Nein
ml.g6.12x groß, ml.g6.16x groß, ml.g6.24x groß, ml.g6.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24xgroß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.24xgroß p 5,48 x groß
IBM Granite 34B Code Instruct - 8K
ibm-granite-34b-code-instruct-8kTextgenerierung
Nein
ml.g 5,12 x groß, ml.g 5,24 x groß, ml.g 5,48 x groß
IBM Granite 3B Code Instruct - 128K
ibm-granite-3b-code-instruct-128kTextgenerierung
Nein
ml. g 5,12 x groß, ml. g 5,16 x groß, ml. g 5,24 x groß, ml. g 5,4 x groß, ml. g 5,8 x groß
IBM Granite 4.0 h-Mikro
ibm-granite-4-0-h-microTextgenerierung
Nein
ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
IBM Granite 4,0 h - klein
ibm-granite-4-0-h-smallTextgenerierung
Nein
ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
IBM Granite 4.0 h-winzig
ibm-granite-4-0-h-tinyTextgenerierung
Nein
ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
IBM Granite 8B Code Instruct - 128K
ibm-granite-8b-code-instruct-128kTextgenerierung
Nein
ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5.24 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß
ixi- GEN-Fin-7.8B
lg-ixi-genTextgenerierung
Nein
ml.g5.4xlarge
JetBrains AI Mellum Alle
jbai-mellum-allGenerierung von Text zu Text
Nein
ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge
JetBrains KI Mellum Kotlin
jbai-mellum-kotlinGenerierung von Text zu Text
Nein
ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge
JetBrains AI Mellum Python
jbai-mellum-pythonGenerierung von Text zu Text
Nein
ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge
Jina Embeddings v2 Base - de
jinaai-embeddings-v2-base-enEinbettung von Text
Nein
ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, .g 5,4 x groß, ml.g 5,8 x groß, ml.g5.x groß, ml.p 2,16 x groß, ml.p 2,8 x groß, ml.p2.x groß, ml.p3,16 x groß, ml.p 3,2 x groß, ml.p 3,8 x groß
KARAKURI LM 8x7b instruct
karakuri-lm-8x7b-instructTextgenerierung
Nein
ml. g 5,48 x groß, ml. g 6,48 x groß
LightOn Lyra-Fr 10 B
lighton-lyra-frTextgenerierung
Nein
ml.p4d.24xlarge
LightOn Mini-instruct 40 B
lighton-mini-instruct40bTextgenerierung
Nein
ml.p4d.24xlarge
Flüssiges LFM 40B (A100)
liquid-lfm-40b-a100Textgenerierung
Nein
ml.p4d.24xlarge
Flüssiges LFM 40B (H100)
liquid-lfm-40b-h100Textgenerierung
Nein
ml.p5.48xlarge
Flüssiges LFM 40B (L40S)
liquid-lfm-40b-l40sTextgenerierung
Nein
ml.g6e.12xlarge
Flüssiges LFM 7B (L40S)
liquid-lfm-7b-l40sTextgenerierung
Nein
ml.g6e.16 x groß, ml.g6e.2 x groß, ml.g6e.4 x groß, ml.g6e.x groß, ml.g6e.x groß
Lama 3.1 Nemotron Nano 8B V1
nvidia-nemotron-nano-8b-nimTextgenerierung
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48xgroß, ml.g6e.4x groß, ml.g6e.8x groß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.8x groß, ml.p4d.24xgroß, ml.p4d.24xgroß, ml.g6e.8x groß p4 de.24 x groß, ml.p 5.48 x groß, ml.p5e.48 x groß, ml.p 5 en.48 x groß
Lama 3.1 SuperNova Lite
arcee-llama-3-1-supernova-liteTextgenerierung
Nein
ml. g 5,16 x groß, ml. g 5,2 x groß, ml. g 5,4 x groß, ml. g 5,8 x groß, ml. g 6,2 x groß, ml. g 6,4 x groß, ml. g 6,8 x groß
Lama 3.2 hat den NIM-Microservice mit 1B bewertet
nvidia-llama3-2-nv-rerankqa-1b-v2-nimTextgenerierung
Nein
ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß P4D. 24 x groß, ml. P4 DE. 24 x groß, ml. P 5,48 x groß
Lama 3.3 Nemotron Super 49B V1
nvidia-nemotron-super-49b-nimTextgenerierung
Nein
ml.g5.48xgroß, ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge
Lama 3.3 Nemotron Super 49B V1.5
nvidia-nemotron-super-49b-nim-1-5Textgenerierung
Nein
ml.g5.48xgroß, ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p4.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge
Lama Spark
arcee-llama-sparkTextgenerierung
Nein
ml.g 5,16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß
Llama-3-Varco-Offsetbias-8B
ncsoft-llama-3-varco-offsetbias-8bTextgenerierung
Nein
ml.g5.12xlarge
Llama-3.1-8B-Instruct mit Stained Glass Transform Support
protopia-llama-3-1-8b-instructTextgenerierung
Nein
ml.g4dn.12x groß, ml.g5,16 x groß, ml.g5,4 x groß
Llama-3.2-NV-EmbedQA-1B-v2
nvidia-llama3-2-nv-embedqa-1b-v2-nimEinbettung von Text
Nein
ml g 5.12 x groß, ml g 5.16 x groß, ml g 5,24 x groß, ml g 5,2 x groß, ml g 5,48 x groß, ml g 5,4 x groß, ml g 5,8 x groß, ml g 5,8 x groß, ml g 6,2 x groß, ml g 6.16 x groß, ml g 6,24 x groß, ml. g 6,2 x groß 48x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß, ml.g6e.xgroß P4D. 24 x groß, ml. P4 DE. 24 x groß, ml. P 5,48 x groß
MARS6
cambai-mars6Text zu Audio
Nein
ml.g4dn.2 x groß, ml.g6,2 x groß
Medical LLM - Medium
john-snow-labs-medical-summarization-qa-8bTextzusammenfassung
Nein
ml.g4dn.12 x groß, ml.g5,2 x groß
Medical LLM - Small
john-snow-labs-summarization-qaTextzusammenfassung
Nein
ml.g5.12xlarge
Übersetzung medizinischer Texte () EN-ES
john-snow-labs-medical-translation-en-esÜbersetzung
Nein
ml.g5.2xlarge
Merkur
inception-mercuryTextgenerierung
Nein
ml.p5.48xlarge
Mercury Coder
inception-mercury-coderTextgenerierung
Nein
ml.p5.48xlarge
msa-Suche
nvidia-nim-msa-search-v2-1Textgenerierung
Nein
ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xgroß, ml.p5en.48xlarge
Nemotron nano 9b v2
nvidia-nemotron-nano-9b-v2Textgenerierung
Nein
ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.g6e.xlarge, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5.4xgroß, ml.p5e.48xgroß, ml.p5en.48xgroß
nemotron-parsen
nvidia-nemotron-parseTextgenerierung
Nein
ml.g5.12 x groß, ml.g5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5,48 x groß, ml.g 5,4 x groß, ml.g5,8 x groß, ml.g5.x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48xgroß, ml.g6e.4xgroß, ml.g6e.8xgroß, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5.4xgroß, ml.p5e.48xlarge, ml.p5en.48xlarge
NEXUS von Fundamental
fundamental-technologies-nexusKlassifizierung
Nein
ml.g4dn.8x groß, ml.p5en.48x groß
Nomic Text v1.5 einbetten
nomic-embed-textEinbettung von Text
Nein
ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, g 5,4 x groß, ml. g 5,8 x groß, ml. g 5,x groß, ml. G 3,16 x groß, ml. G 3,2 x groß, ml. P 3,8 x groß
Nomic Embed Vision v1.5
nomic-embed-imageEinbettung von Text
Nein
ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.g5.12xgroß, ml.g5.16xgroß, ml.g5.24xgroß, ml.g5.2xgroß, ml.g5.48xgroß, g 5,4 x groß, ml. g 5,8 x groß, ml. g 5,x groß, ml. G 3,16 x groß, ml. G 3,2 x groß, ml. P 3,8 x groß
NVIDIA-Kosmos Reason-1-7B
nvidia-nim-cosmos-reason1-7bTextgenerierung
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.g6e.12x groß, ml.g6e.16x groß, ml.g6e.24x groß, ml.g6e.2xgroß, ml.g6e.48xgroß, ml.g6e.4x groß, ml.g6e.8x groß, ml.g6e.xlarge, ml.pp 4d.24x groß, ml.p4de.24x groß, ml.p5.48x groß, ml.p5.4x groß, ml.p5e.48x groß, ml.p5en.48x groß
NVIDIA Nemotron-4 15B NIM-Microservice
nvidia-nemotron-4-15b-nimTextgenerierung
Nein
ml.g5.12x groß, ml.g5.24x groß
NVIDIA Parakeet VTDT 0.6B v2
nvidia-parakeetvtdt-0-6b-v2Generierung von Audio2-Text
Nein
ml.g6.12 x groß, ml.g 6.16 x groß, ml.g 6,24 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48x groß, ml.g6e.4x groß, ml.g6e.8x groß
NVIDIA-Parakeet-1-1b-CTC-EN-US-ASR
nvidia-parakeet-1-1b-ctc-en-us-asrAudio2-Text-Generierung
Nein
ml.g 5.12 x groß, ml.g 5.16 x groß, ml.g 5,24 x groß, ml.g 5,2 x groß, ml.g 5.48 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.12 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6e.12 x groß, ml.g6e.16 x groß, ml.g6e.24 x groß, ml.g6e.2 x groß, ml.g6e.48 x groß, ml.g6e.4 x groß, ml.g6e.8 x groß, ml.p4d.24xgroß, ml.p4de.24xgroß
Kugel
orbital-materials-orbWissenschaftliche Modellierung
Nein
ml.g4dn.12xgroß, ml.g4dn.16xgroß, ml.g4dn.2xgroß, ml.g4dn.4xgroß, ml.g4dn.8xgroß, ml.g4dn.xgroß, ml.p3.16xgroß, ml.p3.2xgroß, ml.p3.8xgroß, ml.p4d.24xgroß
PLaMo Private Bereitstellung
preferred-networks-plamo-apiTextgenerierung
Nein
ml.g5.12x groß, ml.g5.24x groß, ml.g5.48x groß, ml.p4d.24x groß
ProteinMPNN-NIM
nvidia-nim-proteinmpnn-v1-0-2Textgenerierung
Nein
ml.g6e.12xgroß, ml.g6e.24xgroß, ml.g6e.48xgroß, ml.p4d.24xgroß, ml.p4de.24xgroß, ml.p5.48xgroß, ml.p5e.48xlarge, ml.p5en.48xlarge
Rerank-Lite-1 Reranker
voyage-rerank-lite-1-rerankerReRank
Nein
ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g5.x groß
Solar Mini - Quant
upstage-solar-mini-chat-quantTextgenerierung
Nein
ml.g5.2xlarge
Solar Pro - Quant
upstage-solar-pro-quantizedTextgenerierung
Nein
ml.g5.12xlarge
Solar Pro 2
upstage-solar-proTextgenerierung
Nein
ml.p4 d. 24 x groß, ml.p 5,48 x groß
Sonic 3 SageMaker
cartesia-sonic-3-sagemakerText zu Audio
Nein
ml.g6e.xlarge
Stable Diffusion 3.5 Large
stabilityai-stable-diffusion-3-5-largeText zum Bild
Nein
ml.p5.48xlarge
Stable Diffusion XL 1,0
stabilityai-sdxl-1-0Text zum Bild
Nein
ml.g5,2 x groß, ml.p4d. 24 x groß, ml.p4de. 24 x groß
Stabile Diffusion XL Beta 0,8
stabilityai-sdxl-beta-0-8Text zum Bild
Nein
ml.g5.xlarge
Stockmark-LLM-13b
stockmark-llm-13bTextgenerierung
Nein
ml.g5.2xlarge
VARCO LLM KO-1.3B-IST
ncsoft-ko-1-3b-istTextgenerierung
Nein
ml.g4 dn.2 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß
BARCO LLM KO-6.4B-IST
ncsoft-ko-6-4b-istTextgenerierung
Nein
ml.g4dn.4 x groß, ml.g4dn.8 x groß, ml.g5.12x groß, ml.g5,4 x groß, ml.g5,8 x groß
BARCO LLM KO/EN-13B-IST
ncsoft-ko-13b-istTextgenerierung
Nein
ml.g 4 dn. 12 x groß, ml. g 5,12 x groß
voyage-2 Einbettungsmodell
voyage-2-embeddingEinbettung von Text
Nein
ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g5.x groß
voyage-3 Einbettungsmodell
voyage-3-embeddingEinbettung von Text
Nein
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6,8 x groß, ml.g6,x groß
voyage-3 Großes Einbettungsmodell
voyage-3-large-embeddingEinbettung von Text
Nein
ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 5,x groß, ml.g 6,4 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,x groß
voyage-3.5 Einbettungsmodell
voyage-3-5-embeddingEinbettung von Text
Nein
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6,8 x groß, ml.g6,x groß
voyage-3.5-lite Einbettungsmodell
voyage-3-5-lite-embeddingEinbettung von Text
Nein
ml.g5.16x groß, ml.g5,2 x groß, ml.g5,4 x groß, ml.g5,8 x groß, ml.g6.16 x groß, ml.g6,2 x groß, ml.g6,2 x groß, ml.g6,4 x groß, ml.g6,8 x groß, ml.g6.xgroß
voyage-code-2 Einbettungsmodell
voyage-code-2-embeddingEinbettung von Text
Nein
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,8 x groß, ml.g6,x groß
voyage-code-3 Einbettungsmodell
voyage-code-3-embeddingEinbettung von Text
Nein
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g 6,8 x groß, ml.g6,8 x groß, ml.g6,x groß
voyage-large-2 Einbettungsmodell
voyage-large-2-embeddingEinbettung von Text
Nein
ml.g5.16 x groß, ml.g 5,2 x groß, ml.g 5,4 x groß, ml.g 5,8 x groß, ml.g 6.16 x groß, ml.g 6,2 x groß, ml.g 6,2 x groß, ml.g 6,4 x groß, ml.g6,8 x groß, ml.g6.xgroß
Widn Tower Anthill
widn-tower-anthillÜbersetzung
Nein
ml.g5.xlarge
Widn Tower Sugarloaf
widn-tower-sugarloafÜbersetzung
Nein
ml.g5.12xlarge
Windturm Vesuv
widn-llama3-tower-vesuviusÜbersetzung
Nein
ml.g 5,48 x groß, ml.p4 d. 24 x groß, ml.p 4 de 24 x groß
KI-Vision-Engine von Woven City
wovenbytoyota-woven-city-ai-vision-engineMultimodale Generierung
Nein
ml. g 5.12 x groß, ml. g 5,24 x groß, ml. g 5,8 x groß
Autor Palmyra-Fin-70B-32K
writer-palmyra-fin-70b-32kTextgenerierung
Nein
ml.p4d.24xlarge
Autor Palmyra-Med-70B-32K
writer-palmyra-med-70b-32kTextgenerierung
Nein
ml.p4d.24xlarge
Autor Palmyra-X-004
writer-palmyra-x-004Textgenerierung
Nein
ml.p5.48xlarge
- Built-in Algorithms (135)
-
Amazon SageMaker JumpStart bietet vortrainierte, aufgabenspezifische Modelle für gängige Computer-Vision-Aufgaben wie Bildklassifizierung, Objekterkennung und Bildsegmentierung. Diese Modelle basieren auf etablierten Deep-Learning-Frameworks (PyTorch,TensorFlow,MXNet) und können sofort eingesetzt oder anhand Ihrer eigenen Daten optimiert werden.
Anbieter Modellname Modell-ID Aufgabe License Fine-tunable Unterstützte Inferenz-Instanztypen Mxnet
Schnellerer RCNN 101 V1d ResNet
mxnet-od-faster-rcnn-fpn-resnet101-v1d-cocoObjekterkennung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
Schnellerer RCNN 101 V1d ResNet
mxnet-od-faster-rcnn-resnet101-v1d-cocoObjekterkennung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
Schnellerer RCNN 50 V1b ResNet
mxnet-od-faster-rcnn-fpn-resnet50-v1b-cocoObjekterkennung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
Schnellerer RCNN 50 V1b ResNet
mxnet-od-faster-rcnn-resnet50-v1b-cocoObjekterkennung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
Schnellerer RCNN 50 V1b ResNet
mxnet-od-faster-rcnn-resnet50-v1b-vocObjekterkennung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
FCN 101 ADE20K ResNet
mxnet-semseg-fcn-resnet101-adeSegmentierung von Bildern
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
FCN ResNet 101 Pascal VOC
mxnet-semseg-fcn-resnet101-vocSegmentierung von Bildern
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
FCN 50 ADE20K ResNet
mxnet-semseg-fcn-resnet50-adeSegmentierung von Bildern
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
Instance-Segmentierung
mxnet-is-mask-rcnn-fpn-resnet101-v1d-cocoSegmentierung von Bildern
Apache 2.0
Nein
ml.c5,2 x groß, ml.c5.x groß, ml.g4dn.x groß, ml.m5.x groß, ml.m5.x groß, ml.p3,2 x groß
Mxnet
MASKE RCNN FPN RESNET18 COCO
mxnet-is-mask-rcnn-fpn-resnet18-v1b-cocoSegmentierung von Bildern
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
MASKE RCNN FPN RESNET50 COCO
mxnet-is-mask-rcnn-fpn-resnet50-v1b-cocoSegmentierung von Bildern
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
MASKE RCNN RESNET18 COCO
mxnet-is-mask-rcnn-resnet18-v1b-cocoSegmentierung von Bildern
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
Objekterkennung
mxnet-od-ssd-512-mobilenet1-0-cocoObjekterkennung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
Semantische Segmentierung
mxnet-semseg-fcn-resnet101-cocoSegmentierung von Bildern
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
SSD 512 ResNet 50 V1
mxnet-od-ssd-512-resnet50-v1-cocoObjekterkennung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
SSD 1,0 MobileNet
mxnet-od-ssd-512-mobilenet1-0-vocObjekterkennung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
SSD ResNet 50 V1
mxnet-od-ssd-512-resnet50-v1-vocObjekterkennung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
SSD VGG 16 Atrous 300
mxnet-od-ssd-300-vgg16-atrous-vocObjekterkennung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
SSD VGG 16 Atrous 512
mxnet-od-ssd-512-vgg16-atrous-cocoObjekterkennung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
SSD VGG16 Atrous 300
mxnet-od-ssd-300-vgg16-atrous-cocoObjekterkennung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
SSD VGG16 Atrous 512
mxnet-od-ssd-512-vgg16-atrous-vocObjekterkennung
Apache 2.0
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
YOLO V3 53 DarkNet
mxnet-od-yolo3-darknet53-cocoObjekterkennung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
YOLO V3 53 DarkNet
mxnet-od-yolo3-darknet53-vocObjekterkennung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
YOLO V3 1.0 MobileNet
mxnet-od-yolo3-mobilenet1-0-cocoObjekterkennung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Mxnet
YOLO V3 1.0 MobileNet
mxnet-od-yolo3-mobilenet1-0-vocObjekterkennung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
Pytorch
SqueezeNet 1
pytorch-ic-squeezenet1-1Bildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
AlexNet
pytorch-ic-alexnetBildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
DenseNet 121
pytorch-ic-densenet121Bildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
DenseNet 169
pytorch-ic-densenet169Bildklassifizierung
BSD-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
FRCNN MobileNet V3 groß 320 FPN
pytorch-od1-fasterrcnn-mobilenet-v3-large-320-fpnObjekterkennung
bsd-3-Klausel
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß
Pytorch
FRCNN V3 großes VPN MobileNet
pytorch-od1-fasterrcnn-mobilenet-v3-large-fpnObjekterkennung
bsd-3-Klausel
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß
Pytorch
GoogLeNet
pytorch-ic-googlenetBildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
Bildklassifizierung
pytorch-ic-mobilenet-v2Bildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
Objekterkennung
pytorch-od1-fasterrcnn-resnet50-fpnObjekterkennung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß
Pytorch
ResNet 101
pytorch-ic-resnet101Bildklassifizierung
BSD-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
ResNet 152
pytorch-ic-resnet152Bildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
ResNet 18
pytorch-ic-resnet18Bildklassifizierung
BSD-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
ResNet 34
pytorch-ic-resnet34Bildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
ResNet 50
pytorch-ic-resnet50Bildklassifizierung
BSD-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
Weiter 50
pytorch-ic-resnext50-32x4dBildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
ShuffleNet V2
pytorch-ic-shufflenet-v2-x1-0Bildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
SSD
pytorch-od-nvidia-ssdObjekterkennung
bsd-3-Klausel
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 x groß
Pytorch
VGG 1
pytorch-ic-vgg11Bildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
VGG 1-BN
pytorch-ic-vgg11-bnBildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
VGG 13-N
pytorch-ic-vgg13-bnBildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
VGG 16
pytorch-ic-vgg16Bildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
VGG 16-BN
pytorch-ic-vgg16-bnBildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
VGG 19
pytorch-ic-vgg19Bildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
VGG-13
pytorch-ic-vgg13Bildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
Pytorch
Breit 101 ResNet
pytorch-ic-wide-resnet101-2Bildklassifizierung
bsd-3-Klausel
Ja
ml.c5.2 x groß, ml.c5.x groß, ml.m4.x groß, ml.m5.large, ml.m5.x groß
TensorFlow
ALBERT-Untergestell
tensorflow-tc-albert-en-baseTextklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
BERT-Basisgehäuse
tensorflow-tc-bert-en-cased-L-12-H-768-A-12-2Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
BERT-Basis MEDLINE/PubMed
tensorflow-tc-experts-bert-pubmed-1Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
BERT Base Mehrsprachiges Gehalten
tensorflow-tc-bert-multi-cased-L-12-H-768-A-12-2Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
BERT Large ohne Hülle
tensorflow-tc-bert-en-uncased-L-24-H-1024-A-16-2Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
BERT Small ohne Gehäuse L-10 H-128
tensorflow-tcembedding-bert-en-uncased-L-10-H-128-A-2-2Einbettung von Text
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
BERT Small ohne Gehäuse L-12 H-256
tensorflow-tcembedding-bert-en-uncased-L-12-H-256-A-4Einbettung von Text
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
BERT Small ohne Gehäuse L-12 H-768
tensorflow-tcembedding-bert-en-uncased-L-12-H-768-A-12-2Einbettung von Text
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
BERT Small ohne Gehäuse L-4 H-768
tensorflow-tcembedding-bert-en-uncased-L-4-H-768-A-12-2Einbettung von Text
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
BiT-M R 10 x 1
tensorflow-ic-bit-m-r101x1-ilsvrc2012-classification-1Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
BiT-M R101x1 Feature-Vektor
tensorflow-icembedding-bit-m-r101x1-ilsvrc2012-featurevector-1Bildklassifizierung
Apache-2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
BiT-M R 50 x 1 ImageNet-21k
tensorflow-ic-bit-m-r50x1-imagenet21k-classification-1Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
Kait S 42 224
tensorflow-ic-cait-s24-224Bildklassifizierung
MIT
Ja
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
CenterNet ResNet-v1-101
tensorflow-od-centernet-resnet101v1-fpn-512x512-1Objekterkennung
apache-2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
CenterNet ResNet-v1-50
tensorflow-od-centernet-resnet50v1-fpn-512x512-1Objekterkennung
Apache 2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
Tiny Distilled Patch 16 224 bearbeiten
tensorflow-ic-deit-tiny-distilled-patch16-224Bildklassifizierung
MIT
Ja
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
EfficientNet B0
tensorflow-ic-efficientnet-b0-classification-1Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
EfficientNet B1
tensorflow-ic-efficientnet-b1-classification-1Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
EfficientNet B1-Feature-Vektor
tensorflow-icembedding-efficientnet-b1-featurevector-1Bildklassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
EfficientNet B3
tensorflow-ic-efficientnet-b3-classification-1Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
EfficientNet B7
tensorflow-ic-efficientnet-b7-classification-1Bildklassifizierung
Apache-2.0
Ja
ml.c 5,9 x groß, ml.g 4 dn. 8 x groß, ml.p 3,8 x groß
TensorFlow
EfficientNet V2 ImageNet-1k Klein
tensorflow-ic-efficientnet-v2-imagenet1k-sBildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
EfficientNet V2 ImageNet-21k FT1K M
tensorflow-ic-efficientnet-v2-imagenet21k-ft1k-mBildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge
TensorFlow
R-CNN Schnelleres Resnet V2 1024x1024
tensorflow-od-faster-rcnn-inception-resnet-v2-1024x1024-1Objekterkennung
Apache 2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
Schnellerer V1 R-CNN Resnet-101 640x640
tensorflow-od-faster-rcnn-resnet101-v1-640x640-1Objekterkennung
Apache-2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
Schnellere V1 R-CNN Resnet-50 1024x1024
tensorflow-od-faster-rcnn-resnet50-v1-1024x1024-1Objekterkennung
Apache-2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
Schnellerer V1 R-CNN Resnet-50 640x640
tensorflow-od-faster-rcnn-resnet50-v1-640x640-1Objekterkennung
Apache-2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
Schnellerer V1 R-CNN Resnet-50 800x1333
tensorflow-od-faster-rcnn-resnet50-v1-800x1333-1Objekterkennung
Apache-2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
RÜSCHEN
tensorflow-audioembedding-frill-1Audio-Klassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
Bildklassifizierung
tensorflow-ic-swin-base-patch4-window7-224Bildklassifizierung
MIT
Ja
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
Einbettung von Bildern
tensorflow-icembedding-imagenet-mobilenet-v2-100-224-fv-4Bildklassifizierung
apache-2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
Inception V3
tensorflow-ic-imagenet-inception-v3-classification-4Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge
TensorFlow
Vorschau-Feature-Vektor für Inception V3
tensorflow-icembedding-tf2-preview-inception-v3-fv-4Bildklassifizierung
Apache-2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
MobileNet V2
tensorflow-ic-tf2-preview-mobilenet-v2-classification-4Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
MobileNet V2 0,35 128
tensorflow-ic-imagenet-mobilenet-v2-035-128Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge
TensorFlow
MobileNet V2 0,50 224
tensorflow-icembedding-imagenet-mobilenet-v2-050-224-fv-4Bildklassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
MobileNet V2 1,0 224
tensorflow-ic-imagenet-mobilenet-v2-100-224-classification-4Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge
TensorFlow
MobileNet V2 1,40 224
tensorflow-ic-imagenet-mobilenet-v2-140-224-classification-4Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge
TensorFlow
MobileNet V2-Feature-Vektor
tensorflow-icembedding-tf2-preview-mobilenet-v2-featurevector-4Bildklassifizierung
Apache-2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
MobileNet V2-Feature-Vektor
tensorflow-icembedding-tf2-preview-mobilenet-v2-fv-4Bildklassifizierung
Apache-2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
MobileNet V3 Groß 1.00 224
tensorflow-ic-imagenet-mobilenet-v3-large-100-224Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge
TensorFlow
MobileNet V3 Klein 0,75 224
tensorflow-ic-imagenet-mobilenet-v3-small-075-224Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge
TensorFlow
MobileNet V3 Klein 1,00 224
tensorflow-ic-imagenet-mobilenet-v3-small-100-224Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge, ml.r5.xlarge
TensorFlow
Objekterkennung
tensorflow-od1-ssd-resnet50-v1-fpn-640x640-coco17-tpu-8Objekterkennung
apache-2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
ResNet 50
tensorflow-ic-resnet-50-classification-1Bildklassifizierung
Apache-2.0
Ja
ml.c 5,9 x groß, ml.g 4 dn. 8 x groß, ml.p 3,8 x groß
TensorFlow
ResNet Vektor mit 50 Merkmalen
tensorflow-icembedding-resnet-50-featurevector-1Bildklassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
ResNet V1 50
tensorflow-ic-imagenet-resnet-v1-50-classification-4Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
ResNet V2 152 Feature-Vektor
tensorflow-icembedding-imagenet-resnet-v2-152-featurevector-4Bildklassifizierung
Apache-2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
ResNet V2 50
tensorflow-ic-imagenet-resnet-v2-50-classification-4Bildklassifizierung
Apache-2.0
Ja
ml.c5.2xgroß, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
ResNet V2 50 Feature-Vektor
tensorflow-icembedding-imagenet-resnet-v2-50-featurevector-4Bildklassifizierung
Apache-2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
Resnet-101 Retinanet-SSD 640 x 640
tensorflow-od-retinanet-resnet101-v1-fpn-640x640-1Objekterkennung
Apache 2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
Kleines BERT L-10 _ _ H-512 A-8
tensorflow-tc-small-bert-bert-en-uncased-L-10-H-512-A-8Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
Kleiner BERT L-12 _ H-256 _ A-4
tensorflow-tc-small-bert-bert-en-uncased-L-12-H-256-A-4Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
Kleiner BERT L-12 _ H-768 _ A-12
tensorflow-tc-small-bert-bert-en-uncased-L-12-H-768-A-12Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
Kleiner BERT L-2 _ H-128 _ A-2
tensorflow-tc-small-bert-bert-en-uncased-L-2-H-128-A-2Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
Kleiner BERT L-4 _ H-512 _ A-8
tensorflow-tc-small-bert-bert-en-uncased-L-4-H-512-A-8Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
Kleiner BERT L-6 _ H-768 _ A-12
tensorflow-tc-small-bert-bert-en-uncased-L-6-H-768-A-12Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
Kleiner BERT L-8 _ H-768 _ A-12
tensorflow-tc-small-bert-bert-en-uncased-L-8-H-768-A-12Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
SSD ResNet 152 V1 FPN 1024x1024 COCO '17
tensorflow-od1-ssd-resnet152-v1-fpn-1024x1024-coco17-tpu-8Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
SSD EfficientDet D0
tensorflow-od-efficientdet-d0-1Objekterkennung
Apache 2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
SSD Efficientet D0 512x512 COC '17
tensorflow-od1-ssd-efficientdet-d0-512x512-coco17-tpu-8Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
SSD Efficientet D1 640x640 COC '17
tensorflow-od1-ssd-efficientdet-d1-640x640-coco17-tpu-8Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
SSD EfficientDet D2
tensorflow-od-efficientdet-d2-1Objekterkennung
Apache 2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
SSD Efficientet D2 768 x 768 COC '17
tensorflow-od1-ssd-efficientdet-d2-768x768-coco17-tpu-8Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
SSD EfficientDet 3D
tensorflow-od-efficientdet-d3-1Objekterkennung
Apache 2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
SSD Efficientet D3 896 x 896 COCO '17
tensorflow-od1-ssd-efficientdet-d3-896x896-coco17-tpu-32Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
SSD EfficientDet D5
tensorflow-od-efficientdet-d5-1Objekterkennung
Apache 2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
SSD Mobilenet V1 FPN 640x640 COCO '17
tensorflow-od1-ssd-mobilenet-v1-fpn-640x640-coco17-tpu-8Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
SSD Mobilenet V2
tensorflow-od-ssd-mobilenet-v2-2Objekterkennung
Apache 2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
SSD Mobilenet V2 640 x 640
tensorflow-od-ssd-mobilenet-v2-fpnlite-640x640-1Objekterkennung
Apache 2.0
Nein
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xgroß
TensorFlow
SSD Mobilenet V2 320x320 COCO '17 FPN-Lite
tensorflow-od1-ssd-mobilenet-v2-fpnlite-320x320-coco17-tpu-8Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
SSD MobileNet V2 640 x 640 COCO FPN-lite '17
tensorflow-od1-ssd-mobilenet-v2-fpnlite-640x640-coco17-tpu-8Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
SSD 101 V1 FPN ResNet 1024x1024 COCO '17
tensorflow-od1-ssd-resnet101-v1-fpn-1024x1024-coco17-tpu-8Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
SSD 101 V1 ResNet FPN 640X640 COCO '17
tensorflow-od1-ssd-resnet101-v1-fpn-640x640-coco17-tpu-8Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
SSD 152 V1 ResNet FPN 640X640 COCO '17
tensorflow-od1-ssd-resnet152-v1-fpn-640x640-coco17-tpu-8Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
SSD 50 G1 FPN ResNet 1024x1024 COCO '17
tensorflow-od1-ssd-resnet50-v1-fpn-1024x1024-coco17-tpu-8Objekterkennung
Apache 2.0
Ja
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2x groß
TensorFlow
Swin Base 4 12 384
tensorflow-ic-swin-base-patch4-window12-384Bildklassifizierung
MIT
Ja
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.xlarge
TensorFlow
Talking Heads groß
tensorflow-tc-talking-heads-largeTextklassifizierung
apache-2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
Textklassifizierung
tensorflow-tc-bert-en-uncased-L-12-H-768-A-12-2Textklassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2xgroß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.16x groß, ml.g4dn.2xgroß, ml.g4dn.4x groß, ml.g4dn.8xgroß, ml.g4dn.xlarge, ml.g5.xgroß, ml.m5.12xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5.24xgroß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß, ml.p3,16 x groß, ml.p3,2x groß, ml.p3,8 x groß
TensorFlow
Einbettung von Text
tensorflow-tcembedding-universal-sentc-encoder-cmlm-en-large-1Einbettung von Text
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
TRILL DESTILLIERT
tensorflow-audioembedding-trill-distilled-3Audio-Klassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
Trillsson 1
tensorflow-audioembedding-trillsson1-1Audio-Klassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
Trillsson 2
tensorflow-audioembedding-trillsson2-1Audio-Klassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
Trillsson 3
tensorflow-audioembedding-trillsson3-1Audio-Klassifizierung
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
TensorFlow
Universeller Satzkodierer CMLM Base
tensorflow-tcembedding-universal-sentc-encoder-cmlm-en-base-1Einbettung von Text
Apache 2.0
Nein
ml.c5.2 x groß, ml.c5.x groß, ml.g4dn.xlarge, ml.m5.large, ml.m5.x groß, ml.p3.2 groß
- Classic ML Algorithms (11)
-
Amazon bietet gebrauchsfertige SageMaker JumpStart Implementierungen klassischer Algorithmen für maschinelles Lernen für Aufgaben im Bereich tabellarischer Daten wie Klassifikation, Regression und Zeitreihenprognosen. Diese Algorithmen (XGBoost,,, LightGBM CatBoostscikit-learn,AutoGluon) sind für strukturierte Daten optimiert und können mit Ihren eigenen Datensätzen von Grund auf trainiert werden.
Anbieter Modellname Modell-ID Aufgabe License Fine-tunable Unterstützte Inferenz-Instanztypen Autogluon
AutoGluon Tabellarische Klassifikation
autogluon-classification-ensembleTabellarische Klassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß
Autogluon
AutoGluon Tabellarische Regression
autogluon-regression-ensembleTabellarische Regression
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß
Catboost
CatBoost Einstufung
catboost-classification-modelTabellarische Klassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5,2 x groß, ml.c5,4 x groß, ml.c5,9x groß, ml.m4.16x groß, ml.m5.12x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß
Catboost
CatBoost Regression
catboost-regression-modelTabellarische Regression
Apache 2.0
Ja
ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c 5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß
Leicht gbm
LightGBM-Klassifizierung
lightgbm-classification-modelTabellarische Klassifizierung
mit
Ja
ml.c5.18x groß, ml.c5,2 x groß, ml.c5,4 x groß, ml.c5.9x groß, ml.m4.16x groß, ml.m5.12x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß
Leicht gbm
LightGBM-Regression
lightgbm-regression-modelTabellarische Regression
mit
Ja
ml.c 4,8 x groß, ml.c 5,18 x groß, ml.c 5,2 x groß, ml.c 5,4 x groß, ml.m 5,12 x groß, ml.m 5,24 x groß, ml.m 5,2 x groß, ml.m 5,4 x groß
Pytorch
TabTransformer Einstufung
pytorch-tabtransformerclassification-modelTabellarische Klassifizierung
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß
Pytorch
TabTransformer Regression
pytorch-tabtransformerregression-modelTabellarische Regression
Apache 2.0
Ja
ml.c5.18x groß, ml.c5.2x groß, ml.c5.4x groß, ml.c5.9x groß, ml.g4dn.xlarge, ml.m5.12x groß, ml.m5.24x groß, ml.m5.2x groß, ml.m5.4x groß, ml.p3.2 groß
S lerne
Lineare Klassifizierung
sklearn-classification-linearTabellarische Klassifizierung
bsd-3-Klausel
Ja
ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß
Xg Boost
XGBoost-Klassifizierung
xgboost-classification-modelTabellarische Klassifizierung
Apache-2.0
Ja
ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c 5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß
Xg Boost
XGBoost-Regression
xgboost-regression-modelTabellarische Regression
Apache 2.0
Ja
ml.c 4,8 x groß, ml.c5.18x groß, ml.c5,2 x groß, ml.c 5,4 x groß, ml.m 5,9 x groß, ml.m5.12 x groß, ml.m5,24 x groß, ml.m5,2 x groß, ml.m5,4 x groß, ml.m5.x groß
Anmerkung
Die genauesten und aktuellsten Lizenzinformationen finden Sie auf der Modelldetailseite in Studio oder auf der Modellseite. SageMaker Hugging Face