View a markdown version of this page

사용 가능한 파운데이션 모델 - Amazon SageMaker AI

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

사용 가능한 파운데이션 모델

Amazon SageMaker JumpStart는 사용자의 생성형 AI 워크플로에 사용자 지정 및 통합할 수 있는 최첨단 내장형 공개적으로 사용 가능한 독점 파운데이션 모델을 제공합니다.

처음 두 탭에는 파운데이션 모델이 나열됩니다. 마지막 두 탭에는 JumpStart가 제공하는 기본 제공 알고리즘과 클래식 기계 학습 알고리즘이 나열되어 있으며, 이는 파운데이션 모델이 아닙니다.

사용 가능한 모든 JumpStart 파운데이션 모델을 나열하려면:

import boto3 sagemaker_client = boto3.client("sagemaker", region_name="us-west-2") # List all available models in the SageMakerPublicHub all_models = [] next_token = None while True: params = {"HubName": "SageMakerPublicHub", "HubContentType": "Model"} if next_token: params["NextToken"] = next_token response = sagemaker_client.list_hub_contents(**params) all_models.extend(response["HubContentSummaries"]) next_token = response.get("NextToken") if not next_token: break print(f"Total models available: {len(all_models)}") for model in all_models[:5]: print(model["HubContentName"], model["HubContentVersion"])

특정 모델에 대해 지원되는 인스턴스 유형 및 기타 메타데이터를 가져오려면:

import json import boto3 sagemaker_client = boto3.client("sagemaker", region_name="us-west-2") model_id = "meta-textgeneration-llama-3-3-70b-instruct" response = sagemaker_client.describe_hub_content( HubName="SageMakerPublicHub", HubContentType="Model", HubContentName=model_id ) # Parse the model metadata model_doc = json.loads(response["HubContentDocument"]) print(f"Supported instances: {model_doc['SupportedInferenceInstanceTypes']}") print(f"Default instance: {model_doc['DefaultInferenceInstanceType']}")

다음 표에는 2026년 7월 29일 현재 라이선스 및 지원되는 추론 인스턴스 유형이 있는 사용 가능한 모델이 나열되어 있습니다. 최신 정보는 위의 API 예제를 사용하거나 SageMaker Studio의 모델 허브를 참조하세요.

모델 허브가 해당 모델에 대한 라이선스를 게시하지 않으면 라이선스 셀에 "해당 없음"이라고 표시됩니다. 이러한 모델을 사용하기 전에 모델 공급자와 라이선스 조건을 확인하세요. 테이블의 공백 또는 자리 표시자 값은 권한을 부여하지 않습니다.

일부 모델은 기본값 외에도 대체 호스팅 배포 구성을 제공합니다. 각 구성은 하나의 사용 사례와 하나의 성능 목표에 맞게 모델을 조정하며, 각 구성은 자체 인스턴스 유형 세트를 지원합니다. 구성은 종종 기본값보다 작거나 저렴한 인스턴스를 지원하므로 모델에 큰 인스턴스가 필요하다고 결론을 내리기 전에 구성을 확인하세요.

구성 이름은 사용 사례를 성능 목표와 페어링합니다. 이는 SageMaker Studio가 엔드포인트에 모델 배포 페이지의 성능에서 제공하는 것과 동일한 사용 사례 및 성능 목표이므로 여기에 있는 이름과 여기에 있는 선택 사항은 동일한 배포를 설명합니다. 사용 사례에서는 워크로드를 설명합니다.

  • generate (생성): 프롬프트에서 문서, 보고서 또는 코드와 같은 긴 형식의 콘텐츠를 생성합니다.

  • interact (상호 작용): 챗봇 또는 가상 어시스턴트와 같은 실시간 대화를 강화합니다.

  • summarize (요약): 길이가 긴 문서, 문서 또는 데이터를 간결한 요약으로 압축합니다.

  • modify (수정): 재작성, 번역 또는 재포밍을 포함한 기존 콘텐츠를 변환하거나 편집합니다.

  • max_context (최대 컨텍스트): 모델의 전체 컨텍스트 창이 필요한 대규모 입력을 처리합니다.

성능 목표는 구성이 최적화하는 대상을 설명합니다.

  • best_price_performance (분산): 비용, 지연 시간 및 처리량 간의 균등한 절충입니다. 범용 워크로드 또는 어떤 지표가 가장 중요한지 확실하지 않은 경우에 적합합니다.

  • lowest_cost (비용 최적화): 요청당 인프라 비용이 가장 낮습니다. 지연 시간이 길고 처리량이 낮아 비용을 최소화합니다.

  • highest_throughput (처리량 최적화): 대용량 워크로드에 대한 초당 최대 토큰 수입니다. 추측 디코딩을 사용하여 처리량을 늘립니다.

  • lowest_latency (지연 시간 최적화): 가장 낮은 최초 토큰 도달 시간(TTFT). 처리량 및 비용보다 속도를 우선시합니다.

대신 lmi 또는와 같은 서비스 컨테이너의 이름을 지정tgi하거나 워크로드 가정 없이 all_purpose를 사용하여 서비스합니다.

모델의 구성을 벤치마크 지표와 함께 나열한 다음 SageMaker Python SDK를 사용하여 배포합니다.

from sagemaker.serve import ModelBuilder from sagemaker.core.jumpstart.configs import JumpStartConfig model_builder = ModelBuilder.from_jumpstart_config( jumpstart_config=JumpStartConfig(model_id="meta-textgeneration-llama-3-1-8b-instruct") ) # Print every configuration with its instance types and benchmark metrics. model_builder.list_deployment_configs() # Select a configuration and one of the instance types it supports. model_builder.set_deployment_config( config_name="generate_lowest_cost", instance_type="ml.g6e.xlarge", ) model = model_builder.build() endpoint = model_builder.deploy()

를 호출하지 않고 배포하려면 기본 구성과 기본 인스턴스 유형을 set_deployment_config 사용합니다.

Open-Weight Models (436)

개방형 파운데이션 모델은 Meta, Google, Mistral AI 등과 같은 공급자가 공개적으로 사용할 수 있는 모델입니다. 사용 사례에 맞게 이러한 모델을 배포, 미세 조정 및 사용자 지정할 수 있습니다.

이러한 모델 중 하나를 시작하려면 섹션을 참조JumpStart 파운데이션 모델 사용량하거나 사용 가능한 중 하나를 살펴보세요예제 노트북. 주어진 예제 노트북에서 모델 ID를 전환하여 동일한 모델 패밀리 내의 다른 모델을 실험해 보세요.

SageMaker Python SDK를 사용하여 공개적으로 사용 가능한 JumpStart 파운데이션 모델을 배포하는 데 필요한 모델 ID 및 리소스에 대한 자세한 내용은 SageMaker Python SDK로 파운데이션 모델 사용를 참조하세요.

제공업체 모델 이름 모델 ID Task 라이선스 미세 조정 가능 지원되는 추론 인스턴스 유형

01-Ai

Yi-1.5-34B

huggingface-llm-yi-1-5-34b

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

01-Ai

Yi-1.5-9B

huggingface-llm-yi-1-5-9b

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Ahxt

Lite Llama 460M 1T

huggingface-llm-ahxt-litellama-460m-1t

텍스트 생성

mit

아니요

ml.g5.2xlarge

Ai-영구

다국어 GPT

huggingface-llm-ai-forever-mgpt

텍스트 생성

apache-2.0

아니요

ml.g5.2xlarge

Aisingapore

Llama3 8B SEA-Lion v2.1 Instruct

huggingface-llm-llama3-8b-sealionv21-instruct

텍스트 생성

llama3

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Aisingapore

SEA-LION 3B

huggingface-llm-sealion-3b

텍스트 생성

mit

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.p3.8xlarge

Aisingapore

SEA-LION 7B

huggingface-llm-sealion-7b

텍스트 생성

mit

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Aisingapore

SEA-LION 7B 지침

huggingface-llm-sealion-7b-instruct

텍스트 생성

mit

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Alibaba-Nlp

Alibaba-NLP gte-Qwen2-7B-instruct

huggingface-textembedding-gte-qwen2-7b-instruct

텍스트 임베딩

Apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge

알레나이

Olmo-3-7B-Instruct

huggingface-textgeneration-olmo-3-7b-instruct

텍스트 생성

apache-2.0

아니요

ml.g6e.24xlarge

Amazon

크로노스 2

pytorch-forecasting-chronos-2

시계열 예측

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.2xlarge, ml.g6e.xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge

Amazon

Falcon 라이트

huggingface-llm-amazon-falconlite

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge

Amazon

Falcon Lite 2

huggingface-llm-amazon-falconlite2

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge

Amazon

Mistral Lite

huggingface-llm-amazon-mistrallite

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Autogluon

크로노스 볼트(기본)

autogluon-forecasting-chronos-bolt-base

시계열 예측

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.2xlarge

Autogluon

크로노스 볼트(소형)

autogluon-forecasting-chronos-bolt-small

시계열 예측

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.2xlarge

Autogluon

Chronos-T5(기본)

autogluon-forecasting-chronos-t5-base

시계열 예측

apache-2.0

아니요

ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.p3.2xlarge

Autogluon

Chronos-T5(대형)

autogluon-forecasting-chronos-t5-large

시계열 예측

apache-2.0

아니요

ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.p3.2xlarge

Autogluon

Chronos-T5(소형)

autogluon-forecasting-chronos-t5-small

시계열 예측

apache-2.0

아니요

ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.p3.2xlarge

바이

BAAI bge-base-en-v1.5

huggingface-textembedding-bge-base-en-v1-5

텍스트 임베딩

MIT

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge

바이

BGE Base En

huggingface-sentencesimilarity-bge-base-en

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

바이

BGE Base En V1.5

huggingface-sentencesimilarity-bge-base-en-v1-5

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

바이

BGE Large En

huggingface-sentencesimilarity-bge-large-en

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

바이

BGE Large En V1.5

huggingface-sentencesimilarity-bge-large-en-v1-5

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

바이

BGE M3

huggingface-sentencesimilarity-bge-m3

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

바이

BGE 스몰 엔

huggingface-sentencesimilarity-bge-small-en

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

바이

BGE Small En V1.5

huggingface-sentencesimilarity-bge-small-en-v1-5

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Berkeley-Nest

Starling LM 7B 알파

huggingface-llm-berkeley-nest-starling-lm-7b-alpha

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge

바라트게나이

Param2-17B-A2.4B-사고

huggingface-llm-param2-17b-a2-4b-thinking

텍스트 생성

해당 사항 없음

아니요

ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge

빅코드

StarCoder

huggingface-llm-starcoder

텍스트 생성

bigcode-openrail-m

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

빅코드

StarCoderBase

huggingface-llm-starcoderbase

텍스트 생성

bigcode-openrail-m

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

빅사이언스

블룸 1b1

huggingface-textgeneration-bloom-1b1

텍스트 생성

bigscience-bloom-rail-1.0

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

빅사이언스

Bloom 3B

huggingface-textgeneration1-bloom-3b

텍스트 생성

bigscience-bloom-rail-1.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

빅사이언스

Bloom 7B1

huggingface-textgeneration1-bloom-7b1

텍스트 생성

bigscience-bloom-rail-1.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

빅사이언스

Bloomz 1b7

huggingface-textgeneration-bloomz-1b7

텍스트 생성

bigscience-bloom-rail-1.0

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

빅사이언스

BloomZ 7B1 FP16

huggingface-textgeneration1-bloomz-7b1-fp16

텍스트 생성

bigscience-bloom-rail-1.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

빙수

Bingsu 내 한국의 안정적인 확산 v1 5

huggingface-txt2img-bingsu-my-korean-stable-diffusion-v1-5

Text-to-Image

creativeml-openrail-m

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.p3.2xlarge

Black-Forest-Labs

블랙 포리스트 랩 FLUX.1[스켈]

huggingface-txt2img-black-forest-labs-flux-1-schnell

Text-to-Image

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Black-Forest-Labs

FLUX.2-클레인-베이스-4B

huggingface-img2img-flux-2-klein-base-4b

Image-Text-to-Image

Apache-2.0

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.12xlarge, ml.g7e.24xlarge, ml.g7e.2xlarge, ml.g7e.48xlarge, ml.g7e.8xlarge

인지 계산

Dolphin 2.2.1 Mistral 7B

huggingface-llm-dolphin-2-2-1-mistral-7b

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge

인지 계산

Dolphin 2.5 Mistral 8 7B

huggingface-llm-dolphin-2-5-mixtral-8x7b

텍스트 생성

apache-2.0

아니요

ml.g5.48xlarge

인지 계산

Dolphin 2.7 Mistral 8 7B

huggingface-llm-dolphin-2-7-mixtral-8x7b

텍스트 생성

apache-2.0

아니요

ml.g5.48xlarge

인지 계산

Dolphin 2.9 Llama 3 8b

huggingface-llm-cognitive-dolphin-29-llama3-8b

텍스트 생성

기타

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Cohereforai

Aya 101

huggingface-llm-aya-101

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

교차 인코더

크로스 인코더 Nli Deberta Base

huggingface-zstc-cross-encoder-nli-deberta-base

제로샷 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

교차 인코더

크로스 인코더 Nli Distilroberta Base

huggingface-zstc-cross-encoder-nli-distilroberta-base

제로샷 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

교차 인코더

크로스 인코더 Nli MiniLM2 L6 H768

huggingface-zstc-cross-encoder-nli-minilm2-l6-h768

제로샷 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

교차 인코더

크로스 인코더 Nli Roberta Base

huggingface-zstc-cross-encoder-nli-roberta-base

제로샷 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Cyberagent

CyberAgentLM2-7B-Chat(CALM2-7B-Chat)

huggingface-llm-calm2-7b-chat-bf16

텍스트 생성

apache-2.0

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge

Databricks

DBRX Base

huggingface-llm-dbrx-base

텍스트 생성

databricks-open-model

아니요

ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Databricks

DBRX Instruct

huggingface-llm-dbrx-instruct

텍스트 생성

databricks-open-model

아니요

ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Databricks

Dolly V2 12b BF16

huggingface-textgeneration-dolly-v2-12b-bf16

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Databricks

Dolly V2 3b BF16

huggingface-textgeneration-dolly-v2-3b-bf16

텍스트 생성

apache-2.0

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Deepseek-Ai

DeepSeek-OCR

deepseek-vlm-deepseek-ocr

Image-Text-to-Text

mit

아니요

ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.16xlarge, ml.g6e.g6e.xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6xlarge, ml.g6e.g6xlarge, ml

Deepseek-Ai

DeepSeek-R1

deepseek-llm-r1

텍스트 생성

mit

아니요

ml.p5e.48xlarge, ml.p5en.48xlarge

Deepseek-Ai

DeepSeek-R1-0528

deepseek-llm-r1-0528

텍스트 생성

mit

아니요

ml.p5e.48xlarge, ml.p5en.48xlarge

Deepseek-Ai

DeepSeek-R1-Distill-Llama-70B

deepseek-llm-r1-distill-llama-70b

텍스트 생성

mit

예

기본값: ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • djl (Deep Java Library 서빙 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), generate_lowest_latency (생성, 지연 시간 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • modify_best_price_performance (수정, 밸런스), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_cost (수정, 비용 최적화), modify_lowest_latency (수정, 지연 시간 최적화), summarize_best_price_performance (요약, 밸런스), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.48xlarge

Deepseek-Ai

DeepSeek-R1-Distill-Llama-8B

deepseek-llm-r1-distill-llama-8b

텍스트 생성

mit

예

기본값: ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.12xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • djl (Deep Java Library 서빙 컨테이너): ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.12xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g7e.2xlarge

  • interact_best_price_performance (상호 작용, 밸런스), modify_best_price_performance (수정, 밸런스), modify_lowest_cost (수정, 비용 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • interact_lowest_cost (상호 작용, 비용 최적화): ml.g6.48xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.12xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화), summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge

  • summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge

Deepseek-Ai

DeepSeek-R1-Distill-Qwen-1.5B

deepseek-llm-r1-distill-qwen-1-5b

텍스트 생성

mit

예

기본값: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화), summarize_best_price_performance (요약, 밸런스), summarize_lowest_cost (요약, 비용 최적화): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.4xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.4xlarge, ml.g7e.4xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g6.24xlarge, ml.g6e.2xlarge, ml.g7e.2xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge

Deepseek-Ai

DeepSeek-R1-Distill-Qwen-14B

deepseek-llm-r1-distill-qwen-14b

텍스트 생성

mit

예

기본값: ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.4xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g7e.4xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.4xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화), summarize_best_price_performance (요약, 밸런스), summarize_highest_throughput (요약, 처리량 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6e.24xlarge, ml.g7e.2xlarge, ml.p5en.48xlarge

  • summarize_lowest_cost (요약, 비용 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.48xlarge

Deepseek-Ai

DeepSeek-R1-Distill-Qwen-32B

deepseek-llm-r1-distill-qwen-32b

텍스트 생성

mit

예

기본값: ml.g6e.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.4xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

  • modify_best_price_performance (수정, 밸런스), modify_lowest_cost (수정, 비용 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge

Deepseek-Ai

DeepSeek-R1-Distill-Qwen-7B

deepseek-llm-r1-distill-qwen-7b

텍스트 생성

mit

예

기본값: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화), modify_highest_throughput (수정, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화), summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge

  • modify_best_price_performance (수정, 밸런스), modify_lowest_cost (수정, 비용 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

Deepseek-Ai

DeepSeek-V3.1

deepseek-llm-deepseek-v3-1

텍스트 생성

mit

아니요

ml.p5e.48xlarge, ml.p5en.48xlarge

Deepseek-Ai

DeepSeek-V3.2

deepseek-llm-deepseek-v3-2

텍스트 생성

mit

아니요

ml.p5en.48xlarge

폐기

DistilBERT 기본 케이스

huggingface-eqa-distilbert-base-cased

질문 응답

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

폐기

DistilBERT 기본 케이스

huggingface-spc-distilbert-base-cased

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

폐기

DistilBERT 기본 케이스

huggingface-tc-distilbert-base-cased

텍스트 분류

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

폐기

DistilBERT 기본 다국어 대/소문자

huggingface-eqa-distilbert-base-multilingual-cased

질문 응답

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

폐기

DistilBERT 기본 다국어 대/소문자

huggingface-spc-distilbert-base-multilingual-cased

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

폐기

DistilBERT 기본 다국어 대/소문자

huggingface-tc-distilbert-base-multilingual-cased

텍스트 분류

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

폐기

DistilGPT 2

huggingface-textgeneration-distilgpt2

텍스트 생성

apache-2.0

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

폐기

DistilRoBERTa 기본

huggingface-eqa-distilroberta-base

질문 응답

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

폐기

DistilRoBERTa 기본

huggingface-tc-distilroberta-base

텍스트 분류

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

폐기

질문 응답

huggingface-eqa-distilbert-base-uncased

질문 응답

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

폐기

문장 쌍 분류

huggingface-spc-distilbert-base-uncased

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

폐기

텍스트 분류

huggingface-tc-distilbert-base-uncased

텍스트 분류

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

탄력적

Distilbert Base Uncased

huggingface-ner-distilbert-base-uncased-finetuned-conll03-eng

토큰 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

탄력적

개체명 인식

huggingface-ner-distilbert-base-cased-finetuned-conll03-eng

토큰 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

탄력적

개체명 인식

huggingface-ner-distilbert-base-cased-finetuned-conll03-english

토큰 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

에루테라이

GOT-J 6B

huggingface-textgeneration1-gpt-j-6b

텍스트 생성

apache-2.0

예

ml.g5.12xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

에루테라이

GPT-Neo 125M

huggingface-textgeneration1-gpt-neo-125m

텍스트 생성

mit

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

에루테라이

gpt-neox-20b

huggingface-textgeneration2-gpt-neox-20b-fp16

텍스트 생성

Apache-2.0

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge

에루테라이

Pythia 160m 중복

huggingface-llm-eleutherai-pythia-160m-deduped

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge

에루테라이

Pythia 7m Deduped

huggingface-llm-eleutherai-pythia-70m-deduped

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge

엘리자

ELYZA-japanese-Llama-2-13b-chat

huggingface-llm-elyza-japanese-llama-2-13b-chat

텍스트 생성

llama2

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

엘라이자

ELYZA-japanese-Llama-2-13b-fast-chat

huggingface-llm-elyza-japanese-llama-2-13b-fast-chat

텍스트 생성

llama2

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

엘라이자

ELYZA-japanese-Llama-2-7b-chat

huggingface-llm-elyza-japanese-llama-2-7b-chat-bf16

텍스트 생성

llama2

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.xlarge

엘라이자

ELYZA-japanese-Llama-2-7b-fast-chat

huggingface-llm-elyza-japanese-llama-2-7b-fast-chat-bf16

텍스트 생성

llama2

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.xlarge

Emrecan

Emrecan Bert Base 터키어 Cased Allnli Tr

huggingface-zstc-emrecan-bert-base-turkish-cased-allnli-tr

제로샷 분류

mit

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebook

제로샷 텍스트 분류

huggingface-zstc-facebook-bart-large-mnli

제로샷 분류

mit

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

RoBERTa 기본

huggingface-eqa-roberta-base

질문 응답

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

RoBERTa 기본

huggingface-spc-roberta-base

Fill-Mask

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

RoBERTa 기본

huggingface-tc-roberta-base

텍스트 분류

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

RoBERTa 라지

huggingface-eqa-roberta-large

질문 응답

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

RoBERTa 라지

huggingface-spc-roberta-large

Fill-Mask

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

RoBERTa 라지

huggingface-tc-roberta-large

텍스트 분류

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

XLM CLM 영어-독일어

huggingface-spc-xlm-clm-ende-1024

Fill-Mask

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

XLM CLM 영어-독일어

huggingface-tc-xlm-clm-ende-1024

텍스트 분류

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

XLM MLM 15 XNLI 언어

huggingface-spc-xlm-mlm-xnli15-1024

Fill-Mask

cc-by-nc-4.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

XLM MLM 영어-독일어

huggingface-spc-xlm-mlm-ende-1024

Fill-Mask

cc-by-nc-4.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

XLM MLM 영어-독일어

huggingface-tc-xlm-mlm-ende-1024

텍스트 분류

cc-by-nc-4.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

XLM MLM 영어-루마니아어

huggingface-spc-xlm-mlm-enro-1024

Fill-Mask

cc-by-nc-4.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

XLM MLM 영어-루마니아어

huggingface-tc-xlm-mlm-enro-1024

텍스트 분류

cc-by-nc-4.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

XLM MLM TLM 15 XNLI 언어

huggingface-spc-xlm-mlm-tlm-xnli15-1024

Fill-Mask

cc-by-nc-4.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Facebookai

XLM MLM TLM 15 XNLI 언어

huggingface-tc-xlm-mlm-tlm-xnli15-1024

텍스트 분류

cc-by-nc-4.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

피티버스

Fictiverse Stable Diffusion BalloonArt 모델

huggingface-txt2img-fictiverse-stable-diffusion-balloonart

Text-to-Image

creativeml-openrail-m

아니요

ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

피티버스

Fictiverse Stable Diffusion Microscope 모델

huggingface-txt2img-fictiverse-stable-diffusion-micro-model

Text-to-Image

오픈레일

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.p3.2xlarge

피티버스

Fictiverse Stable Diffusion PaperCut 모델

huggingface-txt2img-fictiverse-stable-diffusion-papercut-model

Text-to-Image

creativeml-openrail-m

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.p3.2xlarge

피티버스

Fictiverse Stable Diffusion VoxelArt 모델

huggingface-txt2img-fictiverse-stable-diffusion-voxelart-model

Text-to-Image

creativeml-openrail-m

아니요

ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Google

Bigbird Pegasus Large Arxiv

huggingface-summarization-bigbird-pegasus-large-arxiv

텍스트 요약

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google

Bigbird Pegasus Large Pubmed

huggingface-summarization-bigbird-pegasus-large-pubmed

텍스트 요약

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google

Flan-T5 Base

huggingface-text2text-flan-t5-base

Text2Text 생성

apache-2.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Google

Flan-T5 Large

huggingface-text2text-flan-t5-large

Text2Text 생성

apache-2.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Google

Flan-T5 Small

huggingface-text2text-flan-t5-small

Text2Text 생성

apache-2.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Google

Flan-T5 XL

huggingface-text2text-flan-t5-xl

Text2Text 생성

apache-2.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Google

Flan-T5 XXL

huggingface-text2text-flan-t5-xxl

Text2Text 생성

apache-2.0

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Google

Gemma 2 27B

huggingface-llm-gemma-2-27b

텍스트 생성

젬마

아니요

ml.g5.48xlarge, ml.p4d.24xlarge

Google

Gemma 2 27B 지침

huggingface-llm-gemma-2-27b-instruct

텍스트 생성

젬마

아니요

ml.g5.48xlarge, ml.p4d.24xlarge

Google

Gemma 2 2B

huggingface-llm-gemma-2-2b

텍스트 생성

젬마

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Google

Gemma 2 2B 지침

huggingface-llm-gemma-2-2b-instruct

텍스트 생성

젬마

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Google

Gemma 2 9B

huggingface-llm-gemma-2-9b

텍스트 생성

젬마

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Google

Gemma 2 9B 지침

huggingface-llm-gemma-2-9b-instruct

텍스트 생성

젬마

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Google

Gemma 3 1B 지침

huggingface-llm-gemma-3-1b-instruct

텍스트 생성

젬마

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Google

Gemma 3 27B 지침

huggingface-vlm-gemma-3-27b-instruct

Image-Text-to-Text

젬마

아니요

ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Google

Gemma 3 4B 지침

huggingface-vlm-gemma-3-4b-instruct

Image-Text-to-Text

젬마

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Google

Gemma-2b

huggingface-llm-gemma-2b

텍스트 생성

젬마

예

기본값: ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge, ml.p3.2xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g4dn.2xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Google

gemma-2b-it

huggingface-llm-gemma-2b-instruct

텍스트 생성

젬마

예

기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

  • generate_highest_throughput (생성, 처리량 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Google

gemma-4-26b-a4b-it

huggingface-vlm-gemma-4-26b-a4b-it

텍스트 생성

apache-2.0

아니요

기본값: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 균형), interact_lowest_cost (상호 작용, 비용 최적화), modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화), summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.p5.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge

  • modify_highest_throughput (수정, 처리량 최적화), modify_lowest_latency (수정, 지연 시간 최적화), summarize_highest_throughput (요약, 처리량 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Google

gemma-4-31b-it

huggingface-vlm-gemma-4-31b-it

Image-Text-to-Text

Apache-2.0

예

ml.g6.24xlarge, ml.g7e.2xlarge

Google

gemma-4-E2B-it

huggingface-vlm-gemma-4-e2b-instruct

Image-Text-to-Text

Apache-2.0

아니요

기본값: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.4xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.4xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6.8xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge

  • modify_best_price_performance (수정, 밸런스), modify_lowest_cost (수정, 비용 최적화), summarize_best_price_performance (요약, 밸런스), summarize_lowest_cost (요약, 비용 최적화): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge

  • summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

Google

gemma-4-e4b-it

huggingface-vlm-gemma-4-e4b-it

텍스트 생성

apache-2.0

예

기본값: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런싱), generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런싱), interact_lowest_cost (상호 작용, 비용 최적화), modify_best_price_performance (수정, 밸런싱), modify_lowest_cost (수정, 비용 최적화): ml.g6.xlarge, ml.g6e.xlarge, ml.p5.48xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.2xlarge, ml.g6e.2xlarge, ml.p5en.48xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.16xlarge, ml.g6e.16xlarge, ml.p5.48xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화), summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.p5.48xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.p5.48xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.16xlarge, ml.p5.48xlarge

  • summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.8xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Google

Gemma-7b

huggingface-llm-gemma-7b

텍스트 생성

젬마

예

ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Google

gemma-7b-it

huggingface-llm-gemma-7b-instruct

텍스트 생성

젬마

예

기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g5.48xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Google-Bert

BERT Base Cased

huggingface-eqa-bert-base-cased

질문 응답

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Base Cased

huggingface-spc-bert-base-cased

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Base Cased

huggingface-tc-bert-base-cased

텍스트 분류

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Base Multilingual Cased

huggingface-eqa-bert-base-multilingual-cased

질문 응답

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Base Multilingual Cased

huggingface-spc-bert-base-multilingual-cased

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Base Multilingual Cased

huggingface-tc-bert-base-multilingual-cased

텍스트 분류

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT 기본 다국어 대/소문자 미지정

huggingface-eqa-bert-base-multilingual-uncased

질문 응답

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT 기본 다국어 대/소문자 미지정

huggingface-spc-bert-base-multilingual-uncased

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT 기본 다국어 대/소문자 미지정

huggingface-tc-bert-base-multilingual-uncased

텍스트 분류

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Base Uncased

huggingface-eqa-bert-base-uncased

질문 응답

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Base Uncased

huggingface-spc-bert-base-uncased

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Base Uncased

huggingface-tc-bert-base-uncased

텍스트 분류

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Large Cased

huggingface-eqa-bert-large-cased

질문 응답

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Large Cased

huggingface-spc-bert-large-cased

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Large Cased

huggingface-tc-bert-large-cased

텍스트 분류

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Large Cased Whole Word Masking

huggingface-eqa-bert-large-cased-whole-word-masking

질문 응답

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Large Cased Whole Word Masking

huggingface-spc-bert-large-cased-whole-word-masking

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Large Uncased

huggingface-spc-bert-large-uncased

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Large Uncased

huggingface-tc-bert-large-uncased

텍스트 분류

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

BERT Large Uncased Whole Word Masking

huggingface-spc-bert-large-uncased-whole-word-masking

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-Bert

마스크 채우기

huggingface-fillmask-bert-base-uncased

Fill-Mask

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-T5

기계 번역

huggingface-translation-t5-small

번역

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-T5

t5 Base en de

huggingface-translation-t5-base

번역

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Google-T5

t5 Large en de

huggingface-translation-t5-large

번역

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

그라데이션

Llama-3 8B 그라데이션 지침 1048k

huggingface-llm-llama-3-8b-instruct-gradient

텍스트 생성

llama3

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

그라데이션

Llama-3 8B 그라데이션 지침 262k

huggingface-llm-gradientai-llama-3-8B-instruct-262k

텍스트 생성

llama3

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Helsinki-Nlp

헬싱키 opus en es

huggingface-translation-opus-mt-en-es

번역

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Helsinki-Nlp

헬싱키 오푸스 en vi

huggingface-translation-opus-mt-en-vi

번역

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Helsinki-Nlp

Helsinki opus mul en

huggingface-translation-opus-mt-mul-en

번역

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Huggingfaceh4

HuggingFaceH4 zephyr-orpo-141b-A35b-v0.1

huggingface-llm-huggingfaceh4-zephyr-orpo-141b-a35b-v01

텍스트 생성

apache-2.0

아니요

ml.g5.48xlarge, ml.p4d.24xlarge

Huggingfaceh4

스타 채팅 알파

huggingface-llm-huggingfaceh4-starchat-alpha

텍스트 생성

bigcode-openrail-m

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge

Huggingfaceh4

스타 채팅 베타

huggingface-llm-huggingfaceh4-starchat-beta

텍스트 생성

bigcode-openrail-m

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Huggingfaceh4

Zephyr 7B 베타

huggingface-llm-huggingfaceh4-zephyr-7b-beta

텍스트 생성

mit

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Ibm

품질 관리형 Paraphrase 생성

huggingface-text2text-qcpg-sentences

Text2Text 생성

apache-2.0

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

아이디어-Ccnl

IDEA CCNL Taiyi Stable Diffusion 1B 중국 EN v0.1

huggingface-txt2img-idea-ccnl-taiyi-1b-chinese-en-v01

Text-to-Image

creativeml-openrail-m

아니요

ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

아이디어-Ccnl

IDEA CCNL Taiyi Stable Diffusion 1B 중국어 v0.1

huggingface-txt2img-idea-ccnl-taiyi-1b-chinese-v0-1

Text-to-Image

creativeml-openrail-m

아니요

ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Intfloat

E5 기본

huggingface-sentencesimilarity-e5-base

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Intfloat

E5 기본 V2

huggingface-sentencesimilarity-e5-base-v2

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Intfloat

E5 라지 V2

huggingface-sentencesimilarity-e5-large-v2

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Intfloat

다국어 E5 기본

huggingface-sentencesimilarity-multilingual-e5-base

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Intfloat

다국어 E5 라지

huggingface-sentencesimilarity-multilingual-e5-large

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

랑보트

Langboat Guohua Diffusion

huggingface-txt2img-langboat-guohua-diffusion

Text-to-Image

creativeml-openrail-m

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.p3.2xlarge

소문자

Lighteternal Nli Xlm R 그리스어

huggingface-zstc-lighteternal-nli-xlm-r-greek

제로샷 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Lightonai

LightOnOCR-2-1B

huggingface-vlm-lightonai-lightonocr-2-1b

Image-Text-to-Text

Apache-2.0

아니요

ml.g6.2xlarge

Meta

Llama-2-7b-hf

meta-textgeneration-llama-2-7b

텍스트 생성

llama2

예

기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 균형), generate_lowest_cost (생성, 비용 최적화): ml.g5.4xlarge, ml.g6.4xlarge, ml.g6e.4xlarge

  • generate_highest_throughput (생성, 처리량 최적화), generate_lowest_latency (생성, 지연 시간 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.2xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

Meta

Llama-3.1-70B-Instruct

meta-textgeneration-llama-3-1-70b-instruct

텍스트 생성

llama3.1

예

기본값: ml.g6e.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • generate_highest_throughput (생성, 처리량 최적화), generate_lowest_latency (생성, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g5.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_cost (수정, 비용 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance (요약, 균형), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.p5en.48xlarge

Meta

Llama-3.1-8B-Instruct

meta-textgeneration-llama-3-1-8b-instruct

텍스트 생성

llama3.1

예

기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_latency (수정, 지연 시간 최적화), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.2xlarge

  • interact_lowest_cost (상호 작용, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.p4d.24xlarge

  • modify_lowest_cost (수정, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

  • summarize_best_price_performance (요약, 균형): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • summarize_lowest_cost (요약, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

Meta

Llama-3.2-1B

meta-textgeneration-llama-3-2-1b

텍스트 생성

llama3.2

예

기본값: ml.g4dn.12xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p3.16xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g4dn.xlarge, ml.g6.2xlarge, ml.g6e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화): ml.g4dn.xlarge, ml.g6.2xlarge, ml.g6e.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6.xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g5.16xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g6.8xlarge, ml.g6e.2xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g5.2xlarge, ml.g6e.8xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g5.xlarge, ml.g6.24xlarge, ml.g6e.xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g6e.12xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.4xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

Meta

Llama-3.2-1B-Instruct

meta-textgeneration-llama-3-2-1b-instruct

텍스트 생성

llama3.2

예

기본값: ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.2xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.2xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge

  • interact_lowest_cost (상호 작용, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.8xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.8xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6e.xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6e.4xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance (요약, 균형): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.8xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g6e.24xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

  • summarize_lowest_cost (요약, 비용 최적화): ml.g4dn.12xlarge, ml.g5.xlarge, ml.g6.xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.8xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

Meta

Llama-3.2-3B

meta-textgeneration-llama-3-2-3b

텍스트 생성

llama3.2

예

기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6e.24xlarge, ml.p3.8xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g5.8xlarge, ml.g6e.8xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.p3.16xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g5.xlarge, ml.g6.4xlarge, ml.g6e.2xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p4d.24xlarge

  • modify_lowest_cost (수정, 비용 최적화): ml.g5.xlarge, ml.g6.4xlarge, ml.g6e.xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6e.8xlarge, ml.p3.16xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance (요약, 균형): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.p5.48xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • summarize_lowest_cost (요약, 비용 최적화): ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge

Meta

Llama-3.2-3B-Instruct

meta-textgeneration-llama-3-2-3b-instruct

텍스트 생성

llama3.2

예

기본값: ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.48xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), interact_best_price_performance (상호 작용, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.4xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_lowest_cost (수정, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance (요약, 균형): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • summarize_lowest_cost (요약, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

Meta

Llama-Guard-3-1B

meta-textgeneration-llama-guard-3-1b

텍스트 생성

llama3.2

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.p4d.24xlarge

Meta

Llama-Guard-3-8B

meta-textgeneration-llama-guard-3-8b

텍스트 생성

llama3.1

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge

Meta

메타 코드 Llama 13B

meta-textgeneration-llama-codellama-13b

텍스트 생성

llama2

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.p4d.24xlarge

Meta

메타 코드 Llama 13B Instruct

meta-textgeneration-llama-codellama-13b-instruct

텍스트 생성

llama2

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.p4d.24xlarge

Meta

메타 코드 Llama 13B Python

meta-textgeneration-llama-codellama-13b-python

텍스트 생성

llama2

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.p4d.24xlarge

Meta

메타 코드 Llama 34B

meta-textgeneration-llama-codellama-34b

텍스트 생성

llama2

예

기본값: ml.g5.48xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi (대형 모델 추론 컨테이너), lmi-optimized (추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

메타 코드 Llama 34B Instruct

meta-textgeneration-llama-codellama-34b-instruct

텍스트 생성

llama2

아니요

기본값: ml.g5.48xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi (대형 모델 추론 컨테이너), lmi-optimized (추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

메타 코드 Llama 34B Python

meta-textgeneration-llama-codellama-34b-python

텍스트 생성

llama2

예

기본값: ml.g5.48xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi (대형 모델 추론 컨테이너), lmi-optimized (추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

메타 코드 Llama 70B

meta-textgeneration-llama-codellama-70b

텍스트 생성

llama2

예

기본값: ml.g5.48xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi (대형 모델 추론 컨테이너), lmi-optimized (추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

메타 코드 Llama 70B Instruct

meta-textgeneration-llama-codellama-70b-instruct

텍스트 생성

llama2

아니요

기본값: ml.g5.48xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi (대형 모델 추론 컨테이너), lmi-optimized (추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

메타 코드 Llama 70B Neuron

meta-textgenerationneuron-llama-codellama-70b

텍스트 생성

llama2

아니요

ml.inf2.48xlarge

Meta

메타 코드 Llama 70B Python

meta-textgeneration-llama-codellama-70b-python

텍스트 생성

llama2

예

기본값: ml.g5.48xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi (대형 모델 추론 컨테이너), lmi-optimized (추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

메타 코드 Llama 7B

meta-textgeneration-llama-codellama-7b

텍스트 생성

llama2

예

기본값: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.2xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi-optimized (탐색적 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

메타 코드 Llama 7B Instruct

meta-textgeneration-llama-codellama-7b-instruct

텍스트 생성

llama2

아니요

기본값: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi-optimized (탐색적 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

메타 코드 Llama 7B Neuron

meta-textgenerationneuron-llama-codellama-7b

텍스트 생성

llama2

아니요

ml.inf2.8xlarge, ml.inf2.xlarge

Meta

메타 코드 Llama 7B Python

meta-textgeneration-llama-codellama-7b-python

텍스트 생성

llama2

예

기본값: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi-optimized (탐색적 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

메타 코드 Llama 7B Python Neuron

meta-textgenerationneuron-llama-codellama-7b-python

텍스트 생성

llama2

아니요

ml.inf2.8xlarge, ml.inf2.xlarge

Meta

Meta Llama 2 13B

meta-textgeneration-llama-2-13b

텍스트 생성

llama2

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 2 13B Chat

meta-textgeneration-llama-2-13b-f

텍스트 생성

llama2

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 2 13B Chat Neuron

meta-textgenerationneuron-llama-2-13b-f

텍스트 생성

llama2

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge

Meta

Meta Llama 2 13B Neuron

meta-textgenerationneuron-llama-2-13b

텍스트 생성

llama2

예

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge

Meta

Meta Llama 2 70B

meta-textgeneration-llama-2-70b

텍스트 생성

llama2

예

기본값: ml.g5.48xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi (대형 모델 추론 컨테이너), lmi-optimized (추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 2 70B Chat

meta-textgeneration-llama-2-70b-f

텍스트 생성

llama2

예

기본값: ml.g5.48xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi (대형 모델 추론 컨테이너), lmi-optimized (추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 2 70B Chat Neuron

meta-textgenerationneuron-llama-2-70b-f

텍스트 생성

llama2

아니요

ml.inf2.48xlarge

Meta

Meta Llama 2 70B Neuron

meta-textgenerationneuron-llama-2-70b

텍스트 생성

llama2

아니요

ml.inf2.48xlarge

Meta

Meta Llama 2 7B Chat

meta-textgeneration-llama-2-7b-f

텍스트 생성

llama2

예

기본값: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi-optimized (탐색적 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

  • neuron (AWS Inferentia 및 Trainium 액셀러레이터): ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge

Meta

Meta Llama 2 7B Chat Neuron

meta-textgenerationneuron-llama-2-7b-f

텍스트 생성

llama2

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge

Meta

Meta Llama 2 7B Neuron

meta-textgenerationneuron-llama-2-7b

텍스트 생성

llama2

예

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge

Meta

Meta Llama 3 1 8B Neuron

meta-textgenerationneuron-llama-3-1-8b

텍스트 생성

llama3.1

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge

Meta

Meta Llama 3 70B

meta-textgeneration-llama-3-70b

텍스트 생성

llama3

예

ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 3 70B Instruct

meta-textgeneration-llama-3-70b-instruct

텍스트 생성

llama3

예

ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 3 70B Instruct Neuron

meta-textgenerationneuron-llama-3-70b-instruct

텍스트 생성

llama3

아니요

ml.trn1.32xlarge

Meta

Meta Llama 3 70B Neuron

meta-textgenerationneuron-llama-3-70b

텍스트 생성

llama3

아니요

ml.trn1.32xlarge

Meta

Meta Llama 3 8B Instruct

meta-textgeneration-llama-3-8b-instruct

텍스트 생성

llama3

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 3 8B Instruct Neuron

meta-textgenerationneuron-llama-3-8b-instruct

텍스트 생성

llama3

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge

Meta

Meta Llama 3 8B Neuron

meta-textgenerationneuron-llama-3-8b

텍스트 생성

llama3

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge

Meta

Meta Llama 3.1 405B FP8

meta-textgeneration-llama-3-1-405b-fp8

텍스트 생성

llama3.1

예

ml.p4de.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 3.1 405B Instruct FP8

meta-textgeneration-llama-3-1-405b-instruct-fp8

텍스트 생성

llama3.1

예

ml.p4de.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 3.1 70B

meta-textgeneration-llama-3-1-70b

텍스트 생성

llama3.1

예

ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 3.1 70B Instruct Neuron

meta-textgenerationneuron-llama-3-1-70b-instruct

텍스트 생성

llama3.1

아니요

ml.inf2.48xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge

Meta

Meta Llama 3.1 70B Neuron

meta-textgenerationneuron-llama-3-1-70b

텍스트 생성

llama3.1

아니요

ml.inf2.48xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge

Meta

Meta Llama 3.1 8B

meta-textgeneration-llama-3-1-8b

텍스트 생성

llama3.1

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 3.1 8B Instruct Neuron

meta-textgenerationneuron-llama-3-1-8b-instruct

텍스트 생성

llama3.1

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge

Meta

Meta Llama 3.2 11B 비전

meta-vlm-llama-3-2-11b-vision

Image-Text-to-Text

llama3.2

예

ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 3.2 11B Vision 지침

meta-vlm-llama-3-2-11b-vision-instruct

Image-Text-to-Text

llama3.2

예

ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 3.2 1B Instruct Neuron

meta-textgenerationneuron-llama-3-2-1b-instruct

텍스트 생성

llama3.2

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge

Meta

Meta Llama 3.2 1B 뉴런

meta-textgenerationneuron-llama-3-2-1b

텍스트 생성

llama3.2

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge

Meta

Meta Llama 3.2 3B Instruct Neuron

meta-textgenerationneuron-llama-3-2-3b-instruct

텍스트 생성

llama3.2

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge

Meta

Meta Llama 3.2 3B Neuron

meta-textgenerationneuron-llama-3-2-3b

텍스트 생성

llama3.2

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge

Meta

Meta Llama 3.2 90B Vision

meta-vlm-llama-3-2-90b-vision

Image-Text-to-Text

llama3.2

예

ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 3.2 90B Vision 지침

meta-vlm-llama-3-2-90b-vision-instruct

Image-Text-to-Text

llama3.2

예

ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 3.3 70B Instruct

meta-textgeneration-llama-3-3-70b-instruct

텍스트 생성

llama3.3

예

기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi-optimized (탐색적 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.16xlarge, ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Meta

Meta Llama 4 Maverick 17B 128E FP8

meta-vlm-llama-4-maverick-17b-128e-instruct-fp8

Image-Text-to-Text

llama4

아니요

ml.p5e.48xlarge, ml.p5en.48xlarge

Meta

Meta Llama 4 Maverick 17B 128E 지침

meta-vlm-llama-4-maverick-17b-128e-instruct

Image-Text-to-Text

llama4

아니요

ml.p5e.48xlarge, ml.p5en.48xlarge

Meta

Meta Llama 4 Scout 17B 16E 지침

meta-vlm-llama-4-scout-17b-16e-instruct

Image-Text-to-Text

llama4

예

ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Meta

Meta Llama Guard 3 11B Vision

meta-vlm-llama-guard-3-11b-vision

Image-Text-to-Text

llama3.2

아니요

ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Meta

Meta Llama Guard 3 1B Neuron

meta-textgenerationneuron-llama-guard-3-1b

텍스트 생성

llama3.2

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge

Meta

Meta Llama Guard 3 8B Neuron

meta-textgenerationneuron-llama-guard-3-8b

텍스트 생성

llama3.1

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge

Meta

Meta Llama 가드 7B

meta-textgeneration-llama-guard-7b

텍스트 생성

llama2

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge

Meta

Meta Llama 프롬프트 가드 86M

meta-tc-llama-prompt-guard-86m

텍스트 분류

llama3.1

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge

Meta

Meta SAM 2.1 Hiera Base Plus

meta-vs-sam-2-1-hiera-base-plus

이미지 세분화

apache-2.0

아니요

ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta SAM 2.1 Hiera 라지

meta-vs-sam-2-1-hiera-large

이미지 세분화

apache-2.0

아니요

ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta SAM 2.1 Hiera 스몰

meta-vs-sam-2-1-hiera-small

이미지 세분화

apache-2.0

아니요

ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta SAM 2.1 Hiera Tiny

meta-vs-sam-2-1-hiera-tiny

이미지 세분화

apache-2.0

아니요

ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Meta

Meta-Llama-3-8B

meta-textgeneration-llama-3-8b

텍스트 생성

llama3

예

기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p3.8xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 균형), generate_lowest_cost (생성, 비용 최적화): ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g4dn.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Microsoft

Phi-2

huggingface-llm-phi-2

텍스트 생성

mit

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Microsoft

Phi-3-Mini-128K-Instruct

huggingface-llm-phi-3-mini-128k-instruct

텍스트 생성

mit

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Microsoft

Phi-3-mini-4k-instruct

huggingface-llm-phi-3-mini-4k-instruct

텍스트 생성

mit

아니요

기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), interact_best_price_performance (상호 작용, 밸런스): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Microsoft

Phi-3.5-mini-instruct

huggingface-llm-phi-3-5-mini-instruct

텍스트 생성

mit

아니요

ml.g5.48xlarge, ml.p4d.24xlarge

Microsoft

Phi-4-mini-instruct

huggingface-llm-phi-4-mini-instruct

텍스트 생성

Apache-2.0

아니요

기본값: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화), modify_lowest_cost (수정, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_latency (수정, 지연 시간 최적화), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.8xlarge, ml.g7e.8xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.12xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화), summarize_lowest_cost (요약, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • summarize_best_price_performance (요약, 균형): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Microsoft

테이블 변환기 감지

huggingface-od-microsoft-table-transformer-detection

객체 감지

mit

아니요

ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge

미니맥사이

MiniMax-M2

huggingface-llm-minimax-m2

텍스트 생성

기타

아니요

ml.p4de.24xlarge

미니맥사이

MiniMax-M2.1

huggingface-llm-minimax-m2-1

텍스트 생성

기타

아니요

ml.p4de.24xlarge, ml.p5.48xlarge

미니맥사이

MiniMax-M2.5

huggingface-llm-minimax-m2-5

텍스트 생성

기타

아니요

ml.p5.48xlarge

미니맥사이

MiniMax-M2.7

huggingface-llm-minimax-m2-7

텍스트 생성

기타

아니요

기본값: ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런싱), generate_highest_throughput (생성, 처리량 최적화), generate_lowest_cost (생성, 비용 최적화), generate_lowest_latency (생성, 지연 시간 최적화), interact_best_price_performance (상호 작용, 밸런싱), interact_highest_throughput (상호 작용, 처리량 최적화), interact_lowest_cost (상호 작용, interact_lowest_latency 지연 시간 최적화), summarize_best_price_performance (요약, 밸런싱), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g7e.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_cost (수정, 비용 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Mistralai

Ministral-3-14B-Instruct-2512

huggingface-llm-ministral-3-14b-instruct-2512

텍스트 생성

Apache-2.0

아니요

기본값: ml.p5.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.12xlarge, ml.g6e.48xlarge, ml.p5.4xlarge

  • generate_highest_throughput (생성, 처리량 최적화), generate_lowest_latency (생성, 지연 시간 최적화), interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g5.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_cost (수정, 비용 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.p5.48xlarge, ml.p5.4xlarge, ml.p5en.48xlarge

Mistralai

Mistral 7B Instruct Neuron

huggingface-llmneuron-mistral-7b-instruct

텍스트 생성

apache-2.0

아니요

ml.inf2.8xlarge, ml.inf2.xlarge

Mistralai

Mistral 7B Neuron

huggingface-llmneuron-mistral-7b

텍스트 생성

apache-2.0

아니요

ml.inf2.8xlarge, ml.inf2.xlarge

Mistralai

Mistral Nemo Base 2407

huggingface-llm-mistral-nemo-base-2407

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge

Mistralai

Mistral Nemo Instruct 2407

huggingface-llm-mistral-nemo-instruct-2407

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge

Mistralai

Mistral Pixtral-12B-2409

huggingface-vlm-mistral-pixtral-12b-2409

Image-Text-to-Text

apache-2.0

아니요

ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Mistralai

Mistral-7B-Instruct-v0.2

huggingface-llm-mistral-7b-instruct

텍스트 생성

apache-2.0

아니요

기본값: ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.2xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화), modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6e.8xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance (요약, 균형): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • summarize_lowest_cost (요약, 비용 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.p4d.24xlarge

Mistralai

Mistral-7B-Instruct-v0.3

huggingface-llm-mistral-7b-instruct-v3

텍스트 생성

apache-2.0

아니요

기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 균형), interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_latency (수정, 지연 시간 최적화), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화), modify_lowest_cost (수정, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance (요약, 균형): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • summarize_lowest_cost (요약, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

Mistralai

Mistral-7B-Instruct-v0.3

huggingface-llm-mistral-7b-v3

텍스트 생성

apache-2.0

아니요

기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 균형), interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화), modify_lowest_cost (수정, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance (요약, 균형): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • summarize_lowest_cost (요약, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

Mistralai

Mistral-7B-v0.1

huggingface-llm-mistral-7b

텍스트 생성

apache-2.0

예

기본값: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스), modify_lowest_cost (수정, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g5.48xlarge, ml.g6e.48xlarge, ml.p3.16xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g5.12xlarge, ml.g6.12xlarge, ml.p5.48xlarge

  • summarize_best_price_performance (요약, 균형), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

Mistralai

Mistral-Small-24B-Instruct-2501

huggingface-llm-mistral-small-24B-Instruct-2501

텍스트 생성

apache-2.0

아니요

기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), interact_best_price_performance (상호 작용, 밸런스): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), modify_highest_throughput (수정, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화), modify_lowest_cost (수정, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance (요약, 균형), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Mistralai

Mistral-Small-3.1-24B-Base-2503

huggingface-vlm-mistral-small-3-1-24b-base-2503

Image-Text-to-Text

apache-2.0

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

Mistralai

Mistral-Small-3.2-24B-Instruct-2506

huggingface-vlm-mistral-small-3-2-24b-instruct-2506

Image-Text-to-Text

apache-2.0

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

Mistralai

Mixtral 8x7B

huggingface-llm-mixtral-8x7b

텍스트 생성

apache-2.0

예

ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Mistralai

Mixtral-8x22B V1

huggingface-llm-mixtral-8x22B

텍스트 생성

apache-2.0

아니요

ml.p4d.24xlarge, ml.p4de.24xlarge

Mistralai

Mixtral-8x22B-Instruct-v0.1

huggingface-llm-mistralai-mixtral-8x22B-instruct-v0-1

텍스트 생성

apache-2.0

아니요

기본값: ml.p4de.24xlarge, ml.p5.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • tgi (텍스트 생성 추론 컨테이너): ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Mistralai

Mixtral-8x7B-Instruct-v0.1

huggingface-llm-mixtral-8x7b-instruct

텍스트 생성

apache-2.0

예

기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), interact_best_price_performance (상호 작용, 밸런스): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화), modify_highest_throughput (수정, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화), modify_lowest_cost (수정, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Mistralai

Voxtral-Mini-4B-Realtime-2602

huggingface-asr-voxtral-mini-4b-realtime-2602

텍스트 생성

Apache-2.0

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge

문슈타이

Kimi-K2.5

huggingface-llm-kimi-k2-5

텍스트 생성

기타

아니요

ml.p5en.48xlarge

모리차이어

MoritzLaurer MDeBERTa V3 Base Xnli 다국어 Nli 2mil7

huggingface-zstc-moritzlaurer-mdeberta3base-xnli-mling-nli-2m7

제로샷 분류

mit

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mosaicml

MPT 7B BF16

huggingface-textgeneration1-mpt-7b-bf16

텍스트 생성

Apache-2.0

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Mosaicml

MPT 7B 지침 BF16

huggingface-textgeneration1-mpt-7b-instruct-bf16

텍스트 생성

CC-BY-SA-3.0

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Mrm8488

Bert Small2bert

huggingface-summarization-bert-small2bert-cnn-dailymail-summ

텍스트 요약

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

금융 텍스트 임베딩

mxnet-tcembedding-robertafin-base-uncased

텍스트 임베딩

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

RoBERTa-SEC-Large

mxnet-tcembedding-robertafin-large-uncased

텍스트 임베딩

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

RoBERTa-SEC-WIKI-Base

mxnet-tcembedding-robertafin-base-wiki-uncased

텍스트 임베딩

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

RoBERTa-SEC-WIKI-Large

mxnet-tcembedding-robertafin-large-wiki-uncased

텍스트 임베딩

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Naclbit

Naclbit Trinart Stable Diffusion V2

huggingface-txt2img-naclbit-trinart-stable-diffusion-v2

Text-to-Image

creativeml-openrail-m

아니요

ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

나르실

Narsil Deberta 대형 Mnli 제로 Cl

huggingface-zstc-narsil-deberta-large-mnli-zero-cls

제로샷 분류

mit

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

넥사이

NexaAI Octopus-v2

huggingface-llm-nexaaidev-octopus-v2

텍스트 생성

cc-by-nc-4.0

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Nexusflow

Nexusflow Starling-LM-7B-beta

huggingface-llm-nexusflow-starling-lm-7b-beta

텍스트 생성

apache-2.0

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Nousresearch

Hermes 2 Pro-Llama-3 8B

huggingface-llm-nousresearch-hermes-2-pro-llama-3-8B

텍스트 생성

llama3

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Nousresearch

Nous Hermes 2 SOLAR 10.7B

huggingface-llm-nousresearch-nous-hermes-2-solar-10-7b

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge

Nova

Nova 2.0 Lite

nova-textgeneration-lite-v2

텍스트 생성

AWS 서비스 약관

예

해당 사항 없음

Nova

Nova 2.0 마이크로

nova-textgeneration-micro-v2

텍스트 생성

해당 사항 없음

예

해당 사항 없음

Nova

Nova Lite

nova-textgeneration-lite

텍스트 생성

AWS 서비스 약관

예

해당 사항 없음

Nova

Nova Micro

nova-textgeneration-micro

텍스트 생성

AWS 서비스 약관

예

해당 사항 없음

Nova

Nova Pro

nova-textgeneration-pro

텍스트 생성

AWS 서비스 약관

예

해당 사항 없음

Nvidia

Nvidia Llama3-ChatQA-1.5 8B

huggingface-llm-nvidia-llama3-chatqa-1-5-8B

텍스트 생성

llama3

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Nvidia

Nvidia Nemotron 3 Ultra

huggingface-reasoning-nvidia-nemotron-3-ultra-550b-a55b-nvfp4

추론

Apache-2.0

아니요

기본값: ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • modify_best_price_performance (수정, 밸런스), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_cost (수정, 비용 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.g7e.48xlarge, ml.p5.48xlarge

  • summarize_best_price_performance (요약, 균형), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g7e.48xlarge, ml.p5en.48xlarge

Nvidia

Nvidia Nemotron3 Nano Omni

huggingface-vlm-nvidia-nemotron3-nano-omni-30ba3b-reasoning-fp8

Image-Text-to-Text

기타

아니요

기본값: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화), modify_best_price_performance (수정, 밸런스), modify_lowest_cost (수정, 비용 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g6e.8xlarge

  • interact_best_price_performance (상호 작용, 밸런스): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g6e.xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.48xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), modify_highest_throughput (수정, 처리량 최적화), summarize_highest_throughput (요약, 처리량 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화), summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g6e.4xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge

Nvidia

NVIDIA-Nemotron-3-Nano-30B-A3B-BF16

huggingface-reasoning-nvidia-nemotron-3-nano-30b-a3b-bf16

추론

기타

예

기본값: ml.g6e.24xlarge, ml.g7e.12xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_highest_throughput (생성, 처리량 최적화), generate_lowest_cost (생성, 비용 최적화), generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge

  • interact_best_price_performance (상호 작용, 밸런스), interact_highest_throughput (상호 작용, 처리량 최적화), interact_lowest_cost (상호 작용, 비용 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge

  • modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화): ml.g6.24xlarge, ml.g6.48xlarge, ml.g7e.24xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6.48xlarge, ml.g7e.12xlarge, ml.g7e.24xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.12xlarge, ml.g6.24xlarge, ml.g7e.4xlarge

  • summarize_best_price_performance (요약, 균형), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화): ml.g6e.12xlarge, ml.g7e.24xlarge, ml.g7e.48xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.12xlarge, ml.g7e.12xlarge, ml.g7e.24xlarge

Nvidia

NVIDIA-Nemotron-3-Super-120B-A12B-BF16

huggingface-llm-nvidia-nemotron-3-super-120b-a12b-bf16

텍스트 생성

Apache-2.0

예

기본값: ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 균형), generate_lowest_cost (생성, 비용 최적화): ml.g6e.48xlarge, ml.g7e.48xlarge, ml.p5.48xlarge

  • generate_highest_throughput (생성, 처리량 최적화), modify_highest_throughput (수정, 처리량 최적화): ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스), interact_highest_throughput (상호 작용, 처리량 최적화), interact_lowest_cost (상호 작용, 비용 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.p5.48xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g7e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance (요약, 균형), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5.48xlarge

Nvidia

NVIDIA-Nemotron-3-Super-120B-A12B-FP8

huggingface-reasoning-nvidia-nemotron-3-super-120b-a12b-fp8

추론

기타

아니요

기본값: ml.g7e.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_highest_throughput (생성, 처리량 최적화), generate_lowest_cost (생성, 비용 최적화), generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.g7e.48xlarge

  • interact_best_price_performance (상호 작용, 밸런싱), interact_highest_throughput (상호 작용, 처리량 최적화), interact_lowest_cost (상호 작용, 비용 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화), summarize_best_price_performance (요약, 밸런싱), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g7e.24xlarge, ml.g7e.48xlarge

Nvidia

NVIDIA-Nemotron-Nano-12B-v2

huggingface-reasoning-nvidia-nemotron-nano-12b-v2

추론

Apache-2.0

아니요

기본값: ml.g6e.48xlarge, ml.g7e.12xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.12xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.2xlarge, ml.g7e.2xlarge

  • modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge

  • modify_highest_throughput (수정, 처리량 최적화), summarize_best_price_performance (요약, 밸런스), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g7e.12xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge

Openai

gpt-oss-120b

openai-reasoning-gpt-oss-120b

추론

apache-2.0

예

기본값: ml.g6e.48xlarge, ml.g7e.2xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • lmi (대형 모델 추론 컨테이너): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

Openai

gpt-oss-20b

openai-reasoning-gpt-oss-20b

추론

apache-2.0

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g7e.2xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

Openai

프라이버시 필터

openai-tokenclassification-privacy-filter

토큰 분류

Apache-2.0

아니요

ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge

Openai

귓속말 베이스

huggingface-asr-whisper-base

자동 음성 인식

apache-2.0

아니요

ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Openai

귓속말 라지

huggingface-asr-whisper-large

자동 음성 인식

apache-2.0

아니요

ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Openai

귓속말 대형 V2

huggingface-asr-whisper-large-v2

자동 음성 인식

apache-2.0

아니요

ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Openai

귓속말 라지 V3

huggingface-asr-whisper-large-v3

자동 음성 인식

apache-2.0

아니요

ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Openai

Whisper Large V3 Turbo

huggingface-asr-whisper-large-v3-turbo

자동 음성 인식

mit

아니요

ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Openai

귓속말 중간

huggingface-asr-whisper-medium

자동 음성 인식

apache-2.0

아니요

ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Openai

귓속말 스몰

huggingface-asr-whisper-small

자동 음성 인식

apache-2.0

아니요

ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Openai

귓속말 작은

huggingface-asr-whisper-tiny

자동 음성 인식

apache-2.0

아니요

ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Openai-Community

GPT 2

huggingface-textgeneration-gpt2

텍스트 생성

mit

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Openai-Community

GPT-2 XL

huggingface-textgeneration1-gpt-2-xl

텍스트 생성

mit

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Openai-Community

RoBERTa 기본 OpenAI 감지기

huggingface-eqa-roberta-base-openai-detector

질문 응답

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Openai-Community

RoBERTa 기본 OpenAI 감지기

huggingface-spc-roberta-base-openai-detector

Fill-Mask

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Openai-Community

RoBERTa 기본 OpenAI 감지기

huggingface-tc-roberta-base-openai-detector

텍스트 분류

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Openai-Community

RoBERTa 대형 OpenAI 감지기

huggingface-spc-roberta-large-openai-detector

Fill-Mask

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Openai-Community

RoBERTa 대형 OpenAI 감지기

huggingface-tc-roberta-large-openai-detector

텍스트 분류

mit

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Openlm-Research

Llama 7B V2 열기

huggingface-llm-openlm-research-open-llama-7b-v2

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge

필스미드

바트 라지 CNN 심섬

huggingface-summarization-bart-large-cnn-samsum

텍스트 요약

mit

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

필스미드

Samsum 데이터세트에서 미세 조정된 Flan-T5 기본 모델

huggingface-text2text-flan-t5-base-samsum

Text2Text 생성

apache-2.0

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Pytorch

Alexa TM 20B

pytorch-textgeneration1-alexa20b

텍스트 생성

amazon-software-license

아니요

ml.g4dn.12xlarge, ml.g5.16xlarge, ml.p3.16xlarge, ml.p3.8xlarge

쿠엔

QVQ 72B 미리 보기

huggingface-vlm-qvq-72b-preview

Image-Text-to-Text

기타

아니요

ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge

쿠엔

Qwen2 0.5B

huggingface-llm-qwen2-0-5b

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge

쿠엔

Qwen2 0.5B 지침

huggingface-llm-qwen2-0-5b-instruct

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge

쿠엔

Qwen2-1.5B

huggingface-llm-qwen2-1-5b

텍스트 생성

apache-2.0

아니요

기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 균형), interact_lowest_cost (상호 작용, 비용 최적화), modify_lowest_cost (수정, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g5.4xlarge, ml.g6.4xlarge, ml.g6e.2xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.2xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.24xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g5.4xlarge, ml.g6.12xlarge, ml.g6e.4xlarge

  • summarize_best_price_performance (요약, 균형): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.2xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g5.16xlarge, ml.g6.24xlarge, ml.g6e.2xlarge

  • summarize_lowest_cost (요약, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g5.4xlarge, ml.g6.24xlarge, ml.g6e.8xlarge

쿠엔

Qwen2-1.5B-Instruct

huggingface-llm-qwen2-1-5b-instruct

텍스트 생성

apache-2.0

아니요

기본값: ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p3.2xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 균형), interact_best_price_performance (상호 작용, 균형), modify_best_price_performance (수정, 균형): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화), modify_lowest_cost (수정, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g5.8xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g4dn.8xlarge, ml.g6.12xlarge, ml.g6e.4xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.12xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.4xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g5.2xlarge, ml.g6.12xlarge, ml.g6e.2xlarge

  • summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g5.4xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g5.8xlarge, ml.g6.8xlarge, ml.g6e.16xlarge

쿠엔

Qwen2-7B

huggingface-llm-qwen2-7b

텍스트 생성

apache-2.0

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge

쿠엔

Qwen2-7B-Instruct

huggingface-llm-qwen2-7b-instruct

텍스트 생성

apache-2.0

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge

쿠엔

Qwen2-VL-7B-Instruct

huggingface-vlm-qwen2-vl-7b-instruct

텍스트 생성

apache-2.0

아니요

기본값: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g5.8xlarge, ml.g6.12xlarge, ml.g6e.8xlarge

  • interact_best_price_performance (상호 작용, 밸런스): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화), modify_highest_throughput (수정, 처리량 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.4xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.xlarge

  • modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.16xlarge

  • summarize_best_price_performance (요약, 균형), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.12xlarge

쿠엔

Qwen2.5 14B 지침

huggingface-llm-qwen2-5-14b-instruct

텍스트 생성

apache-2.0

예

ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge

쿠엔

Qwen2.5 32B 지침

huggingface-llm-qwen2-5-32b-instruct

텍스트 생성

apache-2.0

예

ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge

쿠엔

Qwen2.5 Coder 32B 지침

huggingface-llm-qwen2-5-coder-32b-instruct

텍스트 생성

apache-2.0

아니요

ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge

쿠엔

Qwen2.5 Coder 7B 지침

huggingface-llm-qwen2-5-coder-7b-instruct

텍스트 생성

apache-2.0

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.16xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.p4d.24xlarge

쿠엔

Qwen2.5-72B-Instruct

huggingface-llm-qwen2-5-72b-instruct

텍스트 생성

기타

예

기본값: ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance (요약, 균형), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_cost (요약, 비용 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.p5en.48xlarge

쿠엔

Qwen2.5-7B-Instruct

huggingface-llm-qwen2-5-7b-instruct

텍스트 생성

apache-2.0

예

기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 균형), interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.16xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화), summarize_highest_throughput (요약, 처리량 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화), modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g4dn.12xlarge, ml.g6.24xlarge, ml.g6e.2xlarge

  • summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

쿠엔

Qwen3 14B

huggingface-reasoning-qwen3-14b

추론

apache-2.0

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge

쿠엔

Qwen3-0.6B

huggingface-reasoning-qwen3-06b

추론

apache-2.0

예

기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화), modify_lowest_cost (수정, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화), modify_highest_throughput (수정, 처리량 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g5.8xlarge, ml.g6.12xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g4dn.16xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화), summarize_lowest_cost (요약, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g4dn.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • summarize_best_price_performance (요약, 균형): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

쿠엔

Qwen3-1.7B

huggingface-reasoning-qwen3-1-7b

추론

apache-2.0

예

ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.g6xlarge, ml.g6e.g6xlarge, ml.

쿠엔

Qwen3-30B-A3B

huggingface-reasoning-qwen3-30b-a3b

추론

apache-2.0

아니요

ml.g5.24xlarge

쿠엔

Qwen3-30B-A3B-Instruct-2507

huggingface-reasoning-qwen3-30b-a3b-instruct-2507

텍스트 생성

apache-2.0

아니요

ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4de.24xlarge

쿠엔

Qwen3-30B-A3B-Thinking-2507

huggingface-reasoning-qwen3-30b-a3b-thinking-2507

추론

apache-2.0

아니요

ml.g6e.12xlarge

쿠엔

Qwen3-32B

huggingface-reasoning-qwen3-32b

추론

apache-2.0

예

기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), interact_best_price_performance (상호 작용, 밸런스), summarize_best_price_performance (요약, 밸런스), summarize_lowest_cost (요약, 비용 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • generate_highest_throughput (생성, 처리량 최적화), generate_lowest_latency (생성, 지연 시간 최적화), interact_highest_throughput (상호 작용, 처리량 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

  • interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.48xlarge, ml.g6.24xlarge, ml.g6e.12xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스), modify_lowest_cost (수정, 비용 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

쿠엔

Qwen3-4B

huggingface-reasoning-qwen3-4b

추론

apache-2.0

예

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.g6xlarge, ml.g6xlarge, ml.g6xlarge

쿠엔

Qwen3-4B-Instruct-2507

huggingface-reasoning-qwen3-4b-instruct-2507

추론

apache-2.0

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge

쿠엔

Qwen3-8B

huggingface-reasoning-qwen3-8b

추론

apache-2.0

예

기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_best_price_performance (상호 작용, 밸런스), interact_lowest_cost (상호 작용, 비용 최적화): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_latency (수정, 지연 시간 최적화), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g5.12xlarge, ml.g6e.xlarge, ml.p5.48xlarge

  • modify_lowest_cost (수정, 비용 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.xlarge

  • summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g5.24xlarge, ml.g6e.12xlarge, ml.p5.48xlarge

쿠엔

Qwen3-ASR-1.7B

huggingface-asr-qwen3-asr-1-7b

자동 음성 인식

Apache-2.0

아니요

ml.g6.2xlarge, ml.g6.xlarge

쿠엔

Qwen3-Coder-30B-A3B-Instruct

huggingface-reasoning-qwen3-coder-30b-a3b-instruct

추론

apache-2.0

아니요

ml.g6e.24xlarge, ml.g7e.2xlarge

쿠엔

Qwen3-Coder-Next

huggingface-reasoning-qwen3-coder-next

추론

apache-2.0

아니요

ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

쿠엔

Qwen3-Embedding-0.6B

huggingface-textembedding-qwen3-embedding-0-6b

텍스트 임베딩

Apache-2.0

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.24xlarge, ml.g7e.2xlarge, ml.g7e.48xlarge, ml.g7e.8xlarge, ml.g7e.8xlarge

쿠엔

Qwen3-Next-80B-A3B-Instruct

huggingface-reasoning-qwen3-next-80b-a3b-instruct

텍스트 생성

apache-2.0

아니요

ml.g6e.48xlarge, ml.p4de.24xlarge

쿠엔

Qwen3-Reranker-4B

huggingface-textembedding-qwen3-reranker-4b

텍스트 임베딩

Apache-2.0

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.24xlarge, ml.g7e.g7e.48xlarge, ml.g7e.g8xlarge

쿠엔

Qwen3-TTS-12Hz-1.7B-기본

huggingface-ttsvoiceclone-qwen3-tts-12hz-1-7b-base

텍스트 투 스피치

Apache-2.0

아니요

ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge

쿠엔

Qwen3-TTS-12Hz-1.7B-CustomVoice

huggingface-tts-qwen3-tts-customvoice

텍스트 투 스피치

Apache-2.0

아니요

ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge

쿠엔

Qwen3-VL-8B-Instruct

huggingface-vlm-qwen3-vl-8b-instruct

텍스트 생성

apache-2.0

아니요

ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge

쿠엔

Qwen3-VL-Embedding-2B

huggingface-textembedding-qwen3-vl-embedding-2b

텍스트 임베딩

Apache-2.0

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.24xlarge, ml.g7e.4xlarge, ml.g7e.g8xlarge.

쿠엔

Qwen3.5~0.8B

huggingface-vlm-qwen3-5-0-8b

텍스트 생성

apache-2.0

아니요

기본값: ml.g6.4xlarge, ml.g6e.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.g7e.4xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g6.xlarge, ml.g6e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlarge

  • generate_lowest_cost (생성, 비용 최적화): ml.g6.xlarge, ml.g6e.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.4xlarge, ml.g6e.4xlarge

  • interact_best_price_performance (상호 작용, 밸런스), interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.2xlarge, ml.g6.xlarge, ml.g6e.2xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge

  • interact_lowest_cost (상호 작용, 비용 최적화), modify_best_price_performance (수정, 균형), modify_lowest_cost (수정, 비용 최적화): ml.g6.2xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.4xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6.16xlarge, ml.g6e.4xlarge, ml.g7e.4xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.8xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge

  • summarize_best_price_performance (요약, 균형): ml.g6.xlarge, ml.g6e.2xlarge, ml.g7e.8xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.8xlarge

  • summarize_lowest_cost (요약, 비용 최적화): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.8xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.8xlarge

쿠엔

Qwen3.5-27b

huggingface-vlm-qwen3-5-27b

텍스트 생성

apache-2.0

예

ml.g6.48xlarge

쿠엔

Qwen3.5-27B-FP8

huggingface-vlm-qwen3-5-27b-fp8

Image-Text-to-Text

apache-2.0

아니요

ml.g6.24xlarge

쿠엔

Qwen3.5-2B

huggingface-vlm-qwen3-5-2b

텍스트 생성

apache-2.0

아니요

기본값: ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), modify_best_price_performance (수정, 밸런스): ml.g6.xlarge, ml.g6e.2xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • generate_lowest_cost (생성, 비용 최적화), modify_lowest_cost (수정, 비용 최적화): ml.g6.2xlarge, ml.g6.xlarge, ml.g6e.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.16xlarge, ml.g6.xlarge, ml.g6e.16xlarge

  • interact_best_price_performance (상호 작용, 밸런스): ml.g6.xlarge, ml.g6e.2xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6.24xlarge, ml.g6e.48xlarge

  • interact_lowest_cost (상호 작용, 비용 최적화): ml.g6.xlarge, ml.g6e.xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.4xlarge, ml.g6e.4xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), modify_highest_throughput (수정, 처리량 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.16xlarge, ml.g6e.48xlarge

  • modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.8xlarge, ml.g6e.2xlarge, ml.g6e.8xlarge

  • summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.4xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.4xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6.2xlarge, ml.g6e.2xlarge, ml.g7e.4xlarge

쿠엔

Qwen3.5-4B

huggingface-vlm-qwen3-5-4b

텍스트 생성

apache-2.0

예

기본값: ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_highest_throughput (생성, 처리량 최적화), generate_lowest_cost (생성, 비용 최적화), generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.8xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge

  • interact_best_price_performance (상호 작용, 밸런스), interact_highest_throughput (상호 작용, 처리량 최적화), interact_lowest_cost (상호 작용, 비용 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.2xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge

  • modify_best_price_performance (수정, 밸런스), modify_lowest_cost (수정, 비용 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.g6.2xlarge, ml.g6e.8xlarge, ml.g7e.2xlarge

  • modify_highest_throughput (수정, 처리량 최적화): ml.g6.2xlarge, ml.g6e.8xlarge, ml.g7e.4xlarge

  • summarize_best_price_performance (요약, 균형), summarize_lowest_cost (요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.24xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge

쿠엔

Qwen3.5-9b

huggingface-vlm-qwen3-5-9b

텍스트 생성

apache-2.0

예

ml.g6.24xlarge, ml.g6.48xlarge

쿠엔

Qwen3.6-27B

huggingface-vlm-qwen3-6-27b

Image-Text-to-Text

apache-2.0

예

기본값: ml.g7e.12xlarge, ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), modify_best_price_performance (수정, 밸런스), modify_lowest_cost (수정, 비용 최적화), summarize_best_price_performance (요약, 밸런스), summarize_lowest_cost (요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge

  • generate_highest_throughput (생성, 처리량 최적화), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_latency (수정, 지연 시간 최적화): ml.g7e.48xlarge, ml.p5.4xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.12xlarge, ml.p5.4xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 균형), interact_lowest_cost (상호 작용, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g7e.12xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge

  • summarize_highest_throughput (요약, 처리량 최적화): ml.g6e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

쿠엔

Qwen3.6-35B-A3B

huggingface-vlm-qwen3-6-35b-a3b

텍스트 생성

apache-2.0

아니요

기본값: ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlarge

  • generate_highest_throughput (생성, 처리량 최적화), max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화), max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_latency (수정, 지연 시간 최적화), summarize_highest_throughput (요약, 처리량 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 균형 조정), interact_lowest_cost (상호 작용, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화), interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스), modify_lowest_cost (수정, 비용 최적화), summarize_best_price_performance (요약, 밸런스), summarize_lowest_cost (요약, 비용 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p5.48xlarge

  • summarize_lowest_latency (요약, 지연 시간 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

쿠엔

QwQ 32B

huggingface-llm-qwq-32b

텍스트 생성

apache-2.0

아니요

ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge

Recognai

Recognai Bert Base 스페인어 Wwm Cased Xnli

huggingface-zstc-recognai-bert-base-spanish-wwm-cased-xnli

제로샷 분류

mit

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Recognai

Recognai Zeroshot Selectra Medium

huggingface-zstc-recognai-zeroshot-selectra-medium

제로샷 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

린나

Rinna 일본어 GPT NeoX 3.6B 명령어 PPO

huggingface-llm-rinna-3-6b-instruction-ppo-bf16

텍스트 생성

mit

아니요

ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge

Salesforce

Salesforce SFR-Embedding-2_R

huggingface-textembedding-sfr-embedding-2-r

텍스트 임베딩

CC-BY-NC-4.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge

Salesforce

Salesforce SFR-Embedding-Mistral

huggingface-textembedding-sfr-embedding-mistral

텍스트 임베딩

CC-BY-NC-4.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge

문장 변환기

모든 MiniLM L6 v2

huggingface-sentencesimilarity-all-MiniLM-L6-v2

문장 유사성

apache-2.0

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

문장 변환기

모든 MiniLM L6 v2

huggingface-textembedding-all-MiniLM-L6-v2

텍스트 임베딩

Apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge

문장 변환기

all-MiniLM-L12-v2

huggingface-textembedding-all-MiniLM-L12-v2

텍스트 임베딩

Apache-2.0

아니요

ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

문장 변환기

Paraphrase 다국어 MiniLM L12 v2

huggingface-textembedding-paraphrase-multilingual-MiniLM-L12-v2

텍스트 임베딩

Apache-2.0

아니요

ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge

Shenzhi-Wang

Llama3 8B 중국어 채팅

huggingface-llm-shenzhi-wang-llama3-8B-chinese-chat

텍스트 생성

llama3

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Snowflake

Snowflake Arctic Instruct Vllm

huggingface-llm-snowflake-arctic-instruct-vllm

텍스트 생성

apache-2.0

아니요

ml.p5.48xlarge

스피클레시

Bielik-11B-v3.0-Instruct

huggingface-llm-bielik-11b-v3-0-instruct

텍스트 생성

apache-2.0

아니요

기본값: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스), generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화), modify_lowest_cost (수정, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge

  • generate_highest_throughput (생성, 처리량 최적화), interact_highest_throughput (상호 작용, 처리량 최적화), modify_highest_throughput (수정, 처리량 최적화), modify_lowest_latency (수정, 지연 시간 최적화), summarize_highest_throughput (요약, 처리량 최적화), summarize_lowest_latency (요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6e.16xlarge, ml.p5.48xlarge, ml.p5en.48xlarge

  • interact_best_price_performance (상호 작용, 밸런스): ml.g5.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g5.48xlarge, ml.g6.24xlarge, ml.g6e.24xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g5.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • modify_best_price_performance (수정, 밸런스): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge

  • summarize_best_price_performance (요약, 균형): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

  • summarize_lowest_cost (요약, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge

샤일리퍼

Distilbart CNN 12-6

huggingface-summarization-distilbart-cnn-12-6

텍스트 요약

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

샤일리퍼

Distilbart CNN 6-6

huggingface-summarization-distilbart-cnn-6-6

텍스트 요약

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

샤일리퍼

텍스트 요약

huggingface-summarization-distilbart-xsum-1-1

텍스트 요약

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

안정성ai

일본어 StableLM Instruct Alpha 7B v2

model-textgenerationjp-japanese-stablelm-instruct-alpha-7b-v2

텍스트 생성

Apache-2.0

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

안정성ai

안정적인 확산 2

model-txt2img-stabilityai-stable-diffusion-v2

Text-to-Image

creativeml-openrail++-m

아니요

ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

안정성ai

안정적인 확산 2 깊이 FP16

model-depth2img-stable-diffusion-2-depth-fp16

Image-to-Image

creativeml-openrail++-m

아니요

ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p3.2xlarge

안정성ai

안정적인 확산 2 FP16

model-txt2img-stabilityai-stable-diffusion-v2-fp16

Text-to-Image

creativeml-openrail++-m

아니요

ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

안정성ai

Stable Diffusion 2 인페인팅

model-inpainting-stabilityai-stable-diffusion-2-inpainting

Image-to-Image

creativeml-openrail++-m

아니요

ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

안정성ai

Stable Diffusion 2 인페인팅 FP16

model-inpainting-stabilityai-stable-diffusion-2-inpainting-fp16

Image-to-Image

creativeml-openrail++-m

아니요

ml.g4dn.xlarge, ml.g5.2xlarge, ml.p3.2xlarge

안정성ai

Stable Diffusion 2 인페인팅 FP16

model-inpainting-stabilityai-stable-diffusion2-inpainting-fp16

Image-to-Image

creativeml-openrail++-m

아니요

ml.g4dn.xlarge, ml.g5.2xlarge, ml.p3.2xlarge

안정성ai

Stable Diffusion 2.1

model-txt2img-stabilityai-stable-diffusion-v2-1-base

Text-to-Image

creativeml-openrail++-m

예

ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

안정성ai

Stable Diffusion 2.1 Neuron

huggingface-txt2imgneuron-stabilityai-stable-diffusion-v2-1

Text-to-Image

creativeml-openrail++-m

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge

안정성ai

Stable Diffusion x4 업스케일러 FP16

model-upscaling-stabilityai-stable-diffusion-x4-upscaler-fp16

Image-to-Image

openrail++

아니요

ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

안정성ai

Stable Diffusion XL 1.0(오픈 소스)

model-imagegeneration-stabilityai-stable-diffusion-xl-base-1-0

Text-to-Image

openrail++

아니요

ml.g5.16xlarge, ml.g5.4xlarge, ml.g5.8xlarge

안정성ai

Stable Diffusion XL Base 1.0 Neuron

huggingface-txt2imgneuron-stabilityai-stable-diffusion-xlbase1

Text-to-Image

openrail++

아니요

ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge

스위스-아이

아퍼투스 70B 2509

huggingface-llm-apertus-70b-2509

텍스트 생성

apache-2.0

아니요

ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

스위스-아이

Apertus 70B 명령 2509

huggingface-llm-apertus-70b-instruct-2509

텍스트 생성

apache-2.0

아니요

ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

스위스-아이

Apertus 8B 지침 2509

huggingface-llm-apertus-8b-instruct-2509

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e6e.g6xlarge, ml.g6e.g6xlarge, ml.g6e.g6xlarge

Thebloke

Mistral 7B OpenOrca AWQ

huggingface-llm-thebloke-mistral-7b-openorca-awq

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge

Thebloke

Mistral 7B OpenOrca GPTQ

huggingface-llm-mistral-7b-openorca-gptq

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Thebloke

Mixtral 8x7B Instruct GPTQ

huggingface-llm-mixtral-8x7b-instruct-gptq

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Thenlper

GTE 라지

huggingface-sentencesimilarity-gte-large

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Thenlper

GTE 스몰

huggingface-sentencesimilarity-gte-small

문장 유사성

mit

예

ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge

Tiiuae

Falcon 180B BF16

huggingface-llm-falcon-180b-bf16

텍스트 생성

해당 사항 없음

아니요

ml.p4de.24xlarge, ml.p5.48xlarge

Tiiuae

Falcon 180B 채팅 BF16

huggingface-llm-falcon-180b-chat-bf16

텍스트 생성

해당 사항 없음

아니요

ml.p4de.24xlarge, ml.p5.48xlarge

Tiiuae

Falcon 40B BF16

huggingface-llm-falcon-40b-bf16

텍스트 생성

apache-2.0

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Tiiuae

Falcon 40B Instruct BF16

huggingface-llm-falcon-40b-instruct-bf16

텍스트 생성

apache-2.0

예

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Tiiuae

Falcon 7B BF16

huggingface-llm-falcon-7b-bf16

텍스트 생성

apache-2.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Tiiuae

Falcon 7B Instruct BF16

huggingface-llm-falcon-7b-instruct-bf16

텍스트 생성

apache-2.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Tiiuae

Falcon RW 1B

huggingface-llm-tiiuae-falcon-rw-1b

텍스트 생성

apache-2.0

아니요

ml.g5.2xlarge

Tiiuae

Falcon-H1-0.5B-Instruct

huggingface-llm-falcon-h1-0-5b-instruct

텍스트 생성

기타

아니요

ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge.

Tiiuae

Falcon-H1-1.5B-Deep-Instruct

huggingface-llm-falcon-h1-1-5b-deep-instruct

텍스트 생성

기타

아니요

ml.g5.16xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge

Tiiuae

Falcon-H1-1.5B-Instruct

huggingface-llm-falcon-h1-1-5b-instruct

텍스트 생성

기타

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge

Tiiuae

Falcon-H1-34B-Instruct

huggingface-llm-falcon-h1-34b-instruct

텍스트 생성

기타

아니요

ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge

Tiiuae

Falcon-H1-3B-Instruct

huggingface-llm-falcon-h1-3b-instruct

텍스트 생성

기타

아니요

ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge

Tiiuae

Falcon-H1-7B-Instruct

huggingface-llm-falcon-h1-7b-instruct

텍스트 생성

기타

아니요

ml.g6e.12xlarge, ml.g6e.24xlarge

Tiiuae

Falcon2-11B

huggingface-llm-falcon2-11b

텍스트 생성

해당 사항 없음

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

Tiiuae

Falcon3-10B-Base

huggingface-llm-falcon-3-10B-base

텍스트 생성

기타

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Tiiuae

Falcon3-10B-Instruct

huggingface-llm-falcon-3-10B-Instruct

텍스트 생성

기타

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge

Tiiuae

Falcon3-1B-Instruct

huggingface-llm-falcon-3-1B-Instruct

텍스트 생성

기타

아니요

기본값: ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge, ml.p3.2xlarge, ml.p4d.24xlarge

다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.

  • generate_best_price_performance (생성, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.2xlarge

  • generate_highest_throughput (생성, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • generate_lowest_cost (생성, 비용 최적화), interact_lowest_cost (상호 작용, 비용 최적화), max_context_lowest_cost (최대 컨텍스트, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge

  • generate_lowest_latency (생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge

  • interact_best_price_performance (상호 작용, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlarge

  • interact_highest_throughput (상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • interact_lowest_latency (상호 작용, 지연 시간 최적화): ml.g5.2xlarge, ml.g6.48xlarge, ml.g6e.48xlarge

  • max_context_highest_throughput (최대 컨텍스트, 처리량 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

  • max_context_lowest_latency (최대 컨텍스트, 지연 시간 최적화): ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge

Tiiuae

Falcon3-3B-Base

huggingface-llm-falcon-3-3B-base

텍스트 생성

기타

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Tiiuae

Falcon3-3B-Instruct

huggingface-llm-falcon-3-3B-Instruct

텍스트 생성

기타

아니요

ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.4xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6e.12xlarge, ml.g6e.g6e.16xlarge, ml.g6e.g6xlarge, ml.g6e.24xlarge, ml.g6xlarge

Tiiuae

Falcon3-7B-Base

huggingface-llm-falcon-3-7B-base

텍스트 생성

기타

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

Tiiuae

Falcon3-7B-Instruct

huggingface-llm-falcon-3-7B-Instruct

텍스트 생성

기타

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge

티닐라마

Tiny Llama 1.1B

huggingface-llm-tinyllama-1-1b-intermediate-step-1431k-3

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge

티닐라마

Tiny Llama 1.1B Chat V0.6

huggingface-llm-tinyllama-tinyllama-1-1b-chat-v0-6

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge

티닐라마

Tiny Llama 1.1B Chat V1

huggingface-llm-tinyllama-tinyllama-1-1b-chat-v1-0

텍스트 생성

apache-2.0

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge

Togethercomputer

RedPajama INCITE Chat 3B V1

huggingface-textgeneration1-redpajama-incite-chat-3B-v1-fp16

텍스트 생성

apache-2.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Togethercomputer

RedPajama INCITE Chat 7B V1

huggingface-textgeneration1-redpajama-incite-chat-7B-v1-fp16

텍스트 생성

apache-2.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Togethercomputer

RedPajama INCITE Instruct 3B V1

huggingface-textgeneration1-redpajama-incite-instruct-3Bv1fp16

텍스트 생성

apache-2.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

Togethercomputer

RedPajama INCITE Instruct 7B V1

huggingface-textgeneration1-redpajama-incite-instruct-7B1fp16

텍스트 생성

apache-2.0

예

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge

도쿄텍-Llm

Swallow-7b-instruct-hf

huggingface-llm-swallow-7b-instruct-hf

텍스트 생성

llama2

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6.xlarge, ml.g6e.g6xlarge, ml.g6e6xlarge, ml.g6e.g6e.g6xlarge

Volrath50

volrath50 판타지 카드 확산

huggingface-txt2img-volrath50-fantasy-card-diffusion

Text-to-Image

creativeml-openrail-m

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.p3.2xlarge

라이터

라이터 팔미라 스몰

huggingface-llm-writer-palmyra-small

텍스트 생성

apache-2.0

아니요

ml.g5.2xlarge

Zai-Org

GLM-5.1-FP8

huggingface-llm-glm-5-1-fp8

텍스트 생성

Apache-2.0

아니요

ml.p5en.48xlarge

Proprietary Models (121)

독점 파운데이션 모델은 Amazon SageMaker JumpStart를 통해 타사 공급자가 제공합니다. 독점 파운데이션 모델을 사용하려면 먼저 AWS Marketplace에서 모델을 구독해야 합니다. 구독 후 Amazon SageMaker Studio에서 파운데이션 모델을 찾아 배포할 수 있습니다.

모델 이름 모델 ID Task 미세 조정 가능 지원되는 추론 인스턴스 유형

A.X 4.0 조명

sk-telecom-ax4-light

텍스트 생성

아니요

ml.g5.2xlarge

AI21 컨텍스트 답변

ai21-contextual-answers

텍스트 생성

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

AI21 Jurassic-2 조명

ai21-jurassic-2-light

텍스트 생성

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

AI21 Jurassic-2 Mid

ai21-jurassic-2-grande-instruct

텍스트 생성

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

AI21 Jurassic-2 Ultra

ai21-jurassic-2-jumbo-instruct

텍스트 생성

아니요

ml.g5.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

AI21 구문

ai21-paraphrase

텍스트 생성

아니요

ml.g4dn.2xlarge

AI21 요약

ai21-summarization

텍스트 생성

아니요

ml.g4dn.12xlarge, ml.g4dn.4xlarge, ml.g5.xlarge

Arcee Lite

arcee-lite

텍스트 생성

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge

Arcee SuperNova

arcee-supernova

텍스트 생성

아니요

ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Arcee Virtuoso Small

arcee-virtuoso-small

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

Bria 2.2HD 상용 Text-to-image

bria-ai-2-2-hd-commercial

ReRank

아니요

ml.g5.12xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Bria 2.3 상용 Text-to-image

bria-ai-2-3-commercial

ReRank

아니요

ml.g5.12xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Bria 2.3Fast 상용 Text-to-image

bria-ai-2-3-fast-commercial

ReRank

아니요

ml.g5.12xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Cohere 명령 R(A100)

cohere-command-r-a100

텍스트 생성

아니요

ml.p4de.24xlarge

Cohere 명령 R(H100)

cohere-command-r-h100

텍스트 생성

아니요

ml.p5.48xlarge

Cohere 명령 R+(A100)

cohere-command-r-plus-a100

텍스트 생성

아니요

ml.p4de.24xlarge

Cohere 명령 R+(H100)

cohere-command-r-plus-h100

텍스트 생성

아니요

ml.p5.48xlarge

코헤어 임베드 4

cohere-embed-v4-0

텍스트 임베딩

아니요

ml.g5.2xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6.xlarge

Cohere 임베드 라이트 모델 v3 - 영어

cohere-embed-light-english

텍스트 임베딩

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge

Cohere Embed Light v3 - 다국어

cohere-embed-light-multilingual

텍스트 임베딩

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge

Cohere 임베드 모델 3 - 다국어

cohere-embed-multilingual

텍스트 임베딩

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge

Cohere 임베드 모델 v3 - 영어

cohere-embed-english

텍스트 임베딩

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge

Cohere Rerank 2 모델 - 영어

cohere-rerank-english-v2

ReRank

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge

Cohere Rerank 2 모델 - 다국어

cohere-rerank-multilingual-v2

ReRank

아니요

ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge

Cohere Rerank 3 모델 - 영어

cohere-rerank-v3-english

ReRank

아니요

ml.g5.2xlarge, ml.g5.xlarge

Cohere Rerank 3 모델 - 다국어

cohere-rerank-v3-multilingual

ReRank

아니요

ml.g5.2xlarge, ml.g5.xlarge

Cohere Rerank 3 Nimble 모델 - 영어

cohere-rerank-nimble-english

ReRank

아니요

ml.g5.2xlarge, ml.g5.xlarge

Cohere Rerank 3 Nimble 모델 - 다중

cohere-rerank-nimble-multi

ReRank

아니요

ml.g5.2xlarge, ml.g5.xlarge

Cohere Rerank v3.5

cohere-rerank-v3-5

텍스트 임베딩

아니요

ml.g5.2xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6.xlarge

Cohere Rerank v4.0 Fast

cohere-rerank-v4-0-fast

텍스트 임베딩

아니요

ml.g5.2xlarge, ml.g5.xlarge, ml.p5.4xlarge

Cohere Rerank v4.0 Pro

cohere-rerank-v4-0-pro

텍스트 임베딩

아니요

ml.g5.2xlarge, ml.g5.xlarge, ml.p5.4xlarge

명령 A(A100)

cohere-command-a-a100

텍스트 생성

아니요

ml.p4de.24xlarge

명령 A(H100)

cohere-command-a-h100

텍스트 생성

아니요

ml.p5.48xlarge

명령 R 08-2024(H100)

cohere-command-r-08-2024-h100

텍스트 생성

아니요

ml.p5.48xlarge

명령 R+ 08-2024(H100)

cohere-command-r-plus-08-2024-h100

텍스트 생성

아니요

ml.p5.48xlarge

문서 OCR

upstage-document-ocr

광학 문자 인식

아니요

ml.g5.2xlarge

문서 구문 분석

upstage-document-layout-analysis

광학 문자 인식

아니요

ml.g5.2xlarge, ml.g6.2xlarge, ml.p3.2xlarge

임베드

upstage-solar-embedding-large

텍스트 임베딩

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge

ESM3-open

evolutionary-scale-esm3

다중 모달 생성

아니요

ml.g5.4xlarge, ml.g5.8xlarge

Evo2-NIM

nvidia-evo2-nim

텍스트 생성

아니요

ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

EXAONE Atilier - 이미지-텍스트

lgresearch-exaone

Image2Text 생성

아니요

ml.g5.12xlarge, ml.g5.48xlarge, ml.g5.xlarge, ml.p4d.24xlarge

Gretel 탐색기 테이블 형식

gretel-navigator-tabular

텍스트 생성

아니요

ml.g5.2xlarge, ml.g5.xlarge

H-Optimus-0

bioptimus-h-optimus-0

특성 추출

아니요

ml.g5.xlarge

IBM Granite 20B Code Instruct - 8K

ibm-granite-20b-code-instruct-8k

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge

IBM Granite 3.0 2B 지침

granite-3-0-2b-instruct

텍스트 생성

아니요

ml.p4d.24xlarge, ml.p5.48xlarge

IBM Granite 3.0 8B 지침

granite-3-0-8b-instruct

텍스트 생성

아니요

ml.p4d.24xlarge, ml.p5.48xlarge

IBM Granite 3.2 지침 2B

ibm-granite-3-2-2b-instruct

텍스트 생성

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

IBM Granite 3.2 지침 8B

ibm-granite-3-2-8b-instruct

텍스트 생성

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

IBM Granite 34B Code Instruct - 8K

ibm-granite-34b-code-instruct-8k

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge

IBM Granite 3B Code Instruct - 128K

ibm-granite-3b-code-instruct-128k

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge

IBM Granite 4.0 h-micro

ibm-granite-4-0-h-micro

텍스트 생성

아니요

ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

IBM Granite 4.0 h-small

ibm-granite-4-0-h-small

텍스트 생성

아니요

ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

IBM Granite 4.0 h-tiny

ibm-granite-4-0-h-tiny

텍스트 생성

아니요

ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge

IBM Granite 8B Code Instruct - 128K

ibm-granite-8b-code-instruct-128k

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge

ixi-GEN-Fin-7.8B

lg-ixi-gen

텍스트 생성

아니요

ml.g5.4xlarge

JetBrains AI Mellum All

jbai-mellum-all

text2text 생성

아니요

ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge

JetBrains AI Mellum Kotlin

jbai-mellum-kotlin

text2text 생성

아니요

ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge

JetBrains AI Mellum Python

jbai-mellum-python

text2text 생성

아니요

ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge

Jina Embeddings v2 Base - en

jinaai-embeddings-v2-base-en

텍스트 임베딩

아니요

ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p2.16xlarge, ml.p2.8xlarge, ml.p2.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

KARAKURI LM 8x7b instruct

karakuri-lm-8x7b-instruct

텍스트 생성

아니요

ml.g5.48xlarge, ml.g6.48xlarge

LightOn Lyra-Fr 10B

lighton-lyra-fr

텍스트 생성

아니요

ml.p4d.24xlarge

LightOn 미니 지침 40B

lighton-mini-instruct40b

텍스트 생성

아니요

ml.p4d.24xlarge

Liquid LFM 40B(A100)

liquid-lfm-40b-a100

텍스트 생성

아니요

ml.p4d.24xlarge

Liquid LFM 40B(H100)

liquid-lfm-40b-h100

텍스트 생성

아니요

ml.p5.48xlarge

Liquid LFM 40B(L40S)

liquid-lfm-40b-l40s

텍스트 생성

아니요

ml.g6e.12xlarge

Liquid LFM 7B(L40S)

liquid-lfm-7b-l40s

텍스트 생성

아니요

ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge

Llama 3.1 Nemotron Nano 8B V1

nvidia-nemotron-nano-8b-nim

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

Llama 3.1 SuperNova Lite

arcee-llama-3-1-supernova-lite

텍스트 생성

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge

Llama 3.2 NVRerankQA1B NIM 마이크로서비스

nvidia-llama3-2-nv-rerankqa-1b-v2-nim

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e6e.g6xlarge, ml.g6e.g6xlarge, ml.g6e.g6xlarge

Llama 3.3 Nemotron 슈퍼 49B V1

nvidia-nemotron-super-49b-nim

텍스트 생성

아니요

ml.g5.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

Llama 3.3 Nemotron Super 49B V1.5

nvidia-nemotron-super-49b-nim-1-5

텍스트 생성

아니요

ml.g5.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

Llama Spark

arcee-llama-spark

텍스트 생성

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge

Llama-3-Varco-Offsetbias-8B

ncsoft-llama-3-varco-offsetbias-8b

텍스트 생성

아니요

ml.g5.12xlarge

Llama-3.1-8B-Stained Glass Transform Support를 사용한 지침

protopia-llama-3-1-8b-instruct

텍스트 생성

아니요

ml.g4dn.12xlarge, ml.g5.16xlarge, ml.g5.4xlarge

Llama-3.2-NV-EmbedQA-1B-v2

nvidia-llama3-2-nv-embedqa-1b-v2-nim

텍스트 임베딩

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e6e.g6xlarge, ml.g6e.g6xlarge, ml.g6e.g6xlarge

MARS6

cambai-mars6

오디오로 텍스트 전송

아니요

ml.g4dn.2xlarge, ml.g6.2xlarge

Medical LLM - 중간

john-snow-labs-medical-summarization-qa-8b

텍스트 요약

아니요

ml.g4dn.12xlarge, ml.g5.2xlarge

Medical LLM - 소형

john-snow-labs-summarization-qa

텍스트 요약

아니요

ml.g5.12xlarge

Medical Text Translation(EN-ES)

john-snow-labs-medical-translation-en-es

번역

아니요

ml.g5.2xlarge

수성

inception-mercury

텍스트 생성

아니요

ml.p5.48xlarge

수은 코더

inception-mercury-coder

텍스트 생성

아니요

ml.p5.48xlarge

msa-search

nvidia-nim-msa-search-v2-1

텍스트 생성

아니요

ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

Nemotron 나노 9b v2

nvidia-nemotron-nano-9b-v2

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5.4xlarge

nemotron-parse

nvidia-nemotron-parse

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge

기본 NEXUS

fundamental-technologies-nexus

분류

아니요

ml.g4dn.8xlarge, ml.p5en.48xlarge

Nomic Embed Text v1.5

nomic-embed-text

텍스트 임베딩

아니요

ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Nomic Embed Vision v1.5

nomic-embed-image

텍스트 임베딩

아니요

ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

NVIDIA Cosmos Reason-1-7B

nvidia-nim-cosmos-reason1-7b

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5.4xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

NVIDIA Nemotron-4 15B NIM Microservice

nvidia-nemotron-4-15b-nim

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.24xlarge

NVIDIA ParakeetvTDT 0.6B v2

nvidia-parakeetvtdt-0-6b-v2

Audio2Text 생성

아니요

ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge

NVIDIA-Parakeet-1-1b-CTC-EN-US-ASR

nvidia-parakeet-1-1b-ctc-en-us-asr

Audio2Text 생성

아니요

ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6xlarge

Orb

orbital-materials-orb

과학 모델링

아니요

ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge, ml.p4d.24xlarge

PLaMo 프라이빗 배포

preferred-networks-plamo-api

텍스트 생성

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge

ProteinMPNN-NIM

nvidia-nim-proteinmpnn-v1-0-2

텍스트 생성

아니요

ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge

rerank-lite-1 Reranker

voyage-rerank-lite-1-reranker

ReRank

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge

솔라 미니 - 양자

upstage-solar-mini-chat-quant

텍스트 생성

아니요

ml.g5.2xlarge

Solar Pro - 양자

upstage-solar-pro-quantized

텍스트 생성

아니요

ml.g5.12xlarge

Solar Pro 2

upstage-solar-pro

텍스트 생성

아니요

ml.p4d.24xlarge, ml.p5.48xlarge

Sonic 3 SageMaker

cartesia-sonic-3-sagemaker

오디오로 텍스트 전송

아니요

ml.g6e.xlarge

Stable Diffusion 3.5 Large

stabilityai-stable-diffusion-3-5-large

텍스트 투 이미지

아니요

ml.p5.48xlarge

Stable Diffusion XL 1.0

stabilityai-sdxl-1-0

텍스트 투 이미지

아니요

ml.g5.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Stable Diffusion XL 베타 0.8

stabilityai-sdxl-beta-0-8

텍스트 투 이미지

아니요

ml.g5.xlarge

Stockmark-LLM-13b

stockmark-llm-13b

텍스트 생성

아니요

ml.g5.2xlarge

VARCO LLM KO-1.3B-IST

ncsoft-ko-1-3b-ist

텍스트 생성

아니요

ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge

VARCO LLM KO-6.4B-IST

ncsoft-ko-6-4b-ist

텍스트 생성

아니요

ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.12xlarge, ml.g5.4xlarge, ml.g5.8xlarge

VARCO LLM KO/EN-13B-IST

ncsoft-ko-13b-ist

텍스트 생성

아니요

ml.g4dn.12xlarge, ml.g5.12xlarge

voyage-2 임베딩 모델

voyage-2-embedding

텍스트 임베딩

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge

voyage-3 임베딩 모델

voyage-3-embedding

텍스트 임베딩

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge

voyage-3 대형 임베딩 모델

voyage-3-large-embedding

텍스트 임베딩

아니요

ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge

voyage-3.5 임베딩 모델

voyage-3-5-embedding

텍스트 임베딩

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge

voyage-3.5-lite 임베딩 모델

voyage-3-5-lite-embedding

텍스트 임베딩

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge

voyage-code-2 임베딩 모델

voyage-code-2-embedding

텍스트 임베딩

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge

voyage-code-3 임베딩 모델

voyage-code-3-embedding

텍스트 임베딩

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge

voyage-large-2 임베딩 모델

voyage-large-2-embedding

텍스트 임베딩

아니요

ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge

Widn Tower Anthill

widn-tower-anthill

번역

아니요

ml.g5.xlarge

Widn Tower Sugarloaf

widn-tower-sugarloaf

번역

아니요

ml.g5.12xlarge

Widn Tower 베수비우스

widn-llama3-tower-vesuvius

번역

아니요

ml.g5.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge

Woven City AI Vision 엔진

wovenbytoyota-woven-city-ai-vision-engine

다중 모달 생성

아니요

ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.8xlarge

Writer Palmyra-Fin-70B-32K

writer-palmyra-fin-70b-32k

텍스트 생성

아니요

ml.p4d.24xlarge

Writer Palmyra-Med-70B-32K

writer-palmyra-med-70b-32k

텍스트 생성

아니요

ml.p4d.24xlarge

작성자 Palmyra-X-004

writer-palmyra-x-004

텍스트 생성

아니요

ml.p5.48xlarge

Built-in Algorithms (135)

Amazon SageMaker JumpStart는 이미지 분류, 객체 감지, 이미지 세분화와 같은 일반적인 컴퓨터 비전 작업을 위한 사전 훈련된 작업별 모델을 제공합니다. 이러한 모델은 설정된 딥 러닝 프레임워크(PyTorch, TensorFlow, MXNet)를 기반으로 하며 자체 데이터에 배포하거나 미세 조정할 준비가 되어 있습니다.

제공업체 모델 이름 모델 ID Task 라이선스 미세 조정 가능 지원되는 추론 인스턴스 유형

Mxnet

더 빠른 RCNN ResNet 101 V1d

mxnet-od-faster-rcnn-fpn-resnet101-v1d-coco

객체 감지

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

더 빠른 RCNN ResNet 101 V1d

mxnet-od-faster-rcnn-resnet101-v1d-coco

객체 감지

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

더 빠른 RCNN ResNet 50 V1b

mxnet-od-faster-rcnn-fpn-resnet50-v1b-coco

객체 감지

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

더 빠른 RCNN ResNet 50 V1b

mxnet-od-faster-rcnn-resnet50-v1b-coco

객체 감지

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

더 빠른 RCNN ResNet 50 V1b

mxnet-od-faster-rcnn-resnet50-v1b-voc

객체 감지

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

FCN ResNet 101 ADE20K

mxnet-semseg-fcn-resnet101-ade

이미지 세분화

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

FCN ResNet 101 Pascal VOC

mxnet-semseg-fcn-resnet101-voc

이미지 세분화

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

FCN ResNet 50 ADE20K

mxnet-semseg-fcn-resnet50-ade

이미지 세분화

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

인스턴스 세분화

mxnet-is-mask-rcnn-fpn-resnet101-v1d-coco

이미지 세분화

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

MASK RCNN FPN RESNET18 코코

mxnet-is-mask-rcnn-fpn-resnet18-v1b-coco

이미지 세분화

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

마스크 RCNN FPN RESNET50 코코

mxnet-is-mask-rcnn-fpn-resnet50-v1b-coco

이미지 세분화

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

마스크 RCNN RESNET18 COCO

mxnet-is-mask-rcnn-resnet18-v1b-coco

이미지 세분화

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

객체 감지

mxnet-od-ssd-512-mobilenet1-0-coco

객체 감지

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

의미 체계 분할

mxnet-semseg-fcn-resnet101-coco

이미지 세분화

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

SSD 512 ResNet 50 V1

mxnet-od-ssd-512-resnet50-v1-coco

객체 감지

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

SSD MobileNet 1.0

mxnet-od-ssd-512-mobilenet1-0-voc

객체 감지

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

SSD ResNet 50 V1

mxnet-od-ssd-512-resnet50-v1-voc

객체 감지

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

SSD VGG 16 Atrous 300

mxnet-od-ssd-300-vgg16-atrous-voc

객체 감지

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

SSD VGG 16 Atrous 512

mxnet-od-ssd-512-vgg16-atrous-coco

객체 감지

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

SSD VGG16 Atrous 300

mxnet-od-ssd-300-vgg16-atrous-coco

객체 감지

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

SSD VGG16 Atrous 512

mxnet-od-ssd-512-vgg16-atrous-voc

객체 감지

apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

YOLO V3 DarkNet 53

mxnet-od-yolo3-darknet53-coco

객체 감지

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

YOLO V3 DarkNet 53

mxnet-od-yolo3-darknet53-voc

객체 감지

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

YOLO V3 MobileNet 1.0

mxnet-od-yolo3-mobilenet1-0-coco

객체 감지

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Mxnet

YOLO V3 MobileNet 1.0

mxnet-od-yolo3-mobilenet1-0-voc

객체 감지

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Pytorch

SqueezeNet 1

pytorch-ic-squeezenet1-1

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

AlexNet

pytorch-ic-alexnet

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

DenseNet 121

pytorch-ic-densenet121

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

DenseNet 169

pytorch-ic-densenet169

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

FRCNN MobileNet V3 대형 320 FPN

pytorch-od1-fasterrcnn-mobilenet-v3-large-320-fpn

객체 감지

bsd-3-clause

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Pytorch

FRCNN MobileNet V3 대형 FPN

pytorch-od1-fasterrcnn-mobilenet-v3-large-fpn

객체 감지

bsd-3-clause

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Pytorch

GoogLeNet

pytorch-ic-googlenet

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

이미지 분류

pytorch-ic-mobilenet-v2

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

객체 감지

pytorch-od1-fasterrcnn-resnet50-fpn

객체 감지

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Pytorch

ResNet 101

pytorch-ic-resnet101

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

ResNet 152

pytorch-ic-resnet152

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

ResNet 18

pytorch-ic-resnet18

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

ResNet 34

pytorch-ic-resnet34

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

ResNet 50

pytorch-ic-resnet50

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

Resnext 50

pytorch-ic-resnext50-32x4d

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

ShuffleNet V2

pytorch-ic-shufflenet-v2-x1-0

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

SSD

pytorch-od-nvidia-ssd

객체 감지

bsd-3-clause

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Pytorch

VGG 11

pytorch-ic-vgg11

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

VGG 11-BN

pytorch-ic-vgg11-bn

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

VGG 13-BN

pytorch-ic-vgg13-bn

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

VGG 16

pytorch-ic-vgg16

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

VGG 16-BN

pytorch-ic-vgg16-bn

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

VGG 19

pytorch-ic-vgg19

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

VGG-13

pytorch-ic-vgg13

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Pytorch

광역 ResNet 101

pytorch-ic-wide-resnet101-2

이미지 분류

bsd-3-clause

예

ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge

Tensorflow

ALBERT Base

tensorflow-tc-albert-en-base

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

BERT Base Cased

tensorflow-tc-bert-en-cased-L-12-H-768-A-12-2

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

BERT Base MEDLINE/PubMed

tensorflow-tc-experts-bert-pubmed-1

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

BERT Base Multilingual Cased

tensorflow-tc-bert-multi-cased-L-12-H-768-A-12-2

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

BERT Large Uncased

tensorflow-tc-bert-en-uncased-L-24-H-1024-A-16-2

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

BERT Small Uncased L-10 H-128

tensorflow-tcembedding-bert-en-uncased-L-10-H-128-A-2-2

텍스트 임베딩

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

BERT Small Uncased L-12 H-256

tensorflow-tcembedding-bert-en-uncased-L-12-H-256-A-4

텍스트 임베딩

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

BERT Small Uncased L-12 H-768

tensorflow-tcembedding-bert-en-uncased-L-12-H-768-A-12-2

텍스트 임베딩

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

BERT Small Uncased L-4 H-768

tensorflow-tcembedding-bert-en-uncased-L-4-H-768-A-12-2

텍스트 임베딩

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

BiT-M R101x1

tensorflow-ic-bit-m-r101x1-ilsvrc2012-classification-1

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

BiT-M R101x1 특성 벡터

tensorflow-icembedding-bit-m-r101x1-ilsvrc2012-featurevector-1

이미지 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

BiT-M R50x1 ImageNet-21k

tensorflow-ic-bit-m-r50x1-imagenet21k-classification-1

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

CaiT S 24 224

tensorflow-ic-cait-s24-224

이미지 분류

MIT

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

CenterNet ResNet-v1-101

tensorflow-od-centernet-resnet101v1-fpn-512x512-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

CenterNet ResNet-v1-50

tensorflow-od-centernet-resnet50v1-fpn-512x512-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

DeiT Tiny Distilled Patch 16 224

tensorflow-ic-deit-tiny-distilled-patch16-224

이미지 분류

MIT

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

EfficientNet B0

tensorflow-ic-efficientnet-b0-classification-1

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

EfficientNet B1

tensorflow-ic-efficientnet-b1-classification-1

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

EfficientNet B1 특성 벡터

tensorflow-icembedding-efficientnet-b1-featurevector-1

이미지 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

EfficientNet B3

tensorflow-ic-efficientnet-b3-classification-1

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

EfficientNet B7

tensorflow-ic-efficientnet-b7-classification-1

이미지 분류

Apache-2.0

예

ml.c5.9xlarge, ml.g4dn.8xlarge, ml.p3.8xlarge

Tensorflow

EfficientNet V2 ImageNet-1k 스몰

tensorflow-ic-efficientnet-v2-imagenet1k-s

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

EfficientNet V2 ImageNet-21k FT1k M

tensorflow-ic-efficientnet-v2-imagenet21k-ft1k-m

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

더 빠른 R-CNN Resnet V2 1024x1024

tensorflow-od-faster-rcnn-inception-resnet-v2-1024x1024-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

더 빠른 R-CNN Resnet-101 V1 640x640

tensorflow-od-faster-rcnn-resnet101-v1-640x640-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

더 빠른 R-CNN Resnet-50 V1 1024x1024

tensorflow-od-faster-rcnn-resnet50-v1-1024x1024-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

더 빠른 R-CNN Resnet-50 V1 640x640

tensorflow-od-faster-rcnn-resnet50-v1-640x640-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

더 빠른 R-CNN Resnet-50 V1 800x1333

tensorflow-od-faster-rcnn-resnet50-v1-800x1333-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

프릴

tensorflow-audioembedding-frill-1

오디오 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

이미지 분류

tensorflow-ic-swin-base-patch4-window7-224

이미지 분류

MIT

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

이미지 임베딩

tensorflow-icembedding-imagenet-mobilenet-v2-100-224-fv-4

이미지 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

Inception V3

tensorflow-ic-imagenet-inception-v3-classification-4

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

Inception V3 프리뷰 기능 벡터

tensorflow-icembedding-tf2-preview-inception-v3-fv-4

이미지 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

MobileNet V2

tensorflow-ic-tf2-preview-mobilenet-v2-classification-4

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

MobileNet V2 0.35 128

tensorflow-ic-imagenet-mobilenet-v2-035-128

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

MobileNet V2 0.50 224

tensorflow-icembedding-imagenet-mobilenet-v2-050-224-fv-4

이미지 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

MobileNet V2 1.00 224

tensorflow-ic-imagenet-mobilenet-v2-100-224-classification-4

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

MobileNet V2 1.40 224

tensorflow-ic-imagenet-mobilenet-v2-140-224-classification-4

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

MobileNet V2 특성 벡터

tensorflow-icembedding-tf2-preview-mobilenet-v2-featurevector-4

이미지 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

MobileNet V2 특성 벡터

tensorflow-icembedding-tf2-preview-mobilenet-v2-fv-4

이미지 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

MobileNet V3 Large 1.00 224

tensorflow-ic-imagenet-mobilenet-v3-large-100-224

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

MobileNet V3 스몰 0.75 224

tensorflow-ic-imagenet-mobilenet-v3-small-075-224

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

MobileNet V3 스몰 1.00 224

tensorflow-ic-imagenet-mobilenet-v3-small-100-224

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

객체 감지

tensorflow-od1-ssd-resnet50-v1-fpn-640x640-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

ResNet 50

tensorflow-ic-resnet-50-classification-1

이미지 분류

Apache-2.0

예

ml.c5.9xlarge, ml.g4dn.8xlarge, ml.p3.8xlarge

Tensorflow

ResNet 50 특성 벡터

tensorflow-icembedding-resnet-50-featurevector-1

이미지 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

ResNet V1 50

tensorflow-ic-imagenet-resnet-v1-50-classification-4

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

ResNet V2 152 특성 벡터

tensorflow-icembedding-imagenet-resnet-v2-152-featurevector-4

이미지 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

ResNet V2 50

tensorflow-ic-imagenet-resnet-v2-50-classification-4

이미지 분류

Apache-2.0

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

ResNet V2 50 특성 벡터

tensorflow-icembedding-imagenet-resnet-v2-50-featurevector-4

이미지 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

Retinanet SSD Resnet-101 640x640

tensorflow-od-retinanet-resnet101-v1-fpn-640x640-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

Small BERT L-10_H-512_A-8

tensorflow-tc-small-bert-bert-en-uncased-L-10-H-512-A-8

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

Small BERT L-12_H-256_A-4

tensorflow-tc-small-bert-bert-en-uncased-L-12-H-256-A-4

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

Small BERT L-12_H-768_A-12

tensorflow-tc-small-bert-bert-en-uncased-L-12-H-768-A-12

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

Small BERT L-2_H-128_A-2

tensorflow-tc-small-bert-bert-en-uncased-L-2-H-128-A-2

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

Small BERT L-4_H-512_A-8

tensorflow-tc-small-bert-bert-en-uncased-L-4-H-512-A-8

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

Small BERT L-6_H-768_A-12

tensorflow-tc-small-bert-bert-en-uncased-L-6-H-768-A-12

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

Small BERT L-8_H-768_A-12

tensorflow-tc-small-bert-bert-en-uncased-L-8-H-768-A-12

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

SSD ResNet 152 V1 FPN 1024x1024 COCO '17

tensorflow-od1-ssd-resnet152-v1-fpn-1024x1024-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

SSD EfficientDet D0

tensorflow-od-efficientdet-d0-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

SSD Efficientdet D0 512x512 COCO '17

tensorflow-od1-ssd-efficientdet-d0-512x512-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

SSD Efficientdet D1 640x640 COCO '17

tensorflow-od1-ssd-efficientdet-d1-640x640-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

SSD EfficientDet D2

tensorflow-od-efficientdet-d2-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

SSD Efficientdet D2 768x768 COCO '17

tensorflow-od1-ssd-efficientdet-d2-768x768-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

SSD EfficientDet D3

tensorflow-od-efficientdet-d3-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

SSD Efficientdet D3 896x896 COCO '17

tensorflow-od1-ssd-efficientdet-d3-896x896-coco17-tpu-32

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

SSD EfficientDet D5

tensorflow-od-efficientdet-d5-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

SSD Mobilenet V1 FPN 640x640 COCO '17

tensorflow-od1-ssd-mobilenet-v1-fpn-640x640-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

SSD Mobilenet V2

tensorflow-od-ssd-mobilenet-v2-2

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

SSD Mobilenet V2 640x640

tensorflow-od-ssd-mobilenet-v2-fpnlite-640x640-1

객체 감지

apache-2.0

아니요

ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge

Tensorflow

SSD Mobilenet V2 FPN-Lite 320x320 COCO '17

tensorflow-od1-ssd-mobilenet-v2-fpnlite-320x320-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

SSD Mobilenet V2 FPN-lite 640x640 COCO '17

tensorflow-od1-ssd-mobilenet-v2-fpnlite-640x640-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

SSD ResNet 101 V1 FPN 1024x1024 COCO '17

tensorflow-od1-ssd-resnet101-v1-fpn-1024x1024-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

SSD ResNet 101 V1 FPN 640x640 COCO '17

tensorflow-od1-ssd-resnet101-v1-fpn-640x640-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

SSD ResNet 152 V1 FPN 640x640 COCO '17

tensorflow-od1-ssd-resnet152-v1-fpn-640x640-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

SSD ResNet 50 V1 FPN 1024x1024 COCO '17

tensorflow-od1-ssd-resnet50-v1-fpn-1024x1024-coco17-tpu-8

객체 감지

apache-2.0

예

ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

Swin Base 4 12 384

tensorflow-ic-swin-base-patch4-window12-384

이미지 분류

MIT

예

ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge

Tensorflow

Talking Heads Large

tensorflow-tc-talking-heads-large

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

텍스트 분류

tensorflow-tc-bert-en-uncased-L-12-H-768-A-12-2

텍스트 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge

Tensorflow

텍스트 임베딩

tensorflow-tcembedding-universal-sentc-encoder-cmlm-en-large-1

텍스트 임베딩

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

TRILL Distilled

tensorflow-audioembedding-trill-distilled-3

오디오 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

TRILLsson 1

tensorflow-audioembedding-trillsson1-1

오디오 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

TRILLsson 2

tensorflow-audioembedding-trillsson2-1

오디오 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

TRILLsson 3

tensorflow-audioembedding-trillsson3-1

오디오 분류

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Tensorflow

범용 문장 인코더 CMLM 기본

tensorflow-tcembedding-universal-sentc-encoder-cmlm-en-base-1

텍스트 임베딩

apache-2.0

아니요

ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge

Classic ML Algorithms (11)

Amazon SageMaker JumpStart는 분류, 회귀 및 시계열 예측과 같은 테이블 형식 데이터 작업을 위해 클래식 기계 학습 알고리즘을 ready-to-use 수 있는 구현을 제공합니다. 이러한 알고리즘(XGBoost, LightGBM, CatBoost, scikit-learn, AutoGluon)은 구조화된 데이터에 최적화되어 있으며 자체 데이터 세트에서 처음부터 훈련할 수 있습니다.

제공업체 모델 이름 모델 ID Task 라이선스 미세 조정 가능 지원되는 추론 인스턴스 유형

Autogluon

AutoGluon 테이블 형식 분류

autogluon-classification-ensemble

테이블 형식 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.p3.2xlarge

Autogluon

AutoGluon 테이블 형식 회귀

autogluon-regression-ensemble

테이블 형식 회귀

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.p3.2xlarge

Catboost

CatBoost 분류

catboost-classification-model

테이블 형식 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m4.16xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge

Catboost

CatBoost 회귀

catboost-regression-model

테이블 형식 회귀

apache-2.0

예

ml.c4.8xlarge, ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge

Lightgbm

LightGBM 분류

lightgbm-classification-model

테이블 형식 분류

mit

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m4.16xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge

Lightgbm

LightGBM 회귀

lightgbm-regression-model

테이블 형식 회귀

mit

예

ml.c4.8xlarge, ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge

Pytorch

TabTransformer 분류

pytorch-tabtransformerclassification-model

테이블 형식 분류

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.p3.2xlarge

Pytorch

TabTransformer 회귀

pytorch-tabtransformerregression-model

테이블 형식 회귀

apache-2.0

예

ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.p3.2xlarge

Sklearn

선형 분류

sklearn-classification-linear

테이블 형식 분류

bsd-3-clause

예

ml.c4.8xlarge, ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge

Xgboost

XGBoost 분류

xgboost-classification-model

테이블 형식 분류

apache-2.0

예

ml.c4.8xlarge, ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge

Xgboost

XGBoost 회귀

xgboost-regression-model

테이블 형식 회귀

apache-2.0

예

ml.c4.8xlarge, ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge

참고

가장 정확한 up-to-date 라이선스 정보는 SageMaker Studio의 모델 세부 정보 페이지 또는 모델 Hugging Face 페이지를 참조하세요.