기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
사용 가능한 파운데이션 모델
Amazon SageMaker JumpStart는 사용자의 생성형 AI 워크플로에 사용자 지정 및 통합할 수 있는 최첨단 내장형 공개적으로 사용 가능한 독점 파운데이션 모델을 제공합니다.
처음 두 탭에는 파운데이션 모델이 나열됩니다. 마지막 두 탭에는 JumpStart가 제공하는 기본 제공 알고리즘과 클래식 기계 학습 알고리즘이 나열되어 있으며, 이는 파운데이션 모델이 아닙니다.
사용 가능한 모든 JumpStart 파운데이션 모델을 나열하려면:
import boto3 sagemaker_client = boto3.client("sagemaker", region_name="us-west-2") # List all available models in the SageMakerPublicHub all_models = [] next_token = None while True: params = {"HubName": "SageMakerPublicHub", "HubContentType": "Model"} if next_token: params["NextToken"] = next_token response = sagemaker_client.list_hub_contents(**params) all_models.extend(response["HubContentSummaries"]) next_token = response.get("NextToken") if not next_token: break print(f"Total models available: {len(all_models)}") for model in all_models[:5]: print(model["HubContentName"], model["HubContentVersion"])
특정 모델에 대해 지원되는 인스턴스 유형 및 기타 메타데이터를 가져오려면:
import json import boto3 sagemaker_client = boto3.client("sagemaker", region_name="us-west-2") model_id = "meta-textgeneration-llama-3-3-70b-instruct" response = sagemaker_client.describe_hub_content( HubName="SageMakerPublicHub", HubContentType="Model", HubContentName=model_id ) # Parse the model metadata model_doc = json.loads(response["HubContentDocument"]) print(f"Supported instances: {model_doc['SupportedInferenceInstanceTypes']}") print(f"Default instance: {model_doc['DefaultInferenceInstanceType']}")
다음 표에는 2026년 7월 29일 현재 라이선스 및 지원되는 추론 인스턴스 유형이 있는 사용 가능한 모델이 나열되어 있습니다. 최신 정보는 위의 API 예제를 사용하거나 SageMaker Studio의 모델 허브를 참조하세요.
모델 허브가 해당 모델에 대한 라이선스를 게시하지 않으면 라이선스 셀에 "해당 없음"이라고 표시됩니다. 이러한 모델을 사용하기 전에 모델 공급자와 라이선스 조건을 확인하세요. 테이블의 공백 또는 자리 표시자 값은 권한을 부여하지 않습니다.
일부 모델은 기본값 외에도 대체 호스팅 배포 구성을 제공합니다. 각 구성은 하나의 사용 사례와 하나의 성능 목표에 맞게 모델을 조정하며, 각 구성은 자체 인스턴스 유형 세트를 지원합니다. 구성은 종종 기본값보다 작거나 저렴한 인스턴스를 지원하므로 모델에 큰 인스턴스가 필요하다고 결론을 내리기 전에 구성을 확인하세요.
구성 이름은 사용 사례를 성능 목표와 페어링합니다. 이는 SageMaker Studio가 엔드포인트에 모델 배포 페이지의 성능에서 제공하는 것과 동일한 사용 사례 및 성능 목표이므로 여기에 있는 이름과 여기에 있는 선택 사항은 동일한 배포를 설명합니다. 사용 사례에서는 워크로드를 설명합니다.
generate(생성): 프롬프트에서 문서, 보고서 또는 코드와 같은 긴 형식의 콘텐츠를 생성합니다.interact(상호 작용): 챗봇 또는 가상 어시스턴트와 같은 실시간 대화를 강화합니다.summarize(요약): 길이가 긴 문서, 문서 또는 데이터를 간결한 요약으로 압축합니다.modify(수정): 재작성, 번역 또는 재포밍을 포함한 기존 콘텐츠를 변환하거나 편집합니다.max_context(최대 컨텍스트): 모델의 전체 컨텍스트 창이 필요한 대규모 입력을 처리합니다.
성능 목표는 구성이 최적화하는 대상을 설명합니다.
best_price_performance(분산): 비용, 지연 시간 및 처리량 간의 균등한 절충입니다. 범용 워크로드 또는 어떤 지표가 가장 중요한지 확실하지 않은 경우에 적합합니다.lowest_cost(비용 최적화): 요청당 인프라 비용이 가장 낮습니다. 지연 시간이 길고 처리량이 낮아 비용을 최소화합니다.highest_throughput(처리량 최적화): 대용량 워크로드에 대한 초당 최대 토큰 수입니다. 추측 디코딩을 사용하여 처리량을 늘립니다.lowest_latency(지연 시간 최적화): 가장 낮은 최초 토큰 도달 시간(TTFT). 처리량 및 비용보다 속도를 우선시합니다.
대신 lmi 또는와 같은 서비스 컨테이너의 이름을 지정tgi하거나 워크로드 가정 없이 all_purpose를 사용하여 서비스합니다.
모델의 구성을 벤치마크 지표와 함께 나열한 다음 SageMaker Python SDK를 사용하여 배포합니다.
from sagemaker.serve import ModelBuilder from sagemaker.core.jumpstart.configs import JumpStartConfig model_builder = ModelBuilder.from_jumpstart_config( jumpstart_config=JumpStartConfig(model_id="meta-textgeneration-llama-3-1-8b-instruct") ) # Print every configuration with its instance types and benchmark metrics. model_builder.list_deployment_configs() # Select a configuration and one of the instance types it supports. model_builder.set_deployment_config( config_name="generate_lowest_cost", instance_type="ml.g6e.xlarge", ) model = model_builder.build() endpoint = model_builder.deploy()
를 호출하지 않고 배포하려면 기본 구성과 기본 인스턴스 유형을 set_deployment_config 사용합니다.
- Open-Weight Models (436)
-
개방형 파운데이션 모델은 Meta, Google, Mistral AI 등과 같은 공급자가 공개적으로 사용할 수 있는 모델입니다. 사용 사례에 맞게 이러한 모델을 배포, 미세 조정 및 사용자 지정할 수 있습니다.
이러한 모델 중 하나를 시작하려면 섹션을 참조JumpStart 파운데이션 모델 사용량하거나 사용 가능한 중 하나를 살펴보세요예제 노트북. 주어진 예제 노트북에서 모델 ID를 전환하여 동일한 모델 패밀리 내의 다른 모델을 실험해 보세요.
SageMaker Python SDK를 사용하여 공개적으로 사용 가능한 JumpStart 파운데이션 모델을 배포하는 데 필요한 모델 ID 및 리소스에 대한 자세한 내용은 SageMaker Python SDK로 파운데이션 모델 사용를 참조하세요.
제공업체 모델 이름 모델 ID Task 라이선스 미세 조정 가능 지원되는 추론 인스턴스 유형 01-Ai
Yi-1.5-34B
huggingface-llm-yi-1-5-34b텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
01-Ai
Yi-1.5-9B
huggingface-llm-yi-1-5-9b텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Ahxt
Lite Llama 460M 1T
huggingface-llm-ahxt-litellama-460m-1t텍스트 생성
mit
아니요
ml.g5.2xlarge
Ai-영구
다국어 GPT
huggingface-llm-ai-forever-mgpt텍스트 생성
apache-2.0
아니요
ml.g5.2xlarge
Aisingapore
Llama3 8B SEA-Lion v2.1 Instruct
huggingface-llm-llama3-8b-sealionv21-instruct텍스트 생성
llama3
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Aisingapore
SEA-LION 3B
huggingface-llm-sealion-3b텍스트 생성
mit
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.p3.8xlarge
Aisingapore
SEA-LION 7B
huggingface-llm-sealion-7b텍스트 생성
mit
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Aisingapore
SEA-LION 7B 지침
huggingface-llm-sealion-7b-instruct텍스트 생성
mit
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Alibaba-Nlp
Alibaba-NLP gte-Qwen2-7B-instruct
huggingface-textembedding-gte-qwen2-7b-instruct텍스트 임베딩
Apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge
알레나이
Olmo-3-7B-Instruct
huggingface-textgeneration-olmo-3-7b-instruct텍스트 생성
apache-2.0
아니요
ml.g6e.24xlarge
Amazon
크로노스 2
pytorch-forecasting-chronos-2시계열 예측
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.2xlarge, ml.g6e.xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge
Amazon
Falcon 라이트
huggingface-llm-amazon-falconlite텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge
Amazon
Falcon Lite 2
huggingface-llm-amazon-falconlite2텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge
Amazon
Mistral Lite
huggingface-llm-amazon-mistrallite텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Autogluon
크로노스 볼트(기본)
autogluon-forecasting-chronos-bolt-base시계열 예측
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.2xlarge
Autogluon
크로노스 볼트(소형)
autogluon-forecasting-chronos-bolt-small시계열 예측
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.2xlarge
Autogluon
Chronos-T5(기본)
autogluon-forecasting-chronos-t5-base시계열 예측
apache-2.0
아니요
ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.p3.2xlarge
Autogluon
Chronos-T5(대형)
autogluon-forecasting-chronos-t5-large시계열 예측
apache-2.0
아니요
ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.p3.2xlarge
Autogluon
Chronos-T5(소형)
autogluon-forecasting-chronos-t5-small시계열 예측
apache-2.0
아니요
ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.p3.2xlarge
바이
BAAI bge-base-en-v1.5
huggingface-textembedding-bge-base-en-v1-5텍스트 임베딩
MIT
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge
바이
BGE Base En
huggingface-sentencesimilarity-bge-base-en문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
바이
BGE Base En V1.5
huggingface-sentencesimilarity-bge-base-en-v1-5문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
바이
BGE Large En
huggingface-sentencesimilarity-bge-large-en문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
바이
BGE Large En V1.5
huggingface-sentencesimilarity-bge-large-en-v1-5문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
바이
BGE M3
huggingface-sentencesimilarity-bge-m3문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
바이
BGE 스몰 엔
huggingface-sentencesimilarity-bge-small-en문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
바이
BGE Small En V1.5
huggingface-sentencesimilarity-bge-small-en-v1-5문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Berkeley-Nest
Starling LM 7B 알파
huggingface-llm-berkeley-nest-starling-lm-7b-alpha텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge
바라트게나이
Param2-17B-A2.4B-사고
huggingface-llm-param2-17b-a2-4b-thinking텍스트 생성
해당 사항 없음
아니요
ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge
빅코드
StarCoder
huggingface-llm-starcoder텍스트 생성
bigcode-openrail-m
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
빅코드
StarCoderBase
huggingface-llm-starcoderbase텍스트 생성
bigcode-openrail-m
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
빅사이언스
블룸 1b1
huggingface-textgeneration-bloom-1b1텍스트 생성
bigscience-bloom-rail-1.0
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
빅사이언스
Bloom 3B
huggingface-textgeneration1-bloom-3b텍스트 생성
bigscience-bloom-rail-1.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
빅사이언스
Bloom 7B1
huggingface-textgeneration1-bloom-7b1텍스트 생성
bigscience-bloom-rail-1.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
빅사이언스
Bloomz 1b7
huggingface-textgeneration-bloomz-1b7텍스트 생성
bigscience-bloom-rail-1.0
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
빅사이언스
BloomZ 7B1 FP16
huggingface-textgeneration1-bloomz-7b1-fp16텍스트 생성
bigscience-bloom-rail-1.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
빙수
Bingsu 내 한국의 안정적인 확산 v1 5
huggingface-txt2img-bingsu-my-korean-stable-diffusion-v1-5Text-to-Image
creativeml-openrail-m
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.p3.2xlarge
Black-Forest-Labs
블랙 포리스트 랩 FLUX.1[스켈]
huggingface-txt2img-black-forest-labs-flux-1-schnellText-to-Image
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Black-Forest-Labs
FLUX.2-클레인-베이스-4B
huggingface-img2img-flux-2-klein-base-4bImage-Text-to-Image
Apache-2.0
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.12xlarge, ml.g7e.24xlarge, ml.g7e.2xlarge, ml.g7e.48xlarge, ml.g7e.8xlarge
인지 계산
Dolphin 2.2.1 Mistral 7B
huggingface-llm-dolphin-2-2-1-mistral-7b텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge
인지 계산
Dolphin 2.5 Mistral 8 7B
huggingface-llm-dolphin-2-5-mixtral-8x7b텍스트 생성
apache-2.0
아니요
ml.g5.48xlarge
인지 계산
Dolphin 2.7 Mistral 8 7B
huggingface-llm-dolphin-2-7-mixtral-8x7b텍스트 생성
apache-2.0
아니요
ml.g5.48xlarge
인지 계산
Dolphin 2.9 Llama 3 8b
huggingface-llm-cognitive-dolphin-29-llama3-8b텍스트 생성
기타
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Cohereforai
Aya 101
huggingface-llm-aya-101텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
교차 인코더
크로스 인코더 Nli Deberta Base
huggingface-zstc-cross-encoder-nli-deberta-base제로샷 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
교차 인코더
크로스 인코더 Nli Distilroberta Base
huggingface-zstc-cross-encoder-nli-distilroberta-base제로샷 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
교차 인코더
크로스 인코더 Nli MiniLM2 L6 H768
huggingface-zstc-cross-encoder-nli-minilm2-l6-h768제로샷 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
교차 인코더
크로스 인코더 Nli Roberta Base
huggingface-zstc-cross-encoder-nli-roberta-base제로샷 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Cyberagent
CyberAgentLM2-7B-Chat(CALM2-7B-Chat)
huggingface-llm-calm2-7b-chat-bf16텍스트 생성
apache-2.0
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge
Databricks
DBRX Base
huggingface-llm-dbrx-base텍스트 생성
databricks-open-model
아니요
ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Databricks
DBRX Instruct
huggingface-llm-dbrx-instruct텍스트 생성
databricks-open-model
아니요
ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Databricks
Dolly V2 12b BF16
huggingface-textgeneration-dolly-v2-12b-bf16텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Databricks
Dolly V2 3b BF16
huggingface-textgeneration-dolly-v2-3b-bf16텍스트 생성
apache-2.0
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Deepseek-Ai
DeepSeek-OCR
deepseek-vlm-deepseek-ocrImage-Text-to-Text
mit
아니요
ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.16xlarge, ml.g6e.g6e.xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6xlarge, ml.g6e.g6xlarge, ml
Deepseek-Ai
DeepSeek-R1
deepseek-llm-r1텍스트 생성
mit
아니요
ml.p5e.48xlarge, ml.p5en.48xlarge
Deepseek-Ai
DeepSeek-R1-0528
deepseek-llm-r1-0528텍스트 생성
mit
아니요
ml.p5e.48xlarge, ml.p5en.48xlarge
Deepseek-Ai
DeepSeek-R1-Distill-Llama-70B
deepseek-llm-r1-distill-llama-70b텍스트 생성
mit
예
기본값: ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
djl(Deep Java Library 서빙 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlargegenerate_lowest_cost(생성, 비용 최적화),generate_lowest_latency(생성, 지연 시간 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlargemodify_best_price_performance(수정, 밸런스),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_cost(수정, 비용 최적화),modify_lowest_latency(수정, 지연 시간 최적화),summarize_best_price_performance(요약, 밸런스),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.48xlarge
Deepseek-Ai
DeepSeek-R1-Distill-Llama-8B
deepseek-llm-r1-distill-llama-8b텍스트 생성
mit
예
기본값: ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.12xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
djl(Deep Java Library 서빙 컨테이너): ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlargegenerate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.2xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.12xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g7e.2xlargeinteract_best_price_performance(상호 작용, 밸런스),modify_best_price_performance(수정, 밸런스),modify_lowest_cost(수정, 비용 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlargeinteract_lowest_cost(상호 작용, 비용 최적화): ml.g6.48xlarge, ml.g6e.xlarge, ml.g7e.2xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.12xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화),summarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.12xlargesummarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge
Deepseek-Ai
DeepSeek-R1-Distill-Qwen-1.5B
deepseek-llm-r1-distill-qwen-1-5b텍스트 생성
mit
예
기본값: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화),summarize_best_price_performance(요약, 밸런스),summarize_lowest_cost(요약, 비용 최적화): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.2xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g7e.2xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.4xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.2xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlargemodify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.4xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.4xlarge, ml.g7e.4xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g6.24xlarge, ml.g6e.2xlarge, ml.g7e.2xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge
Deepseek-Ai
DeepSeek-R1-Distill-Qwen-14B
deepseek-llm-r1-distill-qwen-14b텍스트 생성
mit
예
기본값: ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.4xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g7e.4xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.4xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화),summarize_best_price_performance(요약, 밸런스),summarize_highest_throughput(요약, 처리량 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.2xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6e.24xlarge, ml.g7e.2xlarge, ml.p5en.48xlargesummarize_lowest_cost(요약, 비용 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.48xlarge
Deepseek-Ai
DeepSeek-R1-Distill-Qwen-32B
deepseek-llm-r1-distill-qwen-32b텍스트 생성
mit
예
기본값: ml.g6e.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.4xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlargemodify_best_price_performance(수정, 밸런스),modify_lowest_cost(수정, 비용 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge
Deepseek-Ai
DeepSeek-R1-Distill-Qwen-7B
deepseek-llm-r1-distill-qwen-7b텍스트 생성
mit
예
기본값: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.4xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.xlarge, ml.g7e.2xlargeinteract_highest_throughput(상호 작용, 처리량 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화),modify_highest_throughput(수정, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.2xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화),summarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlargemodify_best_price_performance(수정, 밸런스),modify_lowest_cost(수정, 비용 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlarge
Deepseek-Ai
DeepSeek-V3.1
deepseek-llm-deepseek-v3-1텍스트 생성
mit
아니요
ml.p5e.48xlarge, ml.p5en.48xlarge
Deepseek-Ai
DeepSeek-V3.2
deepseek-llm-deepseek-v3-2텍스트 생성
mit
아니요
ml.p5en.48xlarge
폐기
DistilBERT 기본 케이스
huggingface-eqa-distilbert-base-cased질문 응답
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
폐기
DistilBERT 기본 케이스
huggingface-spc-distilbert-base-casedFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
폐기
DistilBERT 기본 케이스
huggingface-tc-distilbert-base-cased텍스트 분류
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
폐기
DistilBERT 기본 다국어 대/소문자
huggingface-eqa-distilbert-base-multilingual-cased질문 응답
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
폐기
DistilBERT 기본 다국어 대/소문자
huggingface-spc-distilbert-base-multilingual-casedFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
폐기
DistilBERT 기본 다국어 대/소문자
huggingface-tc-distilbert-base-multilingual-cased텍스트 분류
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
폐기
DistilGPT 2
huggingface-textgeneration-distilgpt2텍스트 생성
apache-2.0
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
폐기
DistilRoBERTa 기본
huggingface-eqa-distilroberta-base질문 응답
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
폐기
DistilRoBERTa 기본
huggingface-tc-distilroberta-base텍스트 분류
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
폐기
질문 응답
huggingface-eqa-distilbert-base-uncased질문 응답
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
폐기
문장 쌍 분류
huggingface-spc-distilbert-base-uncasedFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
폐기
텍스트 분류
huggingface-tc-distilbert-base-uncased텍스트 분류
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
탄력적
Distilbert Base Uncased
huggingface-ner-distilbert-base-uncased-finetuned-conll03-eng토큰 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
탄력적
개체명 인식
huggingface-ner-distilbert-base-cased-finetuned-conll03-eng토큰 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
탄력적
개체명 인식
huggingface-ner-distilbert-base-cased-finetuned-conll03-english토큰 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
에루테라이
GOT-J 6B
huggingface-textgeneration1-gpt-j-6b텍스트 생성
apache-2.0
예
ml.g5.12xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
에루테라이
GPT-Neo 125M
huggingface-textgeneration1-gpt-neo-125m텍스트 생성
mit
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
에루테라이
gpt-neox-20b
huggingface-textgeneration2-gpt-neox-20b-fp16텍스트 생성
Apache-2.0
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge
에루테라이
Pythia 160m 중복
huggingface-llm-eleutherai-pythia-160m-deduped텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge
에루테라이
Pythia 7m Deduped
huggingface-llm-eleutherai-pythia-70m-deduped텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge
엘리자
ELYZA-japanese-Llama-2-13b-chat
huggingface-llm-elyza-japanese-llama-2-13b-chat텍스트 생성
llama2
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
엘라이자
ELYZA-japanese-Llama-2-13b-fast-chat
huggingface-llm-elyza-japanese-llama-2-13b-fast-chat텍스트 생성
llama2
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
엘라이자
ELYZA-japanese-Llama-2-7b-chat
huggingface-llm-elyza-japanese-llama-2-7b-chat-bf16텍스트 생성
llama2
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.xlarge
엘라이자
ELYZA-japanese-Llama-2-7b-fast-chat
huggingface-llm-elyza-japanese-llama-2-7b-fast-chat-bf16텍스트 생성
llama2
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.xlarge
Emrecan
Emrecan Bert Base 터키어 Cased Allnli Tr
huggingface-zstc-emrecan-bert-base-turkish-cased-allnli-tr제로샷 분류
mit
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebook
제로샷 텍스트 분류
huggingface-zstc-facebook-bart-large-mnli제로샷 분류
mit
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
RoBERTa 기본
huggingface-eqa-roberta-base질문 응답
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
RoBERTa 기본
huggingface-spc-roberta-baseFill-Mask
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
RoBERTa 기본
huggingface-tc-roberta-base텍스트 분류
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
RoBERTa 라지
huggingface-eqa-roberta-large질문 응답
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
RoBERTa 라지
huggingface-spc-roberta-largeFill-Mask
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
RoBERTa 라지
huggingface-tc-roberta-large텍스트 분류
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
XLM CLM 영어-독일어
huggingface-spc-xlm-clm-ende-1024Fill-Mask
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
XLM CLM 영어-독일어
huggingface-tc-xlm-clm-ende-1024텍스트 분류
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
XLM MLM 15 XNLI 언어
huggingface-spc-xlm-mlm-xnli15-1024Fill-Mask
cc-by-nc-4.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
XLM MLM 영어-독일어
huggingface-spc-xlm-mlm-ende-1024Fill-Mask
cc-by-nc-4.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
XLM MLM 영어-독일어
huggingface-tc-xlm-mlm-ende-1024텍스트 분류
cc-by-nc-4.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
XLM MLM 영어-루마니아어
huggingface-spc-xlm-mlm-enro-1024Fill-Mask
cc-by-nc-4.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
XLM MLM 영어-루마니아어
huggingface-tc-xlm-mlm-enro-1024텍스트 분류
cc-by-nc-4.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
XLM MLM TLM 15 XNLI 언어
huggingface-spc-xlm-mlm-tlm-xnli15-1024Fill-Mask
cc-by-nc-4.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Facebookai
XLM MLM TLM 15 XNLI 언어
huggingface-tc-xlm-mlm-tlm-xnli15-1024텍스트 분류
cc-by-nc-4.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
피티버스
Fictiverse Stable Diffusion BalloonArt 모델
huggingface-txt2img-fictiverse-stable-diffusion-balloonartText-to-Image
creativeml-openrail-m
아니요
ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
피티버스
Fictiverse Stable Diffusion Microscope 모델
huggingface-txt2img-fictiverse-stable-diffusion-micro-modelText-to-Image
오픈레일
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.p3.2xlarge
피티버스
Fictiverse Stable Diffusion PaperCut 모델
huggingface-txt2img-fictiverse-stable-diffusion-papercut-modelText-to-Image
creativeml-openrail-m
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.p3.2xlarge
피티버스
Fictiverse Stable Diffusion VoxelArt 모델
huggingface-txt2img-fictiverse-stable-diffusion-voxelart-modelText-to-Image
creativeml-openrail-m
아니요
ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Google
Bigbird Pegasus Large Arxiv
huggingface-summarization-bigbird-pegasus-large-arxiv텍스트 요약
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google
Bigbird Pegasus Large Pubmed
huggingface-summarization-bigbird-pegasus-large-pubmed텍스트 요약
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google
Flan-T5 Base
huggingface-text2text-flan-t5-baseText2Text 생성
apache-2.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Google
Flan-T5 Large
huggingface-text2text-flan-t5-largeText2Text 생성
apache-2.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Google
Flan-T5 Small
huggingface-text2text-flan-t5-smallText2Text 생성
apache-2.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Google
Flan-T5 XL
huggingface-text2text-flan-t5-xlText2Text 생성
apache-2.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Google
Flan-T5 XXL
huggingface-text2text-flan-t5-xxlText2Text 생성
apache-2.0
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Google
Gemma 2 27B
huggingface-llm-gemma-2-27b텍스트 생성
젬마
아니요
ml.g5.48xlarge, ml.p4d.24xlarge
Google
Gemma 2 27B 지침
huggingface-llm-gemma-2-27b-instruct텍스트 생성
젬마
아니요
ml.g5.48xlarge, ml.p4d.24xlarge
Google
Gemma 2 2B
huggingface-llm-gemma-2-2b텍스트 생성
젬마
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Google
Gemma 2 2B 지침
huggingface-llm-gemma-2-2b-instruct텍스트 생성
젬마
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Google
Gemma 2 9B
huggingface-llm-gemma-2-9b텍스트 생성
젬마
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Google
Gemma 2 9B 지침
huggingface-llm-gemma-2-9b-instruct텍스트 생성
젬마
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Google
Gemma 3 1B 지침
huggingface-llm-gemma-3-1b-instruct텍스트 생성
젬마
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Google
Gemma 3 27B 지침
huggingface-vlm-gemma-3-27b-instructImage-Text-to-Text
젬마
아니요
ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Google
Gemma 3 4B 지침
huggingface-vlm-gemma-3-4b-instructImage-Text-to-Text
젬마
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Google
Gemma-2b
huggingface-llm-gemma-2b텍스트 생성
젬마
예
기본값: ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge, ml.p3.2xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.2xlargegenerate_highest_throughput(생성, 처리량 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g4dn.2xlarge, ml.g6e.12xlarge, ml.p5en.48xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Google
gemma-2b-it
huggingface-llm-gemma-2b-instruct텍스트 생성
젬마
예
기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlargegenerate_highest_throughput(생성, 처리량 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_highest_throughput(상호 작용, 처리량 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Google
gemma-4-26b-a4b-it
huggingface-vlm-gemma-4-26b-a4b-it텍스트 생성
apache-2.0
아니요
기본값: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 균형),interact_lowest_cost(상호 작용, 비용 최적화),modify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화),summarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.p5.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.p5en.48xlargemodify_highest_throughput(수정, 처리량 최적화),modify_lowest_latency(수정, 지연 시간 최적화),summarize_highest_throughput(요약, 처리량 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Google
gemma-4-31b-it
huggingface-vlm-gemma-4-31b-itImage-Text-to-Text
Apache-2.0
예
ml.g6.24xlarge, ml.g7e.2xlarge
Google
gemma-4-E2B-it
huggingface-vlm-gemma-4-e2b-instructImage-Text-to-Text
Apache-2.0
아니요
기본값: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.4xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
max_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.g7e.4xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.4xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6.8xlarge, ml.g6e.8xlarge, ml.g7e.4xlargemodify_best_price_performance(수정, 밸런스),modify_lowest_cost(수정, 비용 최적화),summarize_best_price_performance(요약, 밸런스),summarize_lowest_cost(요약, 비용 최적화): ml.g6.4xlarge, ml.g6e.xlarge, ml.g7e.2xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.2xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.8xlarge, ml.g7e.4xlargesummarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.xlarge, ml.g7e.2xlarge
Google
gemma-4-e4b-it
huggingface-vlm-gemma-4-e4b-it텍스트 생성
apache-2.0
예
기본값: ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런싱),generate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런싱),interact_lowest_cost(상호 작용, 비용 최적화),modify_best_price_performance(수정, 밸런싱),modify_lowest_cost(수정, 비용 최적화): ml.g6.xlarge, ml.g6e.xlarge, ml.p5.48xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.2xlarge, ml.g6e.2xlarge, ml.p5en.48xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.16xlarge, ml.g6e.16xlarge, ml.p5.48xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화),summarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.p5.48xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.p5.48xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.16xlarge, ml.p5.48xlargesummarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.8xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Google
Gemma-7b
huggingface-llm-gemma-7b텍스트 생성
젬마
예
ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Google
gemma-7b-it
huggingface-llm-gemma-7b-instruct텍스트 생성
젬마
예
기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargegenerate_lowest_latency(생성, 지연 시간 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g5.48xlarge, ml.g6e.24xlarge, ml.p5en.48xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Google-Bert
BERT Base Cased
huggingface-eqa-bert-base-cased질문 응답
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Base Cased
huggingface-spc-bert-base-casedFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Base Cased
huggingface-tc-bert-base-cased텍스트 분류
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Base Multilingual Cased
huggingface-eqa-bert-base-multilingual-cased질문 응답
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Base Multilingual Cased
huggingface-spc-bert-base-multilingual-casedFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Base Multilingual Cased
huggingface-tc-bert-base-multilingual-cased텍스트 분류
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT 기본 다국어 대/소문자 미지정
huggingface-eqa-bert-base-multilingual-uncased질문 응답
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT 기본 다국어 대/소문자 미지정
huggingface-spc-bert-base-multilingual-uncasedFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT 기본 다국어 대/소문자 미지정
huggingface-tc-bert-base-multilingual-uncased텍스트 분류
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Base Uncased
huggingface-eqa-bert-base-uncased질문 응답
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Base Uncased
huggingface-spc-bert-base-uncasedFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Base Uncased
huggingface-tc-bert-base-uncased텍스트 분류
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Large Cased
huggingface-eqa-bert-large-cased질문 응답
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Large Cased
huggingface-spc-bert-large-casedFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Large Cased
huggingface-tc-bert-large-cased텍스트 분류
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Large Cased Whole Word Masking
huggingface-eqa-bert-large-cased-whole-word-masking질문 응답
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Large Cased Whole Word Masking
huggingface-spc-bert-large-cased-whole-word-maskingFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Large Uncased
huggingface-spc-bert-large-uncasedFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Large Uncased
huggingface-tc-bert-large-uncased텍스트 분류
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
BERT Large Uncased Whole Word Masking
huggingface-spc-bert-large-uncased-whole-word-maskingFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-Bert
마스크 채우기
huggingface-fillmask-bert-base-uncasedFill-Mask
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-T5
기계 번역
huggingface-translation-t5-small번역
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-T5
t5 Base en de
huggingface-translation-t5-base번역
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Google-T5
t5 Large en de
huggingface-translation-t5-large번역
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
그라데이션
Llama-3 8B 그라데이션 지침 1048k
huggingface-llm-llama-3-8b-instruct-gradient텍스트 생성
llama3
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
그라데이션
Llama-3 8B 그라데이션 지침 262k
huggingface-llm-gradientai-llama-3-8B-instruct-262k텍스트 생성
llama3
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Helsinki-Nlp
헬싱키 opus en es
huggingface-translation-opus-mt-en-es번역
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Helsinki-Nlp
헬싱키 오푸스 en vi
huggingface-translation-opus-mt-en-vi번역
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Helsinki-Nlp
Helsinki opus mul en
huggingface-translation-opus-mt-mul-en번역
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Huggingfaceh4
HuggingFaceH4 zephyr-orpo-141b-A35b-v0.1
huggingface-llm-huggingfaceh4-zephyr-orpo-141b-a35b-v01텍스트 생성
apache-2.0
아니요
ml.g5.48xlarge, ml.p4d.24xlarge
Huggingfaceh4
스타 채팅 알파
huggingface-llm-huggingfaceh4-starchat-alpha텍스트 생성
bigcode-openrail-m
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge
Huggingfaceh4
스타 채팅 베타
huggingface-llm-huggingfaceh4-starchat-beta텍스트 생성
bigcode-openrail-m
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Huggingfaceh4
Zephyr 7B 베타
huggingface-llm-huggingfaceh4-zephyr-7b-beta텍스트 생성
mit
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Ibm
품질 관리형 Paraphrase 생성
huggingface-text2text-qcpg-sentencesText2Text 생성
apache-2.0
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
아이디어-Ccnl
IDEA CCNL Taiyi Stable Diffusion 1B 중국 EN v0.1
huggingface-txt2img-idea-ccnl-taiyi-1b-chinese-en-v01Text-to-Image
creativeml-openrail-m
아니요
ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
아이디어-Ccnl
IDEA CCNL Taiyi Stable Diffusion 1B 중국어 v0.1
huggingface-txt2img-idea-ccnl-taiyi-1b-chinese-v0-1Text-to-Image
creativeml-openrail-m
아니요
ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Intfloat
E5 기본
huggingface-sentencesimilarity-e5-base문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Intfloat
E5 기본 V2
huggingface-sentencesimilarity-e5-base-v2문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Intfloat
E5 라지 V2
huggingface-sentencesimilarity-e5-large-v2문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Intfloat
다국어 E5 기본
huggingface-sentencesimilarity-multilingual-e5-base문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Intfloat
다국어 E5 라지
huggingface-sentencesimilarity-multilingual-e5-large문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
랑보트
Langboat Guohua Diffusion
huggingface-txt2img-langboat-guohua-diffusionText-to-Image
creativeml-openrail-m
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.p3.2xlarge
소문자
Lighteternal Nli Xlm R 그리스어
huggingface-zstc-lighteternal-nli-xlm-r-greek제로샷 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Lightonai
LightOnOCR-2-1B
huggingface-vlm-lightonai-lightonocr-2-1bImage-Text-to-Text
Apache-2.0
아니요
ml.g6.2xlarge
Meta
Llama-2-7b-hf
meta-textgeneration-llama-2-7b텍스트 생성
llama2
예
기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 균형),generate_lowest_cost(생성, 비용 최적화): ml.g5.4xlarge, ml.g6.4xlarge, ml.g6e.4xlargegenerate_highest_throughput(생성, 처리량 최적화),generate_lowest_latency(생성, 지연 시간 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.2xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge
Meta
Llama-3.1-70B-Instruct
meta-textgeneration-llama-3-1-70b-instruct텍스트 생성
llama3.1
예
기본값: ml.g6e.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargegenerate_highest_throughput(생성, 처리량 최적화),generate_lowest_latency(생성, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargeinteract_highest_throughput(상호 작용, 처리량 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화): ml.g5.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_cost(수정, 비용 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargesummarize_best_price_performance(요약, 균형),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.p5en.48xlarge
Meta
Llama-3.1-8B-Instruct
meta-textgeneration-llama-3-1-8b-instruct텍스트 생성
llama3.1
예
기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_latency(수정, 지연 시간 최적화),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.2xlargeinteract_lowest_cost(상호 작용, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.2xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargemodify_best_price_performance(수정, 밸런스): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.p4d.24xlargemodify_lowest_cost(수정, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlargesummarize_best_price_performance(요약, 균형): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargesummarize_lowest_cost(요약, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
Meta
Llama-3.2-1B
meta-textgeneration-llama-3-2-1b텍스트 생성
llama3.2
예
기본값: ml.g4dn.12xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p3.16xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g4dn.xlarge, ml.g6.2xlarge, ml.g6e.2xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화): ml.g4dn.xlarge, ml.g6.2xlarge, ml.g6e.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6.xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g5.16xlarge, ml.g6e.48xlarge, ml.p5en.48xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g6.8xlarge, ml.g6e.2xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g5.2xlarge, ml.g6e.8xlarge, ml.p5en.48xlargesummarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g5.xlarge, ml.g6.24xlarge, ml.g6e.xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g6e.12xlarge, ml.p3.16xlarge, ml.p5en.48xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.4xlarge, ml.p3.16xlarge, ml.p5en.48xlarge
Meta
Llama-3.2-1B-Instruct
meta-textgeneration-llama-3-2-1b-instruct텍스트 생성
llama3.2
예
기본값: ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),modify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.2xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.2xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p5en.48xlargeinteract_lowest_cost(상호 작용, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.8xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.8xlarge, ml.g6e.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6e.xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6e.4xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_best_price_performance(요약, 균형): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.8xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g6e.24xlarge, ml.p3.16xlarge, ml.p5en.48xlargesummarize_lowest_cost(요약, 비용 최적화): ml.g4dn.12xlarge, ml.g5.xlarge, ml.g6.xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.8xlarge, ml.p3.16xlarge, ml.p5en.48xlarge
Meta
Llama-3.2-3B
meta-textgeneration-llama-3-2-3b텍스트 생성
llama3.2
예
기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.2xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6e.24xlarge, ml.p3.8xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g5.8xlarge, ml.g6e.8xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargeinteract_highest_throughput(상호 작용, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.p3.16xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스): ml.g5.xlarge, ml.g6.4xlarge, ml.g6e.2xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p4d.24xlargemodify_lowest_cost(수정, 비용 최적화): ml.g5.xlarge, ml.g6.4xlarge, ml.g6e.xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6e.8xlarge, ml.p3.16xlarge, ml.p4d.24xlargesummarize_best_price_performance(요약, 균형): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.p5.48xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_lowest_cost(요약, 비용 최적화): ml.g4dn.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge
Meta
Llama-3.2-3B-Instruct
meta-textgeneration-llama-3-2-3b-instruct텍스트 생성
llama3.2
예
기본값: ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.48xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),interact_best_price_performance(상호 작용, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.4xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_lowest_cost(수정, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlargesummarize_best_price_performance(요약, 균형): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargesummarize_lowest_cost(요약, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge
Meta
Llama-Guard-3-1B
meta-textgeneration-llama-guard-3-1b텍스트 생성
llama3.2
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.p4d.24xlarge
Meta
Llama-Guard-3-8B
meta-textgeneration-llama-guard-3-8b텍스트 생성
llama3.1
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge
Meta
메타 코드 Llama 13B
meta-textgeneration-llama-codellama-13b텍스트 생성
llama2
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
Meta
메타 코드 Llama 13B Instruct
meta-textgeneration-llama-codellama-13b-instruct텍스트 생성
llama2
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
Meta
메타 코드 Llama 13B Python
meta-textgeneration-llama-codellama-13b-python텍스트 생성
llama2
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
Meta
메타 코드 Llama 34B
meta-textgeneration-llama-codellama-34b텍스트 생성
llama2
예
기본값: ml.g5.48xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi(대형 모델 추론 컨테이너),lmi-optimized(추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
메타 코드 Llama 34B Instruct
meta-textgeneration-llama-codellama-34b-instruct텍스트 생성
llama2
아니요
기본값: ml.g5.48xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi(대형 모델 추론 컨테이너),lmi-optimized(추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
메타 코드 Llama 34B Python
meta-textgeneration-llama-codellama-34b-python텍스트 생성
llama2
예
기본값: ml.g5.48xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi(대형 모델 추론 컨테이너),lmi-optimized(추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
메타 코드 Llama 70B
meta-textgeneration-llama-codellama-70b텍스트 생성
llama2
예
기본값: ml.g5.48xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi(대형 모델 추론 컨테이너),lmi-optimized(추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
메타 코드 Llama 70B Instruct
meta-textgeneration-llama-codellama-70b-instruct텍스트 생성
llama2
아니요
기본값: ml.g5.48xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi(대형 모델 추론 컨테이너),lmi-optimized(추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
메타 코드 Llama 70B Neuron
meta-textgenerationneuron-llama-codellama-70b텍스트 생성
llama2
아니요
ml.inf2.48xlarge
Meta
메타 코드 Llama 70B Python
meta-textgeneration-llama-codellama-70b-python텍스트 생성
llama2
예
기본값: ml.g5.48xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi(대형 모델 추론 컨테이너),lmi-optimized(추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
메타 코드 Llama 7B
meta-textgeneration-llama-codellama-7b텍스트 생성
llama2
예
기본값: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.2xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi-optimized(탐색적 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
메타 코드 Llama 7B Instruct
meta-textgeneration-llama-codellama-7b-instruct텍스트 생성
llama2
아니요
기본값: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi-optimized(탐색적 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
메타 코드 Llama 7B Neuron
meta-textgenerationneuron-llama-codellama-7b텍스트 생성
llama2
아니요
ml.inf2.8xlarge, ml.inf2.xlarge
Meta
메타 코드 Llama 7B Python
meta-textgeneration-llama-codellama-7b-python텍스트 생성
llama2
예
기본값: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi-optimized(탐색적 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
메타 코드 Llama 7B Python Neuron
meta-textgenerationneuron-llama-codellama-7b-python텍스트 생성
llama2
아니요
ml.inf2.8xlarge, ml.inf2.xlarge
Meta
Meta Llama 2 13B
meta-textgeneration-llama-2-13b텍스트 생성
llama2
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 2 13B Chat
meta-textgeneration-llama-2-13b-f텍스트 생성
llama2
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 2 13B Chat Neuron
meta-textgenerationneuron-llama-2-13b-f텍스트 생성
llama2
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge
Meta
Meta Llama 2 13B Neuron
meta-textgenerationneuron-llama-2-13b텍스트 생성
llama2
예
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge
Meta
Meta Llama 2 70B
meta-textgeneration-llama-2-70b텍스트 생성
llama2
예
기본값: ml.g5.48xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi(대형 모델 추론 컨테이너),lmi-optimized(추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 2 70B Chat
meta-textgeneration-llama-2-70b-f텍스트 생성
llama2
예
기본값: ml.g5.48xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi(대형 모델 추론 컨테이너),lmi-optimized(추정 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 2 70B Chat Neuron
meta-textgenerationneuron-llama-2-70b-f텍스트 생성
llama2
아니요
ml.inf2.48xlarge
Meta
Meta Llama 2 70B Neuron
meta-textgenerationneuron-llama-2-70b텍스트 생성
llama2
아니요
ml.inf2.48xlarge
Meta
Meta Llama 2 7B Chat
meta-textgeneration-llama-2-7b-f텍스트 생성
llama2
예
기본값: ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi-optimized(탐색적 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.12xlarge, ml.g5.2xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlargeneuron(AWS Inferentia 및 Trainium 액셀러레이터): ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge
Meta
Meta Llama 2 7B Chat Neuron
meta-textgenerationneuron-llama-2-7b-f텍스트 생성
llama2
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge
Meta
Meta Llama 2 7B Neuron
meta-textgenerationneuron-llama-2-7b텍스트 생성
llama2
예
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge
Meta
Meta Llama 3 1 8B Neuron
meta-textgenerationneuron-llama-3-1-8b텍스트 생성
llama3.1
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge
Meta
Meta Llama 3 70B
meta-textgeneration-llama-3-70b텍스트 생성
llama3
예
ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 3 70B Instruct
meta-textgeneration-llama-3-70b-instruct텍스트 생성
llama3
예
ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 3 70B Instruct Neuron
meta-textgenerationneuron-llama-3-70b-instruct텍스트 생성
llama3
아니요
ml.trn1.32xlarge
Meta
Meta Llama 3 70B Neuron
meta-textgenerationneuron-llama-3-70b텍스트 생성
llama3
아니요
ml.trn1.32xlarge
Meta
Meta Llama 3 8B Instruct
meta-textgeneration-llama-3-8b-instruct텍스트 생성
llama3
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 3 8B Instruct Neuron
meta-textgenerationneuron-llama-3-8b-instruct텍스트 생성
llama3
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge
Meta
Meta Llama 3 8B Neuron
meta-textgenerationneuron-llama-3-8b텍스트 생성
llama3
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge
Meta
Meta Llama 3.1 405B FP8
meta-textgeneration-llama-3-1-405b-fp8텍스트 생성
llama3.1
예
ml.p4de.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 3.1 405B Instruct FP8
meta-textgeneration-llama-3-1-405b-instruct-fp8텍스트 생성
llama3.1
예
ml.p4de.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 3.1 70B
meta-textgeneration-llama-3-1-70b텍스트 생성
llama3.1
예
ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 3.1 70B Instruct Neuron
meta-textgenerationneuron-llama-3-1-70b-instruct텍스트 생성
llama3.1
아니요
ml.inf2.48xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge
Meta
Meta Llama 3.1 70B Neuron
meta-textgenerationneuron-llama-3-1-70b텍스트 생성
llama3.1
아니요
ml.inf2.48xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge
Meta
Meta Llama 3.1 8B
meta-textgeneration-llama-3-1-8b텍스트 생성
llama3.1
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 3.1 8B Instruct Neuron
meta-textgenerationneuron-llama-3-1-8b-instruct텍스트 생성
llama3.1
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge
Meta
Meta Llama 3.2 11B 비전
meta-vlm-llama-3-2-11b-visionImage-Text-to-Text
llama3.2
예
ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 3.2 11B Vision 지침
meta-vlm-llama-3-2-11b-vision-instructImage-Text-to-Text
llama3.2
예
ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 3.2 1B Instruct Neuron
meta-textgenerationneuron-llama-3-2-1b-instruct텍스트 생성
llama3.2
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge
Meta
Meta Llama 3.2 1B 뉴런
meta-textgenerationneuron-llama-3-2-1b텍스트 생성
llama3.2
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge
Meta
Meta Llama 3.2 3B Instruct Neuron
meta-textgenerationneuron-llama-3-2-3b-instruct텍스트 생성
llama3.2
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge
Meta
Meta Llama 3.2 3B Neuron
meta-textgenerationneuron-llama-3-2-3b텍스트 생성
llama3.2
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge
Meta
Meta Llama 3.2 90B Vision
meta-vlm-llama-3-2-90b-visionImage-Text-to-Text
llama3.2
예
ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 3.2 90B Vision 지침
meta-vlm-llama-3-2-90b-vision-instructImage-Text-to-Text
llama3.2
예
ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 3.3 70B Instruct
meta-textgeneration-llama-3-3-70b-instruct텍스트 생성
llama3.3
예
기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi-optimized(탐색적 디코딩을 사용하는 대규모 모델 추론 컨테이너): ml.g5.16xlarge, ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Meta
Meta Llama 4 Maverick 17B 128E FP8
meta-vlm-llama-4-maverick-17b-128e-instruct-fp8Image-Text-to-Text
llama4
아니요
ml.p5e.48xlarge, ml.p5en.48xlarge
Meta
Meta Llama 4 Maverick 17B 128E 지침
meta-vlm-llama-4-maverick-17b-128e-instructImage-Text-to-Text
llama4
아니요
ml.p5e.48xlarge, ml.p5en.48xlarge
Meta
Meta Llama 4 Scout 17B 16E 지침
meta-vlm-llama-4-scout-17b-16e-instructImage-Text-to-Text
llama4
예
ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Meta
Meta Llama Guard 3 11B Vision
meta-vlm-llama-guard-3-11b-visionImage-Text-to-Text
llama3.2
아니요
ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Meta
Meta Llama Guard 3 1B Neuron
meta-textgenerationneuron-llama-guard-3-1b텍스트 생성
llama3.2
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge
Meta
Meta Llama Guard 3 8B Neuron
meta-textgenerationneuron-llama-guard-3-8b텍스트 생성
llama3.1
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.trn1.2xlarge, ml.trn1.32xlarge, ml.trn1n.32xlarge
Meta
Meta Llama 가드 7B
meta-textgeneration-llama-guard-7b텍스트 생성
llama2
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge
Meta
Meta Llama 프롬프트 가드 86M
meta-tc-llama-prompt-guard-86m텍스트 분류
llama3.1
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge
Meta
Meta SAM 2.1 Hiera Base Plus
meta-vs-sam-2-1-hiera-base-plus이미지 세분화
apache-2.0
아니요
ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta SAM 2.1 Hiera 라지
meta-vs-sam-2-1-hiera-large이미지 세분화
apache-2.0
아니요
ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta SAM 2.1 Hiera 스몰
meta-vs-sam-2-1-hiera-small이미지 세분화
apache-2.0
아니요
ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta SAM 2.1 Hiera Tiny
meta-vs-sam-2-1-hiera-tiny이미지 세분화
apache-2.0
아니요
ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Meta
Meta-Llama-3-8B
meta-textgeneration-llama-3-8b텍스트 생성
llama3
예
기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p3.8xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 균형),generate_lowest_cost(생성, 비용 최적화): ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g4dn.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Microsoft
Phi-2
huggingface-llm-phi-2텍스트 생성
mit
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Microsoft
Phi-3-Mini-128K-Instruct
huggingface-llm-phi-3-mini-128k-instruct텍스트 생성
mit
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Microsoft
Phi-3-mini-4k-instruct
huggingface-llm-phi-3-mini-4k-instruct텍스트 생성
mit
아니요
기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),interact_best_price_performance(상호 작용, 밸런스): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p4d.24xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6e.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Microsoft
Phi-3.5-mini-instruct
huggingface-llm-phi-3-5-mini-instruct텍스트 생성
mit
아니요
ml.g5.48xlarge, ml.p4d.24xlarge
Microsoft
Phi-4-mini-instruct
huggingface-llm-phi-4-mini-instruct텍스트 생성
Apache-2.0
아니요
기본값: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화),modify_lowest_cost(수정, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_latency(수정, 지연 시간 최적화),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.8xlarge, ml.g7e.8xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.12xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.p5.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화),summarize_lowest_cost(요약, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlargemodify_best_price_performance(수정, 밸런스): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlargesummarize_best_price_performance(요약, 균형): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Microsoft
테이블 변환기 감지
huggingface-od-microsoft-table-transformer-detection객체 감지
mit
아니요
ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge
미니맥사이
MiniMax-M2
huggingface-llm-minimax-m2텍스트 생성
기타
아니요
ml.p4de.24xlarge
미니맥사이
MiniMax-M2.1
huggingface-llm-minimax-m2-1텍스트 생성
기타
아니요
ml.p4de.24xlarge, ml.p5.48xlarge
미니맥사이
MiniMax-M2.5
huggingface-llm-minimax-m2-5텍스트 생성
기타
아니요
ml.p5.48xlarge
미니맥사이
MiniMax-M2.7
huggingface-llm-minimax-m2-7텍스트 생성
기타
아니요
기본값: ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런싱),generate_highest_throughput(생성, 처리량 최적화),generate_lowest_cost(생성, 비용 최적화),generate_lowest_latency(생성, 지연 시간 최적화),interact_best_price_performance(상호 작용, 밸런싱),interact_highest_throughput(상호 작용, 처리량 최적화),interact_lowest_cost(상호 작용,interact_lowest_latency지연 시간 최적화),summarize_best_price_performance(요약, 밸런싱),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g7e.48xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_cost(수정, 비용 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Mistralai
Ministral-3-14B-Instruct-2512
huggingface-llm-ministral-3-14b-instruct-2512텍스트 생성
Apache-2.0
아니요
기본값: ml.p5.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화): ml.g5.12xlarge, ml.g6e.48xlarge, ml.p5.4xlargegenerate_highest_throughput(생성, 처리량 최적화),generate_lowest_latency(생성, 지연 시간 최적화),interact_highest_throughput(상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g5.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_cost(수정, 비용 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.p5.48xlarge, ml.p5.4xlarge, ml.p5en.48xlarge
Mistralai
Mistral 7B Instruct Neuron
huggingface-llmneuron-mistral-7b-instruct텍스트 생성
apache-2.0
아니요
ml.inf2.8xlarge, ml.inf2.xlarge
Mistralai
Mistral 7B Neuron
huggingface-llmneuron-mistral-7b텍스트 생성
apache-2.0
아니요
ml.inf2.8xlarge, ml.inf2.xlarge
Mistralai
Mistral Nemo Base 2407
huggingface-llm-mistral-nemo-base-2407텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge
Mistralai
Mistral Nemo Instruct 2407
huggingface-llm-mistral-nemo-instruct-2407텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge
Mistralai
Mistral Pixtral-12B-2409
huggingface-vlm-mistral-pixtral-12b-2409Image-Text-to-Text
apache-2.0
아니요
ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Mistralai
Mistral-7B-Instruct-v0.2
huggingface-llm-mistral-7b-instruct텍스트 생성
apache-2.0
아니요
기본값: ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.2xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화),modify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6e.xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6e.8xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_best_price_performance(요약, 균형): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargesummarize_lowest_cost(요약, 비용 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.p4d.24xlarge
Mistralai
Mistral-7B-Instruct-v0.3
huggingface-llm-mistral-7b-instruct-v3텍스트 생성
apache-2.0
아니요
기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.2xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 균형),interact_lowest_cost(상호 작용, 비용 최적화): ml.g5.4xlarge, ml.g6.xlarge, ml.g6e.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p4d.24xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_latency(수정, 지연 시간 최적화),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화),modify_lowest_cost(수정, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemodify_best_price_performance(수정, 밸런스): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlargesummarize_best_price_performance(요약, 균형): ml.g6.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargesummarize_lowest_cost(요약, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
Mistralai
Mistral-7B-Instruct-v0.3
huggingface-llm-mistral-7b-v3텍스트 생성
apache-2.0
아니요
기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.2xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 균형),interact_lowest_cost(상호 작용, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargegenerate_lowest_latency(생성, 지연 시간 최적화),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_highest_throughput(상호 작용, 처리량 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화),modify_lowest_cost(수정, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemodify_best_price_performance(수정, 밸런스): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlargesummarize_best_price_performance(요약, 균형): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlargesummarize_lowest_cost(요약, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
Mistralai
Mistral-7B-v0.1
huggingface-llm-mistral-7b텍스트 생성
apache-2.0
예
기본값: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p3.16xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6e.48xlarge, ml.p3.16xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스),modify_lowest_cost(수정, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g5.48xlarge, ml.g6e.48xlarge, ml.p3.16xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.24xlarge, ml.p5en.48xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스): ml.g5.12xlarge, ml.g6.12xlarge, ml.p5.48xlargesummarize_best_price_performance(요약, 균형),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
Mistralai
Mistral-Small-24B-Instruct-2501
huggingface-llm-mistral-small-24B-Instruct-2501텍스트 생성
apache-2.0
아니요
기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),interact_best_price_performance(상호 작용, 밸런스): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화),modify_highest_throughput(수정, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화),modify_lowest_cost(수정, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargegenerate_lowest_latency(생성, 지연 시간 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargesummarize_best_price_performance(요약, 균형),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Mistralai
Mistral-Small-3.1-24B-Base-2503
huggingface-vlm-mistral-small-3-1-24b-base-2503Image-Text-to-Text
apache-2.0
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge
Mistralai
Mistral-Small-3.2-24B-Instruct-2506
huggingface-vlm-mistral-small-3-2-24b-instruct-2506Image-Text-to-Text
apache-2.0
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge
Mistralai
Mixtral 8x7B
huggingface-llm-mixtral-8x7b텍스트 생성
apache-2.0
예
ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Mistralai
Mixtral-8x22B V1
huggingface-llm-mixtral-8x22B텍스트 생성
apache-2.0
아니요
ml.p4d.24xlarge, ml.p4de.24xlarge
Mistralai
Mixtral-8x22B-Instruct-v0.1
huggingface-llm-mistralai-mixtral-8x22B-instruct-v0-1텍스트 생성
apache-2.0
아니요
기본값: ml.p4de.24xlarge, ml.p5.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
tgi(텍스트 생성 추론 컨테이너): ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Mistralai
Mixtral-8x7B-Instruct-v0.1
huggingface-llm-mixtral-8x7b-instruct텍스트 생성
apache-2.0
예
기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),interact_best_price_performance(상호 작용, 밸런스): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화),modify_highest_throughput(수정, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화),modify_lowest_cost(수정, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargesummarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Mistralai
Voxtral-Mini-4B-Realtime-2602
huggingface-asr-voxtral-mini-4b-realtime-2602텍스트 생성
Apache-2.0
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge
문슈타이
Kimi-K2.5
huggingface-llm-kimi-k2-5텍스트 생성
기타
아니요
ml.p5en.48xlarge
모리차이어
MoritzLaurer MDeBERTa V3 Base Xnli 다국어 Nli 2mil7
huggingface-zstc-moritzlaurer-mdeberta3base-xnli-mling-nli-2m7제로샷 분류
mit
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mosaicml
MPT 7B BF16
huggingface-textgeneration1-mpt-7b-bf16텍스트 생성
Apache-2.0
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Mosaicml
MPT 7B 지침 BF16
huggingface-textgeneration1-mpt-7b-instruct-bf16텍스트 생성
CC-BY-SA-3.0
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Mrm8488
Bert Small2bert
huggingface-summarization-bert-small2bert-cnn-dailymail-summ텍스트 요약
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
금융 텍스트 임베딩
mxnet-tcembedding-robertafin-base-uncased텍스트 임베딩
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
RoBERTa-SEC-Large
mxnet-tcembedding-robertafin-large-uncased텍스트 임베딩
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
RoBERTa-SEC-WIKI-Base
mxnet-tcembedding-robertafin-base-wiki-uncased텍스트 임베딩
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
RoBERTa-SEC-WIKI-Large
mxnet-tcembedding-robertafin-large-wiki-uncased텍스트 임베딩
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Naclbit
Naclbit Trinart Stable Diffusion V2
huggingface-txt2img-naclbit-trinart-stable-diffusion-v2Text-to-Image
creativeml-openrail-m
아니요
ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
나르실
Narsil Deberta 대형 Mnli 제로 Cl
huggingface-zstc-narsil-deberta-large-mnli-zero-cls제로샷 분류
mit
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
넥사이
NexaAI Octopus-v2
huggingface-llm-nexaaidev-octopus-v2텍스트 생성
cc-by-nc-4.0
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Nexusflow
Nexusflow Starling-LM-7B-beta
huggingface-llm-nexusflow-starling-lm-7b-beta텍스트 생성
apache-2.0
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Nousresearch
Hermes 2 Pro-Llama-3 8B
huggingface-llm-nousresearch-hermes-2-pro-llama-3-8B텍스트 생성
llama3
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Nousresearch
Nous Hermes 2 SOLAR 10.7B
huggingface-llm-nousresearch-nous-hermes-2-solar-10-7b텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge
Nova
Nova 2.0 Lite
nova-textgeneration-lite-v2텍스트 생성
AWS 서비스 약관
예
해당 사항 없음
Nova
Nova 2.0 마이크로
nova-textgeneration-micro-v2텍스트 생성
해당 사항 없음
예
해당 사항 없음
Nova
Nova Lite
nova-textgeneration-lite텍스트 생성
AWS 서비스 약관
예
해당 사항 없음
Nova
Nova Micro
nova-textgeneration-micro텍스트 생성
AWS 서비스 약관
예
해당 사항 없음
Nova
Nova Pro
nova-textgeneration-pro텍스트 생성
AWS 서비스 약관
예
해당 사항 없음
Nvidia
Nvidia Llama3-ChatQA-1.5 8B
huggingface-llm-nvidia-llama3-chatqa-1-5-8B텍스트 생성
llama3
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Nvidia
Nvidia Nemotron 3 Ultra
huggingface-reasoning-nvidia-nemotron-3-ultra-550b-a55b-nvfp4추론
Apache-2.0
아니요
기본값: ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
modify_best_price_performance(수정, 밸런스),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_cost(수정, 비용 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.g7e.48xlarge, ml.p5.48xlargesummarize_best_price_performance(요약, 균형),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g7e.48xlarge, ml.p5en.48xlarge
Nvidia
Nvidia Nemotron3 Nano Omni
huggingface-vlm-nvidia-nemotron3-nano-omni-30ba3b-reasoning-fp8Image-Text-to-Text
기타
아니요
기본값: ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화),modify_best_price_performance(수정, 밸런스),modify_lowest_cost(수정, 비용 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlargegenerate_lowest_latency(생성, 지연 시간 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g6e.8xlargeinteract_best_price_performance(상호 작용, 밸런스): ml.g6.12xlarge, ml.g6e.4xlarge, ml.g6e.xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.48xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화),modify_highest_throughput(수정, 처리량 최적화),summarize_highest_throughput(요약, 처리량 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.24xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화),summarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.16xlarge, ml.g6e.4xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge
Nvidia
NVIDIA-Nemotron-3-Nano-30B-A3B-BF16
huggingface-reasoning-nvidia-nemotron-3-nano-30b-a3b-bf16추론
기타
예
기본값: ml.g6e.24xlarge, ml.g7e.12xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_highest_throughput(생성, 처리량 최적화),generate_lowest_cost(생성, 비용 최적화),generate_lowest_latency(생성, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.12xlargeinteract_best_price_performance(상호 작용, 밸런스),interact_highest_throughput(상호 작용, 처리량 최적화),interact_lowest_cost(상호 작용, 비용 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.4xlargemodify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화): ml.g6.24xlarge, ml.g6.48xlarge, ml.g7e.24xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6.48xlarge, ml.g7e.12xlarge, ml.g7e.24xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6.12xlarge, ml.g6.24xlarge, ml.g7e.4xlargesummarize_best_price_performance(요약, 균형),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화): ml.g6e.12xlarge, ml.g7e.24xlarge, ml.g7e.48xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.12xlarge, ml.g7e.12xlarge, ml.g7e.24xlarge
Nvidia
NVIDIA-Nemotron-3-Super-120B-A12B-BF16
huggingface-llm-nvidia-nemotron-3-super-120b-a12b-bf16텍스트 생성
Apache-2.0
예
기본값: ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 균형),generate_lowest_cost(생성, 비용 최적화): ml.g6e.48xlarge, ml.g7e.48xlarge, ml.p5.48xlargegenerate_highest_throughput(생성, 처리량 최적화),modify_highest_throughput(수정, 처리량 최적화): ml.g7e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스),interact_highest_throughput(상호 작용, 처리량 최적화),interact_lowest_cost(상호 작용, 비용 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.p5.48xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g7e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargesummarize_best_price_performance(요약, 균형),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5.48xlarge
Nvidia
NVIDIA-Nemotron-3-Super-120B-A12B-FP8
huggingface-reasoning-nvidia-nemotron-3-super-120b-a12b-fp8추론
기타
아니요
기본값: ml.g7e.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_highest_throughput(생성, 처리량 최적화),generate_lowest_cost(생성, 비용 최적화),generate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.48xlarge, ml.g7e.24xlarge, ml.g7e.48xlargeinteract_best_price_performance(상호 작용, 밸런싱),interact_highest_throughput(상호 작용, 처리량 최적화),interact_lowest_cost(상호 작용, 비용 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화),summarize_best_price_performance(요약, 밸런싱),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g7e.24xlarge, ml.g7e.48xlarge
Nvidia
NVIDIA-Nemotron-Nano-12B-v2
huggingface-reasoning-nvidia-nemotron-nano-12b-v2추론
Apache-2.0
아니요
기본값: ml.g6e.48xlarge, ml.g7e.12xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화): ml.g6.12xlarge, ml.g6e.xlarge, ml.g7e.2xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.g7e.12xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.2xlarge, ml.g7e.2xlargemodify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlargemodify_highest_throughput(수정, 처리량 최적화),summarize_best_price_performance(요약, 밸런스),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g7e.12xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge
Openai
gpt-oss-120b
openai-reasoning-gpt-oss-120b추론
apache-2.0
예
기본값: ml.g6e.48xlarge, ml.g7e.2xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
lmi(대형 모델 추론 컨테이너): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
Openai
gpt-oss-20b
openai-reasoning-gpt-oss-20b추론
apache-2.0
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g7e.2xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
Openai
프라이버시 필터
openai-tokenclassification-privacy-filter토큰 분류
Apache-2.0
아니요
ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge
Openai
귓속말 베이스
huggingface-asr-whisper-base자동 음성 인식
apache-2.0
아니요
ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Openai
귓속말 라지
huggingface-asr-whisper-large자동 음성 인식
apache-2.0
아니요
ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Openai
귓속말 대형 V2
huggingface-asr-whisper-large-v2자동 음성 인식
apache-2.0
아니요
ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Openai
귓속말 라지 V3
huggingface-asr-whisper-large-v3자동 음성 인식
apache-2.0
아니요
ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Openai
Whisper Large V3 Turbo
huggingface-asr-whisper-large-v3-turbo자동 음성 인식
mit
아니요
ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Openai
귓속말 중간
huggingface-asr-whisper-medium자동 음성 인식
apache-2.0
아니요
ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Openai
귓속말 스몰
huggingface-asr-whisper-small자동 음성 인식
apache-2.0
아니요
ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Openai
귓속말 작은
huggingface-asr-whisper-tiny자동 음성 인식
apache-2.0
아니요
ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Openai-Community
GPT 2
huggingface-textgeneration-gpt2텍스트 생성
mit
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Openai-Community
GPT-2 XL
huggingface-textgeneration1-gpt-2-xl텍스트 생성
mit
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Openai-Community
RoBERTa 기본 OpenAI 감지기
huggingface-eqa-roberta-base-openai-detector질문 응답
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Openai-Community
RoBERTa 기본 OpenAI 감지기
huggingface-spc-roberta-base-openai-detectorFill-Mask
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Openai-Community
RoBERTa 기본 OpenAI 감지기
huggingface-tc-roberta-base-openai-detector텍스트 분류
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Openai-Community
RoBERTa 대형 OpenAI 감지기
huggingface-spc-roberta-large-openai-detectorFill-Mask
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Openai-Community
RoBERTa 대형 OpenAI 감지기
huggingface-tc-roberta-large-openai-detector텍스트 분류
mit
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Openlm-Research
Llama 7B V2 열기
huggingface-llm-openlm-research-open-llama-7b-v2텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge
필스미드
바트 라지 CNN 심섬
huggingface-summarization-bart-large-cnn-samsum텍스트 요약
mit
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
필스미드
Samsum 데이터세트에서 미세 조정된 Flan-T5 기본 모델
huggingface-text2text-flan-t5-base-samsumText2Text 생성
apache-2.0
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Pytorch
Alexa TM 20B
pytorch-textgeneration1-alexa20b텍스트 생성
amazon-software-license
아니요
ml.g4dn.12xlarge, ml.g5.16xlarge, ml.p3.16xlarge, ml.p3.8xlarge
쿠엔
QVQ 72B 미리 보기
huggingface-vlm-qvq-72b-previewImage-Text-to-Text
기타
아니요
ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge
쿠엔
Qwen2 0.5B
huggingface-llm-qwen2-0-5b텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge
쿠엔
Qwen2 0.5B 지침
huggingface-llm-qwen2-0-5b-instruct텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge
쿠엔
Qwen2-1.5B
huggingface-llm-qwen2-1-5b텍스트 생성
apache-2.0
아니요
기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.24xlargegenerate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 균형),interact_lowest_cost(상호 작용, 비용 최적화),modify_lowest_cost(수정, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g5.4xlarge, ml.g6.4xlarge, ml.g6e.2xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.12xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.2xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.24xlargemodify_best_price_performance(수정, 밸런스): ml.g4dn.xlarge, ml.g5.2xlarge, ml.g6e.xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g5.4xlarge, ml.g6.12xlarge, ml.g6e.4xlargesummarize_best_price_performance(요약, 균형): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.2xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g5.16xlarge, ml.g6.24xlarge, ml.g6e.2xlargesummarize_lowest_cost(요약, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g5.4xlarge, ml.g6.24xlarge, ml.g6e.8xlarge
쿠엔
Qwen2-1.5B-Instruct
huggingface-llm-qwen2-1-5b-instruct텍스트 생성
apache-2.0
아니요
기본값: ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p3.2xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 균형),interact_best_price_performance(상호 작용, 균형),modify_best_price_performance(수정, 균형): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlargegenerate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화),modify_lowest_cost(수정, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g5.8xlarge, ml.g6.24xlarge, ml.g6e.24xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.12xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g4dn.8xlarge, ml.g6.12xlarge, ml.g6e.4xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.12xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.4xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.24xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g5.2xlarge, ml.g6.12xlarge, ml.g6e.2xlargesummarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g5.4xlarge, ml.g6.12xlarge, ml.g6e.24xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g5.8xlarge, ml.g6.8xlarge, ml.g6e.16xlarge
쿠엔
Qwen2-7B
huggingface-llm-qwen2-7b텍스트 생성
apache-2.0
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
쿠엔
Qwen2-7B-Instruct
huggingface-llm-qwen2-7b-instruct텍스트 생성
apache-2.0
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge
쿠엔
Qwen2-VL-7B-Instruct
huggingface-vlm-qwen2-vl-7b-instruct텍스트 생성
apache-2.0
아니요
기본값: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlargegenerate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g5.8xlarge, ml.g6.12xlarge, ml.g6e.8xlargeinteract_best_price_performance(상호 작용, 밸런스): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlargeinteract_highest_throughput(상호 작용, 처리량 최적화),modify_highest_throughput(수정, 처리량 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.24xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.4xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g5.24xlarge, ml.g6.24xlarge, ml.g6e.xlargemodify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.16xlargesummarize_best_price_performance(요약, 균형),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.12xlarge
쿠엔
Qwen2.5 14B 지침
huggingface-llm-qwen2-5-14b-instruct텍스트 생성
apache-2.0
예
ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge
쿠엔
Qwen2.5 32B 지침
huggingface-llm-qwen2-5-32b-instruct텍스트 생성
apache-2.0
예
ml.g5.48xlarge, ml.g6.48xlarge, ml.p4d.24xlarge
쿠엔
Qwen2.5 Coder 32B 지침
huggingface-llm-qwen2-5-coder-32b-instruct텍스트 생성
apache-2.0
아니요
ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge
쿠엔
Qwen2.5 Coder 7B 지침
huggingface-llm-qwen2-5-coder-7b-instruct텍스트 생성
apache-2.0
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.16xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.p4d.24xlarge
쿠엔
Qwen2.5-72B-Instruct
huggingface-llm-qwen2-5-72b-instruct텍스트 생성
기타
예
기본값: ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g5.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargegenerate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargesummarize_best_price_performance(요약, 균형),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_cost(요약, 비용 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.p5en.48xlarge
쿠엔
Qwen2.5-7B-Instruct
huggingface-llm-qwen2-5-7b-instruct텍스트 생성
apache-2.0
예
기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g5.xlarge, ml.g6.2xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.24xlargegenerate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 균형),interact_lowest_cost(상호 작용, 비용 최적화): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.16xlargeinteract_highest_throughput(상호 작용, 처리량 최적화),summarize_highest_throughput(요약, 처리량 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.24xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.12xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화),modify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g5.24xlarge, ml.g6.12xlarge, ml.g6e.24xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g4dn.12xlarge, ml.g6.24xlarge, ml.g6e.2xlargesummarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge
쿠엔
Qwen3 14B
huggingface-reasoning-qwen3-14b추론
apache-2.0
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge
쿠엔
Qwen3-0.6B
huggingface-reasoning-qwen3-06b추론
apache-2.0
예
기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화),modify_lowest_cost(수정, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화),modify_highest_throughput(수정, 처리량 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g5.8xlarge, ml.g6.12xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g4dn.16xlarge, ml.g6e.48xlarge, ml.p5en.48xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화),summarize_lowest_cost(요약, 비용 최적화): ml.g4dn.12xlarge, ml.g6.12xlarge, ml.g6e.xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g4dn.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스): ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlargesummarize_best_price_performance(요약, 균형): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
쿠엔
Qwen3-1.7B
huggingface-reasoning-qwen3-1-7b추론
apache-2.0
예
ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.g6xlarge, ml.g6e.g6xlarge, ml.
쿠엔
Qwen3-30B-A3B
huggingface-reasoning-qwen3-30b-a3b추론
apache-2.0
아니요
ml.g5.24xlarge
쿠엔
Qwen3-30B-A3B-Instruct-2507
huggingface-reasoning-qwen3-30b-a3b-instruct-2507텍스트 생성
apache-2.0
아니요
ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4de.24xlarge
쿠엔
Qwen3-30B-A3B-Thinking-2507
huggingface-reasoning-qwen3-30b-a3b-thinking-2507추론
apache-2.0
아니요
ml.g6e.12xlarge
쿠엔
Qwen3-32B
huggingface-reasoning-qwen3-32b추론
apache-2.0
예
기본값: ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),interact_best_price_performance(상호 작용, 밸런스),summarize_best_price_performance(요약, 밸런스),summarize_lowest_cost(요약, 비용 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargegenerate_highest_throughput(생성, 처리량 최적화),generate_lowest_latency(생성, 지연 시간 최적화),interact_highest_throughput(상호 작용, 처리량 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlargeinteract_lowest_cost(상호 작용, 비용 최적화): ml.g5.48xlarge, ml.g6.24xlarge, ml.g6e.12xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스),modify_lowest_cost(수정, 비용 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p4d.24xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
쿠엔
Qwen3-4B
huggingface-reasoning-qwen3-4b추론
apache-2.0
예
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.g6xlarge, ml.g6xlarge, ml.g6xlarge
쿠엔
Qwen3-4B-Instruct-2507
huggingface-reasoning-qwen3-4b-instruct-2507추론
apache-2.0
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.p4d.24xlarge
쿠엔
Qwen3-8B
huggingface-reasoning-qwen3-8b추론
apache-2.0
예
기본값: ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_best_price_performance(상호 작용, 밸런스),interact_lowest_cost(상호 작용, 비용 최적화): ml.g5.2xlarge, ml.g6.xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_latency(수정, 지연 시간 최적화),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_highest_throughput(상호 작용, 처리량 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g6.12xlargemodify_best_price_performance(수정, 밸런스): ml.g5.12xlarge, ml.g6e.xlarge, ml.p5.48xlargemodify_lowest_cost(수정, 비용 최적화): ml.g5.12xlarge, ml.g6.24xlarge, ml.g6e.xlargesummarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g5.24xlarge, ml.g6e.12xlarge, ml.p5.48xlarge
쿠엔
Qwen3-ASR-1.7B
huggingface-asr-qwen3-asr-1-7b자동 음성 인식
Apache-2.0
아니요
ml.g6.2xlarge, ml.g6.xlarge
쿠엔
Qwen3-Coder-30B-A3B-Instruct
huggingface-reasoning-qwen3-coder-30b-a3b-instruct추론
apache-2.0
아니요
ml.g6e.24xlarge, ml.g7e.2xlarge
쿠엔
Qwen3-Coder-Next
huggingface-reasoning-qwen3-coder-next추론
apache-2.0
아니요
ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
쿠엔
Qwen3-Embedding-0.6B
huggingface-textembedding-qwen3-embedding-0-6b텍스트 임베딩
Apache-2.0
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.24xlarge, ml.g7e.2xlarge, ml.g7e.48xlarge, ml.g7e.8xlarge, ml.g7e.8xlarge
쿠엔
Qwen3-Next-80B-A3B-Instruct
huggingface-reasoning-qwen3-next-80b-a3b-instruct텍스트 생성
apache-2.0
아니요
ml.g6e.48xlarge, ml.p4de.24xlarge
쿠엔
Qwen3-Reranker-4B
huggingface-textembedding-qwen3-reranker-4b텍스트 임베딩
Apache-2.0
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.24xlarge, ml.g7e.g7e.48xlarge, ml.g7e.g8xlarge
쿠엔
Qwen3-TTS-12Hz-1.7B-기본
huggingface-ttsvoiceclone-qwen3-tts-12hz-1-7b-base텍스트 투 스피치
Apache-2.0
아니요
ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge
쿠엔
Qwen3-TTS-12Hz-1.7B-CustomVoice
huggingface-tts-qwen3-tts-customvoice텍스트 투 스피치
Apache-2.0
아니요
ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge
쿠엔
Qwen3-VL-8B-Instruct
huggingface-vlm-qwen3-vl-8b-instruct텍스트 생성
apache-2.0
아니요
ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge
쿠엔
Qwen3-VL-Embedding-2B
huggingface-textembedding-qwen3-vl-embedding-2b텍스트 임베딩
Apache-2.0
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.g7e.24xlarge, ml.g7e.4xlarge, ml.g7e.g8xlarge.
쿠엔
Qwen3.5~0.8B
huggingface-vlm-qwen3-5-0-8b텍스트 생성
apache-2.0
아니요
기본값: ml.g6.4xlarge, ml.g6e.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.xlarge, ml.g7e.4xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g6.xlarge, ml.g6e.2xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6.24xlarge, ml.g6e.24xlargegenerate_lowest_cost(생성, 비용 최적화): ml.g6.xlarge, ml.g6e.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.4xlarge, ml.g6e.4xlargeinteract_best_price_performance(상호 작용, 밸런스),interact_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.2xlarge, ml.g6.xlarge, ml.g6e.2xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g6e.2xlargeinteract_lowest_cost(상호 작용, 비용 최적화),modify_best_price_performance(수정, 균형),modify_lowest_cost(수정, 비용 최적화): ml.g6.2xlarge, ml.g6.xlarge, ml.g6e.xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g7e.4xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.4xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6.16xlarge, ml.g6e.4xlarge, ml.g7e.4xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6.8xlarge, ml.g6e.4xlarge, ml.g6e.8xlargesummarize_best_price_performance(요약, 균형): ml.g6.xlarge, ml.g6e.2xlarge, ml.g7e.8xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.8xlargesummarize_lowest_cost(요약, 비용 최적화): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.8xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.8xlarge
쿠엔
Qwen3.5-27b
huggingface-vlm-qwen3-5-27b텍스트 생성
apache-2.0
예
ml.g6.48xlarge
쿠엔
Qwen3.5-27B-FP8
huggingface-vlm-qwen3-5-27b-fp8Image-Text-to-Text
apache-2.0
아니요
ml.g6.24xlarge
쿠엔
Qwen3.5-2B
huggingface-vlm-qwen3-5-2b텍스트 생성
apache-2.0
아니요
기본값: ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),modify_best_price_performance(수정, 밸런스): ml.g6.xlarge, ml.g6e.2xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlargegenerate_lowest_cost(생성, 비용 최적화),modify_lowest_cost(수정, 비용 최적화): ml.g6.2xlarge, ml.g6.xlarge, ml.g6e.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.16xlarge, ml.g6.xlarge, ml.g6e.16xlargeinteract_best_price_performance(상호 작용, 밸런스): ml.g6.xlarge, ml.g6e.2xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g6.24xlarge, ml.g6e.48xlargeinteract_lowest_cost(상호 작용, 비용 최적화): ml.g6.xlarge, ml.g6e.xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.4xlarge, ml.g6e.4xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화),modify_highest_throughput(수정, 처리량 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.g6e.24xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g6e.xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.16xlarge, ml.g6e.48xlargemodify_lowest_latency(수정, 지연 시간 최적화): ml.g6.8xlarge, ml.g6e.2xlarge, ml.g6e.8xlargesummarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g6.xlarge, ml.g6e.xlarge, ml.g7e.4xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g6.12xlarge, ml.g6e.2xlarge, ml.g7e.4xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6.2xlarge, ml.g6e.2xlarge, ml.g7e.4xlarge
쿠엔
Qwen3.5-4B
huggingface-vlm-qwen3-5-4b텍스트 생성
apache-2.0
예
기본값: ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlarge, ml.g7e.2xlarge, ml.g7e.4xlarge, ml.g7e.8xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_highest_throughput(생성, 처리량 최적화),generate_lowest_cost(생성, 비용 최적화),generate_lowest_latency(생성, 지연 시간 최적화): ml.g6.8xlarge, ml.g6e.8xlarge, ml.g7e.4xlargeinteract_best_price_performance(상호 작용, 밸런스),interact_highest_throughput(상호 작용, 처리량 최적화),interact_lowest_cost(상호 작용, 비용 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.2xlarge, ml.g6e.xlarge, ml.g7e.2xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.2xlargemodify_best_price_performance(수정, 밸런스),modify_lowest_cost(수정, 비용 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.g6.2xlarge, ml.g6e.8xlarge, ml.g7e.2xlargemodify_highest_throughput(수정, 처리량 최적화): ml.g6.2xlarge, ml.g6e.8xlarge, ml.g7e.4xlargesummarize_best_price_performance(요약, 균형),summarize_lowest_cost(요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.12xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g6.12xlarge, ml.g6e.24xlarge, ml.g7e.24xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6.24xlarge, ml.g6e.16xlarge, ml.g7e.2xlarge
쿠엔
Qwen3.5-9b
huggingface-vlm-qwen3-5-9b텍스트 생성
apache-2.0
예
ml.g6.24xlarge, ml.g6.48xlarge
쿠엔
Qwen3.6-27B
huggingface-vlm-qwen3-6-27bImage-Text-to-Text
apache-2.0
예
기본값: ml.g7e.12xlarge, ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),modify_best_price_performance(수정, 밸런스),modify_lowest_cost(수정, 비용 최적화),summarize_best_price_performance(요약, 밸런스),summarize_lowest_cost(요약, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlargegenerate_highest_throughput(생성, 처리량 최적화),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_latency(수정, 지연 시간 최적화): ml.g7e.48xlarge, ml.p5.4xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.12xlarge, ml.p5.4xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 균형),interact_lowest_cost(상호 작용, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlargeinteract_highest_throughput(상호 작용, 처리량 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g7e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g7e.12xlarge, ml.g7e.48xlarge, ml.p5en.48xlargesummarize_highest_throughput(요약, 처리량 최적화): ml.g6e.24xlarge, ml.g7e.48xlarge, ml.p5en.48xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlarge
쿠엔
Qwen3.6-35B-A3B
huggingface-vlm-qwen3-6-35b-a3b텍스트 생성
apache-2.0
아니요
기본값: ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5.48xlargegenerate_highest_throughput(생성, 처리량 최적화),max_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6e.48xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화),max_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_latency(수정, 지연 시간 최적화),summarize_highest_throughput(요약, 처리량 최적화): ml.g6e.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 균형 조정),interact_lowest_cost(상호 작용, 비용 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p5en.48xlargeinteract_highest_throughput(상호 작용, 처리량 최적화),interact_lowest_latency(상호 작용, 지연 시간 최적화): ml.g6.48xlarge, ml.g6e.48xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스),modify_lowest_cost(수정, 비용 최적화),summarize_best_price_performance(요약, 밸런스),summarize_lowest_cost(요약, 비용 최적화): ml.g6.48xlarge, ml.g6e.12xlarge, ml.p5.48xlargesummarize_lowest_latency(요약, 지연 시간 최적화): ml.g6e.12xlarge, ml.p5.48xlarge, ml.p5en.48xlarge
쿠엔
QwQ 32B
huggingface-llm-qwq-32b텍스트 생성
apache-2.0
아니요
ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge
Recognai
Recognai Bert Base 스페인어 Wwm Cased Xnli
huggingface-zstc-recognai-bert-base-spanish-wwm-cased-xnli제로샷 분류
mit
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Recognai
Recognai Zeroshot Selectra Medium
huggingface-zstc-recognai-zeroshot-selectra-medium제로샷 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
린나
Rinna 일본어 GPT NeoX 3.6B 명령어 PPO
huggingface-llm-rinna-3-6b-instruction-ppo-bf16텍스트 생성
mit
아니요
ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge
Salesforce
Salesforce SFR-Embedding-2_R
huggingface-textembedding-sfr-embedding-2-r텍스트 임베딩
CC-BY-NC-4.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge
Salesforce
Salesforce SFR-Embedding-Mistral
huggingface-textembedding-sfr-embedding-mistral텍스트 임베딩
CC-BY-NC-4.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge
문장 변환기
모든 MiniLM L6 v2
huggingface-sentencesimilarity-all-MiniLM-L6-v2문장 유사성
apache-2.0
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
문장 변환기
모든 MiniLM L6 v2
huggingface-textembedding-all-MiniLM-L6-v2텍스트 임베딩
Apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge
문장 변환기
all-MiniLM-L12-v2
huggingface-textembedding-all-MiniLM-L12-v2텍스트 임베딩
Apache-2.0
아니요
ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge
문장 변환기
Paraphrase 다국어 MiniLM L12 v2
huggingface-textembedding-paraphrase-multilingual-MiniLM-L12-v2텍스트 임베딩
Apache-2.0
아니요
ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge
Shenzhi-Wang
Llama3 8B 중국어 채팅
huggingface-llm-shenzhi-wang-llama3-8B-chinese-chat텍스트 생성
llama3
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Snowflake
Snowflake Arctic Instruct Vllm
huggingface-llm-snowflake-arctic-instruct-vllm텍스트 생성
apache-2.0
아니요
ml.p5.48xlarge
스피클레시
Bielik-11B-v3.0-Instruct
huggingface-llm-bielik-11b-v3-0-instruct텍스트 생성
apache-2.0
아니요
기본값: ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlarge, ml.g7e.2xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스),generate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화),modify_lowest_cost(수정, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.xlargegenerate_highest_throughput(생성, 처리량 최적화),interact_highest_throughput(상호 작용, 처리량 최적화),modify_highest_throughput(수정, 처리량 최적화),modify_lowest_latency(수정, 지연 시간 최적화),summarize_highest_throughput(요약, 처리량 최적화),summarize_lowest_latency(요약, 지연 시간 최적화): ml.p4d.24xlarge, ml.p5.48xlarge, ml.p5en.48xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6e.16xlarge, ml.p5.48xlarge, ml.p5en.48xlargeinteract_best_price_performance(상호 작용, 밸런스): ml.g5.12xlarge, ml.g6e.xlarge, ml.p4d.24xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g5.48xlarge, ml.g6.24xlarge, ml.g6e.24xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g5.12xlarge, ml.g6.12xlarge, ml.g6e.12xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g5.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemodify_best_price_performance(수정, 밸런스): ml.g6.12xlarge, ml.g6e.xlarge, ml.p4d.24xlargesummarize_best_price_performance(요약, 균형): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5.48xlargesummarize_lowest_cost(요약, 비용 최적화): ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.12xlarge
샤일리퍼
Distilbart CNN 12-6
huggingface-summarization-distilbart-cnn-12-6텍스트 요약
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
샤일리퍼
Distilbart CNN 6-6
huggingface-summarization-distilbart-cnn-6-6텍스트 요약
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
샤일리퍼
텍스트 요약
huggingface-summarization-distilbart-xsum-1-1텍스트 요약
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
안정성ai
일본어 StableLM Instruct Alpha 7B v2
model-textgenerationjp-japanese-stablelm-instruct-alpha-7b-v2텍스트 생성
Apache-2.0
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
안정성ai
안정적인 확산 2
model-txt2img-stabilityai-stable-diffusion-v2Text-to-Image
creativeml-openrail++-m
아니요
ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
안정성ai
안정적인 확산 2 깊이 FP16
model-depth2img-stable-diffusion-2-depth-fp16Image-to-Image
creativeml-openrail++-m
아니요
ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p3.2xlarge
안정성ai
안정적인 확산 2 FP16
model-txt2img-stabilityai-stable-diffusion-v2-fp16Text-to-Image
creativeml-openrail++-m
아니요
ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
안정성ai
Stable Diffusion 2 인페인팅
model-inpainting-stabilityai-stable-diffusion-2-inpaintingImage-to-Image
creativeml-openrail++-m
아니요
ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
안정성ai
Stable Diffusion 2 인페인팅 FP16
model-inpainting-stabilityai-stable-diffusion-2-inpainting-fp16Image-to-Image
creativeml-openrail++-m
아니요
ml.g4dn.xlarge, ml.g5.2xlarge, ml.p3.2xlarge
안정성ai
Stable Diffusion 2 인페인팅 FP16
model-inpainting-stabilityai-stable-diffusion2-inpainting-fp16Image-to-Image
creativeml-openrail++-m
아니요
ml.g4dn.xlarge, ml.g5.2xlarge, ml.p3.2xlarge
안정성ai
Stable Diffusion 2.1
model-txt2img-stabilityai-stable-diffusion-v2-1-baseText-to-Image
creativeml-openrail++-m
예
ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
안정성ai
Stable Diffusion 2.1 Neuron
huggingface-txt2imgneuron-stabilityai-stable-diffusion-v2-1Text-to-Image
creativeml-openrail++-m
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge
안정성ai
Stable Diffusion x4 업스케일러 FP16
model-upscaling-stabilityai-stable-diffusion-x4-upscaler-fp16Image-to-Image
openrail++
아니요
ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
안정성ai
Stable Diffusion XL 1.0(오픈 소스)
model-imagegeneration-stabilityai-stable-diffusion-xl-base-1-0Text-to-Image
openrail++
아니요
ml.g5.16xlarge, ml.g5.4xlarge, ml.g5.8xlarge
안정성ai
Stable Diffusion XL Base 1.0 Neuron
huggingface-txt2imgneuron-stabilityai-stable-diffusion-xlbase1Text-to-Image
openrail++
아니요
ml.inf2.24xlarge, ml.inf2.48xlarge, ml.inf2.8xlarge, ml.inf2.xlarge
스위스-아이
아퍼투스 70B 2509
huggingface-llm-apertus-70b-2509텍스트 생성
apache-2.0
아니요
ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
스위스-아이
Apertus 70B 명령 2509
huggingface-llm-apertus-70b-instruct-2509텍스트 생성
apache-2.0
아니요
ml.g5.48xlarge, ml.g6.48xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
스위스-아이
Apertus 8B 지침 2509
huggingface-llm-apertus-8b-instruct-2509텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e6e.g6xlarge, ml.g6e.g6xlarge, ml.g6e.g6xlarge
Thebloke
Mistral 7B OpenOrca AWQ
huggingface-llm-thebloke-mistral-7b-openorca-awq텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge
Thebloke
Mistral 7B OpenOrca GPTQ
huggingface-llm-mistral-7b-openorca-gptq텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Thebloke
Mixtral 8x7B Instruct GPTQ
huggingface-llm-mixtral-8x7b-instruct-gptq텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Thenlper
GTE 라지
huggingface-sentencesimilarity-gte-large문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Thenlper
GTE 스몰
huggingface-sentencesimilarity-gte-small문장 유사성
mit
예
ml.c6i.xlarge, ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.p3.2xlarge
Tiiuae
Falcon 180B BF16
huggingface-llm-falcon-180b-bf16텍스트 생성
해당 사항 없음
아니요
ml.p4de.24xlarge, ml.p5.48xlarge
Tiiuae
Falcon 180B 채팅 BF16
huggingface-llm-falcon-180b-chat-bf16텍스트 생성
해당 사항 없음
아니요
ml.p4de.24xlarge, ml.p5.48xlarge
Tiiuae
Falcon 40B BF16
huggingface-llm-falcon-40b-bf16텍스트 생성
apache-2.0
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Tiiuae
Falcon 40B Instruct BF16
huggingface-llm-falcon-40b-instruct-bf16텍스트 생성
apache-2.0
예
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Tiiuae
Falcon 7B BF16
huggingface-llm-falcon-7b-bf16텍스트 생성
apache-2.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Tiiuae
Falcon 7B Instruct BF16
huggingface-llm-falcon-7b-instruct-bf16텍스트 생성
apache-2.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Tiiuae
Falcon RW 1B
huggingface-llm-tiiuae-falcon-rw-1b텍스트 생성
apache-2.0
아니요
ml.g5.2xlarge
Tiiuae
Falcon-H1-0.5B-Instruct
huggingface-llm-falcon-h1-0-5b-instruct텍스트 생성
기타
아니요
ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge.
Tiiuae
Falcon-H1-1.5B-Deep-Instruct
huggingface-llm-falcon-h1-1-5b-deep-instruct텍스트 생성
기타
아니요
ml.g5.16xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
Tiiuae
Falcon-H1-1.5B-Instruct
huggingface-llm-falcon-h1-1-5b-instruct텍스트 생성
기타
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
Tiiuae
Falcon-H1-34B-Instruct
huggingface-llm-falcon-h1-34b-instruct텍스트 생성
기타
아니요
ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge
Tiiuae
Falcon-H1-3B-Instruct
huggingface-llm-falcon-h1-3b-instruct텍스트 생성
기타
아니요
ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
Tiiuae
Falcon-H1-7B-Instruct
huggingface-llm-falcon-h1-7b-instruct텍스트 생성
기타
아니요
ml.g6e.12xlarge, ml.g6e.24xlarge
Tiiuae
Falcon2-11B
huggingface-llm-falcon2-11b텍스트 생성
해당 사항 없음
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
Tiiuae
Falcon3-10B-Base
huggingface-llm-falcon-3-10B-base텍스트 생성
기타
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Tiiuae
Falcon3-10B-Instruct
huggingface-llm-falcon-3-10B-Instruct텍스트 생성
기타
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
Tiiuae
Falcon3-1B-Instruct
huggingface-llm-falcon-3-1B-Instruct텍스트 생성
기타
아니요
기본값: ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlarge, ml.g6e.xlarge, ml.p3.2xlarge, ml.p4d.24xlarge
다음과 같은 호스팅 배포 구성을 통해 추가 인스턴스 유형을 사용할 수 있습니다.
generate_best_price_performance(생성, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.2xlargegenerate_highest_throughput(생성, 처리량 최적화): ml.g6e.12xlarge, ml.p4d.24xlarge, ml.p5en.48xlargegenerate_lowest_cost(생성, 비용 최적화),interact_lowest_cost(상호 작용, 비용 최적화),max_context_lowest_cost(최대 컨텍스트, 비용 최적화): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6.xlargegenerate_lowest_latency(생성, 지연 시간 최적화): ml.g6.12xlarge, ml.g6e.12xlarge, ml.p4d.24xlargeinteract_best_price_performance(상호 작용, 밸런스): ml.g4dn.xlarge, ml.g5.xlarge, ml.g6e.xlargeinteract_highest_throughput(상호 작용, 처리량 최적화): ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p5en.48xlargeinteract_lowest_latency(상호 작용, 지연 시간 최적화): ml.g5.2xlarge, ml.g6.48xlarge, ml.g6e.48xlargemax_context_highest_throughput(최대 컨텍스트, 처리량 최적화): ml.g6e.24xlarge, ml.p4d.24xlarge, ml.p5en.48xlargemax_context_lowest_latency(최대 컨텍스트, 지연 시간 최적화): ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5en.48xlarge
Tiiuae
Falcon3-3B-Base
huggingface-llm-falcon-3-3B-base텍스트 생성
기타
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Tiiuae
Falcon3-3B-Instruct
huggingface-llm-falcon-3-3B-Instruct텍스트 생성
기타
아니요
ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.4xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6e.12xlarge, ml.g6e.g6e.16xlarge, ml.g6e.g6xlarge, ml.g6e.24xlarge, ml.g6xlarge
Tiiuae
Falcon3-7B-Base
huggingface-llm-falcon-3-7B-base텍스트 생성
기타
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
Tiiuae
Falcon3-7B-Instruct
huggingface-llm-falcon-3-7B-Instruct텍스트 생성
기타
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.24xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
티닐라마
Tiny Llama 1.1B
huggingface-llm-tinyllama-1-1b-intermediate-step-1431k-3텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge
티닐라마
Tiny Llama 1.1B Chat V0.6
huggingface-llm-tinyllama-tinyllama-1-1b-chat-v0-6텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge
티닐라마
Tiny Llama 1.1B Chat V1
huggingface-llm-tinyllama-tinyllama-1-1b-chat-v1-0텍스트 생성
apache-2.0
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.2xlarge
Togethercomputer
RedPajama INCITE Chat 3B V1
huggingface-textgeneration1-redpajama-incite-chat-3B-v1-fp16텍스트 생성
apache-2.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Togethercomputer
RedPajama INCITE Chat 7B V1
huggingface-textgeneration1-redpajama-incite-chat-7B-v1-fp16텍스트 생성
apache-2.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Togethercomputer
RedPajama INCITE Instruct 3B V1
huggingface-textgeneration1-redpajama-incite-instruct-3Bv1fp16텍스트 생성
apache-2.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
Togethercomputer
RedPajama INCITE Instruct 7B V1
huggingface-textgeneration1-redpajama-incite-instruct-7B1fp16텍스트 생성
apache-2.0
예
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge
도쿄텍-Llm
Swallow-7b-instruct-hf
huggingface-llm-swallow-7b-instruct-hf텍스트 생성
llama2
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6.xlarge, ml.g6e.g6xlarge, ml.g6e6xlarge, ml.g6e.g6e.g6xlarge
Volrath50
volrath50 판타지 카드 확산
huggingface-txt2img-volrath50-fantasy-card-diffusionText-to-Image
creativeml-openrail-m
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.p3.2xlarge
라이터
라이터 팔미라 스몰
huggingface-llm-writer-palmyra-small텍스트 생성
apache-2.0
아니요
ml.g5.2xlarge
Zai-Org
GLM-5.1-FP8
huggingface-llm-glm-5-1-fp8텍스트 생성
Apache-2.0
아니요
ml.p5en.48xlarge
- Proprietary Models (121)
-
독점 파운데이션 모델은 Amazon SageMaker JumpStart를 통해 타사 공급자가 제공합니다. 독점 파운데이션 모델을 사용하려면 먼저 AWS Marketplace에서 모델을 구독해야 합니다. 구독 후 Amazon SageMaker Studio에서 파운데이션 모델을 찾아 배포할 수 있습니다.
모델 이름 모델 ID Task 미세 조정 가능 지원되는 추론 인스턴스 유형 A.X 4.0 조명
sk-telecom-ax4-light텍스트 생성
아니요
ml.g5.2xlarge
AI21 컨텍스트 답변
ai21-contextual-answers텍스트 생성
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
AI21 Jurassic-2 조명
ai21-jurassic-2-light텍스트 생성
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
AI21 Jurassic-2 Mid
ai21-jurassic-2-grande-instruct텍스트 생성
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
AI21 Jurassic-2 Ultra
ai21-jurassic-2-jumbo-instruct텍스트 생성
아니요
ml.g5.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
AI21 구문
ai21-paraphrase텍스트 생성
아니요
ml.g4dn.2xlarge
AI21 요약
ai21-summarization텍스트 생성
아니요
ml.g4dn.12xlarge, ml.g4dn.4xlarge, ml.g5.xlarge
Arcee Lite
arcee-lite텍스트 생성
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge
Arcee SuperNova
arcee-supernova텍스트 생성
아니요
ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Arcee Virtuoso Small
arcee-virtuoso-small텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
Bria 2.2HD 상용 Text-to-image
bria-ai-2-2-hd-commercialReRank
아니요
ml.g5.12xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Bria 2.3 상용 Text-to-image
bria-ai-2-3-commercialReRank
아니요
ml.g5.12xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Bria 2.3Fast 상용 Text-to-image
bria-ai-2-3-fast-commercialReRank
아니요
ml.g5.12xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Cohere 명령 R(A100)
cohere-command-r-a100텍스트 생성
아니요
ml.p4de.24xlarge
Cohere 명령 R(H100)
cohere-command-r-h100텍스트 생성
아니요
ml.p5.48xlarge
Cohere 명령 R+(A100)
cohere-command-r-plus-a100텍스트 생성
아니요
ml.p4de.24xlarge
Cohere 명령 R+(H100)
cohere-command-r-plus-h100텍스트 생성
아니요
ml.p5.48xlarge
코헤어 임베드 4
cohere-embed-v4-0텍스트 임베딩
아니요
ml.g5.2xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6.xlarge
Cohere 임베드 라이트 모델 v3 - 영어
cohere-embed-light-english텍스트 임베딩
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge
Cohere Embed Light v3 - 다국어
cohere-embed-light-multilingual텍스트 임베딩
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge
Cohere 임베드 모델 3 - 다국어
cohere-embed-multilingual텍스트 임베딩
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge
Cohere 임베드 모델 v3 - 영어
cohere-embed-english텍스트 임베딩
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge
Cohere Rerank 2 모델 - 영어
cohere-rerank-english-v2ReRank
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge
Cohere Rerank 2 모델 - 다국어
cohere-rerank-multilingual-v2ReRank
아니요
ml.g4dn.2xlarge, ml.g4dn.xlarge, ml.g5.2xlarge, ml.g5.xlarge, ml.p3.2xlarge
Cohere Rerank 3 모델 - 영어
cohere-rerank-v3-englishReRank
아니요
ml.g5.2xlarge, ml.g5.xlarge
Cohere Rerank 3 모델 - 다국어
cohere-rerank-v3-multilingualReRank
아니요
ml.g5.2xlarge, ml.g5.xlarge
Cohere Rerank 3 Nimble 모델 - 영어
cohere-rerank-nimble-englishReRank
아니요
ml.g5.2xlarge, ml.g5.xlarge
Cohere Rerank 3 Nimble 모델 - 다중
cohere-rerank-nimble-multiReRank
아니요
ml.g5.2xlarge, ml.g5.xlarge
Cohere Rerank v3.5
cohere-rerank-v3-5텍스트 임베딩
아니요
ml.g5.2xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6.xlarge
Cohere Rerank v4.0 Fast
cohere-rerank-v4-0-fast텍스트 임베딩
아니요
ml.g5.2xlarge, ml.g5.xlarge, ml.p5.4xlarge
Cohere Rerank v4.0 Pro
cohere-rerank-v4-0-pro텍스트 임베딩
아니요
ml.g5.2xlarge, ml.g5.xlarge, ml.p5.4xlarge
명령 A(A100)
cohere-command-a-a100텍스트 생성
아니요
ml.p4de.24xlarge
명령 A(H100)
cohere-command-a-h100텍스트 생성
아니요
ml.p5.48xlarge
명령 R 08-2024(H100)
cohere-command-r-08-2024-h100텍스트 생성
아니요
ml.p5.48xlarge
명령 R+ 08-2024(H100)
cohere-command-r-plus-08-2024-h100텍스트 생성
아니요
ml.p5.48xlarge
문서 OCR
upstage-document-ocr광학 문자 인식
아니요
ml.g5.2xlarge
문서 구문 분석
upstage-document-layout-analysis광학 문자 인식
아니요
ml.g5.2xlarge, ml.g6.2xlarge, ml.p3.2xlarge
임베드
upstage-solar-embedding-large텍스트 임베딩
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge
ESM3-open
evolutionary-scale-esm3다중 모달 생성
아니요
ml.g5.4xlarge, ml.g5.8xlarge
Evo2-NIM
nvidia-evo2-nim텍스트 생성
아니요
ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
EXAONE Atilier - 이미지-텍스트
lgresearch-exaoneImage2Text 생성
아니요
ml.g5.12xlarge, ml.g5.48xlarge, ml.g5.xlarge, ml.p4d.24xlarge
Gretel 탐색기 테이블 형식
gretel-navigator-tabular텍스트 생성
아니요
ml.g5.2xlarge, ml.g5.xlarge
H-Optimus-0
bioptimus-h-optimus-0특성 추출
아니요
ml.g5.xlarge
IBM Granite 20B Code Instruct - 8K
ibm-granite-20b-code-instruct-8k텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge
IBM Granite 3.0 2B 지침
granite-3-0-2b-instruct텍스트 생성
아니요
ml.p4d.24xlarge, ml.p5.48xlarge
IBM Granite 3.0 8B 지침
granite-3-0-8b-instruct텍스트 생성
아니요
ml.p4d.24xlarge, ml.p5.48xlarge
IBM Granite 3.2 지침 2B
ibm-granite-3-2-2b-instruct텍스트 생성
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
IBM Granite 3.2 지침 8B
ibm-granite-3-2-8b-instruct텍스트 생성
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.48xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
IBM Granite 34B Code Instruct - 8K
ibm-granite-34b-code-instruct-8k텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge
IBM Granite 3B Code Instruct - 128K
ibm-granite-3b-code-instruct-128k텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge
IBM Granite 4.0 h-micro
ibm-granite-4-0-h-micro텍스트 생성
아니요
ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
IBM Granite 4.0 h-small
ibm-granite-4-0-h-small텍스트 생성
아니요
ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
IBM Granite 4.0 h-tiny
ibm-granite-4-0-h-tiny텍스트 생성
아니요
ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.p4d.24xlarge, ml.p5.48xlarge
IBM Granite 8B Code Instruct - 128K
ibm-granite-8b-code-instruct-128k텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge
ixi-GEN-Fin-7.8B
lg-ixi-gen텍스트 생성
아니요
ml.g5.4xlarge
JetBrains AI Mellum All
jbai-mellum-alltext2text 생성
아니요
ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge
JetBrains AI Mellum Kotlin
jbai-mellum-kotlintext2text 생성
아니요
ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge
JetBrains AI Mellum Python
jbai-mellum-pythontext2text 생성
아니요
ml.g5.2xlarge, ml.g6.2xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge
Jina Embeddings v2 Base - en
jinaai-embeddings-v2-base-en텍스트 임베딩
아니요
ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p2.16xlarge, ml.p2.8xlarge, ml.p2.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
KARAKURI LM 8x7b instruct
karakuri-lm-8x7b-instruct텍스트 생성
아니요
ml.g5.48xlarge, ml.g6.48xlarge
LightOn Lyra-Fr 10B
lighton-lyra-fr텍스트 생성
아니요
ml.p4d.24xlarge
LightOn 미니 지침 40B
lighton-mini-instruct40b텍스트 생성
아니요
ml.p4d.24xlarge
Liquid LFM 40B(A100)
liquid-lfm-40b-a100텍스트 생성
아니요
ml.p4d.24xlarge
Liquid LFM 40B(H100)
liquid-lfm-40b-h100텍스트 생성
아니요
ml.p5.48xlarge
Liquid LFM 40B(L40S)
liquid-lfm-40b-l40s텍스트 생성
아니요
ml.g6e.12xlarge
Liquid LFM 7B(L40S)
liquid-lfm-7b-l40s텍스트 생성
아니요
ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge
Llama 3.1 Nemotron Nano 8B V1
nvidia-nemotron-nano-8b-nim텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.8xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
Llama 3.1 SuperNova Lite
arcee-llama-3-1-supernova-lite텍스트 생성
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge
Llama 3.2 NVRerankQA1B NIM 마이크로서비스
nvidia-llama3-2-nv-rerankqa-1b-v2-nim텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e6e.g6xlarge, ml.g6e.g6xlarge, ml.g6e.g6xlarge
Llama 3.3 Nemotron 슈퍼 49B V1
nvidia-nemotron-super-49b-nim텍스트 생성
아니요
ml.g5.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
Llama 3.3 Nemotron Super 49B V1.5
nvidia-nemotron-super-49b-nim-1-5텍스트 생성
아니요
ml.g5.48xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
Llama Spark
arcee-llama-spark텍스트 생성
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge
Llama-3-Varco-Offsetbias-8B
ncsoft-llama-3-varco-offsetbias-8b텍스트 생성
아니요
ml.g5.12xlarge
Llama-3.1-8B-Stained Glass Transform Support를 사용한 지침
protopia-llama-3-1-8b-instruct텍스트 생성
아니요
ml.g4dn.12xlarge, ml.g5.16xlarge, ml.g5.4xlarge
Llama-3.2-NV-EmbedQA-1B-v2
nvidia-llama3-2-nv-embedqa-1b-v2-nim텍스트 임베딩
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge, ml.g6e.12xlarge, ml.g6e6e.g6xlarge, ml.g6e.g6xlarge, ml.g6e.g6xlarge
MARS6
cambai-mars6오디오로 텍스트 전송
아니요
ml.g4dn.2xlarge, ml.g6.2xlarge
Medical LLM - 중간
john-snow-labs-medical-summarization-qa-8b텍스트 요약
아니요
ml.g4dn.12xlarge, ml.g5.2xlarge
Medical LLM - 소형
john-snow-labs-summarization-qa텍스트 요약
아니요
ml.g5.12xlarge
Medical Text Translation(EN-ES)
john-snow-labs-medical-translation-en-es번역
아니요
ml.g5.2xlarge
수성
inception-mercury텍스트 생성
아니요
ml.p5.48xlarge
수은 코더
inception-mercury-coder텍스트 생성
아니요
ml.p5.48xlarge
msa-search
nvidia-nim-msa-search-v2-1텍스트 생성
아니요
ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
Nemotron 나노 9b v2
nvidia-nemotron-nano-9b-v2텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.2xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5.4xlarge
nemotron-parse
nvidia-nemotron-parse텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge
기본 NEXUS
fundamental-technologies-nexus분류
아니요
ml.g4dn.8xlarge, ml.p5en.48xlarge
Nomic Embed Text v1.5
nomic-embed-text텍스트 임베딩
아니요
ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Nomic Embed Vision v1.5
nomic-embed-image텍스트 임베딩
아니요
ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
NVIDIA Cosmos Reason-1-7B
nvidia-nim-cosmos-reason1-7b텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge, ml.g6e.xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5.4xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
NVIDIA Nemotron-4 15B NIM Microservice
nvidia-nemotron-4-15b-nim텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.24xlarge
NVIDIA ParakeetvTDT 0.6B v2
nvidia-parakeetvtdt-0-6b-v2Audio2Text 생성
아니요
ml.g6.12xlarge, ml.g6.16xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6e.4xlarge, ml.g6e.8xlarge
NVIDIA-Parakeet-1-1b-CTC-EN-US-ASR
nvidia-parakeet-1-1b-ctc-en-us-asrAudio2Text 생성
아니요
ml.g5.12xlarge, ml.g5.16xlarge, ml.g5.24xlarge, ml.g5.2xlarge, ml.g5.48xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g6.12xlarge, ml.g6.24xlarge, ml.g6.2xlarge, ml.g6.48xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6e.12xlarge, ml.g6e.16xlarge, ml.g6e.24xlarge, ml.g6e.2xlarge, ml.g6e.48xlarge, ml.g6xlarge
Orb
orbital-materials-orb과학 모델링
아니요
ml.g4dn.12xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge, ml.p4d.24xlarge
PLaMo 프라이빗 배포
preferred-networks-plamo-api텍스트 생성
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.p4d.24xlarge
ProteinMPNN-NIM
nvidia-nim-proteinmpnn-v1-0-2텍스트 생성
아니요
ml.g6e.12xlarge, ml.g6e.24xlarge, ml.g6e.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge, ml.p5.48xlarge, ml.p5e.48xlarge, ml.p5en.48xlarge
rerank-lite-1 Reranker
voyage-rerank-lite-1-rerankerReRank
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge
솔라 미니 - 양자
upstage-solar-mini-chat-quant텍스트 생성
아니요
ml.g5.2xlarge
Solar Pro - 양자
upstage-solar-pro-quantized텍스트 생성
아니요
ml.g5.12xlarge
Solar Pro 2
upstage-solar-pro텍스트 생성
아니요
ml.p4d.24xlarge, ml.p5.48xlarge
Sonic 3 SageMaker
cartesia-sonic-3-sagemaker오디오로 텍스트 전송
아니요
ml.g6e.xlarge
Stable Diffusion 3.5 Large
stabilityai-stable-diffusion-3-5-large텍스트 투 이미지
아니요
ml.p5.48xlarge
Stable Diffusion XL 1.0
stabilityai-sdxl-1-0텍스트 투 이미지
아니요
ml.g5.2xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Stable Diffusion XL 베타 0.8
stabilityai-sdxl-beta-0-8텍스트 투 이미지
아니요
ml.g5.xlarge
Stockmark-LLM-13b
stockmark-llm-13b텍스트 생성
아니요
ml.g5.2xlarge
VARCO LLM KO-1.3B-IST
ncsoft-ko-1-3b-ist텍스트 생성
아니요
ml.g4dn.2xlarge, ml.g5.2xlarge, ml.g5.4xlarge
VARCO LLM KO-6.4B-IST
ncsoft-ko-6-4b-ist텍스트 생성
아니요
ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g5.12xlarge, ml.g5.4xlarge, ml.g5.8xlarge
VARCO LLM KO/EN-13B-IST
ncsoft-ko-13b-ist텍스트 생성
아니요
ml.g4dn.12xlarge, ml.g5.12xlarge
voyage-2 임베딩 모델
voyage-2-embedding텍스트 임베딩
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge
voyage-3 임베딩 모델
voyage-3-embedding텍스트 임베딩
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge
voyage-3 대형 임베딩 모델
voyage-3-large-embedding텍스트 임베딩
아니요
ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge
voyage-3.5 임베딩 모델
voyage-3-5-embedding텍스트 임베딩
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge
voyage-3.5-lite 임베딩 모델
voyage-3-5-lite-embedding텍스트 임베딩
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge
voyage-code-2 임베딩 모델
voyage-code-2-embedding텍스트 임베딩
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge
voyage-code-3 임베딩 모델
voyage-code-3-embedding텍스트 임베딩
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge
voyage-large-2 임베딩 모델
voyage-large-2-embedding텍스트 임베딩
아니요
ml.g5.16xlarge, ml.g5.2xlarge, ml.g5.4xlarge, ml.g5.8xlarge, ml.g5.xlarge, ml.g6.16xlarge, ml.g6.2xlarge, ml.g6.4xlarge, ml.g6.8xlarge, ml.g6.xlarge
Widn Tower Anthill
widn-tower-anthill번역
아니요
ml.g5.xlarge
Widn Tower Sugarloaf
widn-tower-sugarloaf번역
아니요
ml.g5.12xlarge
Widn Tower 베수비우스
widn-llama3-tower-vesuvius번역
아니요
ml.g5.48xlarge, ml.p4d.24xlarge, ml.p4de.24xlarge
Woven City AI Vision 엔진
wovenbytoyota-woven-city-ai-vision-engine다중 모달 생성
아니요
ml.g5.12xlarge, ml.g5.24xlarge, ml.g5.48xlarge, ml.g5.8xlarge
Writer Palmyra-Fin-70B-32K
writer-palmyra-fin-70b-32k텍스트 생성
아니요
ml.p4d.24xlarge
Writer Palmyra-Med-70B-32K
writer-palmyra-med-70b-32k텍스트 생성
아니요
ml.p4d.24xlarge
작성자 Palmyra-X-004
writer-palmyra-x-004텍스트 생성
아니요
ml.p5.48xlarge
- Built-in Algorithms (135)
-
Amazon SageMaker JumpStart는 이미지 분류, 객체 감지, 이미지 세분화와 같은 일반적인 컴퓨터 비전 작업을 위한 사전 훈련된 작업별 모델을 제공합니다. 이러한 모델은 설정된 딥 러닝 프레임워크(PyTorch, TensorFlow, MXNet)를 기반으로 하며 자체 데이터에 배포하거나 미세 조정할 준비가 되어 있습니다.
제공업체 모델 이름 모델 ID Task 라이선스 미세 조정 가능 지원되는 추론 인스턴스 유형 Mxnet
더 빠른 RCNN ResNet 101 V1d
mxnet-od-faster-rcnn-fpn-resnet101-v1d-coco객체 감지
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
더 빠른 RCNN ResNet 101 V1d
mxnet-od-faster-rcnn-resnet101-v1d-coco객체 감지
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
더 빠른 RCNN ResNet 50 V1b
mxnet-od-faster-rcnn-fpn-resnet50-v1b-coco객체 감지
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
더 빠른 RCNN ResNet 50 V1b
mxnet-od-faster-rcnn-resnet50-v1b-coco객체 감지
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
더 빠른 RCNN ResNet 50 V1b
mxnet-od-faster-rcnn-resnet50-v1b-voc객체 감지
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
FCN ResNet 101 ADE20K
mxnet-semseg-fcn-resnet101-ade이미지 세분화
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
FCN ResNet 101 Pascal VOC
mxnet-semseg-fcn-resnet101-voc이미지 세분화
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
FCN ResNet 50 ADE20K
mxnet-semseg-fcn-resnet50-ade이미지 세분화
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
인스턴스 세분화
mxnet-is-mask-rcnn-fpn-resnet101-v1d-coco이미지 세분화
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
MASK RCNN FPN RESNET18 코코
mxnet-is-mask-rcnn-fpn-resnet18-v1b-coco이미지 세분화
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
마스크 RCNN FPN RESNET50 코코
mxnet-is-mask-rcnn-fpn-resnet50-v1b-coco이미지 세분화
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
마스크 RCNN RESNET18 COCO
mxnet-is-mask-rcnn-resnet18-v1b-coco이미지 세분화
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
객체 감지
mxnet-od-ssd-512-mobilenet1-0-coco객체 감지
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
의미 체계 분할
mxnet-semseg-fcn-resnet101-coco이미지 세분화
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
SSD 512 ResNet 50 V1
mxnet-od-ssd-512-resnet50-v1-coco객체 감지
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
SSD MobileNet 1.0
mxnet-od-ssd-512-mobilenet1-0-voc객체 감지
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
SSD ResNet 50 V1
mxnet-od-ssd-512-resnet50-v1-voc객체 감지
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
SSD VGG 16 Atrous 300
mxnet-od-ssd-300-vgg16-atrous-voc객체 감지
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
SSD VGG 16 Atrous 512
mxnet-od-ssd-512-vgg16-atrous-coco객체 감지
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
SSD VGG16 Atrous 300
mxnet-od-ssd-300-vgg16-atrous-coco객체 감지
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
SSD VGG16 Atrous 512
mxnet-od-ssd-512-vgg16-atrous-voc객체 감지
apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
YOLO V3 DarkNet 53
mxnet-od-yolo3-darknet53-coco객체 감지
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
YOLO V3 DarkNet 53
mxnet-od-yolo3-darknet53-voc객체 감지
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
YOLO V3 MobileNet 1.0
mxnet-od-yolo3-mobilenet1-0-coco객체 감지
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Mxnet
YOLO V3 MobileNet 1.0
mxnet-od-yolo3-mobilenet1-0-voc객체 감지
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Pytorch
SqueezeNet 1
pytorch-ic-squeezenet1-1이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
AlexNet
pytorch-ic-alexnet이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
DenseNet 121
pytorch-ic-densenet121이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
DenseNet 169
pytorch-ic-densenet169이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
FRCNN MobileNet V3 대형 320 FPN
pytorch-od1-fasterrcnn-mobilenet-v3-large-320-fpn객체 감지
bsd-3-clause
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Pytorch
FRCNN MobileNet V3 대형 FPN
pytorch-od1-fasterrcnn-mobilenet-v3-large-fpn객체 감지
bsd-3-clause
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Pytorch
GoogLeNet
pytorch-ic-googlenet이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
이미지 분류
pytorch-ic-mobilenet-v2이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
객체 감지
pytorch-od1-fasterrcnn-resnet50-fpn객체 감지
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Pytorch
ResNet 101
pytorch-ic-resnet101이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
ResNet 152
pytorch-ic-resnet152이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
ResNet 18
pytorch-ic-resnet18이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
ResNet 34
pytorch-ic-resnet34이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
ResNet 50
pytorch-ic-resnet50이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
Resnext 50
pytorch-ic-resnext50-32x4d이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
ShuffleNet V2
pytorch-ic-shufflenet-v2-x1-0이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
SSD
pytorch-od-nvidia-ssd객체 감지
bsd-3-clause
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Pytorch
VGG 11
pytorch-ic-vgg11이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
VGG 11-BN
pytorch-ic-vgg11-bn이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
VGG 13-BN
pytorch-ic-vgg13-bn이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
VGG 16
pytorch-ic-vgg16이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
VGG 16-BN
pytorch-ic-vgg16-bn이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
VGG 19
pytorch-ic-vgg19이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
VGG-13
pytorch-ic-vgg13이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Pytorch
광역 ResNet 101
pytorch-ic-wide-resnet101-2이미지 분류
bsd-3-clause
예
ml.c5.2xlarge, ml.c5.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge
Tensorflow
ALBERT Base
tensorflow-tc-albert-en-base텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
BERT Base Cased
tensorflow-tc-bert-en-cased-L-12-H-768-A-12-2텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
BERT Base MEDLINE/PubMed
tensorflow-tc-experts-bert-pubmed-1텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
BERT Base Multilingual Cased
tensorflow-tc-bert-multi-cased-L-12-H-768-A-12-2텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
BERT Large Uncased
tensorflow-tc-bert-en-uncased-L-24-H-1024-A-16-2텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
BERT Small Uncased L-10 H-128
tensorflow-tcembedding-bert-en-uncased-L-10-H-128-A-2-2텍스트 임베딩
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
BERT Small Uncased L-12 H-256
tensorflow-tcembedding-bert-en-uncased-L-12-H-256-A-4텍스트 임베딩
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
BERT Small Uncased L-12 H-768
tensorflow-tcembedding-bert-en-uncased-L-12-H-768-A-12-2텍스트 임베딩
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
BERT Small Uncased L-4 H-768
tensorflow-tcembedding-bert-en-uncased-L-4-H-768-A-12-2텍스트 임베딩
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
BiT-M R101x1
tensorflow-ic-bit-m-r101x1-ilsvrc2012-classification-1이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
BiT-M R101x1 특성 벡터
tensorflow-icembedding-bit-m-r101x1-ilsvrc2012-featurevector-1이미지 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
BiT-M R50x1 ImageNet-21k
tensorflow-ic-bit-m-r50x1-imagenet21k-classification-1이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
CaiT S 24 224
tensorflow-ic-cait-s24-224이미지 분류
MIT
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
CenterNet ResNet-v1-101
tensorflow-od-centernet-resnet101v1-fpn-512x512-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
CenterNet ResNet-v1-50
tensorflow-od-centernet-resnet50v1-fpn-512x512-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
DeiT Tiny Distilled Patch 16 224
tensorflow-ic-deit-tiny-distilled-patch16-224이미지 분류
MIT
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
EfficientNet B0
tensorflow-ic-efficientnet-b0-classification-1이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
EfficientNet B1
tensorflow-ic-efficientnet-b1-classification-1이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
EfficientNet B1 특성 벡터
tensorflow-icembedding-efficientnet-b1-featurevector-1이미지 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
EfficientNet B3
tensorflow-ic-efficientnet-b3-classification-1이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
EfficientNet B7
tensorflow-ic-efficientnet-b7-classification-1이미지 분류
Apache-2.0
예
ml.c5.9xlarge, ml.g4dn.8xlarge, ml.p3.8xlarge
Tensorflow
EfficientNet V2 ImageNet-1k 스몰
tensorflow-ic-efficientnet-v2-imagenet1k-s이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
EfficientNet V2 ImageNet-21k FT1k M
tensorflow-ic-efficientnet-v2-imagenet21k-ft1k-m이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
더 빠른 R-CNN Resnet V2 1024x1024
tensorflow-od-faster-rcnn-inception-resnet-v2-1024x1024-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
더 빠른 R-CNN Resnet-101 V1 640x640
tensorflow-od-faster-rcnn-resnet101-v1-640x640-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
더 빠른 R-CNN Resnet-50 V1 1024x1024
tensorflow-od-faster-rcnn-resnet50-v1-1024x1024-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
더 빠른 R-CNN Resnet-50 V1 640x640
tensorflow-od-faster-rcnn-resnet50-v1-640x640-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
더 빠른 R-CNN Resnet-50 V1 800x1333
tensorflow-od-faster-rcnn-resnet50-v1-800x1333-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
프릴
tensorflow-audioembedding-frill-1오디오 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
이미지 분류
tensorflow-ic-swin-base-patch4-window7-224이미지 분류
MIT
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
이미지 임베딩
tensorflow-icembedding-imagenet-mobilenet-v2-100-224-fv-4이미지 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
Inception V3
tensorflow-ic-imagenet-inception-v3-classification-4이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
Inception V3 프리뷰 기능 벡터
tensorflow-icembedding-tf2-preview-inception-v3-fv-4이미지 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
MobileNet V2
tensorflow-ic-tf2-preview-mobilenet-v2-classification-4이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
MobileNet V2 0.35 128
tensorflow-ic-imagenet-mobilenet-v2-035-128이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
MobileNet V2 0.50 224
tensorflow-icembedding-imagenet-mobilenet-v2-050-224-fv-4이미지 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
MobileNet V2 1.00 224
tensorflow-ic-imagenet-mobilenet-v2-100-224-classification-4이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
MobileNet V2 1.40 224
tensorflow-ic-imagenet-mobilenet-v2-140-224-classification-4이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
MobileNet V2 특성 벡터
tensorflow-icembedding-tf2-preview-mobilenet-v2-featurevector-4이미지 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
MobileNet V2 특성 벡터
tensorflow-icembedding-tf2-preview-mobilenet-v2-fv-4이미지 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
MobileNet V3 Large 1.00 224
tensorflow-ic-imagenet-mobilenet-v3-large-100-224이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
MobileNet V3 스몰 0.75 224
tensorflow-ic-imagenet-mobilenet-v3-small-075-224이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
MobileNet V3 스몰 1.00 224
tensorflow-ic-imagenet-mobilenet-v3-small-100-224이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
객체 감지
tensorflow-od1-ssd-resnet50-v1-fpn-640x640-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
ResNet 50
tensorflow-ic-resnet-50-classification-1이미지 분류
Apache-2.0
예
ml.c5.9xlarge, ml.g4dn.8xlarge, ml.p3.8xlarge
Tensorflow
ResNet 50 특성 벡터
tensorflow-icembedding-resnet-50-featurevector-1이미지 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
ResNet V1 50
tensorflow-ic-imagenet-resnet-v1-50-classification-4이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
ResNet V2 152 특성 벡터
tensorflow-icembedding-imagenet-resnet-v2-152-featurevector-4이미지 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
ResNet V2 50
tensorflow-ic-imagenet-resnet-v2-50-classification-4이미지 분류
Apache-2.0
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
ResNet V2 50 특성 벡터
tensorflow-icembedding-imagenet-resnet-v2-50-featurevector-4이미지 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
Retinanet SSD Resnet-101 640x640
tensorflow-od-retinanet-resnet101-v1-fpn-640x640-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
Small BERT L-10_H-512_A-8
tensorflow-tc-small-bert-bert-en-uncased-L-10-H-512-A-8텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
Small BERT L-12_H-256_A-4
tensorflow-tc-small-bert-bert-en-uncased-L-12-H-256-A-4텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
Small BERT L-12_H-768_A-12
tensorflow-tc-small-bert-bert-en-uncased-L-12-H-768-A-12텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
Small BERT L-2_H-128_A-2
tensorflow-tc-small-bert-bert-en-uncased-L-2-H-128-A-2텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
Small BERT L-4_H-512_A-8
tensorflow-tc-small-bert-bert-en-uncased-L-4-H-512-A-8텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
Small BERT L-6_H-768_A-12
tensorflow-tc-small-bert-bert-en-uncased-L-6-H-768-A-12텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
Small BERT L-8_H-768_A-12
tensorflow-tc-small-bert-bert-en-uncased-L-8-H-768-A-12텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
SSD ResNet 152 V1 FPN 1024x1024 COCO '17
tensorflow-od1-ssd-resnet152-v1-fpn-1024x1024-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
SSD EfficientDet D0
tensorflow-od-efficientdet-d0-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
SSD Efficientdet D0 512x512 COCO '17
tensorflow-od1-ssd-efficientdet-d0-512x512-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
SSD Efficientdet D1 640x640 COCO '17
tensorflow-od1-ssd-efficientdet-d1-640x640-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
SSD EfficientDet D2
tensorflow-od-efficientdet-d2-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
SSD Efficientdet D2 768x768 COCO '17
tensorflow-od1-ssd-efficientdet-d2-768x768-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
SSD EfficientDet D3
tensorflow-od-efficientdet-d3-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
SSD Efficientdet D3 896x896 COCO '17
tensorflow-od1-ssd-efficientdet-d3-896x896-coco17-tpu-32객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
SSD EfficientDet D5
tensorflow-od-efficientdet-d5-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
SSD Mobilenet V1 FPN 640x640 COCO '17
tensorflow-od1-ssd-mobilenet-v1-fpn-640x640-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
SSD Mobilenet V2
tensorflow-od-ssd-mobilenet-v2-2객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
SSD Mobilenet V2 640x640
tensorflow-od-ssd-mobilenet-v2-fpnlite-640x640-1객체 감지
apache-2.0
아니요
ml.g4dn.xlarge, ml.g5.xlarge, ml.p3.2xlarge
Tensorflow
SSD Mobilenet V2 FPN-Lite 320x320 COCO '17
tensorflow-od1-ssd-mobilenet-v2-fpnlite-320x320-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
SSD Mobilenet V2 FPN-lite 640x640 COCO '17
tensorflow-od1-ssd-mobilenet-v2-fpnlite-640x640-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
SSD ResNet 101 V1 FPN 1024x1024 COCO '17
tensorflow-od1-ssd-resnet101-v1-fpn-1024x1024-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
SSD ResNet 101 V1 FPN 640x640 COCO '17
tensorflow-od1-ssd-resnet101-v1-fpn-640x640-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
SSD ResNet 152 V1 FPN 640x640 COCO '17
tensorflow-od1-ssd-resnet152-v1-fpn-640x640-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
SSD ResNet 50 V1 FPN 1024x1024 COCO '17
tensorflow-od1-ssd-resnet50-v1-fpn-1024x1024-coco17-tpu-8객체 감지
apache-2.0
예
ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
Swin Base 4 12 384
tensorflow-ic-swin-base-patch4-window12-384이미지 분류
MIT
예
ml.c5.2xlarge, ml.c5.xlarge, ml.c6i.large, ml.c6i.xlarge, ml.g4dn.xlarge, ml.m4.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge, ml.r5.large, ml.r5.xlarge
Tensorflow
Talking Heads Large
tensorflow-tc-talking-heads-large텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
텍스트 분류
tensorflow-tc-bert-en-uncased-L-12-H-768-A-12-2텍스트 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.16xlarge, ml.g4dn.2xlarge, ml.g4dn.4xlarge, ml.g4dn.8xlarge, ml.g4dn.xlarge, ml.g5.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge, ml.p3.16xlarge, ml.p3.2xlarge, ml.p3.8xlarge
Tensorflow
텍스트 임베딩
tensorflow-tcembedding-universal-sentc-encoder-cmlm-en-large-1텍스트 임베딩
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
TRILL Distilled
tensorflow-audioembedding-trill-distilled-3오디오 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
TRILLsson 1
tensorflow-audioembedding-trillsson1-1오디오 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
TRILLsson 2
tensorflow-audioembedding-trillsson2-1오디오 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
TRILLsson 3
tensorflow-audioembedding-trillsson3-1오디오 분류
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
Tensorflow
범용 문장 인코더 CMLM 기본
tensorflow-tcembedding-universal-sentc-encoder-cmlm-en-base-1텍스트 임베딩
apache-2.0
아니요
ml.c5.2xlarge, ml.c5.xlarge, ml.g4dn.xlarge, ml.m5.large, ml.m5.xlarge, ml.p3.2xlarge
- Classic ML Algorithms (11)
-
Amazon SageMaker JumpStart는 분류, 회귀 및 시계열 예측과 같은 테이블 형식 데이터 작업을 위해 클래식 기계 학습 알고리즘을 ready-to-use 수 있는 구현을 제공합니다. 이러한 알고리즘(XGBoost, LightGBM, CatBoost, scikit-learn, AutoGluon)은 구조화된 데이터에 최적화되어 있으며 자체 데이터 세트에서 처음부터 훈련할 수 있습니다.
제공업체 모델 이름 모델 ID Task 라이선스 미세 조정 가능 지원되는 추론 인스턴스 유형 Autogluon
AutoGluon 테이블 형식 분류
autogluon-classification-ensemble테이블 형식 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.p3.2xlarge
Autogluon
AutoGluon 테이블 형식 회귀
autogluon-regression-ensemble테이블 형식 회귀
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.p3.2xlarge
Catboost
CatBoost 분류
catboost-classification-model테이블 형식 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m4.16xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge
Catboost
CatBoost 회귀
catboost-regression-model테이블 형식 회귀
apache-2.0
예
ml.c4.8xlarge, ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge
Lightgbm
LightGBM 분류
lightgbm-classification-model테이블 형식 분류
mit
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m4.16xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge
Lightgbm
LightGBM 회귀
lightgbm-regression-model테이블 형식 회귀
mit
예
ml.c4.8xlarge, ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge
Pytorch
TabTransformer 분류
pytorch-tabtransformerclassification-model테이블 형식 분류
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.p3.2xlarge
Pytorch
TabTransformer 회귀
pytorch-tabtransformerregression-model테이블 형식 회귀
apache-2.0
예
ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.g4dn.xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.p3.2xlarge
Sklearn
선형 분류
sklearn-classification-linear테이블 형식 분류
bsd-3-clause
예
ml.c4.8xlarge, ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge
Xgboost
XGBoost 분류
xgboost-classification-model테이블 형식 분류
apache-2.0
예
ml.c4.8xlarge, ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge
Xgboost
XGBoost 회귀
xgboost-regression-model테이블 형식 회귀
apache-2.0
예
ml.c4.8xlarge, ml.c5.18xlarge, ml.c5.2xlarge, ml.c5.4xlarge, ml.c5.9xlarge, ml.m5.12xlarge, ml.m5.24xlarge, ml.m5.2xlarge, ml.m5.4xlarge, ml.m5.xlarge
참고
가장 정확한 up-to-date 라이선스 정보는 SageMaker Studio의 모델 세부 정보 페이지 또는 모델 Hugging Face 페이지를 참조하세요.