아마존 SageMaker 특징

SageMaker 데이터 준비를 위한 Canvas 채팅을 사용하면 를 사용하여 데이터 준비 흐름을 만들 수 있습니다. LLMs

코드 편집기는 Studio를 확장하여 Visual Studio Code - 오픈 소스 기반 환경 (“코드-OSS”) 에서 분석 및 기계 학습 코드를 작성, 테스트, 디버그 및 실행할 수 있도록 합니다.

SageMaker 기본 NCCL 커널을 추론 최적화 커널로 대체하여 GPU 활용도를 높이고 차별화된 성능을 제공합니다. OSS

SageMaker 추론은 개발자 경험과 사용자 인터페이스 추상화를 제공하여 모델 배포를 더 빠르게 시작할 수 있도록 도와줍니다.

SageMaker 이제 고객은 처리량이 보장되고 모델별로 자동 크기 조정이 가능한 SageMaker 엔드포인트에 최대 수천 개의 모델을 배포하여 가속화된 컴퓨팅 인스턴스의 활용도를 높일 수 있습니다.

SageMaker 배포는 기계 학습, 데이터 과학 및 데이터 분석을 위해 설계된 Docker 이미지 모음입니다. 이미지는 스튜디오, 스튜디오 랩, 스튜디오 노트북 및 Github에서 사용할 수 있습니다.

단일 사용자 및 조직 관리자를 위한 새로운 기능을 갖춘 단순하고 안내된 Amazon SageMaker 도메인 온보딩 환경입니다. 기능에는 직접 IAM ID 센터 통합, 세분화된 액세스 정책 관리, 원활한 SageMaker 앱 관리 및 구성, 스토리지 구성 등이 포함됩니다. VPC

Amazon S3 Express One Zone은 지연 시간에 가장 민감한 애플리케이션에 10밀리초 미만의 액세스를 제공하는 새로운 스토리지 클래스입니다. Amazon S3 Express One Zone을 사용하면 고객이 객체, 스토리지 및 컴퓨팅 리소스를 한 곳에 배치할 수 있습니다. AWS 가용 영역: 향상된 데이터 처리 속도로 컴퓨팅 성능과 비용을 모두 최적화합니다.

기초 모델 평가 (FMEval) 를 사용하면 부정확하거나 유해하거나 편향된 콘텐츠를 언어 모델로 제공할 위험을 정량화하여 사용 사례에 가장 적합한 콘텐츠를 선택할 수 있습니다. 사용자 지정 데이터세트를 가져오거나 내장된 데이터세트를 사용하여 모든 언어 모델을 평가하세요. FMEval수십 개의 텍스트 기반 기반 모델과 통합되어 JumpStart 있거나 직접 가져올 수 있습니다. 라이브러리를 사용하여 사용자 지정 평가를 생성할 수도 있습니다. FMEval

SageMaker HyperPod 이 기능은 복원력이 뛰어난 클러스터에서 상시 SageMaker 가동되는 기계 학습 환경을 제공하여 대규모 언어 모델 () 및 확산 모델과 같은 대규모 기계 학습 모델을 개발하는 데 필요한 모든 기계 학습 워크로드를 실행할 수 있습니다. LLMs

주피터 AI와 코드 위스퍼러가 디스트리뷰션에 포함되었습니다. SageMaker 이번 업데이트를 통해 Studio 또는 Code Editor 사용자는 노트북에서 쉽게 제너레이티브 AI를 사용하고 Code Whisperer의 코드 완성 기능을 활용할 수 있습니다.

JupyterLab in Studio는 스튜디오 노트북의 지연 시간과 안정성을 개선합니다.

SageMaker Notebook Jobs는 노트북 작업을 SDK 지원하므로 프로그래밍 방식으로 노트북 작업을 예약할 수 있습니다.

SageMaker 파이프라인은 로컬 머신 러닝 코드를 SageMaker 파이프라인 단계로 변환하여 파이프라인을 생성하고 실행할 수 있는 옵션을 제공합니다.

SageMaker 스마트 선별은 SageMaker 훈련 데이터 세트의 효율성을 높이고 총 훈련 시간과 비용을 줄이는 훈련 기능입니다.

Studio는 ML 워크플로를 실행하기 위한 최신 웹 기반 환경입니다. 스튜디오는 코드 편집기IDEs, 새로운 Jupyterlab 애플리케이션RStudio, 스튜디오 클래식을 포함한 제품군을 제공합니다.

지리 공간 데이터를 사용하여 ML 모델을 구축, 훈련 및 배포할 수 있습니다.

코딩 경험이 없는 사용자도 모델을 구축하고 모델을 사용하여 예측할 수 있는 기능을 제공하는 자동 ML 서비스입니다.

사용자가 동일한 애플리케이션에서 모델을 모두 빌드, 훈련, 배포 및 분석할 수 있는 통합 기계 학습 환경입니다.

고객에게 다음과 같은 액세스 권한을 제공하는 무료 서비스입니다. AWS 오픈 소스 JupyterLab 기반 환경에서 리소스를 계산하세요.

콘솔, 직접 코드 실행을 지원하는 구문 강조 편집기, 플로팅, 기록, 디버깅 및 작업 공간 관리를 위한 도구를 갖춘 R용 통합 개발 환경입니다.

ML 예측을 사람이 검토하는 데 필요한 워크플로를 구축합니다. Amazon A2I는 모든 개발자에게 사람 검토 기능을 제공하여 사람 검토 시스템을 구축하거나 많은 수의 사람 검토자를 관리하는 것과 관련된 차별화되지 않은 힘든 일을 제거합니다.

파이프라인에서 모델을 자동으로 학습시키는 AutoML 작업을 생성합니다.

기계 학습 지식이 없는 사용자도 분류 및 회귀 모델을 신속하게 구축할 수 있습니다.

데이터 세트를 사전 처리하고, 영구 엔드포인트가 필요하지 않을 때 추론을 실행하며, 결과 해석을 지원하기 위해 입력 레코드를 추론과 연관시킵니다.

잠재적 편향을 감지하여 기계 학습 모델을 개선하고 모델이 제시하는 예측을 설명하는 데 도움을 줍니다.

공유 공간은 공유 JupyterServer 애플리케이션과 공유 디렉터리로 구성됩니다. Amazon SageMaker 도메인의 모든 사용자 프로필은 도메인의 모든 공유 공간에 액세스할 수 있습니다.

Studio에서 데이터를 가져오고, 분석하고, 준비하고, 특징화할 수 있습니다. SageMaker 사용자는 Data Wrangler를 기계 학습 워크플로에 통합하여 코딩을 거의 또는 전혀 사용하지 않고도 데이터 사전 처리 및 특성 추출을 단순화하고 간소화할 수 있습니다. 사용자는 나만의 Python 스크립트와 변환을 추가하여 데이터 준비 워크플로를 사용자 지정할 수도 있습니다.

데이터와 상호 작용하고, 시각화하고, 실행 가능한 인사이트를 탐색하고, 데이터 품질 문제를 해결합니다.

훈련 프로세스 전반에 걸쳐 훈련 파라미터 및 데이터를 검사합니다. 파라미터 값이 너무 크거나 작아지는 등 일반적으로 발생하는 오류를 자동으로 감지하여 사용자에게 알립니다.

엣지 디바이스용 사용자 지정 모델을 최적화하고, 플릿을 생성 및 관리하고, 효율적인 런타임으로 모델을 실행합니다.

처리 속도를 높이고 실시간 추론 결과를 가져오는 대기 시간을 줄입니다.

실험 관리 및 추적. 사용자는 추적된 데이터를 사용하여 실험을 재구성하고, 동료들이 수행한 실험을 기반으로 점진적으로 빌드를 수행하며,, 규정 준수 및 감사 검증을 위해 모델 계통을 추적할 수 있습니다.

기능 및 관련 메타데이터를 위한 중앙 집중식 스토어로 기능을 쉽게 검색하고 재사용할 수 있습니다. 사용자는 온라인 저장소와 오프라인 저장소의 두 가지 유형을 생성할 수 있습니다. 온라인 저장소는 지연 시간이 짧은 실시간 추론 사용 사례에 사용할 수 있으며 오프라인 저장소는 훈련 및 일괄 추론에 사용할 수 있습니다.

기계 학습과 함께 작업자를 사용하여 레이블이 지정된 데이터 세트를 생성하는 고품질 훈련 데이터 세트입니다.

레이블링 애플리케이션을 구축하고 레이블링 인력을 직접 관리할 필요 없이 고품질 훈련 데이터 세트를 만들 수 있는 턴키 데이터 레이블링 기능입니다.

ML 모델 및 워크로드를 사용하기 위한 추론 인스턴스 유형 및 구성(예: 인스턴스 수, 컨테이너 파라미터, 모델 최적화)에 대한 추천을 받을 수 있습니다.

모델 서빙 인프라의 성능을 현재 배포된 인프라와 비교하여 모델 서빙 인프라의 변경 사항을 평가합니다.

선별된 원클릭 솔루션, 예제 노트북, 배포할 수 있는 사전 학습된 모델을 통해 SageMaker 특징과 기능에 대해 알아보십시오. 사용자는 모델을 미세 조정하고 배포할 수도 있습니다.

머신 러닝 워크플로의 계보를 추적합니다.

작업과 SageMaker 직접 통합된 기계 학습 파이프라인을 만들고 관리합니다.

ML 모델에 대한 정보를 한 곳에 문서화하여 ML 주명 주기 전반에 걸쳐 간소화된 거버넌스 및 보고를 수행할 수 있습니다.

계정의 모든 모델에 대해 사전 구축된 시각적인 개요를 제공합니다. 모델 대시보드는 SageMaker Model Monitor의 정보, 변환 작업, 엔드포인트, 계보 추적을 CloudWatch 통합하므로 하나의 통합된 보기에서 상위 수준의 모델 정보에 액세스하고 모델 성능을 추적할 수 있습니다.

프로덕션 단계(엔드포인트)의 모델을 모니터링 및 분석하여 모델 품질의 데이터 드리프트 및 편차를 감지합니다.

기계 학습 모델 배포를 위한 버전 관리, 아티팩트 및 계보 추적, 승인 워크플로, 계정 간 지원.

기계 학습 모델을 한 번 훈련한 다음, 클라우드와 에지 어디에서나 실행합니다.

SageMaker Studio 노트북을 비대화형 예약 작업으로 실행하십시오.

데이터를 분석 및 사전 처리하고, 특성 추출 문제를 해결하며, 모델을 평가합니다.

프로젝트를 사용하여 SageMaker CI/CD로 end-to-end ML 솔루션을 만드세요.

행동의 결과로 에이전트가 받게 되는 장기 보상을 극대화합니다.

관리자는 사용자 지정 및 사전 구성된 페르소나 기반 역할을 사용하여 일반적인 ML 활동에 대한 최소 권한 권한을 정의할 수 있습니다. IAM

ML 모델 호스팅을 위한 서버리스 엔드포인트 옵션입니다. 엔드포인트 트래픽을 처리하기 위해 용량을 자동으로 확장합니다. 인스턴스 유형을 선택하거나 엔드포인트에서 크기 조정 정책을 관리할 필요가 없습니다.

Git 리포지토리에 들어가서 사용자 환경에 복제하고 변경 내용을 푸시하고 커밋 기록을 볼 수 있는 Git 확장입니다. URL

다음을 포함하는 차세대 SageMaker 노트북 AWS IAM Identity Center (IAMID 센터) 통합, 빠른 시작 시간, 원클릭 공유.

SageMaker Studio에서 직접 단일 계정 및 교차 계정 구성으로 Amazon EMR 클러스터를 쉽게 검색, 연결, 생성, 종료 및 관리할 수 있습니다.

에서 관리하는 확장 가능한 GPU 인스턴스에서 딥 러닝 모델을 더 빠르게 학습시킵니다. SageMaker