Amazon SageMaker 모델 자동 크기 조정

SageMaker Amazon은 호스팅 모델에 대해 자동 크기 조정 (Auto Scaling) 을 지원합니다. 오토 스케일링은 워크로드의 변화에 따라 모델에 대해 프로비저닝된 인스턴스의 수를 동적으로 조정합니다. 워크로드가 증가하면 Auto Scaling은 더 많은 인스턴스를 온라인 상태로 전환합니다. 워크로드가 감소하면 오토 스케일링을 통해 불필요한 인스턴스가 제거되므로 프로비저닝된 인스턴스 중 사용하지 않는 인스턴스에 대해 요금을 지불하지 않습니다.