기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

HyperPod FAQs의 Ray

HyperPod는 Ray 또는 KubeRay를 수정하나요?

HyperPod는 변경 없이 업스트림 오픈 소스 Ray 및 KubeRay를 실행합니다. Ray 코드, Ray APIs 및 RayCluster, RayJobRayCronJob, 및 RayService 사용자 지정 리소스는 오픈 소스에서처럼 작동합니다. HyperPod는 관리형 Studio 환경, 보안 대시보드 액세스, 관찰성 및 복원력과 같은 Ray 관련 기능을 추가합니다.

기존 KubeRay 설치를 유지할 수 있나요?

이미 실행 중인 KubeRay 연산자를 유지할 수 있습니다. HyperPod 기능은이 기능과 함께 설치되며 이미 적용한 매니페스트는 계속 작동합니다. 클러스터에 아직 KubeRay 연산자가 없는 경우에 설명된 대로 설치합니다HyperPod Amazon EKS에 KubeRay 설치.

SageMaker Studio가 필요합니까?

Amazon SageMaker Studio는 데이터 과학자가 Kubernetes의 지식 없이 Ray 클러스터를 생성하고 관리하는 관리형 환경에만 필요합니다. 기존 Ray 플랫폼에서는 , kubectlHelm 및 도구 키트 라이브러리를 사용하며 Studio가 필요하지 않습니다. 자세한 내용은 시작하기 단원을 참조하십시오.

자체 Prometheus 및 Grafana를 사용할 수 있나요?

자체 Prometheus 및 Grafana를 유지할 수 있습니다. HyperPod 관찰성 추가 기능은 구성된 상태로 제공되는 한 가지 옵션이지만 대신 자체 스택으로 Ray 지표를 스크레이프할 수 있습니다. 자세한 내용은 Ray 지표 수집 설정 단원을 참조하십시오.

할당량은 수명이 긴 Ray 클러스터에서 어떻게 작동하나요?

HyperPod 태스크 거버넌스는 RayCluster 수준에서 할당량을 고려하므로 수명이 긴 클러스터는 실행되는 동안 선언된 전체 용량을 유지합니다. 영구 클러스터의 크기를 예약하려는 용량으로 조정하고 작업당 용량을 획득하고 해제하는 작업에 RayJob를 사용합니다. 자세한 내용은 작업 거버넌스를 사용하여 대기열에 추가 단원을 참조하십시오.

GPU 노드에 장애가 발생하면 Ray 작업은 어떻게 되나요?

HyperPod는 상태 확인을 통해 오류를 감지하고 노드를 재부팅 또는 교체하며, KubeRay는 영향을 받는 Ray 포드를 다시 예약합니다. 마지막 체크포인트에서 작업이 재개되므로 진행 중인 작업을 복구하기 위해 체크포인트를 작성합니다. 자세한 내용은 Ray를 사용한 자동 노드 복구 단원을 참조하십시오.

지원되는 Ray 라이브러리는 무엇입니까?

HyperPod는 수정되지 않은 Ray를 실행하므로 Ray Core, Ray Train, Ray Data 및 Ray Serve를 포함한 오픈 소스 Ray 라이브러리를 지원합니다. 컨테이너 이미지spec.rayVersion의 Ray 버전과 일치시킵니다. 라이브러리 APIs는 Ray 웹 사이트의 Ray 설명서를 참조하세요.

다른 기능 없이 하나의 기능을 채택할 수 있나요?

각 HyperPod 기능은 추가 기능 또는 Python 패키지로 독립적으로 설치되므로 하나를 채택하고 중지할 수 있습니다. 자체 Ray 플랫폼이 있는 팀은 나머지를 변경하지 않고도 관찰성 또는 인증된 대시보드 액세스를 추가할 수 있습니다. 전체 목록 및 종속성은 섹션을 참조하세요시작하기.