SageMaker 노트북 환경의 세대 AI - Amazon SageMaker

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

SageMaker 노트북 환경의 세대 AI

Jupyter AI는 생성형 AI 기능을 Jupyter 노트북에 JupyterLab 통합하는 오픈 소스 확장 프로그램입니다. Jupyter AI 채팅 인터페이스와 매직 명령을 통해 사용자는 자연어 지침에서 생성된 코드를 실험하고, 기존 코드를 설명하고, 로컬 파일에 대해 질문하고, 전체 노트북을 생성하는 등 다양한 작업을 수행할 수 있습니다. 익스텐션은 Jupyter 노트북을 사용자가 텍스트, 코드 또는 이미지를 생성하고 자신의 데이터에 대해 질문하는 데 사용할 수 있는 큰 언어 모델(LLMs)과 연결합니다. Jupyter AI는 AI21, Anthropic, AWS (JumpStart 및 Amazon Bedrock), Cohere 및 OpenAI와 같은 생성 모델 공급자를 지원합니다.

Amazon Q Developer를 즉시 사용 가능한 솔루션으로 사용할 수도 있습니다. 모델에 대한 연결을 수동으로 설정하는 대신 최소한의 구성으로 Amazon Q Developer를 사용할 수 있습니다. Amazon Q Developer를 활성화하면 Jupyter AI의 기본 솔루션 공급자가 됩니다. Amazon Q Developer 사용에 대한 자세한 내용은 섹션을 참조하세요SageMaker JupyterLab.

확장 패키지는 Amazon SageMaker 배포 버전 1.2 이상 에 포함되어 있습니다. Amazon SageMaker Distribution은 JupyterLab 노트북 인스턴스의 기본 이미지로 사용되는 데이터 과학 및 과학 컴퓨팅을 위한 Docker 환경입니다. 다양한 IPython 환경의 사용자는 Jupyter AI를 수동으로 설치할 수 있습니다.

이 섹션에서는 Jupyter AI 기능에 대한 개요를 제공하고 또는 JupyterLab Studio Classic 노트북에서 JumpStart 또는 Amazon Bedrock에서 제공하는 모델을 구성하는 방법을 보여줍니다. Jupyter AI 프로젝트에 대한 자세한 내용은 해당 설명서 를 참조하세요. 또는 Jupyter의 블로그 게시물 생성형 AI에서 주요 Jupyter AI 기능의 개요와 예를 참조할 수 있습니다.

Jupyter AI를 사용하고 와 상호 작용하기 전에 다음 사전 조건을 충족하는지 LLMs확인하세요.

  • 에서 호스팅하는 모델의 경우 SageMaker 엔드포인트ARN의 가 있거나 Amazon Bedrock에 액세스할 수 AWS있어야 합니다. 다른 모델 공급자의 경우 API 키를 사용하여 모델에 대한 요청을 인증하고 승인해야 합니다. Jupyter AI는 광범위한 모델 공급자 및 언어 모델을 지원합니다. 지원되는 모델 목록을 참조하여 사용 가능한 최신 모델에 대한 최신 정보를 확인하세요. 에서 모델을 배포하는 방법에 대한 자세한 내용은 JumpStart 설명서의 모델 배포를 JumpStart참조하세요. 모델 공급자로 사용하려면 Amazon Bedrock에 대한 액세스를 요청해야 합니다.

  • Jupyter AI 라이브러리가 환경에 있는지 확인합니다. 그렇지 않은 경우 의 지침에 따라 필요한 패키지를 설치합니다Jupyter AI 설치.

  • 에서 Jupyter AI의 기능을 숙지하세요Jupyter AI 기능 액세스.

  • 의 지침에 따라 사용하려는 대상 모델을 구성합니다모델 공급자 구성.

사전 조건 단계를 완료한 후 로 진행할 수 있습니다 JupyterLab 또는 Studio Classic에서 Jupyter AI 사용.

주제