在 C SageMaker anvas 中完成基础模型的先决条件 - 亚马逊 SageMaker AI

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

在 C SageMaker anvas 中完成基础模型的先决条件

以下几节概述在 Canvas 中与根基模型交互和使用文档查询功能的先决条件。本页其余内容假定您已满足根基模型的先决条件。文档查询功能需要额外的权限。

根基模型的先决条件

与模型交互所需的权限包含在 Canvas Ready-to-use 模型权限中。要在 Canvas 中使用人工智能驱动的生成模型,您必须在设置 Amazon A SageMaker I 域时打开 Canvas Ready-to-use 模型配置权限。有关更多信息,请参阅 设置 Amazon C SageMaker anvas 的先决条件Canvas Ready-to-use 模型配置AmazonSageMakerCanvasAIServices访问策略附加到您的 Canvas 用户 AWS Identity and Access Management (IAM) 执行角色。如果您在授予权限时遇到任何问题,请参阅主题 解决通过 SageMaker AI 控制台授予权限的问题

如果您已经设置了域,则可以编辑域设置并开启权限。有关如何编辑域设置的说明,请参阅 编辑域设置。编辑网域的设置时,进入画布设置并打开启用画布 Ready-to-use模型选项。

某些 JumpStart 基础模型还要求您申请增加 A SageMaker I 实例配额。Canvas 托管您当前在这些实例上与之交互的模型,但您账户的默认限额可能不足。如果您在运行以下任何模型时遇到错误,请申请增加相关实例类型的限额:

  • Falcon-40B – ml.g5.12xlargeml.g5.24xlarge

  • Falcon-13B – ml.g5.2xlargeml.g5.4xlargeml.g5.8xlarge

  • MPT-7B-Instruct – ml.g5.2xlargeml.g5.4xlargeml.g5.8xlarge

对于上述实例类型,请求将端点使用限额从 0 增加到 1。有关如何增加账户实例限额的更多信息,请参阅《服务限额用户指南》中的请求增加限额

查询文档的先决条件

注意

以下地区支持文档查询 AWS 区域:美国东部(弗吉尼亚北部)、美国东部(俄亥俄州)、美国西部(俄勒冈)、欧洲(爱尔兰)、亚太地区(新加坡)、亚太地区(悉尼)、亚太地区(东京)和亚太地区(孟买)。

文档查询功能要求您已经有一个用于存储文档和文档元数据的 Amazon Kendra 索引。有关 Amazon Kendra 的更多信息,请参阅《Amazon Kendra 开发人员指南》https://docs.aws.amazon.com/kendra/latest/dg/what-is-kendra.html。要详细了解查询索引的限额,请参阅《Amazon Kendra 开发人员指南》中的限额

您还必须确保 Canvas 用户配置文件具有查询文档所需的权限。该AmazonSageMakerCanvasFullAccess策略必须附加到托管 Canvas 应用程序的 A SageMaker I 域的 AWS IAM 执行角色(默认情况下,此策略附加到所有新的和现有的 Canvas 用户配置文件中)。您还必须专门授予文档查询权限,并指定对一个或多个 Amazon Kendra 索引的访问权限。

如果您的 Canvas 管理员正在设置新的域或用户配置文件,请让他们按照 设置 Amazon C SageMaker anvas 的先决条件 中的说明设置域。在设置域名时,他们可以通过 C anvas Ready-to-use 模型配置开启文档查询权限。

Canvas 管理员也可以在用户配置文件级别管理文档查询权限。例如,如果管理员希望向某些用户配置文件授予文档查询权限,但删除其他用户配置文件的权限,他们可以编辑特定用户的权限。

以下过程演示如何为特定用户配置文件启用文档查询权限:

  1. 打开 SageMaker AI 控制台,网址为https://console.aws.amazon.com/sagemaker/

  2. 在左侧导航窗格中,选择管理员配置

  3. 管理员配置下,选择

  4. 从域列表中,选择用户配置文件的域。

  5. 域详细信息页面上,选择要编辑其权限的用户配置文件

  6. 用户详细信息页面上,选择编辑

  7. 在左侧导航窗格中,选择 Canvas 设置

  8. Canvas Ready-to-use 模型配置部分,打开使用 Amazon Kendra 启用文档查询开关。

  9. 在下拉列表中,选择一个或多个您想要授予访问权限的 Amazon Kendra 索引。

  10. 选择提交以保存对域设置的更改。

现在,您应该能够使用 Canvas 根基模型来查询指定的 Amazon Kendra 索引中的文档。