本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
使用基础模型
必须先请求访问模型,然后才能使用它。完成此操作后,您可以通过以下方式使用 FM。
-
通过向模型发送提示并生成响应来@@ 运行推理。Playgroun ds 中提供了一个用户友好的界面, AWS Management Console 用于生成文本、图像或聊天。请参阅 “输出模态” 列,确定可以在每个游乐场中使用的模型。
注意
主机游戏场不支持在嵌入模型上运行推理。使用 API 对嵌入模型进行推理。
-
评估模型以比较输出并确定最适合您的用例的模型。
-
借助嵌入模型@@ 建立知识库。然后使用文本模型生成对查询的响应。
-
创建代理并使用模型对提示进行推理以进行编排。
-
通过@@ 提供训练和验证数据来自定义模型,以根据您的用例调整模型参数。要使用自定义模型,必须为其购买预置吞吐量。
-
为模型@@ 购买预置吞吐量以增加其吞吐量。
要在 API 中使用 FM,您需要确定要使用的相应型号 ID。
应用场景 | 如何找到模型 ID |
---|---|
使用基础模型 | 在基本型号 ID 图表中查找 ID |
为基本型号购买预置吞吐量 | 在预配置吞吐量的模型 ID 图表中查找 ID,然后将其用作CreateProvisionedModelThroughput请求modelId 中的。 |
为自定义模型购买预置吞吐量 | 在请求中使用定制模型或其 ARN modelId 的CreateProvisionedModelThroughput名称。 |
使用预配置模型 | 创建预配置吞吐量后,它将返回。provisionedModelArn 此 ARN 是模型编号。 |
使用自定义模型 | 为自定义模型@@ 购买预置吞吐量,并使用返回的provisionedModelArn 作为模型 ID。 |