MetaLlama 2模型自定义超参数 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

MetaLlama 2模型自定义超参数

MetaLlama 213B 和 70B 模型支持以下用于模型自定义的超参数。有关更多信息,请参阅自定义模型

有关微调 Meta Llama 模型的信息,请参阅 https://ai.meta.com/llama/get-started/#fine-tuning 上的Meta文档。

注意

epochCount配额是可调整的。

超参数(控制台) 超参数 (API) 定义 Type 最低 最高 默认
周期 epochCount 整个训练数据集的迭代次数 整数 1 10 5
批次大小 batchSize 更新模型参数之前处理的样本数 整数 1 1 1
学习率 learningRate 每个批次之后模型参数的更新速率 float 5.00E-6 0.1 1.00E-4