本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
AWS Trainium 实例旨在为深度学习模型推理工作负载提供高性能和成本效益。具体而言,Trn1 实例类型使用 T AWS rainium 芯片和 Ne AWS uron SDK
客户使用 Trn1 实例之后,能够以最低的云端成本来运行大规模的机器学习推理应用程序,例如搜索、推荐引擎、计算机视觉、语音识别、自然语言处理、个性化和欺诈检测。
注意
应将模型大小作为选择实例的一个因素。如果模型超出了实例的可用 RAM,请为应用程序选择其它具有足够内存的实例类型。
Amazon EC2 Trn1 实例
最多有 16 个 T AWS rainium 芯片和 100 Gbps 的网络吞吐量。