在 AWS IoT Greengrass 核心上管理数据流 - AWS IoT Greengrass

AWS IoT Greengrass Version 1 于 2023 年 6 月 30 日进入延长使用寿命阶段。有关更多信息,请参阅 AWS IoT Greengrass V1维护策略。在此日期之后,AWS IoT Greengrass V1 不再发布更新来提供新功能、功能增强、错误修复或安全补丁。在 AWS IoT Greengrass V1 上运行的设备不会受到干扰,并且将继续运行并连接到云。我们强烈建议您迁移到 AWS IoT Greengrass Version 2,从而添加重要的新功能支持更多平台

在 AWS IoT Greengrass 核心上管理数据流

AWS IoT Greengrass 流管理器可以更轻松、更可靠地将大容量 IoT 数据传输到 AWS Cloud。流管理器在本地处理数据流并自动将其导出到 AWS Cloud。此功能与常见的边缘方案(如机器学习 (ML) 推理)集成,在将数据导出到 AWS Cloud 或本地存储目标之前,将对数据进行本地处理和分析。

流管理器简化了应用程序开发。IoT 应用程序可以使用标准化机制来处理大容量流和管理本地数据保留策略,而不是构建自定义流管理功能。IoT 应用程序可以读取和写入流。它们可以在每个流的基础之上定义存储类型、大小和数据的保留策略,以控制流管理器处理和导出流的方式。

流管理器设计为在间歇性或有限连接的环境中工作。您可以定义带宽使用、超时行为以及当核心连接或断开连接时如何处理流数据。对于关键数据,您可以设置优先级以控制流导出到 AWS Cloud 的顺序。

您可以配置自动导出到 AWS Cloud 以便存储和进行进一步处理和分析。流管理器支持导出到以下 AWS Cloud 目标。

  • AWS IoT Analytics 中的频道。AWS IoT Analytics 允许您对数据进行高级分析,以帮助做出业务决策和改进机器学习模型。有关更多信息,请参阅 AWS IoT Analytics 用户指南中的什么是 AWS IoT Analytics?

  • Kinesis Data Streams 中的流。Kinesis Data Streams 通常用于聚合大量数据并将其加载到数据仓库或 map-reduce 集群中。有关更多信息,请参阅 Amazon Kinesis 开发人员指南中的什么是 Amazon Kinesis Data Streams?

  • AWS IoT SiteWise 中的资产属性。AWS IoT SiteWise 允许您大规模收集、整理和分析来自工业设备的数据。有关更多信息,请参阅 AWS IoT SiteWise 用户指南中的什么是 AWS IoT SiteWise?

  • Amazon S3 中的对象。您可以使用 Amazon S3 存储和检索大量的数据。有关更多信息,请参阅 Amazon Simple Storage Service 开发人员指南中的什么是 Amazon S3?

流管理工作流

您的 IoT 应用程序通过 AWS IoT Greengrass 核心开发工具包与流管理器交互。在简单工作流中,在 Greengrass 核心上运行的用户定义的 Lambda 函数会消耗 IoT 数据,如时间序列温度和压力指标。Lambda 函数可能会过滤或压缩数据,然后调用 AWS IoT Greengrass 核心开发工具包以将数据写入流管理器中的流。流管理器可以根据为流定义的策略自动将流导出到 AWS Cloud。用户定义的 Lambda 函数还可以将数据直接发送到本地数据库或存储库。

您的 IoT 应用程序可以包含多个用户定义的 Lambda 函数用于读取或写入流。这些本地 Lambda 函数可以读取和写入流,以便在本地过滤、聚合和分析数据。这样可以在数据从核心传输到云或本地目的地之前快速响应本地事件并提取有价值的信息。

下图显示了工作流程示例。

流管理器工作流程图。

要使用流管理器,请首先配置流管理器参数来定义组级别的运行时设置,以应用到 Greengrass 核心上的所有流中。这些可自定义设置允许您根据业务需求和环境约束控制流管理器存储、处理和导出流的方式。有关更多信息,请参阅 配置 AWS IoT Greengrass 流管理器

配置流管理器后,您可以创建和部署 IoT 应用程序。这些通常是用户定义的 Lambda 函数,它们使用 AWS IoT Greengrass Core 软件包开发工具包中的 StreamManagerClient 来创建流并与之交互。在创建流期间,Lambda 函数会定义每个流的策略,例如导出目标、优先级和持久性。有关更多信息(包括 StreamManagerClient 操作的代码片段),请参阅使用 StreamManagerClient 处理流

有关配置简单工作流程的教程,请参阅将数据流导出到 AWS Cloud(控制台)将数据流导出到 AWS Cloud (CLI)

要求

以下要求适用于使用流管理器:

  • 您必须使用 AWS IoT Greengrass 核心软件版本 v1.10 或更高版本且启用了流管理器。有关更多信息,请参阅 配置 AWS IoT Greengrass 流管理器

    OpenWRT 发行版不支持流管理器。

  • 核心设备上必须安装 Java 8 运行时 (JDK 8)。

    • 对于基于 Debian 的发行版(包括 Raspbian)或基于 Ubuntui 的发行版,运行以下命令:

      sudo apt install openjdk-8-jdk
    • 对于基于 Red Hat 的发行版(包括 Amazon Linux),请运行以下命令:

      sudo yum install java-1.8.0-openjdk

      有关更多信息,请参阅 OpenJDK 文档中的如何下载并安装预先构建的 OpenJDK 程序包

     

  • 除了基础 AWS IoT Greengrass 核心软件之外,流管理器还需要至少 70 MB 的 RAM。您的总内存需求取决于您的工作负载。

     

  • 用户定义的 Lambda 函数必须使用 AWS IoT Greengrass 核心开发工具包与流管理器交互。AWS IoT Greengrass 核心开发工具包有多种语言可用,但只有以下版本支持流管理器操作。

    • Java SDK(v1.4.0 或更高版本)

    • Python SDK(v1.5.0 或更高版本)

    • Node.js SDK(v1.6.0 或更高版本)

    下载与 Lambda 函数运行时对应的开发工具包版本,并将其包含在 Lambda 函数部署包中。

    注意

    适用于 Python 的 AWS IoT Greengrass 核心开发工具包需要 Python 3.7 或更高版本,并且具有其他软件包依赖关系。有关更多信息,请参阅创建 Lambda 函数部署包(控制台)创建 Lambda 函数部署包 (CLI)

  • 如果您为流定义 AWS Cloud 导出目标,则必须创建导出目标并授予在 Greengrass 组角色中的访问权限。根据不同的目的地,也可能适用其他要求。有关更多信息,请参阅:

    由您来负责维护这些 AWS Cloud 资源。

数据安全性

使用流管理器时,请注意以下安全注意事项。

本地数据安全性

AWS IoT Greengrass 不会在核心设备上的组件之间进行静态或本地传输的流数据加密。

  • 静态数据。流数据存储在本地存储在 Greengrass 核心的存储目录中。为了保证数据安全,AWS IoT Greengrass 依赖 Unix 文件权限和全磁盘加密(如果启用)。您可以使用可选的 STREAM_MANAGER_STORE_ROOT_DIR 参数指定存储目录。如果稍后将此参数更改为使用其他存储目录,AWS IoT Greengrass 不会删除以前的存储目录或其内容。

     

  • 本地传输中的数据。AWS IoT Greengrass 不加密数据源、Lambda 函数、AWS IoT Greengrass 核心开发工具包和流管理器之间的本地传输流数据。

     

  • 传输到 AWS Cloud 的数据。流管理器导出到 AWS Cloud 的数据流使用带传输层安全性 (TLS) 的标准 AWS 服务客户端加密。

有关更多信息,请参阅 数据加密

客户端身份验证

流管理器客户端使用 AWS IoT Greengrass 核心开发工具包与流管理器进行通信。启用客户端身份验证后,只有 Greengrass 组中的 Lambda 函数才能与流管理器中的流交互。禁用客户端身份验证时,Greengrass 核心上运行的任何进程(如 Docker 容器)都可以与流管理器中的流进行交互。只有在您的业务案例需要时才应禁用身份验证。

您可以使用 STREAM_MANAGER_AUTHENTICATE_CLIENT 参数来设置客户端身份验证模式。您可以从控制台或 AWS IoT Greengrass API 配置此参数。更改在部署组后生效。

  已启用 已禁用

参数值

true(默认值和推荐值)

false

允许的客户端

Greengrass 组中的用户定义 Lambda 函数

Greengrass 组中的用户定义 Lambda 函数

Greengrass 核心设备上运行的其他进程

另请参阅