本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
使用 AWS 和 Snowflake 的现代数据平台
发布日期:2022年 3月11日 (图表历史)
该架构展示了如何使用 AWS 和构建端到端的现代数据分析平台Snowflake。您可以从多个来源提取数据,将其存储在数据湖中,并用Snowflake作虚拟数据仓库进行分析。
使用 AWS 和 Snowflake 的现代数据平台
以下步骤描述了架构:
-
从企业的多个数据源、软件即服务 (SaaS) 应用程序、边缘设备、日志、流媒体数据和社交媒体网络中收集数据。
-
根据数据源的类型,使用 AWS 数据库迁移服务、AWS、亚马逊 Kinesis DataSync 、Amazon Managed Streaming for Apache Kafka、AWS IoT Core 、 AWS Glue 和亚马逊 AppFlow 将数据摄入到数据湖中。
-
Amazon 简单存储服务提供完全托管、高度可用且可扩展的数据湖存储。
-
AWS Glue 在多个数据存储中提取、转换和摄取数据。Amazon EMR 提供云大数据平台,用于使用开源分析框架处理大量数据。AWS Lambda而亚马逊 EC2 则为数据丰富提供了计算能力。
-
亚马逊托管工作流程 Apache Airflow (MWAA) 或AWS Step Functions编排端到端数据管道。
-
Lake Formation 让您可以轻松构建、保护和管理您的数据湖。它为强制数据分类和管理细粒度访问提供了一个单一的场所。IAM 和 AWS STS 管理访问权限和临时证书。
-
Snowflake用作虚拟数据仓库,能够使用外部表查询 Amazon S3,并使用自动和持续地摄取数据。 SnowPipe
-
SageMaker AI 构建、训练和部署机器学习 (ML) 模型,并为您的应用程序添加智能。亚马逊 Quick Sight 提供 ML-powered 商业智能 (BI)。
延伸阅读
有关更多信息,请参阅以下资源:
图表历史
要获得有关此参考架构图更新的通知,请订阅 RSS 提要。
| 变更 | 说明 | 日期 |
|---|---|---|
初次发布 | 参考架构图首次发布。 | 2022 年 3 月 11 日 |
注意
要订阅 RSS 更新,必须为正在使用的浏览器启用 RSS 插件。