EMRStudio 的功能、要求和限制 - Amazon EMR

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

EMRStudio 的功能、要求和限制

本主题包括使用 Amazon EMR Studio 时需要考虑的事项,包括有关区域和工具、集群要求和技术限制的注意事项。

注意事项

使用 EMR Studio 时,请考虑以下几点:

  • EMRStudio 有以下几种可供选择 AWS 区域:

    • 美国东部(俄亥俄州)(us-east-2)

    • 美国东部(弗吉尼亚州北部)(us-east-1)

    • 美国西部(北加利福尼亚)(us-west-1)

    • 美国西部(俄勒冈州)(us-west-2)

    • 非洲(开普敦)(af-south-1)

    • 亚太地区(香港)(ap-east-1)

    • 亚太地区(雅加达)(ap-southeast-3)*

    • 亚太地区(墨尔本)(ap-southeast-4)*

    • 亚太地区(孟买)(ap-south-1)

    • 亚太地区(大阪)(ap-northeast-3)*

    • 亚太地区(首尔)(ap-northeast-2)

    • 亚太地区(新加坡)(ap-southeast-1)

    • 亚太地区(悉尼)(ap-southeast-2)

    • 亚太地区(东京)(ap-northeast-1)

    • 加拿大(中部)(ca-central-1)

    • 欧洲地区(法兰克福)(eu-central-1)

    • 欧洲地区(爱尔兰)(eu-west-1)

    • 欧洲(伦敦)(eu-west-2)

    • 欧洲(米兰)(eu-south-1)

    • 欧洲(巴黎)(eu-west-3)

    • 欧洲(西班牙)(eu-south-2)

    • 欧洲地区(斯德哥尔摩)(eu-north-1)

    • 欧洲(苏黎世)(eu-central-2)*

    • 以色列(特拉维夫)(il-central-1)*

    • 中东 (UAE) (me-central-1) *

    • 南美洲(圣保罗)(sa-east-1)

    • AWS GovCloud (美国东部) (gov-us-east-1)

    • AWS GovCloud (美国西部) (gov-us-west-1)

    * 这些区域不支持实时 Spark UI。

  • 要让用户EC2为工作区配置在 Amazon 上运行的新EMR集群,您可以将 EMR Studio 与一组集群模板相关联。管理员可以使用 Service Catalog 定义集群模板,并且可以选择用户或组是可以访问 Studio 中的集群模板,还是不能访问集群模板。

  • 当您定义对存储在 Amazon S3 中的笔记本文件或从中读取密钥的访问权限时 AWS Secrets Manager,请使用 Amazon EMR 服务角色。这些权限不支持会话策略。

  • 您可以创建多个 EMR Studio 来控制对不同EMR集群的访问权限VPCs。

  • 使用在 AWS CLI 集EKS群EMR上设置 Amazon。然后,您可以使用 Studio 界面通过托管式终端节点将集群附加到 Workspaces,以运行 Notebook 任务。

  • 在 Amazon 上使用可信身份传播时,还有其他注意事项EMR,这些注意事项也适用于 EMR Studio。有关更多信息,请参阅 集成身份中心的 Amazon EMR 注意事项和限制

  • EMRStudio 不支持以下 Python 魔法命令:

    • %alias

    • %alias_magic

    • %automagic

    • %macro

    • %%js

    • %%javascript

    • 使用 %configure 修改 proxy_user

    • 使用 %env%set_env 修改 KERNEL_USERNAME

  • EKS集群EMR上的 Amazon 不支持 EMR Studio 的 SparkMagic 命令。

  • 要在 Notebook 单元格中编写多行 Scala 语句,请确保除最后一行以外的所有其他行均以句点结束。下面的示例对多行 Scala 语句使用了正确的句法。

    val df = spark.sql("SELECT * from table_name). filter("col1=='value'"). limit(50)
  • 为了增强您可能与 Amazon 一起使用的非控制台应用程序的安全性EMR,应用程序托管域已在公共后缀列表 () 中注册。PSL这些托管域的示例包括以下各项:emrstudio-prod.us-east-1.amazonaws.com.rproxy.goskope.comemrnotebooks-prod.us-east-1.amazonaws.com.rproxy.goskope.comemrappui-prod.us-east-1.amazonaws.com。为进一步增强安全性,如果您需要在默认域名中设置敏感 Cookie,我们建议您使用带 __Host- 前缀的 Cookie。这有助于保护您的域名免受跨站请求伪造企图的侵害()CSRF。有关更多信息,请参阅 。Set-CookieMozilla 开发者网络中的页面。

  • Amazon EMR Studio 工作空间和永久用户界面终端节点使用 FIPS 140-2 经过验证的加密模块 encryption-in-transit,这使得受监管的工作负载可以更轻松地采用该服务。有关永久用户界面终端节点的更多背景信息,请参阅在 Amazon 中查看永久应用程序用户界面EMR。有关笔记本的更多背景信息,请参阅 Amazon EMR 笔记本概述

已知问题

  • 在启用了可信IAM身份传播的情况下使用 Identity Center 的 EMR Studio 只能与也使用可信身份传播的EMR集群关联。

  • 请务必停用代理管理工具,例如 FoxyProxy 或 SwitchyOmega 在创建 Studio 之前在浏览器中。当您选择 Create Studio (创建 Studio) 时,活动代理可能会导致错误,并导致出现 Network Failure (网络故障) 错误消息。

  • 由于超时问题,在 Amaz EMR on EKS 集群上运行的内核可能无法启动。如果您在启动内核时遇到错误或问题,请关闭 Notebook 文件、关闭内核,然后重新打开 Notebook 文件。

  • 当您在EKS集群EMR上使用 Amazon 时,重启内核操作无法按预期运行。在您选择 Restart kernel (重新启动内核) 后,请刷新 Workspace 以使重启生效。

  • 如果 Workspace 未附加到集群,则当 Studio 用户打开 Notebook 文件并尝试选择内核时会显示一条错误消息。您可以通过选择 Ok (确定) 忽略此错误消息,但您必须先将 Workspace 附加到集群并选择内核,然后才能运行 Notebook 代码。

  • 当您使用带有安全配置的 Amazon EMR 6.2.0 来设置集群安全时,Workspace 界面显示为空白,无法按预期运行。EMR如果您要为集群配置数据加密或 Amazon S3 授权,我们建议您使用其他支持版本的 EMRFS Amazon。 EMRStudio 适用于亚马逊EMR版本 5.32.0(亚马逊 EMR 5.x 系列)和 6.2.0(EMR亚马逊 6.x 系列)及更高版本。

  • 当您调试在亚马逊上EMR运行的亚马逊EC2作业时,指向集群上 Spark UI 的链接可能无法正常工作或无法显示。要重新生成链接,请创建一个新的 Notebook 单元格并运行%%info命令。

  • 在以下亚马逊EMR发行版本中,Jupyter Enterprise Gateway 不会清理集群主节点上的空闲内核:5.32.0、5.33.0、6.2.0 和 6.3.0。空闲内核消耗计算资源,这可能会导致长时间运行的集群出现故障。您可以使用以下示例脚本为 Jupyter Enterprise Gateway 配置空闲内核清理。您可以使用连接到 Amazon EMR 集群主节点 SSH,或以步骤的形式提交脚本。有关更多信息,请参阅在 Amazon EMR 集群上运行命令和脚本

    #!/bin/bash sudo tee -a /emr/notebook-env/conf/jupyter_enterprise_gateway_config.py << EOF c.MappingKernelManager.cull_connected = True c.MappingKernelManager.cull_idle_timeout = 10800 c.MappingKernelManager.cull_interval = 300 EOF sudo systemctl daemon-reload sudo systemctl restart jupyter_enterprise_gateway
  • 当您在亚马逊EMR版本 5.32.0、5.33.0、6.2.0 或 6.3.0 上使用自动终止策略时,Amazon 会将集群EMR标记为空闲状态,即使您有活跃的 Python3 内核,也可能会自动终止集群。这是因为执行 Python3 内核不会在该集群上提交 Spark 作业。要在 Python3 内核中使用自动终止功能,我们建议您使用亚马逊 6.4.0 或更高EMR版本。有关自动终止的更多信息,请参阅 使用自动终止策略清理 Amazon EMR 集群

  • 当你习惯%%display在表格 DataFrame 中显示 Spark 时,很宽的表可能会被截断。您可以右键单击输出,然后选择 Create New View for Output(为输出创建新视图),以获取输出的可滚动视图。

  • 启动基于 Spark 的内核(例如 PySpark Spark 或 SparkR)会启动 Spark 会话,而在笔记本中运行单元会将该会话中的 Spark 作业排入队列。当您中断正在运行的单元格时,Spark 作业将继续运行。要停止 Spark 作业,您应该使用集群上的 Spark UI。有关如何连接到 Spark UI 的说明,请参阅 使用 EMR Studio 调试应用程序和作业

  • 在中以 root 用户身份使用 Amazon EMR Studio 工作空间 AWS 账户 会导致403: Forbidden错误。这是因为 Amazon 中的 Jupyter Enterprise Gateway 配置EMR不允许根用户进行访问。建议您不要使用根用户执行日常任务。有关其他身份验证选项,请参阅适用AWS Identity and Access Management 于 Amazon 的身份验证选项EMR。

功能限制

Amazon EMR Studio 不支持以下亚马逊EMR功能:

  • 使用指定 Kerberos 身份验证的安全配置在EMR集群上附加和运行作业

  • 具有多个主节点的集群

  • 使用基于 AWS Graviton2 的亚马逊EC2实例的集群 6.x 版本低于 EMR 6.9.0,5.x 版本低于 5.36.1

使用可信身份传播的 Studio 不支持以下功能:

  • 在没有模板的情况下创建EMR集群。

  • 使用EMR无服务器应用程序。

  • EMR在EKS集群上启动 Amazon。

  • 使用运行时系统角色。

  • 启用SQL资源管理器或工作区协作。

EMRStudio 的服务限制

下表显示了 EMR Studio 的服务限制。

项目 限制
EMR工作室 每个 AWS 账户最多 100
子网 每个EMR工作室最多 5 个关联
IAM身份中心群组 每个EMR工作室最多分配 5 个
IAM身份中心用户 每个EMR工作室最多分配 100