在 Step Functions 中探索服务集成模式 - AWS Step Functions

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

在 Step Functions 中探索服务集成模式

AWS Step Functions 直接与 Amazon 各州语言的服务集成。你可以控制这些 AWS 使用三种服务集成模式的服务:

  • 调用服务,让 Step Functions 在收到HTTP响应后立即进入下一个状态。

  • 调用服务,并让 Step Functions 等待作业完成。

  • 使用任务令牌调用服务并让 Step Functions 等待,直到该令牌与有效负载一起返回。

这些服务集成模式中的每一种都由您在任务定义"Resource"字段URI中创建的方式来控制。

有关配置的信息 AWS Identity and Access Management (IAM) 有关集成服务,请参阅Step Functions 如何为集成服务生成IAM策略

集成模式支持

标准工作流程和快速工作流程支持相同的集成,但不支持相同的集成模式

  • 标准工作流程支持请求响应集成。某些服务支持 Run a Job (.sync)等待回调 (. waitForTask代币),在某些情况下两者兼而有之。有关详细信息,请参阅以下经过优化的集成表。

  • Express 工作流程仅支持请求响应集成。

要帮助在两种类型之间做出选择,请参阅在 Step Functions 中选择工作流程类型

AWS SDKStep Functions 中的集成

集成 服务 请求响应 Run a Job-.sync 等待回电-. waitForTask代币
超过两百项服务 标准和快递 不支持 Standard

优化了 Step Functions 中的集成

集成 服务 请求响应 Run a Job-.sync 等待回电-. waitForTask代币
Amazon API Gateway 标准和快递 不支持 Standard
Amazon Athena 标准和快递 Standard 不支持
AWS Batch 标准和快递 Standard 不支持
Amazon Bedrock 标准和快递 Standard Standard
AWS CodeBuild 标准和快递 Standard 不支持
Amazon DynamoDB 标准和快递 不支持 不支持
Amazon ECS/Fargate 标准和快递 Standard Standard
Amazon EKS 标准和快递 Standard Standard
Amazon EMR 标准和快递 Standard 不支持
Amazon EMR on EKS 标准和快递 Standard 不支持
Amazon EMR Serverless 标准和快递 Standard 不支持
Amazon EventBridge 标准和快递 不支持 Standard
AWS Glue 标准和快递 Standard 不支持
AWS Glue DataBrew 标准和快递 Standard 不支持
AWS Lambda 标准和快递 不支持 Standard
AWS Elemental MediaConvert 标准和快递 Standard 不支持
Amazon SageMaker 标准和快递 Standard 不支持
亚马逊 SNS 标准和快递 不支持 Standard
Amazon SQS 标准和快递 不支持 Standard
AWS Step Functions 标准和快递 Standard Standard

请求响应

当您在任务状态"Resource"字符串中指定服务并且提供资源时,Step Functions 将等待HTTP响应,然后进入下一个状态。Step Functions 不会等待作业完成。

以下示例显示了如何发布 Amazon SNS 主题。

"Send message to SNS":{ "Type":"Task", "Resource":"arn:aws:states:::sns:publish", "Parameters":{ "TopicArn":"arn:aws:sns:us-east-1:123456789012:myTopic", "Message":"Hello from Step Functions!" }, "Next":"NEXT_STATE" }

此示例引用了 Amazon API 的发布SNS。调用后,工作流程将进入下一个状态。Publish API

提示

将使用请求响应服务集成模式的示例工作流程部署到您的 AWS 账户,参见模块 2-请求回复 AWS Step Functions 工作坊

运行作业 (.sync)

对于集成服务,例如 AWS Batch 而且 AmazonECS,Step Functions 可以等待请求完成后再进入下一个状态。要让 Step Functions 等待,请在任务状态定义中指定在资源后面附加后.sync缀的"Resource"字段。URI

例如,在提交 AWS Batch job,使用状态机定义中的"Resource"字段,如本示例所示。

"Manage Batch task": { "Type": "Task", "Resource": "arn:aws:states:::batch:submitJob.sync", "Parameters": { "JobDefinition": "arn:aws:batch:us-east-2:123456789012:job-definition/testJobDefinition", "JobName": "testJob", "JobQueue": "arn:aws:batch:us-east-2:123456789012:job-queue/testQueue" }, "Next": "NEXT_STATE" }

将该.sync部分附加到资源 Amazon 资源名称 (ARN) 中意味着 Step Functions 会等待任务完成。打电话后 AWS Batch submitJob,工作流程将暂停。作业完成后,Step Functions 将进入下一状态。有关更多信息,请参阅 AWS Batch 示例项目:使用管理批处理作业 AWS Batch 以及 Amazon SNS.

如果使用此 (.sync) 服务集成模式的任务中止,并且 Step Functions 无法取消该任务,则集成服务可能会向您收取额外费用。在以下情况下,任务可能被中止:

  • 状态机执行被停止。

  • 并行状态的另一个分支因未捕获的错误而失败。

  • Map 状态的一次迭代失败并出现未捕获的错误。

Step Functions 将尽力尝试取消任务。例如,如果 Step Functions states:startExecution.sync 任务中止,它将调用 Step Functions StopExecution API 操作。但是,Step Functions 可能无法取消该任务。原因包括但不限于:

  • 您的IAM执行角色无权进行相应API调用。

  • 发生临时服务中断。

当您使用 .sync 服务集成模式时,Step Functions 会使用轮询来监控任务的状态,并且会消耗分配的配额和事件。对于同一账户内的.sync调用,Step Functions 使用 EventBridge 事件并轮询您在状态中Task指定的事件。APIs对于跨账户.sync 调用,Step Functions 仅使用轮询。例如,对于states:StartExecution.sync,Step Functions 对执行轮询DescribeExecutionAPI并使用您分配的配额。

提示

将使用 Run a Job (.sync) 服务集成模式的示例工作流部署到您的 AWS 账户,参见模块 3-运行 Job (.sync) AWS Step Functions 工作坊

要查看等待作业完成的集成服务支持的列表 (.sync),请参阅 将服务与 Step Functions 集成

注意

使用.sync.waitForTaskToken模式的服务集成需要额外的IAM权限。有关更多信息,请参阅 Step Functions 如何为集成服务生成IAM策略

在某些情况下,您可能希望 Step Functions 在任务完全完成之前继续工作流。实现的方法与等待带有任务令牌的回调服务集成模式相同。为此,请将任务令牌传递给您的作业,然后使用SendTaskSuccessSendTaskFailureAPI调用将其返回。Step Functions 会使用您在该调用中提供的数据来完成任务、停止监控作业并继续工作流。

等待带有任务令牌的回调

回调任务提供了一种暂停工作流程,直到返回任务令牌的方法。任务可能需要等待人员批准、与第三方集成或调用旧式系统。对于此类任务,您可以暂停 Step Functions,直到工作流执行达到一年的服务限额(参阅与状态限制相关的配额),然后等待外部流程或工作流完成。对于这些情况,Step Functions 允许你将任务令牌传递给 AWS SDK服务集成,以及一些优化的服务集成。任务将会暂停,直到它通过 SendTaskSuccessSendTaskFailure 调用接收到该任务令牌。

如果使用回调任务令牌的 Task 状态超时,则会生成一个新的随机令牌。您可以从上下文对象访问任务令牌。

注意

任务令牌必须包含至少 1 个字符,并且不能超过 1024 个字符。

.waitForTaskToken与 a 一起使用 AWS SDK集成,API你使用的必须有一个用于放置任务令牌的参数字段。

注意

您必须从同一个内部的委托人那里传递任务令牌 AWS account。如果您从其他地方的委托人那里发送代币,则代币将无法使用 AWS account。

提示

将使用回调任务令牌服务集成模式的示例工作流程部署到您的 AWS 账户,参见模块 4-等待带有 The 任务令牌的回调 AWS Step Functions工作坊

要查看支持等待任务令牌的集成服务的列表 (.waitForTaskToken),请参阅 将服务与 Step Functions 集成

任务令牌示例

在此示例中,Step Functions 工作流需要与外部微服务集成,才能在批准工作流中执行信用检查。Step Functions 发布了一SQS条亚马逊消息,其中包含任务令牌作为消息的一部分。外部系统与 Amazon 集成SQS,并从队列中提取消息。完成后,它将返回结果和原始任务令牌。然后 Step Functions 继续其工作流。

SQS正在等待返回任务令牌的任务

引用 Amazon 的任务定义"Resource"字段SQS包含.waitForTaskToken在末尾。

"Send message to SQS": { "Type": "Task", "Resource": "arn:aws:states:::sqs:sendMessage.waitForTaskToken", "Parameters": { "QueueUrl": "https://sqs.us-east-2.amazonaws.com/123456789012/myQueue", "MessageBody": { "Message": "Hello from Step Functions!", "TaskToken.$": "$$.Task.Token" } }, "Next": "NEXT_STATE" }

这会指示 Step Functions 暂停并等待任务令牌。使用 .waitForTaskToken 指定资源时,可以使用特殊路径名称 ($$.Task.Token) 在状态定义的 "Parameters" 字段中访问任务令牌。初始 $$. 指定访问上下文对象的路径,并在正在运行的执行中获取当前任务的任务令牌。

完成后,外部服务会调用 SendTaskSuccessSendTaskFailure,其中包含 taskToken。只有这样,工作流程才会继续进入下一个状态。

注意

要避免在流程无法与 SendTaskSuccessSendTaskFailure 一起发送任务令牌时无限期地等待,请参阅为等待任务配置检测信号超时

从上下文对象获取令牌

上下文对象是一个内部JSON对象,其中包含有关您的执行的信息。与状态输入一样,可以在执行期间使用来自 "Parameters" 字段的路径访问它。从任务定义中访问时,它包含有关特定执行的信息(包括任务令牌)。

{ "Execution": { "Id": "arn:aws:states:us-east-1:123456789012:execution:stateMachineName:executionName", "Input": { "key": "value" }, "Name": "executionName", "RoleArn": "arn:aws:iam::123456789012:role...", "StartTime": "2019-03-26T20:14:13.192Z" }, "State": { "EnteredTime": "2019-03-26T20:14:13.192Z", "Name": "Test", "RetryCount": 3 }, "StateMachine": { "Id": "arn:aws:states:us-east-1:123456789012:stateMachine:stateMachineName", "Name": "name" }, "Task": { "Token": "h7XRiCdLtd/83p1E0dMccoxlzFhglsdkzpK9mBVKZsp7d9yrT1W" } }

您可以使用任务定义的 "Parameters" 字段内的特殊路径来访问任务令牌。要访问输入或上下文对象,首先通过将 .$ 附加到参数名称来指定参数将是路径。以下内容指定 "Parameters" 规范中输入和上下文对象的节点。

"Parameters": { "Input.$": "$", "TaskToken.$": "$$.Task.Token" },

在这两种情况下,将 .$ 添加到参数名称会告知 Step Functions 期望一个路径。在第一种情况下,"$" 是一个路径,其中包含整个输入。在第二种情况下,$$. 指定路径将访问上下文对象,$$.Task.Token 将参数设置为正在运行的执行的上下文对象中的任务令牌的值。

在亚马逊的SQS示例.waitForTaskToken中,该"Resource"字段告诉 Step Functions 等待任务令牌返回。"TaskToken.$": "$$.Task.Token"参数将该令牌作为 Amazon SQS 消息的一部分传递。

"Send message to SQS": { "Type": "Task", "Resource": "arn:aws:states:::sqs:sendMessage.waitForTaskToken", "Parameters": { "QueueUrl": "https://sqs.us-east-2.amazonaws.com/123456789012/myQueue", "MessageBody": { "Message": "Hello from Step Functions!", "TaskToken.$": "$$.Task.Token" } }, "Next": "NEXT_STATE" }

有关上下文对象的更多信息,请参阅本指南中 处理输入和输出 部分中的 Context 对象

为等待任务配置检测信号超时

等待任务令牌的任务将等到执行达到一年服务配额(请参阅 与状态限制相关的配额)。要避免执行卡顿,您可以在状态机定义中配置检测信号超时间隔。使用 HeartbeatSeconds 字段指定超时间隔。

{ "StartAt": "Push to SQS", "States": { "Push to SQS": { "Type": "Task", "Resource": "arn:aws:states:::sqs:sendMessage.waitForTaskToken", "HeartbeatSeconds": 600, "Parameters": { "MessageBody": { "myTaskToken.$": "$$.Task.Token" }, "QueueUrl": "https://sqs.us-east-1.amazonaws.com/123456789012/push-based-queue" }, "ResultPath": "$.SQS", "End": true } } }

在此状态机定义中,任务将消息推送到 Amazon,SQS并等待外部进程使用提供的任务令牌进行回调。"HeartbeatSeconds": 600 字段将检测信号超时间隔为 10 分钟。任务将等待任务令牌通过以下API操作之一返回:

如果等待任务在该 10 分钟内未收到有效的任务令牌,则任务失败并显示 States.Timeout 错误名称。

有关更多信息,请参阅回调任务示例项目:使用亚马逊SQS、亚马逊SNS和 Lambda 创建回调模式示例