Aufrufen von Amazon Bedrock mit Step Functions

Step Functions kann bestimmte AWS Dienste direkt von Amazon States Language (ASL) aus steuern. Weitere Informationen hierzu finden Sie unter Arbeiten mit anderen -Services und Parameter an eine Service-API übergeben.

Amazon BedrockAPIs zur Serviceintegration

Für die AWS Step Functions Integration Amazon Bedrock können Sie die folgenden APIs verwenden. Diese APIs ähneln den entsprechenden Amazon Bedrock APIs, weisen jedoch einige Unterschiede in den übergebenen Anforderungsfeldern auf.

Die Unterschiede zwischen den einzelnen Service-Integrations-APIs und den entsprechenden Amazon Bedrock-APIs werden in der folgenden Tabelle beschrieben.

{
    "ModelId": String,  // required
    "Accept": String,  // default: application/json
    "ContentType": String,  // default: application/json
    "Input": {  // not from Bedrock API
        "S3Uri": String
    },  
    "Output": {  // not from Bedrock API
        "S3Uri": String
    } 
}

Informationen zur Konfiguration von IAM Berechtigungen bei der Verwendung Step Functions mit anderen AWS Diensten finden Sie unterIAM-Richtlinien für integrierte Dienste.

Definition des Aufgabenstatus für die Amazon Bedrock Integration

Die folgende Aufgabenstatusdefinition zeigt, wie Sie sich Amazon Bedrock in Ihre Zustandsmaschinen integrieren können. Dieses Beispiel zeigt einen Task-Status, der das vollständige Ergebnis eines durch den Pfad, result_one angegebenen Modellaufrufs extrahiert. Dies basiert auf Inferenzparametern für Fundamentmodelle. In diesem Beispiel wird das Large Language Model (LLM) von Cohere Command verwendet.

{
  "Type": "Task",
  "Resource": "arn:aws:states:::bedrock:invokeModel",
  "Parameters": {
    "ModelId": "cohere.command-text-v14",
    "Body": {
      "prompt.$": "$.prompt_one",
      "max_tokens": 250
    },
    "ContentType": "application/json",
    "Accept": "*/*"
  },
  "ResultPath": "$.result_one",
  "ResultSelector": {
    "result_one.$": "$.Body.generations[0].text"
  },
  "End": true
}