Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Dapatkan konfirmasi pengguna sebelum menjalankan fungsi grup tindakan

Anda dapat melindungi aplikasi Anda dari suntikan prompt berbahaya dengan meminta konfirmasi dari pengguna aplikasi Anda sebelum menjalankan fungsi grup tindakan. Saat pengguna akhir berinteraksi dengan aplikasi Anda, Amazon Bedrock Agent mencari tahu API atau basis pengetahuan yang akan dipanggil untuk mengotomatiskan tugas bagi pengguna. Informasi dari basis pengetahuan API atau mungkin mengandung data yang berpotensi merusak. Di antara setiap iterasi jika respons berisi instruksi apa pun, agen akan mematuhi. Jika respons mencakup instruksi agar model melakukan tindakan yang tidak diinginkan, agen akan melanjutkan dan mematuhi instruksi. Untuk memastikan bahwa tindakan tertentu diterapkan hanya setelah persetujuan pengguna eksplisit, kami sarankan Anda meminta konfirmasi dari pengguna akhir sebelum menjalankan fungsi.

Saat mengonfigurasi grup tindakan, Anda dapat memilih untuk mengaktifkan konfirmasi pengguna untuk tindakan tertentu. Jika konfirmasi pengguna diaktifkan untuk suatu tindakan, agen merespons dengan pertanyaan konfirmasi yang meminta pengguna akhir untuk mengonfirmasi atau menolak tindakan tersebut. Anda dapat mengaktifkan konfirmasi pengguna di konsol, menggunakanCLI, atau menggunakanSDK.

Untuk mengaktifkan konfirmasi pengguna untuk suatu tindakan, lihatTambahkan grup tindakan ke agen Anda di Amazon Bedrock.

Cara kerja konfirmasi pengguna

Konfirmasi pengguna dikonfigurasi untuk tindakan dalam grup tindakan oleh pengembang agen. Jika agen memutuskan bahwa ia harus memanggil tindakan itu, API atau rincian fungsi yang diperoleh dari pengguna dan konfirmasi pengguna yang dikonfigurasi oleh pengembang agen akan dikembalikan di invocationInputs bidang di InvokeAgentresponinvocationType, bersama, dan unikinvocationId.

Agen memanggil API atau fungsi yang disediakan di. invocationInputs Jika konfirmasi pengguna diaktifkan untuk fungsi atauAPI, pengguna disajikan dengan opsi untuk CONFIRMatau tindakan DENYyang disebutkan dalam respons.

Hasil dari pemanggilan fungsi agen atau dikirim dalam API yang lain InvokeAgentmeminta, di sessionState lapangan, untuk memberikan konteks kepada agen. Parameter permintaan untuk InvokeAgent penggunaanreturnControlInvocationResults, yang merupakan daftar peta ke apiResult atau functionResult objek. functionResultObjek apiResult dan memiliki bidang tambahanconfirmationState. Bidang ini memiliki respons konfirmasi pengguna.

Jika respon pengguna CONFIRM, fungsi atau API dalam respon diimplementasikan.

Jika respon pengguna DENY, fungsi atau API dalam respon tidak diimplementasikan.

Contoh InvokeAgent respon dan permintaan

Respons

HTTP/1.1 200
x-amzn-bedrock-agent-content-type: contentType
x-amz-bedrock-agent-session-id: sessionId
Content-type: application/json

{
   "chunk": { 
      ...
   },
   ...
   "returnControl": { 
      "invocationId": "string",
      "invocationInputs": [ 
         { ... }
      ]
   },
   "trace": { 
      "agentAliasId": "string",
      "agentId": "string",
      "agentVersion": "string",
      "sessionId": "string",
      "trace": { ... }
   },
}

        

Permintaan

POST /agents/agentId/agentAliases/agentAliasId/sessions/sessionId/text HTTP/1.1
Content-type: application/json

{
   "enableTrace": boolean,
   "endSession": boolean,
   "inputText": "string",
   "sessionState": { 
      "invocationId": "string",
      "promptSessionAttributes": { 
         "string" : "string" 
      },
      "returnControlInvocationResults": [ 
         { ... }
      ],
      "sessionAttributes": { 
         "string" : "string" 
      }
   }
}