Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
catatan
Manajemen APIs sesi dalam pratinjau dan dapat berubah sewaktu-waktu.
Manajemen sesi APIs memungkinkan Anda menyimpan pos pemeriksaan untuk percakapan yang sedang berlangsung dalam aplikasi AI generatif yang dibangun dengan kerangka kerja sumber terbuka, seperti dan. LangGraph LlamaIndex Anda dapat menggunakan APIs untuk mengelola konteks status dan percakapan dengan aman di seluruh alur kerja AI generatif multi-langkah. Anda tidak perlu membangun, memelihara, atau menskalakan solusi back-end khusus untuk ketekunan status dan konteks.
Dengan manajemen sesi APIs, Anda dapat melakukan hal berikut:
-
Tahapan alur kerja pos pemeriksaan untuk pengujian berulang dan alur kerja. human-in-the-loop
-
Lanjutkan percakapan dan tugas dari titik interupsi.
-
Tinjau log sesi untuk menganalisis tahapan alur kerja dan kegagalan debug.
Karena sesi adalah sumber daya di Amazon Bedrock, Anda dapat mengontrol akses ke sesi dengan AWS Identity and Access Management (IAM). Secara default, Amazon Bedrock menggunakan kunci yang AWS dikelola untuk enkripsi sesi, termasuk metadata sesi, atau Anda dapat menggunakan kunci Anda sendiri. AWS KMS Untuk informasi selengkapnya, lihat Enkripsi sesi.
Anda dapat membuat dan mengelola sesi Amazon Bedrock dengan Amazon Bedrock APIs, atau. AWS SDKs Untuk aplikasi yang dibangun LangGraph, Anda dapat menggunakan BedrockSessionSaver kelas dari langgraph_checkpoint_aws.saver perpustakaan. Ini adalah implementasi khusus dari LangGraph CheckpointSaver. Untuk informasi lebih lanjut, lihat langgraph-checkpoint-aws
catatan
Anda menggunakan sesi untuk menyimpan status dan riwayat percakapan untuk aplikasi AI generatif yang dibangun dengan kerangka kerja sumber terbuka. Untuk Agen Amazon Bedrock, layanan secara otomatis mengelola konteks percakapan dan mengaitkannya dengan SessionID khusus agen yang Anda tentukan dalam operasi API. InvokeAgent
Contoh kasus penggunaan
Anda mungkin memiliki aplikasi yang menggunakan LangGraph agen untuk membantu pelanggan merencanakan rencana perjalanan. Pengguna dapat memulai percakapan dengan agen ini untuk membuat rencana perjalanan yang akan datang, menambahkan tujuan, hotel pilihan, dan detail penerbangan.
Dengan manajemen sesi APIs, agen dapat menyimpan status perantara dan konteks persisten di seluruh interaksi multi-langkah yang diperluas. Agen dapat menggunakan sesi Amazon Bedrock untuk memeriksa statusnya setelah setiap tujuan ditambahkan, menjaga detail tentang preferensi pelanggan.
Jika percakapan terputus atau gagal, agen dapat melanjutkan sesi nanti dengan konteks utuh, termasuk teks dan gambar. Hal ini memungkinkan agen melanjutkan tanpa mengharuskan pelanggan untuk mengulangi informasi. Selain itu, jika terjadi kegagalan, Anda dapat menyelidiki detail sesi untuk men-debug penyebabnya.
Alur kerja
Alur kerja untuk menggunakan Manajemen Sesi APIs adalah sebagai berikut. Untuk informasi tentang menggunakan BedrockSessionSaver perpustakaan, lihatKelola sesi dengan BedrockSessionSaver LangGraph perpustakaan.
-
Buat sesi — Saat pengguna akhir memulai percakapan pertama kali, Anda membuat sesi dengan operasi CreateSessionAPI dan menentukan ID untuk sesi tersebut. Anda menggunakan ID ini saat menyimpan dan mengambil status percakapan.
-
Simpan percakapan dan konteks — Saat pengguna akhir Anda berinteraksi dengan asisten AI generatif Anda, gunakan CreateInvocationAPI untuk membuat pengelompokan interaksi dalam sesi. Untuk setiap pemanggilan, gunakan operasi PutInvocationStepAPI untuk menyimpan pos pemeriksaan status berbutir halus, termasuk teks dan gambar, untuk setiap interaksi.
-
Mengambil riwayat dan konteks percakapan — Gunakan operasi GetSession, ListInvocations, dan GetInvocationStepAPI untuk mengambil metadata sesi dan detail interaksi.
-
Akhiri sesi — Saat sesi selesai, akhiri sesi dengan operasi EndSessionAPI. Setelah Anda mengakhiri sesi, Anda masih dapat mengakses kontennya tetapi Anda tidak dapat menambahkannya. Untuk menghapus sesi dan kontennya, Anda menggunakan operasi DeleteSessionAPI.
Pertimbangan
Sebelum Anda membuat dan mengelola sesi, perhatikan hal berikut:
-
Anda dapat membuat dan mengelola sesi dengan Amazon Bedrock APIs dan AWS SDKs. Anda tidak dapat menggunakan AWS Management Console untuk mengelola sesi.
-
Untuk aplikasi agen yang dibangun di atas LangGraph, Anda dapat menggunakan
BedrockSessionSaverkelas darilangchain-awsperpustakaan. Ini adalah implementasi khusus dari LangGraph CheckpointSaver. Untuk informasi tentang menggunakan BedrockSessionSaver perpustakaan, lihatKelola sesi dengan BedrockSessionSaver LangGraph perpustakaan. Untuk melihat kode secara langsung, lihat langgraph-checkpoint-awsdi LangChain GitHub repositori. -
Jika Anda menentukan AWS KMS kunci terkelola pelanggan saat membuat sesi, pengguna atau peran yang membuat sesi harus memiliki izin untuk menggunakan kunci tersebut. Untuk informasi selengkapnya, lihat Enkripsi sesi.
-
Manajemen Sesi APIs memiliki kuota sebagai berikut:
-
Jumlah langkah pemanggilan dalam sesi di semua pemanggilan — 1000
-
Ukuran maksimum setiap langkah pemanggilan — 50 MB
-
IdleSession Batas waktu - 1 jam
-
Periode retensi - Data sesi dihapus secara otomatis setelah 30 hari
-
