Pertahankan konteks percakapan di beberapa sesi menggunakan memori - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Pertahankan konteks percakapan di beberapa sesi menggunakan memori

Memori memberi agen Anda kemampuan untuk mempertahankan konteks percakapan di beberapa sesi dan untuk mengingat tindakan dan perilaku masa lalu. Secara default, agen Anda mempertahankan konteks percakapan dari satu sesi. Untuk mengonfigurasi memori untuk agen Anda, aktifkan pengaturan memori untuk agen Anda dan tentukan durasi penyimpanan untuk menyimpan memori.

Konteks percakapan disimpan dalam memori sebagai sesi dengan setiap sesi diberikan pengenal sesi (ID) yang Anda berikan saat Anda memanggil agen. Anda dapat menentukan ID sesi yang sama di seluruh permintaan untuk melanjutkan percakapan yang sama.

Setelah Anda mengaktifkan memori untuk agen Anda, sesi saat ini akan dikaitkan dengan konteks memori tertentu ketika Anda memanggil agen yang sama sessionId dengan sesi saat ini dan dengan endSessions disetel ke 'true', atau ketika idleSessionTimeout dikonfigurasi untuk agen telah habis waktunya. Konteks memori ini diberikan pengenal memori yang unik. Agen Anda menggunakan konteks memori untuk mengakses dan memanfaatkan riwayat percakapan yang disimpan dan ringkasan percakapan untuk menghasilkan respons.

Jika Anda memiliki beberapa pengguna, pastikan untuk memberikan pengenal memori (memoryId) yang sama untuk pengguna yang sama. Agen menyimpan memori untuk setiap pengguna terhadap itu memoryId dan saat berikutnya Anda memanggil agen dengan hal yang samamemoryId, ringkasan setiap sesi yang disimpan dalam memori akan dimuat ke sesi saat ini.

Anda dapat mengakses memori kapan saja untuk melihat versi ringkasan dari sesi yang disimpan dalam memori. Anda juga dapat, kapan saja, menghapus memori dengan menghapus semua sesi yang tersimpan dalam memori.

Ringkasan memori

Agen Anda menggunakan ringkasan memori Tingkatkan akurasi agen menggunakan templat prompt lanjutan di Amazon Bedrock untuk memanggil model dasar dengan pedoman untuk meringkas semua sesi Anda. Anda dapat secara opsional memodifikasi template prompt default atau menyediakan parser kustom Anda sendiri untuk mengurai output model.

Karena proses ringkasan berlangsung dalam aliran asinkron setelah sesi berakhir, log untuk setiap kegagalan dalam ringkasan karena template atau parser yang diganti akan dipublikasikan ke Anda. Akun AWS Untuk informasi selengkapnya tentang mengaktifkan logging, lihatAktifkan pengiriman log ringkasan memori.

Durasi memori

Jika memori diaktifkan, agen Anda menyimpan sesi dalam memori hingga 365 hari. Anda dapat mengonfigurasi periode retensi secara opsional dengan menentukan durasi antara 1 dan 365 hari. Semua ringkasan sesi di luar durasi ini akan dihapus.

Model yang didukung

Anda dapat mengaktifkan memori untuk Agen pada semua model kecuali yang berikut ini:

  • Amazon Titan Text Premier

  • Anthropic Claude Instant

Pastikan model yang Anda rencanakan untuk digunakan tersedia di wilayah Anda. Untuk informasi selengkapnya, lihat Dukungan model oleh Wilayah AWS.