Kueri basis pengetahuan dan hasilkan respons AI - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Kueri basis pengetahuan dan hasilkan respons AI

Anda dapat meminta basis pengetahuan Anda untuk mengambil informasi dari data kepemilikan Anda. Saat Anda memasukkan kueri pengujian, potongan teks yang relevan dari sumber data diambil. Anda juga dapat menghasilkan respons untuk kueri, berdasarkan potongan sumber yang diambil.

Untuk mempelajari cara menanyakan basis pengetahuan Anda, pilih tab yang sesuai dengan metode pilihan Anda dan ikuti langkah-langkahnya:

Console
Untuk menguji basis pengetahuan Anda

  1. Masuk ke AWS Management Console menggunakan IAMperan dengan izin Amazon Bedrock, dan buka konsol Amazon Bedrock di. https://console.aws.amazon.com/bedrock/

  2. Dari panel navigasi kiri, pilih Basis pengetahuan.

  3. Di bagian Basis pengetahuan, lakukan salah satu tindakan berikut:

    • Pilih tombol radio di sebelah basis pengetahuan yang ingin Anda uji dan pilih Uji basis pengetahuan. Jendela uji mengembang dari kanan.

    • Pilih basis pengetahuan yang ingin Anda uji. Jendela uji mengembang dari kanan.

  4. Pilih atau hapus Hasilkan tanggapan untuk kueri Anda tergantung pada kasus penggunaan Anda.

    • Untuk mengembalikan informasi yang diambil langsung dari basis pengetahuan Anda, matikan Hasilkan tanggapan. Amazon Bedrock akan mengembalikan potongan teks dari sumber data Anda yang relevan dengan kueri.

    • Untuk menghasilkan tanggapan berdasarkan informasi yang diambil dari basis pengetahuan Anda, aktifkan Hasilkan tanggapan. Amazon Bedrock akan menghasilkan tanggapan berdasarkan sumber data Anda dan mengutip informasi yang diberikannya dengan catatan kaki.

  5. Jika Anda mengaktifkan Hasilkan respons, pilih Pilih model untuk memilih model yang akan digunakan untuk pembuatan respons. Kemudian pilih Terapkan.

  6. (Opsional) Pilih ikon konfigurasi ( Three horizontal sliders with adjustable circular controls for settings or parameters. ) untuk membuka Konfigurasi. Anda dapat memodifikasi konfigurasi berikut:

    • Jenis penelusuran — Tentukan bagaimana basis pengetahuan Anda ditanyakan. Untuk informasi selengkapnya, lihat Jenis pencarian.

    • Jumlah maksimum hasil yang diambil - Tentukan jumlah maksimum hasil yang akan diambil. Untuk informasi selengkapnya, lihat Jumlah maksimum hasil yang diambil.

    • Filter - Tentukan hingga 5 grup filter dan hingga 5 filter dalam setiap grup untuk digunakan dengan metadata untuk file Anda. Untuk informasi selengkapnya, lihat Metadata dan penyaringan.

    • Templat prompt basis pengetahuan - Jika Anda mengaktifkan Hasilkan respons, Anda dapat mengganti templat prompt default dengan milik Anda sendiri untuk menyesuaikan prompt yang dikirim ke model untuk pembuatan respons. Untuk informasi selengkapnya, lihat Templat prompt basis pengetahuan.

    • Guardrails — Jika Anda mengaktifkan Hasilkan respons, Anda dapat menguji cara kerja pagar pembatas dengan petunjuk dan tanggapan untuk basis pengetahuan Anda. Untuk informasi selengkapnya, lihat Pagar pembatas.

  7. Masukkan kueri di kotak teks di jendela obrolan dan pilih Jalankan untuk mengembalikan respons dari basis pengetahuan.

  8. Anda dapat memeriksa respons dengan cara-cara berikut.

    • Jika Anda tidak menghasilkan tanggapan, potongan teks dikembalikan secara langsung sesuai urutan relevansi.

    • Jika Anda menghasilkan tanggapan, pilih catatan kaki untuk melihat kutipan dari sumber yang dikutip untuk bagian respons tersebut. Pilih tautan untuk menavigasi ke objek S3 yang berisi file.

    • Untuk melihat detail tentang potongan yang dikutip untuk setiap catatan kaki, pilih Tampilkan detail sumber. Anda dapat melakukan tindakan berikut di panel Rincian sumber:

      • Untuk melihat konfigurasi yang Anda tetapkan untuk kueri, perluas konfigurasi Kueri.

      • Untuk melihat detail tentang potongan sumber, perluas dengan memilih panah kanan ( Play button icon with a triangular shape pointing to the right. ) di sebelahnya. Anda dapat melihat informasi berikut:

        • Teks mentah dari potongan sumber. Untuk menyalin teks ini, pilih ikon salin ( Icon representing a crop or resize function, with two overlapping rectangles. ). Jika menggunakan Amazon S3 untuk menyimpan data Anda, arahkan ke objek S3 yang berisi file, pilih ikon tautan eksternal (). Icon of a square with an arrow pointing outward from its top-right corner.

        • Metadata yang terkait dengan potongan sumber. Jika menggunakan Amazon S3 untuk menyimpan data Anda, kunci atribut/bidang dan nilai ditentukan dalam .metadata.json file yang terkait dengan dokumen sumber. Untuk informasi selengkapnya, lihat konfigurasi koneksi Amazon S3, termasuk metadata.

Opsi obrolan

  1. Jika Anda menghasilkan respons, Anda dapat memilih Ubah model untuk menggunakan model yang berbeda untuk menghasilkan respons. Jika Anda mengubah model, teks di jendela obrolan akan sepenuhnya dihapus.

  2. Beralih antara menghasilkan respons untuk kueri Anda dan mengembalikan kutipan langsung dengan memilih atau menghapus Hasilkan tanggapan. Jika Anda mengubah pengaturan, teks di jendela obrolan akan sepenuhnya dihapus.

  3. Untuk menghapus jendela obrolan, pilih ikon sapu ( ).

  4. Untuk menyalin semua output di jendela obrolan, pilih ikon salin ( Icon representing a crop or resize function, with two overlapping rectangles. ).

API

Ambil

Untuk menanyakan basis pengetahuan dan hanya mengembalikan teks yang relevan dari sumber data, kirim Retrievepermintaan (lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir waktu proses Agen untuk Amazon Bedrock.

Tabel berikut menjelaskan secara singkat parameter dan badan permintaan (untuk informasi rinci dan struktur permintaan, lihat sintaks Retrieve request:

Variabel Diperlukan? Kasus penggunaan
knowledgeBaseId Ya Untuk menentukan basis pengetahuan untuk kueri
retrievalQuery Ya Berisi text bidang untuk menentukan kueri
nextToken Tidak Untuk mengembalikan kumpulan tanggapan berikutnya
retrievalConfiguration Tidak Untuk menyertakan konfigurasi kueri untuk menyesuaikan pencarian vektor.

Tabel berikut menjelaskan secara singkat badan respons (untuk informasi rinci dan struktur respons, lihat sintaks Ambil respons:

Variabel Kasus penggunaan
retrievalResults Berisi potongan sumber, lokasi Amazon S3 dari sumber, dan score relevansi untuk potongan tersebut.
nextToken Untuk digunakan dalam permintaan lain untuk mengembalikan kumpulan hasil berikutnya.

RetrieveAndGenerate

Untuk menanyakan basis pengetahuan dan menggunakan model dasar untuk menghasilkan respons berdasarkan hasil dari sumber data, kirim RetrieveAndGeneratepermintaan dengan titik akhir runtime Agen untuk Amazon Bedrock.

Tabel berikut menjelaskan secara singkat parameter dan badan permintaan (untuk informasi rinci dan struktur permintaan, lihat sintaks RetrieveAndGenerate permintaan):

Variabel Diperlukan? Kasus penggunaan
input Ya Berisi text bidang untuk menentukan kueri
retrieveAndGenerateKonfigurasi Ya Untuk menentukan basis pengetahuan untuk kueri dan model atau profil inferensi yang akan digunakan untuk pembuatan respons, dan konfigurasi kueri opsional.
sessionId Tidak Gunakan nilai yang sama untuk melanjutkan sesi yang sama dan memelihara informasi
sessionConfiguration Tidak Untuk menyertakan KMS kunci untuk enkripsi sesi

Tabel berikut menjelaskan secara singkat badan respons (untuk informasi rinci dan struktur respons, lihat sintaks Ambil respons):

Variabel Kasus penggunaan
kutipan Berisi bagian dari respons yang dihasilkan di setiap objek di dalamgeneratedResponsePart, dan potongan sumber di content objek dan lokasi Amazon S3 sumber location di objek objek. retrievedReferences
guardrailAction Menentukan jika ada pagar pembatas yang digunakan dalam respon.
output Berisi seluruh respons yang dihasilkan.
sessionId Berisi ID sesi, yang dapat Anda gunakan kembali dalam permintaan lain untuk mempertahankan percakapan yang sama
catatan

Jika Anda menerima kesalahan bahwa prompt melebihi batas karakter saat menghasilkan respons, Anda dapat mempersingkat prompt dengan cara berikut:

  • Kurangi jumlah maksimum hasil yang diambil (ini mempersingkat apa yang diisi untuk placeholder $search_results$ di). Templat prompt basis pengetahuan

  • Buat ulang sumber data dengan strategi chunking yang menggunakan potongan yang lebih kecil (ini mempersingkat apa yang diisi untuk placeholder $search_results$ di). Templat prompt basis pengetahuan

  • Mempersingkat template prompt.

  • Persingkat kueri pengguna (ini mempersingkat apa yang diisi untuk placeholder $query$ di). Templat prompt basis pengetahuan