Gunakan model reranker di Amazon Bedrock

Mode fokus

Gunakan model reranker di Amazon Bedrock - Amazon Bedrock

Anda dapat menggunakan model reranker secara langsung atau saat mengambil hasil selama kueri basis pengetahuan. Pilih tab untuk metode pilihan Anda, lalu ikuti langkah-langkahnya:

Console

Anda tidak dapat menggunakan model reranker secara langsung di AWS Management Console, tetapi Anda dapat menggunakan model reranker saat menanyakan basis pengetahuan Anda dengan melakukan hal berikut:

Saat Anda menanyakan basis pengetahuan, buka panel Konfigurasi dengan memilih ikon.
Perluas bagian Reranking.
Pilih Pilih model dan pilih model reranker.
Jika peran layanan Amazon Bedrock Knowledge Bases Anda tidak memiliki izin untuk menggunakan model reranker, pilih Perbarui peran layanan untuk mengubah peran dengan izin yang tepat.
(Opsional) Di bagian Opsi Reranking Tambahan, ubah opsi apa pun yang Anda butuhkan.
Masukkan prompt dan pilih Jalankan. Responsnya adalah hasil setelah menerapkan model reranker.

Untuk petunjuk lebih rinci tentang melakukan kueri basis pengetahuan, lihat Kueri basis pengetahuan dan ambil data danKueri basis pengetahuan dan hasilkan tanggapan berdasarkan data yang diambil.

API

Untuk petunjuk tentang penggunaan model reranker selama kueri basis pengetahuan, lihat Kueri basis pengetahuan dan ambil data dan. Kueri basis pengetahuan dan hasilkan tanggapan berdasarkan data yang diambil

Untuk menggunakan model reranker secara langsung dengan Amazon Bedrock API, kirim permintaan Rerank dengan titik akhir waktu proses Agen untuk Amazon Bedrock.

Bidang berikut diperlukan:

Bidang	Deskripsi dasar
pertanyaan	Sebuah array dari satu RerankQueryobjek. Tentukan `TEXT` sebagai `type` dan sertakan kueri di `textQuery` lapangan.
sumber	Array RerankSourceobjek untuk dikirimkan ke model reranking. Untuk masing-masing`RerankSource`, tentukan `INLINE` sebagai `type` dan sertakan RerankDocumentobjek di `inlineDocumentSource` lapangan. Lihat di bawah untuk detailnya`RerankDocument`.
RerankingConfiguration	Termasuk Amazon Resource Name (ARN) dari model reranking yang akan digunakan, dan jumlah hasil yang akan dikembalikan setelah pencatatan ulang, dan, secara opsional, konfigurasi inferensi untuk model. Anda menentukan konfigurasi model tambahan sebagai pasangan nilai kunci. Untuk informasi lebih lanjut, lihat Rerank di Cohere situs dokumentasi.

Bidang berikut adalah opsional:

Bidang	Kasus penggunaan
nextToken	Token dikembalikan dalam respons sebelumnya yang dapat Anda sertakan untuk memberikan kumpulan hasil berikutnya.

Format RerankSource objek yang Anda sertakan tergantung pada format dokumen. Untuk melihat format untuk berbagai RerankSource jenis, pilih tab yang sesuai dengan format dokumen:

StringJSON object

String

Jika dokumen adalah string, maka tentukan nilai type bidang RerankDocumentobjek sebagai TEXT dan sertakan dokumen di text lapangan. Sebagai contoh:


{
    "inlineDocumentSource": {
        "textDocument": {
            "text": "string"
        },
        "type": "TEXT"
    },
    "type": "INLINE"
}

JSON object

Jika dokumen adalah objek JSON, maka tentukan nilai type bidang dalam RerankDocumentobjek sebagai JSON dan sertakan dokumen di jsonDocument bidang. Sebagai contoh:


{
    "inlineDocumentSource": {
        "jsonDocument": JSON value,
        "type": "JSON"
    },
    "type": "INLINE"
}

Respons terhadap Rerank permintaan Anda mengembalikan daftar RerankResultobjek di results bidang. Setiap objek berisi bidang-bidang berikut:

document— Termasuk informasi tentang dokumen yang Anda kirimkan.
relevanceScore— Skor relevansi untuk dokumen, yang ditetapkan oleh model reranking.
index— Menunjukkan peringkat dokumen relatif terhadap dokumen lain dalam daftar. Semakin rendah skor, semakin tinggi peringkatnya.

Jika ada terlalu banyak hasil untuk ditampilkan, maka respons mengembalikan nilai di nextToken bidang. Dalam hal ini, untuk melihat kumpulan hasil berikutnya, sertakan token itu dalam permintaan berikutnya.

anchor anchor

Saat Anda menanyakan basis pengetahuan, buka panel Konfigurasi dengan memilih ikon.
Perluas bagian Reranking.
Pilih Pilih model dan pilih model reranker.
Jika peran layanan Amazon Bedrock Knowledge Bases Anda tidak memiliki izin untuk menggunakan model reranker, pilih Perbarui peran layanan untuk mengubah peran dengan izin yang tepat.
(Opsional) Di bagian Opsi Reranking Tambahan, ubah opsi apa pun yang Anda butuhkan.
Masukkan prompt dan pilih Jalankan. Responsnya adalah hasil setelah menerapkan model reranker.