Komponen pagar pembatas

Filter konten — Anda dapat mengonfigurasi ambang batas untuk memblokir permintaan input atau respons model yang berisi konten berbahaya seperti kebencian, penghinaan, seksual, kekerasan, pelanggaran (termasuk aktivitas kriminal), dan serangan cepat (injeksi cepat dan jailbreak). Misalnya, situs e-commerce dapat merancang asisten online-nya untuk menghindari penggunaan bahasa yang tidak pantas seperti ujaran kebencian atau penghinaan.

Topik yang ditolak - Anda dapat menentukan serangkaian topik yang harus dihindari dalam aplikasi AI generatif Anda. Misalnya, aplikasi asisten perbankan dapat dirancang untuk menghindari topik yang terkait dengan saran investasi ilegal.

Filter Word — Anda dapat mengonfigurasi serangkaian kata atau frasa khusus yang ingin Anda deteksi dan blokir dalam interaksi antara pengguna Anda dan aplikasi AI generatif. Misalnya, Anda dapat mendeteksi dan memblokir kata-kata kotor serta kata-kata khusus tertentu seperti nama pesaing, atau kata-kata ofensif lainnya.

Filter informasi sensitif — Anda dapat mendeteksi konten sensitif seperti Informasi Identifikasi Pribadi (PII) atau entitas regex khusus dalam input pengguna dan tanggapan FM. Berdasarkan kasus penggunaan, Anda dapat menolak input yang berisi informasi sensitif atau menyuntingnya dalam tanggapan FM. Misalnya, Anda dapat menyunting informasi pribadi pengguna sambil membuat ringkasan dari transkrip percakapan pelanggan dan agen.

Pemeriksaan landasan kontekstual — Anda dapat mendeteksi dan memfilter halusinasi dalam respons model jika tidak dibumikan (secara faktual tidak akurat atau menambahkan informasi baru) dalam informasi sumber atau tidak relevan dengan kueri pengguna. Misalnya, Anda dapat memblokir atau menandai respons dalam RAG aplikasi (pengambilan augmented generation), jika respons model menyimpang dari informasi di bagian yang diambil atau tidak menjawab pertanyaan oleh pengguna.