View a markdown version of this page

Mengevaluasi kinerja agen di Connect Customer menggunakan AI generatif - Pelanggan Amazon Connect

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Mengevaluasi kinerja agen di Connect Customer menggunakan AI generatif

catatan

Didukung oleh Amazon Bedrock: AWS mengimplementasikan deteksi penyalahgunaan otomatis. Karena fitur AI generatif dalam analitik percakapan dibangun di Amazon Bedrock, pengguna dapat memanfaatkan sepenuhnya kontrol yang diterapkan di Amazon Bedrock untuk menegakkan keselamatan, keamanan, dan penggunaan kecerdasan buatan (AI) yang bertanggung jawab.

Manajer dapat menentukan kriteria evaluasi mereka dalam bahasa alami, dan menggunakan AI generatif untuk mengotomatiskan evaluasi hingga 100% interaksi pelanggan. Dengan AI generatif, Anda dapat mengotomatiskan evaluasi perilaku agen tambahan (misalnya, apakah agen dapat menyelesaikan masalah pelanggan?) , memungkinkan manajer untuk secara komprehensif memantau dan meningkatkan kepatuhan peraturan, kepatuhan agen terhadap standar kualitas dan pengumpulan data sensitif, sambil mengurangi waktu yang dihabiskan untuk mengevaluasi kinerja agen. Seiring dengan jawaban, Anda juga diberikan konteks dan justifikasi, dan referensi ke poin-poin tertentu dalam transkrip yang dapat Anda gunakan untuk memberikan pelatihan agen.

Anda dapat menggunakan AI generatif untuk membantu manajer mengisi evaluasi atau menggunakannya untuk mengisi dan mengirimkan evaluasi secara otomatis. Untuk informasi selengkapnya tentang menyiapkan evaluasi otomatis, lihatLangkah 6: Aktifkan evaluasi otomatis.

Pertanyaan evaluasi dijawab menggunakan AI generatif dengan menafsirkan judul pertanyaan dan kriteria evaluasi yang ditentukan dalam instruksi kepada evaluator yang terkait dengan setiap pertanyaan, dan menggunakannya untuk menganalisis transkrip percakapan. Untuk informasi selengkapnya, lihat Langkah 2: Tambahkan bagian dan pertanyaan.

Proses untuk mengotomatiskan evaluasi menggunakan AI generatif

Berikut ini adalah ikhtisar proses otomatisasi:

  1. Dapatkan pemahaman tingkat tinggi tentang pertanyaan evaluasi mana yang harus dijawab dengan AI generatif dengan membacaPedoman untuk meningkatkan akurasi AI generatif.

  2. Tetapkan izin untuk memilih pengguna dalam tim manajemen kualitas Anda untuk menggunakan asisten Ask AI. Pengguna ini akan mulai melihat tombol Ask AI di sebelah setiap pertanyaan, saat melakukan evaluasi dan dapat menggunakannya untuk mendapatkan rekomendasi jawaban. Pengguna ini dapat memberikan umpan balik tentang pertanyaan mana yang menerima jawaban akurat menggunakan AI generatif. Untuk informasi selengkapnya, lihat Tetapkan izin profil keamanan untuk evaluasi kinerja dan pembinaan.

  3. Untuk meningkatkan akurasi, Anda dapat memberikan kriteria evaluasi tambahan dalam instruksi kepada evaluator. Untuk informasi selengkapnya, lihat Pedoman untuk meningkatkan akurasi AI generatif.

  4. Setelah Anda memiliki pemahaman yang baik tentang pertanyaan mana yang dapat dijawab secara akurat dengan AI generatif, Anda dapat melakukan peluncuran yang lebih luas dengan melakukan pra-konfigurasi pada formulir evaluasi, apakah pertanyaan akan menerima jawaban otomatis menggunakan AI generatif.

  5. Setelah Anda menyiapkan otomatisasi, setiap pengguna yang melakukan evaluasi menggunakan formulir evaluasi akan mendapatkan jawaban AI generatif otomatis untuk pertanyaan yang telah dikonfigurasi sebelumnya (tanpa memerlukan izin tambahan). Untuk informasi selengkapnya, lihat Langkah 6: Aktifkan evaluasi otomatis.

  6. Anda dapat mengatur otomatisasi sedemikian rupa sehingga evaluator terlebih dahulu meninjau jawaban AI generatif sebelum pengiriman atau Anda dapat secara otomatis mengisi dan mengirimkan evaluasi.

catatan

AI-generated Evaluasi tidak 100% akurat. Sebelum bertindak berdasarkan output AI (seperti memberikan hadiah, pembinaan agen, dan sebagainya), kami sarankan Anda meninjau sampel evaluasi. Ini membantu mengkonfirmasi tren kinerja yang disediakan AI. Anda dapat mengganti AI-filled evaluasi dan melakukan koreksi apa pun sebelum membagikannya dengan agen atau menggunakannya untuk tinjauan kinerja. Kami juga merekomendasikan untuk menjaga proses evaluasi manual. Ini membantu Anda menangkap perbedaan antara evaluasi dan AI-filled evaluasi yang diisi manajer dari waktu ke waktu.

Keterbatasan evaluasi AI-powered kinerja generatif

Akurasi transkripsi mempengaruhi keakuratan AI-powered evaluasi generatif. Conversational analyticstidak dapat secara akurat mentranskripsikan percakapan yang mencakup lebih dari satu bahasa. Itu juga tidak dapat secara akurat mentranskripsikan percakapan di mana banyak pihak berbicara pada saat yang sama. Contohnya termasuk panggilan konferensi, transfer hangat, dan panggilan di mana agen menambahkan pihak ketiga. Kedua skenario menurunkan keakuratan evaluasi AI-powered kinerja generatif.

Anda dapat menggunakan aturan untuk menyaring percakapan di mana Anda mengharapkan skenario ini terjadi, seperti percakapan dalam antrian tertentu. Untuk informasi selengkapnya, lihat Membuat aturan dalam analitik percakapan yang mengirimkan evaluasi otomatis.

Gunakan Ask AI untuk mendapatkan rekomendasi jawaban AI generatif

  1. Masuk ke Connect Customer dengan akun pengguna yang memiliki izin untuk melakukan evaluasi dan meminta asisten AI.

  2. Pilih tombol Ask AI di bawah pertanyaan untuk menerima AI-powered rekomendasi generatif untuk jawabannya, bersama dengan konteks dan justifikasi (titik referensi dari transkrip yang digunakan untuk memberikan jawaban).

    1. Jawabannya dipilih secara otomatis berdasarkan rekomendasi AI generatif, tetapi Anda dapat mengubahnya.

    2. Anda bisa mendapatkan AI-powered rekomendasi generatif dengan memilih Tanyakan AI hingga 10 pertanyaan per kontak. Untuk informasi selengkapnya, lihat Kuota layanan analisis percakapan.

  3. Anda dapat memilih waktu yang terkait dengan referensi transkrip untuk diarahkan ke titik dalam percakapan

    AI-powered Rekomendasi generatif saat mengevaluasi kinerja agen.

Berikan kriteria tambahan untuk menjawab pertanyaan formulir evaluasi menggunakan AI generatif

Saat mengonfigurasi formulir evaluasi, Anda dapat memberikan kriteria untuk menjawab pertanyaan dalam instruksi kepada evaluator yang terkait dengan setiap pertanyaan formulir evaluasi. Selain mendorong konsistensi dalam evaluasi oleh evaluator, instruksi ini juga digunakan untuk memberikan evaluasi generatif AI-powered .

Kartu skor pembukaan akun baru.
Pemetaan dan penilaian jawaban AI

Jika AI tidak dapat mengidentifikasi opsi jawaban yang diberikan mana yang sesuai, maka ia memilih Tidak Berlaku, meskipun pertanyaannya tidak opsional. Ketika ini terjadi, pertanyaan dikecualikan dari penilaian dan bobot didistribusikan kembali ke pertanyaan lain. Untuk menghindari hal ini, jelaskan dengan jelas setiap opsi jawaban dalam Instruksi kepada evaluator untuk pertanyaan tersebut. Untuk informasi selengkapnya, lihat Pedoman untuk meningkatkan akurasi AI generatif.

Siapkan evaluasi otomatis menggunakan AI generatif pada formulir evaluasi

Anda dapat melakukan pra-konfigurasi pada formulir evaluasi apakah pertanyaan akan dijawab secara otomatis menggunakan AI generatif. Kemudian, jika Anda memulai evaluasi menggunakan formulir evaluasi di Connect Customer UI, jawaban atas pertanyaan-pertanyaan ini akan diisi secara otomatis menggunakan AI generatif (tanpa mengharuskan Anda memilih Ask AI). Anda juga dapat menggunakan AI generatif untuk mengisi dan mengirimkan evaluasi secara otomatis. Untuk evaluasi yang dikirimkan secara otomatis, Anda dapat menggunakan AI generatif untuk menjawab hingga 10 pertanyaan per kontak (lihatKuota layanan analisis percakapan). Perhatikan bahwa batas ini tidak berlaku untuk otomatisasi menggunakan kategori kontak atau metrik (misalnya, durasi penahanan terlama).

Untuk mempelajari lebih lanjut tentang menyiapkan evaluasi otomatis menggunakan AI generatif, lihatPedoman untuk meningkatkan akurasi AI generatif.

Siapkan AI-powered evaluasi generatif dalam bahasa non-Inggris

Secara default, jika Anda tidak mengatur bahasa formulir evaluasi, model AI generatif secara otomatis mendeteksi bahasa pertanyaan formulir evaluasi Anda dan mencoba memberikan jawaban dalam bahasa yang sama, jika model AI memahami bahasa itu. Secara default, pembenaran jawaban AI generatif biasanya disediakan dalam bahasa Inggris.

Untuk secara konsisten menerima AI-generated jawaban dan pembenaran jawaban dalam bahasa pilihan Anda, Anda dapat mengatur bahasa formulir evaluasi, memilih dari bahasa Inggris, Spanyol, Portugis, Prancis, Jerman, Italia, China, Jepang, Korea , dan Mel ayu. Dengan secara eksplisit menetapkan bahasa evaluasi, Anda juga dapat melakukan evaluasi lintas bahasa, di mana AI generatif mengisi formulir evaluasi dalam bahasa Inggris, bahkan ketika transkrip percakapan dalam bahasa lain, katakanlah Spanyol. Hal ini memungkinkan pusat kontak multibahasa untuk menggunakan kerangka evaluasi standar lintas bahasa.

Untuk mengatur bahasa formulir evaluasi:

  1. Pilih tab Pengaturan tambahan saat membuat atau memperbarui formulir evaluasi.

  2. Pilih Bahasa formulir dari dropdown.

  3. Pastikan pertanyaan, instruksi, dan pilihan jawaban formulir Anda dalam bahasa yang sama dengan bahasa Formu lir yang dipilih, untuk kinerja AI yang optimal.

Halaman formulir evaluasi, tab Pengaturan tambahan.

Pedoman untuk meningkatkan akurasi AI generatif

Memilih pertanyaan untuk dijawab oleh AI generatif

Dos
  • Gunakan AI generatif untuk menjawab pertanyaan yang hanya memerlukan transkrip percakapan. Contohnya adalah pertanyaan tentang soft skill, pertanyaan yang memeriksa aliran panggilan, atau pernyataan kepatuhan, antara lain.

  • Pisahkan pertanyaan kompleks menjadi beberapa pertanyaan sederhana. Misalnya, alih-alih “Apakah agen menunjukkan pendengaran aktif?” , ajukan dua pertanyaan: “Apakah agen memahami masalah pelanggan pertama kali, tanpa pelanggan perlu mengulanginya?” dan “Apakah agen merangkum masalah setelah pelanggan menjelaskannya?”.

  • Gunakan pertanyaan yang diaktifkan secara kondisional untuk mengaktifkan atau menonaktifkan pertanyaan yang hanya berlaku dalam situasi tertentu. Misalnya, Anda mungkin memiliki satu pertanyaan, “Apakah pelanggan membeli produk selama percakapan?” , dan pertanyaan berikutnya yang diaktifkan secara kondisional, “Apakah agen memberikan pengungkapan biaya wajib sebelum menyelesaikan penjualan?”. Untuk detail selengkapnya, lihat Langkah 4: Aktifkan pertanyaan secara kondisional.

Jangan lakukan
  • Jangan gunakan AI generatif untuk menjawab pertanyaan yang membutuhkan informasi di luar transkrip percakapan. AI generatif tidak dapat menganalisis rekaman layar, mengakses sistem internal atau pihak ketiga Anda seperti aplikasi CRM, atau mengevaluasi percakapan di beberapa kontak.

  • Jangan gunakan AI generatif untuk mengevaluasi aktivitas yang dapat diukur seperti “Apakah pelanggan ditahan secara berlebihan?” atau “Apakah pelanggan sering terganggu?”. Sebagai gantinya, atur jenis pertanyaan ke Nomor dan gunakan metrik seperti durasi penahanan terlama atau jumlah interupsi. Untuk detail selengkapnya, lihat Langkah 6: Aktifkan evaluasi otomatis.

  • Jangan mengotomatiskan pertanyaan yang menilai interaksi antara beberapa pihak (agen lain, institusi mitra, atau pelanggan kedua). analitik percakapan hanya mengetahui dua peserta pada waktu tertentu. Misalnya, hindari pertanyaan seperti “Jika orang lain selain pemegang akun utama bergabung dalam percakapan, apakah agen terlebih dahulu mengkonfirmasi dengan pemegang akun utama sebelum melanjutkan?”.

  • Jangan mengajukan pertanyaan yang tergantung pada nada suara. AI generatif tidak dapat menentukan nada agen atau pelanggan.

  • Jangan gunakan AI generatif untuk pertanyaan yang sangat subjektif, seperti “Apakah agen memperhatikan selama panggilan?”.

Meningkatkan frasa pertanyaan dan instruksi terkait

Dos
  • Pertanyaan kata sebagai kalimat lengkap. Alih-alih “Validasi ID”, tanyakan “Apakah agen mencoba memvalidasi identitas pelanggan?”.

  • Tambahkan kriteria evaluasi terperinci dalam Instruksi untuk evaluator untuk pertanyaan tersebut. Untuk “Apakah agen mencoba memvalidasi identitas pelanggan?” , tambahkan instruksi: Jawabannya adalah Ya jika agen meminta nomor keanggotaan pelanggan dan kode pos sebelum menjawab pertanyaan mereka. Jawabannya adalah Tidak sebaliknya.

  • Tentukan istilah khusus bisnis yang menjadi pertanyaan tergantung. Jika agen harus memberi nama departemen dalam salam, cantumkan contoh nama departemen dalam instruksi.

  • Gunakan “agen” dan “pelanggan” secara konsisten. Hindari variasi seperti “kolega”, “perwakilan”, atau “rekan”, dan “anggota”, “penelepon”, atau “pelanggan”.

  • Jelaskan siapa yang sedang dievaluasi. “Apakah agen menghindari penggunaan kata-kata kotor?” dapat dibaca sebagai menanyakan apakah kata-kata kotor terjadi di mana saja, mengembalikan “Tidak” bahkan ketika hanya pelanggan yang menggunakannya. Tanyakan “Apakah agen menggunakan kata-kata kotor?” sebagai gantinya.

  • Pertanyaan frasa secara positif. Gunakan “Apakah agen menyapa pelanggan?” alih-alih “Apakah agen melewatkan salam?”. Mengucapkan pertanyaan secara positif memberikan alasan dan referensi AI-evaluation yang lebih baik.

  • Tentukan kapan jawabannya Tidak Berlaku (N/A). Misalnya: Jawabannya adalah N/A jika panggilan tersebut menghasilkan transfer.

  • Dalam Instruksi untuk evaluator, jelaskan kapan AI harus memilih setiap opsi jawaban. Untuk “Apakah agen memberikan kerangka waktu resolusi?” , tambahkan instruksi: Jawabannya adalah Ya jika agen memberikan kerangka waktu resolusi, Tidak sebaliknya. Tidak menjelaskan setiap opsi dapat mengakibatkan AI memilih Tidak Berlaku, meskipun pertanyaannya tidak opsional.

  • Perjelas apakah semua atau salah satu perilaku agen tertentu diperlukan. “Agen harus menanyakan nama dan nomor telepon pelanggan” gagal jika agen meminta nama tetapi bukan nomor telepon.

  • Sertakan contoh untuk skenario non-standar, bukan hanya aliran panggilan standar. Jika Anda mengharapkan agen mengatakan “Biasanya dibutuhkan 3 hingga 5 hari kerja” pada panggilan standar, Anda juga harus menyertakan frasa panggilan balik seperti “Saya akan menelepon Anda kembali dalam waktu 30 menit dengan pembaruan”. Standard-flow-onlycontoh menyebabkan jawaban yang tidak konsisten pada panggilan balik, eskalasi, dan transfer.

  • Berikan perhatian paling besar pada pertanyaan gagal otomatis, karena satu jawaban yang gagal memengaruhi skor evaluasi keseluruhan formulir. Kasing tepi penutup dan skenario non-standar. Untuk lebih lanjut tentang mencetak gol, lihatLangkah 5: Tetapkan skor dan rentang untuk jawaban.

Jangan lakukan
  • Jangan gunakan tanda kutip ganda kecuali Anda membutuhkan kata-kata yang tepat. Jika instruksi diperiksa"Have a nice day", AI tidak akan cocok Sem oga sore menyenangkan. Tulis sebagai gantinya:The agent wished the customer a nice day.

  • Jangan gunakan akronim. Eja istilah lengkapnya, misalnya “CFPB”, sehingga AI dapat menafsirkannya dengan benar.

  • Jangan gunakan kata benda yang tepat yang kemungkinan salah eja dalam transkrip. Nama produk seperti Klarity Pay mungkin ditranskripsikan secara berbeda, mencegah kecocokan.

  • Jangan gunakan pertanyaan yang samar-samar. Alih-alih “Apakah agen menggunakan bahasa yang sesuai?” , tanyakan “Apakah agen menggunakan kata-kata kotor?”.

  • Jangan gunakan skrip kata demi kata yang panjang. Memeriksa "Thank you for calling ABC Bank. How may I assist you?" jarang kecocokan, karena perbedaan transkripsi kecil merusak skrip lengkap.

Meningkatkan opsi jawaban

Dos
  • Gunakan opsi jawaban singkat dan sederhana, seperti Ya, Tidak, dan Sebagian.

  • Aktifkan pengaturan Pertanyaan opsional saat pertanyaan mungkin tidak berlaku. Hal ini memungkinkan evaluator melewatkan pertanyaan atau menandainya Tidak Berlaku.

Jangan lakukan
  • Jangan gunakan kesalahan ejaan atau karakter khusus dalam opsi jawaban, karena dapat mengurangi keakuratan jawaban AI generatif.

  • Jangan gunakan terlalu banyak pilihan jawaban. Untuk “Bagaimana pengalaman pelanggan?” , daftar panjang seperti Great, Good, OK, Poor, Very Poor, dan Horrible mengurangi akurasi. Gunakan serangkaian opsi berbeda yang lebih kecil sebagai gantinya.

  • Jangan gunakan teks panjang dalam opsi jawaban, karena model AI generatif mungkin mereproduksinya secara tidak benar.

Contoh implementasi mengikuti pedoman

Contoh berikut menunjukkan AI-answered pertanyaan generatif yang mengikuti pedoman ini. Judul pertanyaan adalah kalimat lengkap, instruksi untuk evaluator menentukan setiap opsi jawaban dan menjelaskan skenario Tidak Berlaku, dan opsi jawabannya pendek.

Pertanyaan formulir evaluasi yang dikonfigurasi dengan judul kalimat lengkap, instruksi terperinci untuk evaluator, dan opsi jawaban singkat Ya dan Tidak dengan opsi Tidak Berlaku diaktifkan.