Pertanyaan yang Sering Diajukan

Ada banyak metode untuk menentukan pentingnya fitur yang tidak dibahas di sini. Mengapa mereka tidak disebutkan?

Panduan ini berfokus pada apa yang kami yakini sebagai metode yang paling efektif dan langsung untuk interpretasi model. Metode lain memiliki keunggulan dalam kecepatan dan kemudahan perhitungan, dan mungkin sesuai tergantung pada modelnya. Panduan dalam artikel ini bersifat preskriptif, bukan proskriptif.

Apa kelemahan dari metode yang direkomendasikan?

SHAP membutuhkan atribusi yang berasal dari rata-rata tertimbang dari semua kombinasi fitur. Atribusi yang diperoleh dengan cara ini dapat menyesatkan dalam memperkirakan pentingnya fitur ketika ada interaksi yang kuat di antara fitur. Metode yang didasarkan pada gradien terintegrasi bisa sulit untuk ditafsirkan karena banyaknya dimensi yang ada dalam jaringan saraf besar. Model dapat menggunakan fitur dengan cara yang tidak terduga untuk mencapai tingkat kinerja tertentu dan ini dapat bervariasi dengan model, sehingga kepentingan fitur selalu bergantung pada model.