Tampilkan bukti di samping rekomendasi

Rekomendasi lebih mudah diperiksa bila disertai pengukuran, sumber, dan ketidakpastian yang mendasarinya. Rancang peninjauan sebelum tindakan.

explainable decision support

Apa jawaban singkatnya?

Sistem pendukung keputusan sebaiknya menampilkan rekomendasi bersama pengamatan yang mendukungnya, usia pengamatan itu, dan jalan menuju catatan asli. Ini memungkinkan peninjauan, bukan membuktikan rekomendasinya benar. Terapkan rancangan yang sama pada alur kerja bisnis: beri seseorang kesempatan untuk menggugat saran yang berdampak sebelum saran itu menjadi tindakan.

Pelajari selengkapnya
Di halaman ini

Bayangkan sistem dukungan menyarankan pengembalian dana untuk sebuah pesanan. Layar menampilkan “keyakinan tinggi”, tetapi petugas tidak bisa melihat pesanan mana, versi kebijakan apa, atau apakah barang pengganti sudah dikirim. Sarannya mungkin benar. Petugas tidak punya cara untuk memastikannya. Ini adalah contoh ilustratif, bukan kejadian yang dilaporkan.

Sebuah demonstrasi dukungan keputusan memperlihatkan pola yang lebih mudah diperiksa: peninjau dapat melihat pengukuran komponennya dan membuka pemeriksaan dasar, alih-alih hanya menerima saran akhir. Demonstrasi tersebut berada di ranah medis, tempat validasi independen sangat penting. Demonstrasi itu tidak membuktikan akurasi klinis. Pelajaran desainnya dapat diterapkan pada pekerjaan yang lebih rendah risikonya tanpa mengadopsi klaim hasil dari penyedia.

Putusan merangkum bukti

Ringkasan itu berguna. Seseorang yang perlu memutuskan pengembalian dana tidak ingin membaca setiap peristiwa dalam buku transaksi. Rekomendasi dapat mengubah catatan panjang menjadi tindakan berikutnya. Namun, peringkasan juga membuang rincian, termasuk rincian yang mungkin membalikkan hasilnya.

Bayangkan riwayat pesanan sebagai contoh. Pelanggan melaporkan paket hilang. Model membaca status “belum diantarkan” di data kurir lalu menyarankan pengembalian dana. Catatan lain menunjukkan barang pengganti dikirim pagi ini. Jika rekomendasi menyembunyikan catatan itu, petugas dapat memberikan dua penyelesaian untuk satu masalah. Jika kedua fakta dan waktunya terlihat, petugas dapat mengambil keputusan dengan lebih baik.

Sebelum mengajak orang bertindak, antarmuka perlu menjawab empat pertanyaan: Apa yang diamati? Dari mana asalnya? Seberapa mutakhir? Apa yang dapat membuat rekomendasi ini keliru? Alasan dalam bentuk prosa hanya menjawab sebagian.

Pengamatan sumber catatan waktu
Rekomendasi asal-usul ketidakpastian
Peninjau periksa sanggah
Bukti menyertai rekomendasi

Pengamatan sumber dan peninjau dihubungkan oleh rekomendasi yang memuat asal-usul serta ketidakpastian, sehingga peninjau dapat memeriksa catatan asli.

“Kembalikan dana karena pengiriman gagal” mungkin terdengar meyakinkan, padahal status kurir sudah kedaluwarsa.

Elemen yang terlihatHal yang dapat diuji peninjau
Rekomendasi dan tindakan yang diusulkanApakah tindakannya sesuai dengan tugas
Pengamatan sumber beserta cap waktuApakah faktanya mutakhir dan lengkap
Bukti yang hilang atau bertentanganApakah perlu berhenti atau menyelidiki
Tautan ke catatan asliApakah ringkasan menghilangkan rincian penting
Jejak hasil dan koreksiApakah saran serupa berulang kali gagal

Ini adalah daftar periksa antarmuka yang konseptual, bukan klaim bahwa satu dasbor tertentu menghasilkan keputusan yang lebih baik.

Tempatkan ketidakpastian dalam alur kerja, bukan catatan kaki

Sistem dapat tidak yakin karena berbagai alasan. Sebuah sumber tidak merespons. Dua pengenal mungkin merujuk pada pesanan yang sama. Kebijakan berubah sejak indeks terakhir dibuat. Model mungkin kesulitan menafsirkan keluhan dalam teks bebas. Kegagalan-kegagalan ini berbeda dan perlu ditampilkan secara berbeda.

“Keyakinan rendah” tidak cukup ketika operator dapat memeriksa fakta konkret yang hilang. Tampilkan “data kurir terakhir diperbarui kemarin” atau “catatan barang pengganti tidak berhasil diambil”. Jika sistem tidak memiliki dasar untuk suatu skor, jangan tampilkan persentase yang tampak presisi. Tujuannya membantu peninjau memilih hal berikutnya yang perlu diverifikasi.

Struktur yang sama penting dalam sinkronisasi data. Jika sistem tujuan menerima status pelanggan yang baru, pertahankan ID peristiwa sumber, waktu, dan aturan yang menghasilkan perubahan. Ketika seseorang bertanya mengapa seorang pelanggan masuk ke kampanye, tim dapat menelusuri keputusan itu ke belakang. Nilai yang disalin tanpa penjelasan adalah putusan tanpa bukti.

Tampilan Tajo yang diusulkan ini memisahkan laporan aktivitas dari hal yang belum terbukti. Penulisan ditandai diterapkan, tetapi pemeriksaan tujuan masih tertunda. Umpan aktivitas Tajo saat ini menampilkan hasil dan peristiwa mentah; panel verifikasi tambahan hanya menggambarkan cara memperjelas batas tersebut.

TajoIlustrasi konsep · Data contoh

Penulisan yang selesai tetap memerlukan bukti

Apakah sinkronisasi pelanggan selesai?

Aplikasi Tajo MCPAktivitas

Penulisan diterapkan. Verifikasi tertunda.

Keadaan di tujuan belum diperiksa.

Aktivitas sinkronisasi

  1. Permintaan diterima
  2. Pembaruan diterapkan
  3. Pemeriksaan tujuan tertunda

Proses contoh · 14:32 UTC

Yang diketahui

Respons penyedia
Diterima
Hasil penulisan
Diterapkan
Baca ulang dari tujuan
Tertunda
Lihat peristiwa mentah

Panggilan berhasil tidak membuktikan keadaan akhir.

Tata letak yang diusulkan berdasarkan umpan aktivitas Tajo. Ilustrasi ini menambahkan status verifikasi; fitur baca ulang tujuan belum dinyatakan tersedia.

Batas bukti harus terlihat. Di sini penulisan sudah diterapkan, tetapi pemeriksaan tujuan masih menunggu.

Jadikan peninjauan berguna tanpa membuka segalanya

Sebagian besar tindakan rutin tidak perlu membuka seluruh berkas kasus. Antarmuka yang baik dapat menjaga rekomendasi tetap ringkas sambil menempatkan bukti satu langkah di belakangnya. Antarmuka juga dapat menonjolkan hanya ketidaksesuaian yang mungkin mengubah keputusan. Itu berbeda dari menyembunyikan dasarnya sama sekali.

Menampilkan lebih banyak data memiliki biaya privasi nyata. Peninjau hanya boleh melihat kolom yang diperlukan untuk keputusan ini, sesuai aturan akses yang juga berlaku pada catatan sumber. Visibilitas bukti bukan izin umum untuk membuka seluruh riwayat pelanggan. Retensi dan log audit juga memerlukan penanggung jawab.

Kekhawatiran lain adalah bias otomatisasi: rekomendasi yang terlihat tetap dapat mengarahkan orang yang meninjaunya. Uji apakah peninjau menemukan pertentangan yang sengaja disisipkan dan apakah mereka bisa memilih “bukti tidak cukup” tanpa melawan antarmuka. Ukur pola koreksi dan pembalikan keputusan setelah penerapan. Penjelasan yang enak dibaca bukan ukuran hasil.

Antarmuka peninjauan juga perlu tempat mencatat ketidaksetujuan. Jika petugas menolak saran pengembalian dana, mintalah alasan yang cukup spesifik untuk memperbaiki sistem: kecocokan pesanan salah, status kurir usang, catatan barang pengganti hilang, atau pengecualian kebijakan. Jangan jadikan setiap ketidaksetujuan sebagai tuntutan menulis penjelasan panjang. Kumpulkan alasan-alasan itu dan periksa apakah satu sumber berulang kali menimbulkan masalah. Dengan begitu, peninjauan satu kasus dapat mengarah pada perbaikan sistem. Panduan menemukan alur kerja membantu menemukan jalur pengecualian yang sebenarnya sebelum sebuah saran dibangun. Bukti di samping putusan membantu peninjau hari ini; data koreksi dapat memperbaiki jalur keputusan esok hari.

Untuk tindakan yang berdampak, jalur peninjauan harus menjadi bagian dari kontrak produk. Sistem mengusulkan tindakan, menyebutkan bukti yang digunakan, menjelaskan hal yang tidak dapat diperiksa, lalu mencatat hasilnya. Ketika bukti tidak mendukung suatu pilihan, putusan yang paling berguna mungkin adalah “tunggu”.

Pertanyaan yang sering diajukan

Apakah penjelasan membuat rekomendasi dapat diandalkan?

Tidak. Penjelasan yang terdengar masuk akal dapat menyertai hasil yang salah. Peninjau memerlukan akses ke pengamatan sumber, asal-usul data, ketidakpastian, dan hasilnya, bukan sekadar kalimat yang terdengar yakin.

Bukti apa yang perlu ditampilkan bersama saran otomatis?

Tampilkan pengamatan spesifik yang digunakan, sumber dan waktunya, masukan yang tidak tersedia, versi aturan atau model jika relevan, serta cara memeriksa catatan asli.

Kapan hasil perlu ditinjau seseorang?

Ketika konsekuensinya melampaui kewenangan sistem atau buktinya tidak lengkap, kedaluwarsa, atau diperselisihkan. Peninjau harus dapat menyanggah hasil dan menghentikan tindakan secara nyata.

Ajukan akses awal

Masukkan nama depan dan alamat email kerja Anda. Kami akan mengirim tautan untuk mengonfirmasi permintaan akses Tajo.

Dapatkan Brevo