LENSAKINI – Bayangkan Anda tiba tiba menerima surat tilang elektronik atas pelanggaran lalu lintas yang tidak pernah Anda lakukan atau sebuah aplikasi rumah sakit mengirimkan diagnosis penyakit serius yang ternyata keliru.
Reaksi pertama tentu marah, namun pertanyaan berikutnya lebih rumit yaitu kepada siapa kemarahan itu ditujukan. Kepada mesin yang membuat keputusan atau kepada manusia yang menjalankan sistem tersebut.
Situasi seperti ini semakin mungkin terjadi seiring meluasnya penggunaan kecerdasan buatan dalam berbagai layanan. Dari sistem tilang elektronik hingga layanan kesehatan dan keuangan, banyak keputusan yang kini diproses oleh algoritma dalam hitungan detik.
Kondisi ini menarik perhatian sejumlah peneliti yaitu Zhehao Liang, You Li, dan Tao Chen. Dalam kajian mereka muncul satu pertanyaan penting ketika kecerdasan buatan melakukan kesalahan siapa yang harus bertanggung jawab.
Saat ini banyak organisasi berlomba menggunakan AI demi efisiensi dan kecepatan layanan. Namun di balik itu muncul persoalan baru yang disebut sebagai defisit akuntabilitas. Tanggung jawab menjadi kabur ketika sistem yang digunakan mengalami kegagalan.
Penelitian Liang dan tim menunjukkan hal yang menarik ketika layanan berbasis AI gagal masyarakat tidak langsung menyalahkan mesin. Kemarahan publik justru lebih banyak diarahkan kepada manusia yang berada di balik sistem tersebut.
Logika masyarakat sebenarnya sederhana yaitu mesin tidak memiliki niat ataupun kesadaran moral. AI hanyalah sistem yang bekerja berdasarkan aturan yang dibuat manusia.
