Kemajuan teknologi otomotif sering dipuji sebagai langkah besar menuju keselamatan jalan raya yang lebih baik. Namun sebuah insiden di China menunjukkan bahwa kecerdasan buatan (AI) belum sepenuhnya bebas dari kesalahan mendasar, terutama ketika berhadapan dengan keragaman fisik manusia.

Seorang pengemudi dilaporkan menerima lebih dari 20 peringatan kantuk dari sistem keamanan mobil listrik yang dikendarainya dalam satu perjalanan. Sistem pemantau pengemudi (driver monitoring system/DMS) secara berulang menganggap ia tertidur di balik kemudi, meskipun ia berada dalam kondisi sadar sepenuhnya. Penyebabnya ternyata sederhana sekaligus ironis, adalah algoritma pengenalan wajah menginterpretasikan bentuk mata sipit alami dari pengemudi dipindai oleh AI sebagai mata yang tertutup.

Peristiwa ini dengan cepat menjadi perbincangan luas di media sosial China dan memicu diskusi tentang bias teknologi. Sistem yang dirancang untuk menyelamatkan nyawa justru menimbulkan frustrasi dan berpotensi mengganggu konsentrasi selama berkendara. Sistem deteksi kantuk berbasis AI kini menjadi fitur umum pada kendaraan modern. Teknologi ini menggunakan kamera dan analisis visual untuk memantau parameter seperti durasi kedipan mata, posisi kepala, dan ekspresi wajah guna mendeteksi tanda-tanda kelelahan. Tujuannya untuk mengurangi kecelakaan akibat pengemudi mengantuk, salah satu faktor utama kecelakaan lalu lintas di berbagai negara.

Menurut laporan industri otomotif, sistem seperti ini bekerja dengan memproses data visual secara real-time dan memicu alarm jika mata dianggap tertutup terlalu lama atau pola gerakan menunjukkan kelelahan. Namun, teknologi yang bergantung pada dataset pelatihan memiliki risiko inheren. Jika data tidak cukup representatif, kesalahan interpretasi bisa terjadi. Ketika algoritma aalah memahami wajah, maka dampaknya mengganggu konsentrasi pengemudi.

Dalam kasus pengemudi di China, AI menganggap bentuk mata yang lebih sempit sebagai tanda kantuk. Pengguna bahkan melaporkan harus membuka mata secara berlebihan agar sistem berhenti berbunyi. Fenomena ini bukan kasus tunggal. Beberapa pemilik kendaraan pintar lain mengeluhkan hal serupa, menunjukkan bahwa algoritma DMS seringkali dibangun dengan referensi fisik tertentu yang tidak mencerminkan keberagaman global. 

Seorang analis industri otomotif yang diwawancarai media lokal menyebutkan bahwa banyak algoritma awal dikembangkan berdasarkan karakteristik wajah yang lebih umum di Eropa atau Amerika Utara, sehingga membutuhkan kalibrasi tambahan untuk pengguna Asia.  Keluhan serupa bahkan disuarakan langsung oleh pengguna di media sosial. Salah satu pengemudi menulis, “Mata saya memang kecil, tapi saya tidak tertidur di balik kemudi,” sebagai kritik terhadap sistem yang dianggap tidak inklusif. 

Insiden ini membuka diskusi lebih luas tentang bias dalam kecerdasan buatan. AI bukanlah entitas netral. Ia belajar dari data yang diberikan manusia, dan jika dataset pelatihan kurang beragam, algoritma berpotensi menghasilkan kesimpulan yang keliru, bahkan diskriminatif secara tidak sengaja. Dalam konteks otomotif, kesalahan seperti ini bukan sekadar masalah teknis, tetapi juga isu keselamatan. Alarm yang terlalu sering bisa membuat pengemudi terganggu atau bahkan memutuskan untuk menonaktifkan fitur keselamatan, yang justru meningkatkan risiko kecelakaan.

Para insinyur dan pengembang kini didorong untuk memperluas data pelatihan dan mengombinasikan berbagai sensor tambahan agar sistem lebih akurat. Penggunaan kamera inframerah, analisis perilaku mengemudi, hingga integrasi sensor biometrik disebut sebagai langkah potensial untuk meminimalkan kesalahan interpretasi. Di tengah perlombaan industri menuju kendaraan semi-otonom, pemerintah China sendiri menegaskan bahwa teknologi bantuan mengemudi tidak menggantikan tanggung jawab manusia di balik kemudi. 

Putusan terbaru pengadilan tinggi China menekankan bahwa pengemudi tetap menjadi pihak utama yang bertanggung jawab atas keselamatan berkendara, meskipun menggunakan teknologi canggih. Pernyataan tersebut mengingatkan bahwa kecanggihan teknologi belum berarti kesempurnaan. Sistem AI masih memerlukan pengawasan manusia, sekaligus pengembangan berkelanjutan agar tidak menciptakan masalah baru.

Kisah pengemudi yang “dipaksa” terlihat mengantuk oleh mesin sebenarnya mencerminkan pertanyaan yang lebih besar tentang siapa yang diajarkan oleh teknologi, dan siapa yang harus beradaptasi. AI sering dipromosikan sebagai masa depan yang objektif dan rasional. Namun kenyataannya, ia membawa bias dari dunia nyata, dari data yang tidak lengkap hingga perspektif pengembangnya. Teknologi tidak hanya membutuhkan kecerdasan komputasi, tetapi juga empati desain tentang kemampuan memahami bahwa manusia hadir dalam beragam bentuk, ekspresi, dan karakteristik biologis.

Jika inovasi ingin benar-benar mempermudah hidup, maka mesin harus belajar mengenali manusia sebagaimana adanya, bukan memaksa manusia menyesuaikan diri agar terlihat “normal” di mata algoritma. Dengan demikian, masa depan kendaraan pintar tidak ditentukan oleh seberapa canggih sistemnya, melainkan seberapa manusiawi cara ia memahami penggunanya. (Red)