 |
| Kesalahan besar ditemukan dalam teknologi pengenalan wajah: studi AS |
Gerbong Berita Dunia - Kesalahan besar yang ditemukan dalam Agen Poker pengenalan wajah t Sistem pengenalan wajah dapat menghasilkan hasil yang sangat tidak akurat, terutama untuk non-kulit putih, menurut sebuah studi pemerintah AS yang dirilis Kamis yang kemungkinan akan menimbulkan keraguan baru pada penyebaran teknologi kecerdasan buatan.
Studi tentang puluhan algoritma pengenalan wajah menunjukkan tingkat "false positive" untuk orang Asia dan Afrika Amerika 100 kali lebih tinggi daripada orang kulit putih.
Para peneliti dari Institut Nasional Standar dan Teknologi (NIST), pusat penelitian pemerintah, juga menemukan dua algoritma yang menetapkan jenis kelamin yang salah untuk perempuan kulit hitam hampir 35 persen dari waktu.
Studi ini dilakukan di tengah penyebaran luas pengenalan wajah untuk penegakan hukum, bandara, keamanan perbatasan, perbankan, ritel, sekolah, dan teknologi pribadi seperti membuka kunci smartphone.
Beberapa aktivis dan peneliti telah menyatakan bahwa potensi kesalahan itu terlalu besar dan kesalahan itu bisa mengakibatkan pemenjaraan orang yang tidak bersalah, dan bahwa teknologi itu dapat digunakan untuk membuat basis data yang mungkin diretas atau digunakan secara tidak tepat.
Studi NIST menemukan kedua "false positive," di mana seorang individu secara keliru diidentifikasi, dan "false negative," di mana algoritma gagal untuk secara akurat mencocokkan wajah dengan orang tertentu dalam database.
"Sebuah negatif palsu mungkin hanya ketidaknyamanan - Anda tidak bisa masuk ke telepon Anda, tetapi masalah ini biasanya dapat diatasi dengan upaya kedua," kata ketua peneliti Patrick Grother.
"Tetapi hasil positif palsu dalam pencarian satu-ke-banyak menempatkan kecocokan yang tidak benar pada daftar kandidat yang membutuhkan pemeriksaan lebih lanjut."
Studi ini menemukan bahwa sistem pengenalan wajah yang dikembangkan di AS memiliki tingkat kesalahan yang lebih tinggi untuk orang-orang Asia, Afrika-Amerika, dan kelompok-kelompok penduduk asli Amerika, dengan demografi orang Indian Amerika menunjukkan tingkat positif palsu yang tertinggi.
Namun, beberapa algoritma yang dikembangkan di negara-negara Asia menghasilkan tingkat akurasi yang sama untuk pencocokan antara wajah Asia dan Kaukasia - yang menurut para peneliti menyarankan perbedaan ini dapat diperbaiki.
"Hasil ini merupakan tanda yang menggembirakan bahwa data pelatihan yang lebih beragam dapat menghasilkan hasil yang lebih adil," kata Grother.
Meskipun demikian, Jay Stanley dari American Civil Liberties Union, yang telah mengkritik penyebaran pengenalan wajah, mengatakan studi baru menunjukkan teknologi tidak siap untuk penyebaran luas.
"Bahkan para ilmuwan pemerintah sekarang mengkonfirmasikan bahwa teknologi pengawasan ini cacat dan bias," kata Stanley dalam sebuah pernyataan.
"Satu kecocokan yang salah dapat menyebabkan penerbangan tidak terjawab, interogasi yang panjang, penempatan daftar pantauan, pertemuan polisi yang tegang, penangkapan palsu atau lebih buruk. Tetapi kekurangan teknologi hanya satu masalah. Teknologi pengenalan wajah - akurat atau tidak - dapat memungkinkan tidak terdeteksi, gigih, dan pengawasan tanpa curiga pada skala yang belum pernah terjadi sebelumnya. "
Tidak ada komentar:
Posting Komentar