Amazon Batalkan AI Karena Seksis

Sebuah algoritma yang sedang diuji sebagai alat rekrutmen oleh raksasa online Amazon ternyata seksis dan harus dihapus. Sistem kecerdasan buatan dilatih pada data yang diajukan oleh pelamar selama periode 10 tahun, banyak yang berasal dari pria. Anggota tim yang mengerjakannya mengatakan bahwa sistem tersebut secara efektif mengajarkan sendiri bahwa kandidat laki-laki lebih disukai.

Reuters berbicara kepada lima anggota tim yang mengembangkan alat pembelajaran mesin pada tahun 2014. Mereka mengatakan kepada Reuters bahwa sistem tersebut dimaksudkan untuk meninjau aplikasi pekerjaan dan memberikan kandidat skor mulai dari satu hingga lima bintang.

Pada tahun 2015, sudah jelas bahwa sistem tersebut tidak memberi peringkat pada kandidat dengan cara netral secara gender karena dibangun berdasarkan data yang dikumpulkan dari CV yang diserahkan kepada perusahaan yang kebanyakan berasal dari pria. Sistem mulai menghukum CV yang ada kata wanita. Program ini diedit untuk membuatnya netral dengan istilah tersebut, tetapi menjadi jelas bahwa sistem AI ini tidak dapat diandalkan.

Sekitar 55% dari manajer sumber daya manusia AS mengatakan bahwa AI akan memainkan peran dalam perekrutan dalam lima tahun ke depan. Ini bukan pertama kalinya timbul keraguan tentang bagaimana algoritma yang dapat diandalkan dilatih pada data yang berpotensi bias. Sebuah eksperimen di Massachusetts Institute of Technology, yang melatih AI pada gambar dan video pembunuhan dan kematian, menemukan itu menafsirkan titik tinta netral dengan cara negatif. Pada bulan Mei tahun lalu, sebuah laporan mengklaim bahwa program komputer yang dihasilkan AI yang digunakan oleh pengadilan AS bias terhadap orang kulit hitam.

Sumber: BBC