Algoritma Diawasi Karena Adanya Potensi Bias

 

Pemerintah Inggris memperingatkan bahwa diperlukan lebih banyak penelitian tentang algoritma komputer karena mereka dapat memiliki potensi bias gender atau ras. Pemerintah Inggris mengumumkan dibentuknya pengawas independen Centre for Data Ethics and Innovation (CDEI) yang akan menyelidiki algoritma yang digunakan dalam sistem peradilan dan keuangan. Namun layanan yang menggunakan kecerdasan buatan, seperti program polisi prediktif akan terus berlanjut.

Seorang juru bicara untuk Department for Digital, Culture, Media and Sport yang meluncurkan penyelidikan, mengatakan kepada BBC bahwa mereka tahu ada potensi bias, tetapi hal tersebut  tidak sama dengan mengakui bahwa sudah ada kekurangan dalam sistem. Pemerintah belum mengatakan apakah algoritma yang digunakan saat ini dipengaruhi oleh masalah bias.

CDEI akan bekerja dengan Cabinet Office’s Race Disparity Unit untuk mengeksplorasi potensi bias dalam algoritma yang dirancang untuk kejahatan dan keadilan. Mereka juga akan melihat potensi bias dalam algoritma yang digunakan dalam keuangan untuk membuat keputusan seperti apakah akan memberikan pinjaman individu dan yang digunakan dalam rekrutmen, yang dapat menyaring CV dan memengaruhi pemilihan kandidat.

Perangkat lunak prediksi kejahatan telah diadopsi oleh setidaknya 14 pasukan polisi di Inggris. Mereka terbagi dalam dua jenis, yaitu pemetaan prediksi titik kejahatan dan penilaian risiko individu untuk mencoba mencari tahu siapa yang lebih mungkin melakukan pelanggaran atau menjadi korban kejahatan.

Di Durham, Harm Assessment Risk Tool digunakan untuk membantu petugas kepolisian dalam memutuskan apakah seseorang memenuhi syarat untuk dituntut secara hukum berdasarkan risiko pelanggaran di masa depan. Polisi di wilayah Avon dan Somerset menggunakan sistem yang dikenal sebagai Qlik, sistem visualisasi data yang membantu memutuskan di mana harus menempatkan petugas polisi. Kepolisian sebelumnya mengatakan bahwa mereka melakukan segala upaya untuk mencegah bias dengan data tidak memasukkan data termasuk etnis, jenis kelamin atau demografi.

Sumber: BBC

Sumber Foto: BBC