Literasi Digital

Twitter Minta Maaf karena Algoritma Image Cropping Cenderung Rasis

Internet Sehat : Twitter telah meminta maaf atas algoritma pemotongan foto atau Image Cropping yang cenderung rasis setelah pengguna menemukan fitur tersebut secara otomatis fokus pada wajah kulit putih daripada wajah kulit hitam. Twitter mengatakan telah menguji layanan tersebut untuk mencari bias sebelum mulai menggunakannya, tetapi sekarang harus menerima bahwa hal tersebut tidak berjalan cukup baik.

Twitter telah lama memotong gambar secara otomatis untuk mencegahnya memakan terlalu banyak ruang di feed utama dan untuk memungkinkan beberapa gambar ditampilkan dalam tweet yang sama. Perusahaan menggunakan beberapa alat algoritmik untuk mencoba fokus pada bagian terpenting gambar, mencoba memastikan bahwa wajah dan teks tetap berada di bagian gambar yang dipotong.

Namun pengguna mulai melihat kekurangan fitur tersebut selama akhir pekan. Orang pertama yang menyoroti masalah ini adalah mahasiswa PhD Colin Madland, yang menemukan masalah tersebut sambil menyoroti bias rasial yang berbeda dalam perangkat lunak konferensi video Zoom.

Ketika Madland yang berkulit putih memposting gambar dirinya dan rekan berkulit hitam yang telah dihapus dari panggilan Zoom setelah algoritma gagal mengenali wajahnya, Twitter secara otomatis memotong gambar tersebut untuk hanya menampilkan Madland.

Orang lain menindaklanjuti dengan eksperimen yang lebih bertarget, termasuk pengusaha Tony Arcieri, yang menemukan bahwa algoritma tersebut akan secara konsisten memotong gambar senator AS Mitch McConnell dan Barack Obama untuk menyembunyikan mantan presiden. Hasil serupa ditemukan untuk model stok foto, karakter Simpsons Lenny dan Carl, dan bahkan labrador emas dan labrador hitam.

Dalam sebuah pernyataan, juru bicara Twitter mengakui bahwa perusahaan memiliki pekerjaan yang harus dilakukan. Twitter mengatakan bahwa tim mereka menguji bias sebelum mengirimkan model dan tidak menemukan bukti bias rasial atau gender dalam pengujian. Namun dari contoh yang ada Twitter mengakui bahwa mereka memiliki lebih banyak analisis yang harus dilakukan. Twitter berjanji akan terus membagikan apa yang mereka pelajari, tindakan apa yang mereka ambil, dan akan membuka sumber analisis sehingga orang lain dapat meninjau dan mereplikasi.

Twitter bukan perusahaan teknologi pertama yang menemukan dirinya berjuang untuk menjelaskan bias rasial yang nyata dalam algoritmanya. Pada tahun 2018, terungkap bahwa Google melarang layanan Photo mereka untuk tidak pernah memberi label apa pun sebagai gorila, simpanse, atau monyet, setelah mendapat kecaman karena berulang-kali salah memberi label pada gambar orang kulit hitam dengan istilah rasis tersebut.

Sumber : The Guardian

Similar Posts

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.