Literasi Digital

Ilmuwan Kembangkan AI untuk Mendeteksi Pelecehan di e-Mail

Para ahli kecerdasan buatan kini sedang mengembangkan bot yang dapat mengidentifikasi intimidasi digital dan pelecehan seksual. Bot tersebut¬†dikenal sebagai “#MeTooBots” yang merupakan nama sebuah gerakan besar yang muncul setelah tuduhan terhadap produser Hollywood Harvey Weinstein. Bot dapat memantau dan menandai komunikasi antara kolega dan sedang diperkenalkan oleh perusahaan di seluruh dunia.

Pencipta Bot tersebut mengatakan bahwa tidak mudah untuk mengajarkan komputer seperti apa sebenarnya pelecehan dengan seluk-beluk linguistik dan garis abu-abu.

Platform AI Nex digunakan oleh lebih dari 50 klien korporat, termasuk firma hukum di London. Industri ini berpotensi menjadi lahan subur bagi bot untuk diperiksa sebab sepertiga pengacara wanita di Inggris melaporkan telah mengalami pelecehan seksual.

Bot menggunakan algoritma yang dilatih untuk mengidentifikasi potensi intimidasi, termasuk pelecehan seksual, dalam dokumen perusahaan, email, dan obrolan. Data dianalisis untuk berbagai indikator yang menentukan seberapa besar kemungkinannya menjadi masalah, apa pun yang dianggap AI berpotensi bermasalah kemudian dikirim ke pengacara atau manajer SDM untuk diselidiki.

Tepatnya indikator apa yang dianggap sebagai bendera merah tetap menjadi rahasia perusahaan, tetapi Leib mengatakan bot itu mencari anomali dalam bahasa, frekuensi, atau waktu pola komunikasi lintas minggu, sambil terus-menerus belajar cara mengenali pelecehan.

Prof Brian Subirana, seorang dosen AI di Harvard dan MIT, mengatakan gagasan menggunakan AI untuk menghilangkan pelecehan sangat menjanjikan meskipun kemampuan bot itu terbatas.

Sumber: The Guardian

Similar Posts