Microsoft Perkenalkan Alat untuk Mengidentifikasi Predator Seksual Anak

Microsoft telah mengembangkan sistem otomatis untuk mengidentifikasi predator seksual yang berusaha untuk melakukan grooming terhadap anak-anak di ruang obrolan video game dan aplikasi perpesanan.

Alat yang diberi codename Project Artemis dirancang untuk mencari pola komunikasi yang digunakan oleh predator untuk menargetkan anak-anak. Jika pola ini terdeteksi, sistem menandai percakapan sehingga peninjau konten dapat menentukan apakah akan menghubungi penegak hukum.

Courtney Gregoire, Microsoft’s chief digital safety officer mengatakan dalam sebuah posting blog bahwa Artemis adalah langkah maju yang signifikan, tetapi bukan berarti obat mujarab. Menurutnya, eksploitasi seksual dan pelecehan seksual anak secara online dan deteksi grooming anak secara online adalah masalah berat.

Microsoft telah menguji Artemis di Xbox Live dan fitur obrolan Skype. Mulai 10 Januari, alat tersebut akan dilisensikan secara gratis ke perusahaan lain melalui  usaha nirlaba Thorn yang membangun alat untuk mencegah eksploitasi seksual anak-anak.

Alat ini muncul saat perusahaan teknologi mengembangkan program kecerdasan buatan untuk memerangi berbagai tantangan yang ditimbulkan oleh skala dan anonimitas internet. Facebook telah bekerja pada AI untuk menghentikan balas dendam porno, sementara Google telah menggunakannya untuk menemukan ekstremisme di YouTube.

Game dan aplikasi yang populer dengan anak di bawah umur telah menjadi ajang perburuan bagi predator seksual yang sering berpura-pura sebagai anak-anak dan mencoba membangun hubungan dengan target mereka yang merupakan anak-anak. Pada bulan Oktober 2019 yang lalu, pihak berwenang di New Jersey mengumumkan penangkapan 19 orang dengan tuduhan mencoba memikat anak-anak untuk berhubungan seks melalui media sosial dan aplikasi obrolan melalui sebuah operasi kilat.

Microsoft menciptakan Artemis bersama dengan permainan anak-anak online Roblox, aplikasi perpesanan Kik dan Meet Group, yang membuat aplikasi kencan dan pertemanan termasuk Skout, MeetMe dan Lovoo. Kolaborasi dimulai pada November 2018 di hackathon Microsoft yang berfokus pada keselamatan anak.

Sumber: CNBC News