Facebook Auto-generated Video Ektremis

Facebook telah dituduh menghasilkan konten ekstremis secara otomatis, termasuk video perayaan jihad dan halaman bisnis untuk al-Qaeda. Materi tersebut ditemukan oleh pengungkap rahasia (whistleblower) yang mengajukan pengaduan resmi kepada regulator AS.

Konten serupa untuk self-identified Nazis dan kelompok supremasi kulit putih juga ditemukan secara online. Facebook mengatakan telah menjadi lebih baik dalam menghapus konten ekstrim, tetapi sistemnya tidak sempurna.

Penelitian pengungkap fakta yang berlangsung lima bulan dan memantau 3.000 orang yang menyukai atau terhubung ke organisasi yang terdaftar sebagai kelompok teroris oleh pemerintah AS. Studi ini menemukan bahwa kelompok-kelompok seperti kelompok Negara Islam dan al-Qaeda secara terbuka aktif di jejaring sosial Facebook.

Selain itu, ditemukan bahwa alat-alat Facebook sendiri secara otomatis membuat konten baru untuk kelompok terlarang dengan memproduksi video perayaan dan kenangan ketika halaman-halaman menampilkan cukup banyak tampilan atau LIKE atau telah aktif selama beberapa bulan.

Halaman bisnis lokal untuk al-Qaeda yang dihasilkan oleh alat Facebook memiliki 7.410 LIKE dan memberi kelompok tersebut data berharga yang bisa digunakan ketika merekrut orang atau mencari pendukung. Pada halaman bisnis lokal, algoritma Facebook mengisi halaman dengan deskripsi pekerjaan yang dimasukkan pengguna ke profil mereka. Algoritma itu juga menyalin gambar, branding dan bendera yang digunakan oleh grup.

Sumber: BBC

Sumber Foto: Reuters