Privasi & Data Pribadi

Microsoft Rilis Alat untuk Deteksi Deepfake

Internet Sehat : Microsoft telah mengembangkan alat untuk menemukan deepfakes. Deepfakes merupakan gambar atau foto yang dimanipulasi oleh komputer di mana kemiripan wajah seseorang telah digunakan untuk menggantikan wajah orang lain.

Perangkat lunak tersebut menganalisis foto dan video untuk memberikan skor keyakinan tentang apakah materi tersebut kemungkinan besar dibuat secara artifisial. Microsoft berharap teknologi tersebut akan membantu memerangi disinformasi.

Namun, seorang ahli mengatakan alat tersebut berisiko menjadi cepat usang karena kecepatan kemajuan teknologi deepfake. Untuk mengatasi hal ini, Microsoft juga telah mengumumkan sistem terpisah untuk membantu produsen konten menambahkan kode tersembunyi ke rekaman mereka sehingga setiap perubahan selanjutnya dapat dengan mudah ditandai.

Deepfakes menjadi populer pada awal 2018 setelah pengembang mengadaptasi teknik kecerdasan buatan mutakhir untuk membuat perangkat lunak yang menukar wajah satu orang dengan orang lain.

Proses ini bekerja dengan menggunakan gambar diam yang sangat banyak dari satu orang dan rekaman video orang lain ke komputer. Software kemudian menggunakan ini untuk menghasilkan video baru yang menampilkan wajah orang yang telah diganti dengan ekspresi yang cocok, sinkronisasi bibir dan gerakan lainnya. Namun kemudian prosesnya telah disederhanakan sehingga membuka untuk lebih banyak pengguna dan membutuhkan lebih sedikit foto untuk membuat deepfake.

Ada beberapa aplikasi yang hanya membutuhkan satu selfie untuk menggantikan wajah seorang bintang film dengan pengguna dalam klip dari film Hollywood. Namun ada kekhawatiran bahwa proses tersebut juga dapat disalahgunakan untuk membuat klip yang menyesatkan, di mana seorang tokoh terkemuka dibuat untuk mengatakan atau bertindak dengan cara yang tidak pernah terjadi, untuk keuntungan politik atau lainnya.

Awal tahun ini, Facebook melarang deepfake yang mungkin menyesatkan pengguna sehingga mengira subjek mengatakan sesuatu yang tidak mereka katakan. Twitter dan TikTok kemudian mengikuti dengan aturan serupa dari mereka sendiri.

Microsoft’s Video Authenticator bekerja dengan mencoba mendeteksi tanda bahwa gambar telah dibuat secara artifisial secara bebas yang mungkin tidak terlihat oleh mata manusia. Tool ini termasuk piksel halus yang memudar atau skala abu-abu pada batas di mana versi wajah target yang dibuat komputer telah digabungkan dengan yang ada pada tubuh subjek asli.

Untuk membuatnya, perusahaan tersebut menerapkan teknik pembelajaran mesinnya sendiri ke kumpulan data publik yang terdiri dari sekitar 1.000 urutan video deepfake dan kemudian menguji model yang dihasilkan terhadap database pertukaran wajah yang lebih besar yang dibuat oleh Facebook.

Nina Schick, penulis buku Deep Fakes and the Infocalypse mencatat bahwa video deepfake masih relatif langka untuk saat ini dan bahwa sebagian besar klip yang dimanipulasi melibatkan pengeditan ulang yang lebih kasar yang dilakukan oleh manusia. Meski begitu, dia menyambut baik campur tangan Microsoft. Menurutnya, satu-satunya penggunaan yang sangat luas yang dilihat sejauh ini adalah dalam pornografi non-konsensual terhadap perempuan.

Sumber: BBC

Sumber Foto : MIT Technology Review

Similar Posts

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.