Karyawan Amazon Dengarkan Rekaman Alexa Pengguna

Ketika pengguna Amazon berbicara dengan Alexa, asisten suara yang didukung AI, mereka mungkin didengar oleh lebih banyak orang daripada yang mereka perkirakan. Menurut laporan Bloomberg karyawan Amazon di seluruh dunia secara teratur mendengarkan rekaman dari speaker pintar perusahaan sebagai bagian dari proses pengembangan untuk layanan baru.

Beberapa karyawan Amazon menyalin nama artis, menautkannya dengan musisi tertentu dalam database perusahaan, karyawan yang lain mendengarkan seluruh perintah yang direkam, membandingkannya dengan apa yang didengar sistem otomatis dan respons yang mereka tawarkan, untuk memeriksa kualitas perangkat lunak perusahaan.

Secara teknis, pengguna telah memberikan izin untuk verifikasi manusia. Amazon membuat jelas bahwa mereka menggunakan data untuk melatih pengenalan suara dan sistem pemahaman bahasa alami Aamzon dan memberi pengguna kesempatan untuk memilih keluar. Tetapi Amazon tidak secara eksplisit mengatakan bahwa pelatihan akan melibatkan pekerja di Amerika, India, Kosta Rika, dan lebih banyak negara di seluruh dunia yang mendengarkan rekaman tersebut.

Dalam sebuah pernyataan yang diberikan kepada Bloomberg, Amazon mengatakan bahwa mereka memperhatikan keamanan dan privasi informasi pribadi pelanggannya dengan serius. Amazon hanya memberi anotasi sampel rekaman suara Alexa yang sangat kecil untuk meningkatkan pengalaman pelanggan. Misalnya, informasi tersebut membantu untuk melatih pengenalan ucapan dan sistem pemahaman bahasa alami Amazon sehingga Alexa dapat lebih memahami permintaan  dan memastikan layanan ini bekerja dengan baik untuk semua orang.

Amazon telah lama bersikeras Alexa hanya dapat mengirim rekaman kembali ke server Amazon jika perangkat mendengar wake word-nya, seperti Alexa atau Echo (atau diaktifkan secara manual dengan menekan tombol). Namun, seperti diketahui oleh pengguna speaker cerdas, kebisingan sekitar dapat disalahartikan sebagai wake word, memicu perekaman secara tidak sengaja.

Akibatnya, pekerja sesekali mendengar hal-hal yang seharusnya tidak mereka lakukan. Terkadang, itu berarti informasi pribadi seperti perincian bank atau nama lengkap, yang seharusnya ditandai oleh karyawan sebagai data penting.

Alexa bukan satu-satunya layanan AI yang mengandalkan banyak tenaga kerja manusia. Perpaduan antara organik dan digital adalah hal yang umum di seluruh sektor, baik untuk melatih layanan tentang cara menyediakan fitur baru, atau untuk secara diam-diam mengisi kesenjangan dalam kemampuan mereka tanpa mengungkapkan fakta kepada pengguna.

Misalnya, pada tahun 2017, aplikasi manajemen pengeluaran bisnis Expensify mengakui bahwa telah menggunakan manusia untuk menuliskan setidaknya beberapa kuitansi yang diklaimnya diproses menggunakan teknologi smartscan, sementara Facebook lebih terbuka tentang fakta bahwa kekurangan asisten pribadi M adalah campuran eksplisit dari respons manusia dan otomatis.

Ini bukan pertama kalinya Amazon ditemukan mengandalkan tenaga manusia untuk layanan cerdasnya. Awal tahun ini, Intercept melaporkan bahwa bel pintu pintar bermerek Ring milik Amazon memberi tim R&D akses yang hampir tanpa batas ke setiap video yang dibuat oleh setiap kamera Ring di seluruh dunia.

Sumber: The Guardian

Sumber Foto: The Guardian