Helo Indonesia

Laporan WSJ: Algoritme Instagram Mempromosikan Pedofilia

Ruru - Ragam
Jumat, 9 Juni 2023 20:14
    Bagikan  
Instagram
Istimewa

Instagram - Instagram

HELOINDONESIA.COM - Investigasi oleh Wall Street Journal bekerja sama dengan peneliti eksternal dari Stanford University dan University of Massachusetts Amherst mengungkapkan bahwa Instagram telah mengoperasikan "jaringan luas" akun yang didedikasikan untuk konten pedofil.

Tidak seperti forum dan layanan berbagi file tempat distributor konten ilegal biasanya bersembunyi, algoritme Instragm secara aktif mempromosikan konten semacam itu.

Perusahaan mengakui masalah penegakan dan menyatakan bahwa tindakan telah diambil untuk mencegah sistem Instagram merekomendasikan pencarian terkait eksploitasi anak.

Menanggapi penyelidikan tersebut, mereka dengan cepat mengeluarkan pernyataan "Eksploitasi anak adalah kejahatan keji. Kami terus berupaya menyelidiki cara-cara untuk secara aktif melindungi dari perilaku semacam itu."

Baca juga: Nasi Ayam Dikabarkan Banyak Mengandung Bakteri E.Coli

Mereka juga mengumumkan pembentukan gugus tugas khusus dan mengaku bekerja memblokir jaringan dan membuat perubahan pada sistem mereka. Perusahaan mengklaim telah menghapus 27 jaringan semacam itu dalam beberapa tahun terakhir dan secara aktif berupaya menghapus lebih banyak, serta berusaha mencegah pedofil terhubung satu sama lain.

Namun, penyelidikan dan penemuan ini berfungsi sebagai peringatan bagi perusahaan yang sebelumnya mengabaikan peringatan serupa, seperti perekrutan pembunuh di Facebook dan temuan peneliti internal bahwa konten yang mengganggu di jaringan mereka sering kali tidak diblokir dan bahkan dipromosikan.

Mantan direktur keamanan Facebook Alex Stamos mengatakan kepada WSJ, "Jika tim yang terdiri dari tiga akademisi dengan akses terbatas dapat menemukan jaringan sebesar itu, itu akan meningkatkan kewaspadaan di Meta." Stamos juga menyebutkan bahwa Meta membutuhkan alat yang lebih baik untuk menghadapi fenomena ini dan berharap mereka berinvestasi kembali dalam merekrut peneliti manusia.

Baca juga: Anies Baswedan Sulit untuk Komitmen, Novel Bamukmin Sebut PA 212 Bakal Dukung Capres Prabowo 2024

Para peneliti di Stanford menemukan bahwa bahkan setelah melihat satu akun yang terkait dengan konten pedofil, mereka menerima rekomendasi untuk konten tambahan yang terkait dengan individu yang menjual konten ilegal.

"Instagram adalah pintu gerbang ruang jaringan tempat konten eksplisit eksploitasi anak ditampilkan," kata Brian Levine, direktur lab.

Kelompok risetnya menemukan bahwa distribusi konten semacam itu sangat parah di Instagram, yang dianggap sebagai jaringan penting bagi pembeli dan penjual konten pedofilia.