Duh! Algoritma Instagram Rekomendasikan Akun Pengedar Narkoba
Sebuah laporan dari Tech Transparency Project menemukan bahwa algoritma Instagram merekomendasikan akun pengedar narkoba kepada pengguna di bawah umur bahkan menyarankan tagar terkait narkoba.
Dalam laporan yang diterbitkan Selasa (7/12), Tech Transparency Project membuat tujuh akun palsu untuk pengguna remaja berusia 13, 14, 15, dan 17 tahun.
Instagram bahkan tidak menghentikan akun tersebut untuk mencari konten terkait narkoba.
Dalam satu kasus, platform terisi secara otomatis ketika pengguna mulai mengetik "bu**ana*" ke dalam kolom pencarian. Instagram kemudian merekomendasikan sebuah akun **nax.
Setelah mengikuti akun tersebut, pengguna akun palsu di bawah umur ini mendapat pesan langsung "dengan menu produk, harga, dan opsi pengiriman.
Akun minor palsu yang mengikuti dealer Instagram mendapat saran untuk mengikuti akun yang menjual Adderall.
"Saya akan mengatakan Instagram adalah salah satu tempat terburuk untuk terpapar konten semacam ini," ujar Tim Mackey, seorang profesor di University of California, San Diego dan pendiri S-3, sebuah perusahaan yang melacak penjualan obat-obatan terlarang secara online yang dikutip dari The Verge.
Stephanie Otway, juru bicara perusahaan induk Instagram Meta mengatakan dalam sebuah pernyataan kepada NBC News bahwa platform tersebut melarang penjualan obat-obatan terlarang.
"Kami akan terus meningkatkan di bidang ini dalam upaya berkelanjutan kami untuk menjaga keamanan Instagram, terutama untuk anggota komunitas rmuda kami," ujarnya.
Laporan tersebut juga menemukan bahwa tagar Instagram terhadap konten terkait narkoba tidak berfungsi dengan baik.
Instagram telah melarang banyak tagar terkait narkoba, seperti #mdma, akan tetapi ketika pengguna akun palsu di bawah umur mencoba mencari tagar tersebut, dan Instagram menyarankan alternatif lain seperti #mollymdma.
Otway mengatakan bahwa perusahaannya akan meninjau tagar untuk memeriksa pelanggaran kebijakan.
Laporan ini muncul selama periode pengawasan baru tentang bagaimana Instagram dan Facebook mempengaruhi kesehatan mental dan fisik pengguna remaja.
Sekelompok peneliti akademis menerbitkan sebuah surat terbuka yang menyerukan Meta untuk lebih transparan mengenai penelitiannya tentang kesehatan mental para pengguna mudanya.
Kongres tersebut mengadakan audiensi pada bulan Oktober setelah laporan di The Wall Street Journal menyoroti kekhawatiran bahwa Instagram dapat membahayakan kesehatan mental pengguna muda terutama gadis remaja.
Selama kongres, Senator Mike Lee (R-UT) menunjuk ke laporan yang menemukan bahwa Facebook menyetujui iklan yang mempromosikan penggunaan narkoba dan anoreksia.
CEO Instagram Adam Mosseri dijadwalkan bersaksi di depan Kongres Rabu (8/12) pada sidang "Melindungi Anak di Ranah Online: Instagram dan Reformasi untuk Pengguna Muda."
0 komentar: