Iklan CSAM Buatan AI Lolos Moderasi Meta Selama 10 Bulan, Perusahaan Raup Cuan dari Konten Terlarang

Penulis: Nofrizal Hasan  •  Kamis, 06 Agustus 2026 | 05:04:01 WIB
Puluhan iklan aplikasi 'nudify' berbasis AI yang menampilkan gambar anak-anak lolos moderasi Meta selama 10 bulan.

SUMATERA UTARA — Tech Transparency Project (TTP) membongkar temuan serius: Meta secara tidak sengaja menayangkan puluhan iklan yang mempromosikan aplikasi "nudify" atau penghilang pakaian berbasis AI. Totalnya lebih dari 50 unit, semuanya memuat gambar anak-anak dengan teks bernuansa seksual yang jelas melanggar kebijakan perusahaan tentang eksploitasi seksual anak.

Laporan ini pertama kali dipublikasikan Wired dan langsung menyita perhatian publik. Pasalnya, iklan-iklan tersebut sempat menjangkau ribuan akun pengguna sebelum akhirnya ditarik dari platform.

Celah Sistem Moderasi yang Berujung Petaka

Meta sejatinya memiliki aturan ketat yang melarang keras iklan bermuatan eksploitasi seksual anak. Perusahaan juga berkomitmen melaporkan materi ofensif ke National Center for Missing and Exploited Children (NCMEC).

Namun, proses review yang bertumpu pada "alat otomatis" menjadi titik lemahnya. Direktur TTP, Katie Paul, menegaskan bahwa iklan-iklan ini bukan unggahan pengguna biasa, melainkan materi yang telah melewati proses persetujuan resmi Meta.

"Iklan-iklan ini tidak berusaha menyamarkan gambar atau menyembunyikan apa yang mereka promosikan. Ini bukan konten yang diunggah pihak ketiga di Facebook atau Instagram, ini adalah iklan yang ditinjau, disetujui, dan diizinkan berjalan oleh Meta," ujar Katie Paul kepada Wired.

Paul juga menyoroti fakta bahwa Meta terus mengumpulkan pendapatan dari iklan-iklan tersebut tanpa intervensi apa pun selama proses penayangannya.

Respons Meta dan Langkah Hukum

Menanggapi laporan Wired, Meta buka suara. Juru bicara perusahaan menyebut mayoritas iklan memiliki jangkauan minimal dan sebagian besar sudah dinonaktifkan sebelum laporan Wired tayang.

"Eksploitasi seksual adalah hal yang mengerikan, dan kami bekerja keras untuk menjauhkannya dari platform kami. Mayoritas iklan ini memiliki jangkauan minimal dan banyak yang dinonaktifkan sebelum Wired membagikannya. Banyak dari iklan ini juga mendahului teknologi AI baru yang baru kami luncurkan untuk mendeteksi dan memblokir iklan yang melanggar saat diunggah," demikian pernyataan resmi Meta.

Meta mengklaim telah menghapus lebih dari 36 juta konten eksploitasi seksual anak tahun lalu. Perusahaan juga mengambil tindakan hukum terhadap pengembang aplikasi nudify. Namun, temuan TTP ini menambah rentetan masalah iklan yang membelit Meta dalam beberapa bulan terakhir.

Rentetan Kasus Iklan Bermasalah

Ini bukan pertama kalinya Meta terjerat kasus iklan eksploitasi. Pada Juli lalu, BBC melaporkan Instagram menayangkan iklan yang mengiklankan materi pelecehan seksual anak di India.

Sebelumnya pada April 2026, Consumer Federation of America menggugat Meta karena gagal menangani iklan penipuan (scam ads) di platformnya. Gugatan tersebut menyebut iklan penipuan yang beredar juga melanggar standar periklanan perusahaan.

Kasus terbaru ini mempertanyakan efektivitas moderasi konten berbasis AI yang selama ini diandalkan Meta untuk menyaring miliaran konten setiap harinya. Bagi pengguna Indonesia yang aktif di platform Meta, temuan ini menjadi pengingat bahwa sistem otomasi masih menyimpan celah yang bisa dieksploitasi pelaku kejahatan siber.

Reporter: Nofrizal Hasan
Sumber: engadget.com This article was automatically rewritten by AI based on the source above without altering the facts of the original article.
Back to top