Geger! Video AI Rasis di TikTok, Google Veo 3 Biang Keladinya?

Platform media sosial TikTok tengah berada di bawah sorotan tajam setelah dibanjiri oleh video-video yang dihasilkan kecerdasan buatan (AI) yang mengandung stereotip rasis dan ujaran kebencian. Konten bermasalah ini, yang diduga kuat dibuat menggunakan teknologi AI canggih milik Google, Veo 3, telah menimbulkan kekhawatiran serius di kalangan pengawas media.
Fenomena yang meresahkan ini pertama kali diungkap oleh Media Matters for America, sebuah organisasi nirlaba pengawas media di AS, melalui laporan terbarunya. Laporan tersebut menyoroti bagaimana sejumlah video AI rasis ini berhasil mencapai puluhan juta penayangan sebelum akhirnya dihapus oleh pihak TikTok.
Meskipun metode pasti pembuatan konten AI rasis ini masih diselubungi misteri, serangkaian kesamaan teknis pada video-video tersebut secara kuat mengarah pada satu kesimpulan: kemungkinan besar mereka dihasilkan menggunakan Google Veo 3. Model AI video generatif berbasis text-to-video ini diketahui telah dirilis pada Mei 2025.
Menurut penyelidikan Media Matters, hampir semua video AI rasis yang menjadi viral di TikTok memiliki durasi sekitar 8 detik, yang merupakan batas durasi maksimal untuk video yang saat ini dapat dibuat menggunakan Veo 3. Bukti lain yang semakin memperkuat dugaan ini adalah adanya watermark bertuliskan “Veo” di sudut layar beberapa video, serta penggunaan tagar atau keterangan terkait #Veo3 dalam deskripsi unggahan atau nama pengguna akun. “Bukti yang ditemukan mencakup panjang video, watermark, serta tagar dan username yang menyebut langsung Veo 3, mengindikasikan bahwa teknologi inilah yang digunakan untuk memproduksi konten tersebut,” tulis Media Matters dalam laporan resminya.
Konten video AI yang ditemukan bervariasi, namun umumnya menampilkan stereotip rasis yang merendahkan terhadap komunitas kulit hitam, menggambarkan mereka sebagai kriminal, orang tua tidak bertanggung jawab, bahkan menyamakan mereka dengan hewan. Tak hanya itu, Media Matters juga menemukan video yang menyebarkan stereotip antisemit (negatif terhadap orang Yahudi), konten yang menyerang imigran, serta klip yang merujuk pada peristiwa sejarah traumatis seperti Holocaust dan kekerasan Ku Klux Klan terhadap warga kulit hitam di AS.
Beberapa dari video-video ini sengaja dibuat dengan gaya “sarkastik” atau satir, dirancang untuk memprovokasi reaksi dari pengguna TikTok. Ironisnya, banyak komentar pada unggahan asli justru mengulang atau mendukung stereotip rasis yang ditampilkan, memperkuat pesan diskriminatif dalam video. Fenomena inilah yang diyakini menjadi pemicu konten AI rasis tersebut menjadi sangat viral, mengingat cara kerja algoritma TikTok yang memprioritaskan video dengan respons pengguna tinggi (komentar, like, atau share) untuk muncul di lebih banyak timeline atau For You Page (FYP).
Menanggapi laporan ini, pihak TikTok mengklaim telah menindaklanutinya dengan menghapus sejumlah akun dan video yang teridentifikasi oleh Media Matters. Juru bicara TikTok, Ariane de Selliers, menyatakan bahwa sebagian besar akun tersebut bahkan telah diblokir sebelum laporan diterbitkan. “Kami secara proaktif menegakkan aturan ketat terhadap ujaran kebencian dan perilaku berbahaya,” ujarnya kepada The Verge. TikTok sendiri memiliki kebijakan tegas yang melarang platformnya “merekomendasikan konten yang memuat stereotip negatif terhadap individu atau kelompok dengan atribut yang dilindungi.”
Namun, kemunculan video AI semacam ini menimbulkan pertanyaan mendalam tentang efektivitas sistem moderasi konten otomatis, terutama ketika konten AI tersebut diproduksi dan diunggah secara masif oleh akun-akun anonim atau bot. Laporan ArsTechnica mencatat bahwa dalam Kebijakan Penggunaan Terlarang (Prohibited Use Policy)-nya, Google sebenarnya melarang penggunaan layanannya untuk mempromosikan ujaran kebencian, pelecehan, perundungan, intimidasi, dan penyalahgunaan. Namun, kenyataannya, semua video yang ditemukan oleh Media Matters tampaknya melanggar satu atau lebih dari kategori tersebut.
Secara teoretis, Veo 3 seharusnya menolak untuk membuat video yang melanggar kebijakan. Namun, tampaknya masih ada celah yang terbuka lebar, terutama ketika teknologi AI gagal mengenali makna simbolik atau sindiran dalam perintah yang diberikan. Contohnya terlihat pada penggunaan monyet sebagai pengganti manusia dalam beberapa video, atau penggunaan simbol buah/makanan seperti semangka dan ayam goreng untuk menghina atau merendahkan komunitas kulit hitam, khususnya di AS.
Hingga berita ini ditulis (7 Juli 2025), Google belum memberikan pernyataan resmi terkait dugaan bahwa Veo 3 digunakan untuk menghasilkan konten rasis tersebut, seperti yang dihimpun KompasTekno dari PCMag. Pengamatan lebih lanjut menunjukkan bahwa video AI rasis serupa juga muncul, meskipun dalam skala lebih kecil, di platform seperti YouTube dan Instagram. Hal ini mengindikasikan bahwa penyalahgunaan teknologi AI generatif untuk konten bermasalah bukanlah sekadar tantangan bagi TikTok, melainkan isu yang dihadapi oleh industri digital secara keseluruhan.
Meskipun telah dihapus, Media Matters telah mengkompilasi video AI rasis yang menjadi viral di TikTok ke dalam sebuah video berdurasi sekitar 2 menit 22 detik sebagai bukti. Perlu diingat, video tersebut mengandung konten rasis dan antisemit yang sangat sensitif. Watch it at your own risk!
Ringkasan
Platform TikTok tengah menjadi sorotan karena dibanjiri video AI rasis dan ujaran kebencian, yang diduga kuat dibuat menggunakan teknologi Google Veo 3. Media Matters for America melaporkan bahwa video-video ini mencapai jutaan penayangan sebelum dihapus. Bukti seperti durasi video sekitar 8 detik, watermark “Veo”, serta penggunaan tagar dan nama pengguna terkait Veo 3, sangat mengindikasikan bahwa AI generatif text-to-video tersebut digunakan untuk memproduksi konten tersebut.
Konten yang ditemukan bervariasi, meliputi stereotip rasis terhadap komunitas kulit hitam, antisemit, dan anti-imigran, yang sering dibuat dengan gaya sarkastik untuk memprovokasi. Tingginya interaksi pengguna memicu viralitas video melalui algoritma TikTok, meskipun pihak TikTok mengklaim telah menghapus sejumlah akun dan video bermasalah secara proaktif. Fenomena ini menimbulkan pertanyaan mendalam tentang efektivitas sistem moderasi konten, terutama ketika teknologi AI gagal mengenali makna simbolik atau sindiran dalam perintah yang diberikan.