Google Veo 3 Disalahgunakan, Video Rasis Tersebar di TikTok
Kontroversi baru kembali menyoroti dampak perkembangan teknologi kecerdasan buatan, khususnya pada platform media sosial. Kali ini, laporan terbaru dari Media Matters for America, sebuah organisasi nirlaba pemantau media, mengungkap sebuah temuan mengejutkan dimana beredar video-video berbau rasisme yang diduga dibuat dengan AI video generator Google Veo 3 dan telah meraup jutaan views di platform media sosial TikTok.
Bagaimana Video Rasis Ini Tersebar?
Temuan Media Matters menyebutkan bahwa beberapa video rasis yang viral memuat berbagai stereotip negatif, utamanya terhadap orang kulit hitam. Salah satu contoh klip bahkan telah ditonton lebih dari 14 juta kali hanya dalam hitungan hari.
Ciri yang membuat para peneliti yakin video ini dibuat dengan Google Veo 3 adalah watermark bertuliskan “Veo” yang muncul di pojok layar. Selain itu, beberapa pembuat konten dengan sengaja mencantumkan kata kunci terkait Veo 3 atau AI pada caption, hashtag, atau username mereka.
Karakteristik durasi video juga mendukung asumsi tersebut. Veo 3 memang dirancang hanya dapat membuat klip berdurasi maksimal delapan detik. Banyak unggahan yang diidentifikasi pun terdiri dari beberapa klip pendek yang dirangkai, masing-masing berdurasi tak lebih dari delapan detik.
Tentang Google Veo 3
Diluncurkan Google pada Mei lalu, Veo 3 memungkinkan siapapun membuat klip video dan audio hanya bermodalkan perintah teks (prompt). Google mengklaim bahwa teknologi ini dibekali fitur “pemblokiran konten berbahaya” untuk mencegah penyalahgunaan, termasuk mencegah pembuatan konten kebencian atau diskriminasi.
Sayangnya, laporan Media Matters membuktikan bahwa celah pada pengawasan masih ada. Beberapa video dengan tema serupa bahkan ditemukan di YouTube meskipun dengan jumlah penonton lebih sedikit, dan juga di Instagram, seperti diungkapkan oleh Wired.
Konten bermasalah tersebut tak hanya menyasar komunitas kulit hitam, tetapi juga menampilkan unsur antisemitisme, imigran, dan kelompok rasial Asia secara negatif. Ini menandakan bahwa potensi penyalahgunaan teknologi generative AI tak hanya terbatas pada satu target kelompok saja.
Tanggapan TikTok terhadap Google Veo 3
Pihak TikTok pun segera merespons laporan ini. Dalam pernyataan resminya, juru bicara TikTok, Ariane de Selliers, menegaskan bahwa pihaknya “proaktif menegakkan aturan tegas terhadap ujaran kebencian dan perilaku kebencian”. Menurut TikTok, akun-akun yang teridentifikasi melalui laporan Media Matters telah diblokir, bahkan sebagian sudah dihapus sebelum laporan ini dirilis ke publik.
Perlu dicatat, TikTok sendiri memiliki kebijakan bahwa konten dengan stereotip negatif pada kelompok rentan tidak boleh direkomendasikan di platform. Namun kenyataan di lapangan menyoroti tantangan besar: bagaimana sistem moderasi bisa mendeteksi konten AI yang diunggah dalam format video pendek berantai, terutama saat akun baru terus bermunculan.
Dampak Google Veo 3
Fenomena ini memperkuat perdebatan etika di balik perkembangan AI generatif, terutama untuk pembuatan konten visual dan audio. Sebagai teknologi terbuka, AI video generator memang membawa peluang kreativitas, tetapi sekaligus membuka celah bagi produksi konten manipulatif yang memicu kebencian.
Bagi pengguna media sosial, risiko paparan konten diskriminatif pun meningkat. Apalagi video pendek yang viral mudah dibagikan, seringkali tanpa proses verifikasi asal-usul atau konteks pembuatannya. Dengan tren algoritma rekomendasi, video semacam ini dapat menjangkau jutaan penonton hanya dalam waktu singkat.
Beberapa pakar menyarankan bahwa penyedia teknologi seperti Google harus meninjau ulang kebijakan pemfilteran prompt. Sistem moderasi berbasis AI perlu lebih tanggap, misalnya dengan menambahkan lapisan verifikasi manual atau audit konten rutin, agar tak sekadar mengandalkan filter otomatis yang terbukti masih bisa ditembus.
Kesimpulan
Perkembangan teknologi AI generatif seperti Google Veo 3 memang menjanjikan banyak inovasi kreatif di bidang konten digital. Namun kasus video rasis di TikTok menunjukkan bagaimana celah pengawasan bisa berakibat serius, merugikan kelompok minoritas, dan menodai etika penggunaan teknologi.
Ke depan, sinergi antara pengembang AI, platform media sosial, dan publik menjadi kunci untuk memastikan kemajuan teknologi tetap selaras dengan nilai inklusivitas, kesetaraan, dan tanggung jawab sosial.
Ingin tahu update seputar tren teknologi lainnya? Temukan inspirasi harian di Instagram @Wesclic dan lihat bagaimana teknologi bisa bergerak tanpa menabrak etika.
