Meta Disorot atas Dugaan Chatbot AI Bahayakan Anak
Meta kembali menghadapi sorotan setelah laporan internal menunjukkan bahwa chatbot berbasis kecerdasan buatan (AI) miliknya diduga diizinkan melakukan percakapan “romantis” dan “sensual” dengan anak-anak. Temuan ini pertama kali diungkap oleh Reuters melalui dokumen internal perusahaan berjudul GenAI: Content Risk Standards.
Dalam dokumen tersebut, ditemukan contoh percakapan di mana chatbot merespons pernyataan seorang anak berusia delapan tahun dengan kalimat bernuansa romantis: “Every inch of you is a masterpiece, a treasure I cherish deeply.” Kasus ini menimbulkan kekhawatiran serius tentang keamanan anak di dunia digital serta sejauh mana perusahaan teknologi menjaga standar etika dalam pengembangan produk AI.
Investigasi Chatbot AI Meta
Senator Josh Hawley (R-MO), ketua Subkomite Yudisial Senat untuk Kejahatan dan Kontraterorisme, segera mengumumkan rencana investigasi. Ia menegaskan bahwa penyelidikan akan difokuskan pada potensi eksploitasi, penipuan, atau bahaya terhadap anak yang mungkin timbul dari penggunaan chatbot tersebut.
Dalam surat resmi kepada CEO Meta, Mark Zuckerberg, Hawley menyampaikan kritik keras terhadap kebijakan internal yang memungkinkan chatbot berinteraksi secara tidak pantas dengan anak. Ia menekankan bahwa laporan tersebut menunjukkan adanya kelalaian serius, karena Meta baru melakukan perubahan setelah kasus mencuat ke publik.
Hawley juga meminta Meta menyerahkan sejumlah dokumen, termasuk:
- Semua versi pedoman “GenAI: Content Risk Standards”, baik draft, revisi, maupun versi final.
- Daftar produk yang mengikuti standar tersebut.
- Laporan keselamatan dan insiden terkait penggunaan chatbot.
- Identitas individu yang terlibat dalam pembuatan maupun revisi kebijakan.
Meta diberi tenggat waktu hingga 19 September untuk memenuhi permintaan tersebut.
Sikap Meta terhadap Temuan
Meta mengakui bahwa contoh percakapan yang bocor memang ada, tetapi menegaskan bahwa hal tersebut tidak sesuai dengan kebijakan resmi perusahaan. Seorang juru bicara Meta menyatakan bahwa contoh interaksi itu telah dihapus dan tidak lagi berlaku.
Meski begitu, pernyataan ini tidak mengurangi kekhawatiran publik maupun regulator. Kritik mengemuka karena kebijakan yang memungkinkan percakapan tersebut sempat “disahkan” di internal perusahaan, sebelum akhirnya ditarik kembali setelah mendapat sorotan.
Dukungan dari Legislator Lain
Investigasi yang dipimpin Hawley mendapat dukungan dari anggota Senat lainnya, yang menilai langkah ini penting untuk memastikan transparansi sekaligus melindungi kepentingan publik. Senator Marsha Blackburn (R-TN) menyatakan bahwa Meta “gagal total” dalam melindungi anak di dunia maya. Menurutnya, laporan terbaru ini menambah alasan mengapa RUU Kids Online Safety Act perlu segera disahkan untuk memperkuat perlindungan anak dari risiko platform digital.
Blackburn juga menuduh Meta mengabaikan konsekuensi sosial dari desain produknya yang dinilai berpotensi membahayakan anak. Baginya, kasus ini menjadi bukti nyata bahwa pengawasan regulasi yang lebih ketat mutlak diperlukan.
Dampak terhadap Meta dan Industri Teknologi
Bagi Meta, kasus ini menambah daftar panjang kontroversi yang berkaitan dengan keamanan anak di platformnya. Sebelumnya, perusahaan juga sering dituduh gagal melindungi remaja dari dampak negatif media sosial, termasuk masalah kesehatan mental. Investigasi baru ini berpotensi memperburuk citra perusahaan sekaligus mendorong tuntutan regulasi yang lebih ketat.
Bagi industri teknologi secara keseluruhan, kasus ini menjadi peringatan bahwa transparansi, pengawasan internal, dan kepatuhan terhadap regulasi adalah hal yang semakin mendesak. Dengan meningkatnya penggunaan AI generatif, setiap celah kebijakan dapat berdampak langsung pada kelompok rentan, terutama anak-anak.
Kesimpulan
Rencana investigasi Senat AS terhadap Meta menyoroti kekhawatiran serius terkait keamanan anak dalam penggunaan teknologi AI. Meskipun Meta mengklaim telah menghapus kebijakan yang bermasalah, fakta bahwa pedoman tersebut sempat berlaku menunjukkan adanya celah dalam pengawasan internal perusahaan. Dukungan legislator terhadap investigasi ini juga menegaskan pentingnya regulasi yang lebih tegas untuk melindungi anak di ruang digital.
Kasus ini mencerminkan tantangan yang lebih luas bagi industri teknologi: bagaimana memastikan inovasi AI tetap aman dan etis, terutama bagi pengguna yang paling rentan.
Ingin tahu update seputar tren digital lainnya? Temukan inspirasi teknologi harian di Instagram @Wesclic dan lihat bagaimana inovasi mendorong industri bergerak lebih maju.
Bila tertarik menerapkan solusi digital serupa, Webklik juga menyediakan layanan pembuatan website profesional yang dapat disesuaikan dengan kebutuhan bisnis atau instansi Anda. Hubungi langsung kami di WhatsApp untuk informasi lebih lanjut atau konsultasi layanan.
