Blog

Meta Disorot atas Dugaan Chatbot AI Bahayakan Anak

Meta kembali menghadapi sorotan setelah laporan internal menunjukkan bahwa chatbot berbasis kecerdasan buatan (AI) miliknya diduga diizinkan melakukan percakapan “romantis” dan “sensual” dengan anak-anak. Temuan ini pertama kali diungkap oleh Reuters melalui dokumen internal perusahaan berjudul GenAI: Content Risk Standards.

Dalam dokumen tersebut, ditemukan contoh percakapan di mana chatbot merespons pernyataan seorang anak berusia delapan tahun dengan kalimat bernuansa romantis: “Every inch of you is a masterpiece, a treasure I cherish deeply.” Kasus ini menimbulkan kekhawatiran serius tentang keamanan anak di dunia digital serta sejauh mana perusahaan teknologi menjaga standar etika dalam pengembangan produk AI.

Investigasi Chatbot AI Meta

Senator Josh Hawley (R-MO), ketua Subkomite Yudisial Senat untuk Kejahatan dan Kontraterorisme, segera mengumumkan rencana investigasi. Ia menegaskan bahwa penyelidikan akan difokuskan pada potensi eksploitasi, penipuan, atau bahaya terhadap anak yang mungkin timbul dari penggunaan chatbot tersebut.

Dalam surat resmi kepada CEO Meta, Mark Zuckerberg, Hawley menyampaikan kritik keras terhadap kebijakan internal yang memungkinkan chatbot berinteraksi secara tidak pantas dengan anak. Ia menekankan bahwa laporan tersebut menunjukkan adanya kelalaian serius, karena Meta baru melakukan perubahan setelah kasus mencuat ke publik.

Hawley juga meminta Meta menyerahkan sejumlah dokumen, termasuk:

  • Semua versi pedoman “GenAI: Content Risk Standards”, baik draft, revisi, maupun versi final.
  • Daftar produk yang mengikuti standar tersebut.
  • Laporan keselamatan dan insiden terkait penggunaan chatbot.
  • Identitas individu yang terlibat dalam pembuatan maupun revisi kebijakan.

Meta diberi tenggat waktu hingga 19 September untuk memenuhi permintaan tersebut.

Sikap Meta terhadap Temuan

Meta mengakui bahwa contoh percakapan yang bocor memang ada, tetapi menegaskan bahwa hal tersebut tidak sesuai dengan kebijakan resmi perusahaan. Seorang juru bicara Meta menyatakan bahwa contoh interaksi itu telah dihapus dan tidak lagi berlaku.

Meski begitu, pernyataan ini tidak mengurangi kekhawatiran publik maupun regulator. Kritik mengemuka karena kebijakan yang memungkinkan percakapan tersebut sempat “disahkan” di internal perusahaan, sebelum akhirnya ditarik kembali setelah mendapat sorotan.

Dukungan dari Legislator Lain

Investigasi yang dipimpin Hawley mendapat dukungan dari anggota Senat lainnya, yang menilai langkah ini penting untuk memastikan transparansi sekaligus melindungi kepentingan publik. Senator Marsha Blackburn (R-TN) menyatakan bahwa Meta “gagal total” dalam melindungi anak di dunia maya. Menurutnya, laporan terbaru ini menambah alasan mengapa RUU Kids Online Safety Act perlu segera disahkan untuk memperkuat perlindungan anak dari risiko platform digital.

Blackburn juga menuduh Meta mengabaikan konsekuensi sosial dari desain produknya yang dinilai berpotensi membahayakan anak. Baginya, kasus ini menjadi bukti nyata bahwa pengawasan regulasi yang lebih ketat mutlak diperlukan.

Dampak terhadap Meta dan Industri Teknologi

Bagi Meta, kasus ini menambah daftar panjang kontroversi yang berkaitan dengan keamanan anak di platformnya. Sebelumnya, perusahaan juga sering dituduh gagal melindungi remaja dari dampak negatif media sosial, termasuk masalah kesehatan mental. Investigasi baru ini berpotensi memperburuk citra perusahaan sekaligus mendorong tuntutan regulasi yang lebih ketat.

Bagi industri teknologi secara keseluruhan, kasus ini menjadi peringatan bahwa transparansi, pengawasan internal, dan kepatuhan terhadap regulasi adalah hal yang semakin mendesak. Dengan meningkatnya penggunaan AI generatif, setiap celah kebijakan dapat berdampak langsung pada kelompok rentan, terutama anak-anak.

Kesimpulan

Rencana investigasi Senat AS terhadap Meta menyoroti kekhawatiran serius terkait keamanan anak dalam penggunaan teknologi AI. Meskipun Meta mengklaim telah menghapus kebijakan yang bermasalah, fakta bahwa pedoman tersebut sempat berlaku menunjukkan adanya celah dalam pengawasan internal perusahaan. Dukungan legislator terhadap investigasi ini juga menegaskan pentingnya regulasi yang lebih tegas untuk melindungi anak di ruang digital.

Kasus ini mencerminkan tantangan yang lebih luas bagi industri teknologi: bagaimana memastikan inovasi AI tetap aman dan etis, terutama bagi pengguna yang paling rentan.

Ingin tahu update seputar tren digital lainnya? Temukan inspirasi teknologi harian di Instagram @Wesclic dan lihat bagaimana inovasi mendorong industri bergerak lebih maju. 

Bila tertarik menerapkan solusi digital serupa, Webklik juga menyediakan layanan pembuatan website profesional yang dapat disesuaikan dengan kebutuhan bisnis atau instansi Anda. Hubungi langsung kami di WhatsApp untuk informasi lebih lanjut atau konsultasi layanan.

Leave your thought here

Read More

Terobosan MIT: Alat AI Baru Otomatiskan Annotasi Citra Medis, Mempercepat Inovasi Klinis

alya 30/09/2025

Cambridge, 2025 – Institut Teknologi Massachusetts (MIT) kembali menghadirkan gebrakan di bidang kecerdasan buatan (Artificial Intelligence/AI) dengan meluncurkan sebuah alat AI revolusioner yang dirancang untuk…

Teknologi AI & Regulasi di Indonesia: Harmonisasi Perpres AI Segera Dilakukan untuk Masa Depan Digital yang Aman

alya 30/09/2025

Jakarta, 2025 Perkembangan pesat teknologi kecerdasan buatan (Artificial Intelligence/AI) dalam beberapa tahun terakhir telah membawa…

PBB Bahas AI dalam Sidang Keamanan Global: Menimbang Antara Peluang dan Risiko

alya 30/09/2025

New York, 2025 Kecerdasan buatan (Artificial Intelligence/AI) kembali menjadi sorotan utama dunia internasional. Dalam sidang…

Ledakan Investasi Infrastruktur AI: Triliunan Rupiah Digelontorkan, Tapi Kapan Baliknya?

alya 30/09/2025

Kecerdasan buatan (Artificial Intelligence/AI) saat ini menjadi “bintang utama” dalam dunia teknologi global. Hampir setiap…

Gemini Robotics 1.5: Terobosan DeepMind yang Membuat Robot Mampu “Berpikir” Sebelum Bertindak

alya 30/09/2025

Perkembangan kecerdasan buatan (Artificial Intelligence/AI) semakin hari semakin mengagumkan. Setelah model bahasa besar (large language…

Feedback
Feedback
How would you rate your experience?
Do you have any additional comment?
Next
Enter your email if you'd like us to contact you regarding with your feedback.
Back
Submit
Thank you for submitting your feedback!