Blog

Meta Disorot atas Dugaan Chatbot AI Bahayakan Anak

Meta kembali menghadapi sorotan setelah laporan internal menunjukkan bahwa chatbot berbasis kecerdasan buatan (AI) miliknya diduga diizinkan melakukan percakapan “romantis” dan “sensual” dengan anak-anak. Temuan ini pertama kali diungkap oleh Reuters melalui dokumen internal perusahaan berjudul GenAI: Content Risk Standards.

Dalam dokumen tersebut, ditemukan contoh percakapan di mana chatbot merespons pernyataan seorang anak berusia delapan tahun dengan kalimat bernuansa romantis: “Every inch of you is a masterpiece, a treasure I cherish deeply.” Kasus ini menimbulkan kekhawatiran serius tentang keamanan anak di dunia digital serta sejauh mana perusahaan teknologi menjaga standar etika dalam pengembangan produk AI.

Investigasi Chatbot AI Meta

Senator Josh Hawley (R-MO), ketua Subkomite Yudisial Senat untuk Kejahatan dan Kontraterorisme, segera mengumumkan rencana investigasi. Ia menegaskan bahwa penyelidikan akan difokuskan pada potensi eksploitasi, penipuan, atau bahaya terhadap anak yang mungkin timbul dari penggunaan chatbot tersebut.

Dalam surat resmi kepada CEO Meta, Mark Zuckerberg, Hawley menyampaikan kritik keras terhadap kebijakan internal yang memungkinkan chatbot berinteraksi secara tidak pantas dengan anak. Ia menekankan bahwa laporan tersebut menunjukkan adanya kelalaian serius, karena Meta baru melakukan perubahan setelah kasus mencuat ke publik.

Hawley juga meminta Meta menyerahkan sejumlah dokumen, termasuk:

  • Semua versi pedoman “GenAI: Content Risk Standards”, baik draft, revisi, maupun versi final.
  • Daftar produk yang mengikuti standar tersebut.
  • Laporan keselamatan dan insiden terkait penggunaan chatbot.
  • Identitas individu yang terlibat dalam pembuatan maupun revisi kebijakan.

Meta diberi tenggat waktu hingga 19 September untuk memenuhi permintaan tersebut.

Sikap Meta terhadap Temuan

Meta mengakui bahwa contoh percakapan yang bocor memang ada, tetapi menegaskan bahwa hal tersebut tidak sesuai dengan kebijakan resmi perusahaan. Seorang juru bicara Meta menyatakan bahwa contoh interaksi itu telah dihapus dan tidak lagi berlaku.

Meski begitu, pernyataan ini tidak mengurangi kekhawatiran publik maupun regulator. Kritik mengemuka karena kebijakan yang memungkinkan percakapan tersebut sempat “disahkan” di internal perusahaan, sebelum akhirnya ditarik kembali setelah mendapat sorotan.

Dukungan dari Legislator Lain

Investigasi yang dipimpin Hawley mendapat dukungan dari anggota Senat lainnya, yang menilai langkah ini penting untuk memastikan transparansi sekaligus melindungi kepentingan publik. Senator Marsha Blackburn (R-TN) menyatakan bahwa Meta “gagal total” dalam melindungi anak di dunia maya. Menurutnya, laporan terbaru ini menambah alasan mengapa RUU Kids Online Safety Act perlu segera disahkan untuk memperkuat perlindungan anak dari risiko platform digital.

Blackburn juga menuduh Meta mengabaikan konsekuensi sosial dari desain produknya yang dinilai berpotensi membahayakan anak. Baginya, kasus ini menjadi bukti nyata bahwa pengawasan regulasi yang lebih ketat mutlak diperlukan.

Dampak terhadap Meta dan Industri Teknologi

Bagi Meta, kasus ini menambah daftar panjang kontroversi yang berkaitan dengan keamanan anak di platformnya. Sebelumnya, perusahaan juga sering dituduh gagal melindungi remaja dari dampak negatif media sosial, termasuk masalah kesehatan mental. Investigasi baru ini berpotensi memperburuk citra perusahaan sekaligus mendorong tuntutan regulasi yang lebih ketat.

Bagi industri teknologi secara keseluruhan, kasus ini menjadi peringatan bahwa transparansi, pengawasan internal, dan kepatuhan terhadap regulasi adalah hal yang semakin mendesak. Dengan meningkatnya penggunaan AI generatif, setiap celah kebijakan dapat berdampak langsung pada kelompok rentan, terutama anak-anak.

Kesimpulan

Rencana investigasi Senat AS terhadap Meta menyoroti kekhawatiran serius terkait keamanan anak dalam penggunaan teknologi AI. Meskipun Meta mengklaim telah menghapus kebijakan yang bermasalah, fakta bahwa pedoman tersebut sempat berlaku menunjukkan adanya celah dalam pengawasan internal perusahaan. Dukungan legislator terhadap investigasi ini juga menegaskan pentingnya regulasi yang lebih tegas untuk melindungi anak di ruang digital.

Kasus ini mencerminkan tantangan yang lebih luas bagi industri teknologi: bagaimana memastikan inovasi AI tetap aman dan etis, terutama bagi pengguna yang paling rentan.

Ingin tahu update seputar tren digital lainnya? Temukan inspirasi teknologi harian di Instagram @Wesclic dan lihat bagaimana inovasi mendorong industri bergerak lebih maju. 

Bila tertarik menerapkan solusi digital serupa, Webklik juga menyediakan layanan pembuatan website profesional yang dapat disesuaikan dengan kebutuhan bisnis atau instansi Anda. Hubungi langsung kami di WhatsApp untuk informasi lebih lanjut atau konsultasi layanan.

Leave your thought here

Read More

Honor Magic 8 Pro: Smartphone AI “Otomatis Berevolusi” dengan Tombol AI Khusus yang Ubah Cara Kita Berinteraksi dengan Teknologi

alya 21/10/2025

Jakarta, Oktober 2025  Dunia smartphone kembali diguncang oleh gebrakan terbaru dari Honor, yang resmi meluncurkan perangkat flagship terbarunya Honor Magic 8 Pro, di mana kecerdasan…

Putra Mahkota Dubai Luncurkan Platform AI & Program Startup: Langkah Ambisius Menuju Ekonomi Digital Terpadu

alya 21/10/2025

Dubai, Oktober 2025 Dalam langkah strategis yang memperkuat posisinya sebagai pusat teknologi global, Putra Mahkota…

CEO NVIDIA Jensen Huang Hadiri KTT APEC 2025 di Korea Selatan: Bahas Masa Depan AI, Robotika, dan Kendaraan Otonom Bersama Raksasa Teknologi Asia

alya 21/10/2025

Seoul, Korea Selatan Oktober 2025 CEO NVIDIA, Jensen Huang, dikonfirmasi akan menghadiri KTT APEC CEO…

Alibaba Cloud Resmikan Data Center Kedua di Dubai: Perkuat Ekosistem Cloud & AI di Timur Tengah

alya 20/10/2025

Dubai, Oktober 2025 Alibaba Cloud, divisi komputasi awan dari raksasa teknologi Tiongkok Alibaba Group, secara…

Bayangan Gelap Revolusi AI: Ketika Kecerdasan Buatan Menciptakan Kelas Sosial Baru di Dunia Digital

alya 19/10/2025

Di tengah gempita revolusi teknologi dan kecerdasan buatan (AI), muncul satu kekhawatiran mendalam yang diangkat…

Feedback
Feedback
How would you rate your experience?
Do you have any additional comment?
Next
Enter your email if you'd like us to contact you regarding with your feedback.
Back
Submit
Thank you for submitting your feedback!