Blog

Google Gemini Kena Cap “High Risk” untuk Anak Muda

Organisasi nirlaba Common Sense Media, yang dikenal fokus pada isu keamanan anak dalam teknologi, baru saja merilis hasil penilaian risiko terhadap produk AI Google Gemini. Dalam laporannya, Gemini dinilai sebagai produk “berisiko tinggi” untuk anak-anak dan remaja. Penilaian ini dilakukan dengan menilai sejauh mana sistem AI dapat memberikan pengalaman yang aman, mendukung, atau justru menimbulkan bahaya bagi pengguna muda.

Salah satu temuan yang dianggap positif adalah Gemini dengan jelas mengidentifikasi dirinya sebagai komputer, bukan teman. Hal ini penting untuk mencegah anak-anak menganggap AI sebagai sosok nyata yang dapat menimbulkan delusi atau ketergantungan emosional. Namun, menurut Common Sense, sejumlah aspek lain masih jauh dari standar yang dibutuhkan untuk melindungi pengguna usia dini.

Kekhawatiran Utama Penggunaan Gemini

Dalam analisisnya, Common Sense menemukan bahwa Gemini tetap bisa memberikan akses terhadap konten yang dianggap tidak pantas atau berbahaya bagi anak-anak. Konten ini mencakup informasi tentang seks, narkoba, alkohol, hingga saran yang tidak aman terkait kesehatan mental.

Isu kesehatan mental menjadi perhatian khusus mengenai penggunaan AI sebagai teman bicara ini. Laporan tersebut menyoroti bahwa AI berpotensi memperburuk kerentanan emosional remaja. Kasus-kasus sebelumnya, termasuk gugatan hukum terhadap OpenAI dan Character.AI terkait kematian remaja yang diduga dipengaruhi interaksi dengan chatbot, memperkuat kekhawatiran ini.

Produk untuk Anak yang Masih Mirip Versi Dewasa

Common Sense juga menilai bahwa “Under 13” dan “Teen Experience” dalam Gemini sebenarnya hanya versi dewasa yang diberi tambahan filter pengaman. Artinya, pendekatan yang dipakai masih satu ukuran untuk semua, tanpa benar-benar memperhatikan kebutuhan perkembangan anak pada tiap tahap usia.

Robbie Torney, Direktur Senior Program AI di Common Sense, menekankan bahwa AI untuk anak harus dirancang sejak awal dengan memperhatikan kebutuhan mereka, bukan hanya adaptasi dari produk dewasa. Menurutnya, kegagalan memahami perbedaan kebutuhan usia membuat Gemini dinilai berisiko tinggi meskipun ada filter tambahan.

Respons Google Gemini terhadap Kritik

Menanggapi laporan ini, Google menyatakan pihaknya telah menambahkan lapisan perlindungan baru dan terus memperbaiki fitur keamanan. Perusahaan juga menekankan adanya kebijakan khusus bagi pengguna di bawah 18 tahun, termasuk uji red-teaming dan konsultasi dengan pakar eksternal.

Google mengakui bahwa masih ada respons Gemini yang tidak bekerja sesuai rencana. Oleh karena itu, penyesuaian tambahan dilakukan untuk mengatasi potensi celah. Selain itu, perusahaan menegaskan bahwa Gemini tidak dirancang untuk menciptakan kesan hubungan nyata dengan pengguna, sejalan dengan kekhawatiran yang disebutkan dalam laporan.

Namun, Google juga menyampaikan bahwa laporan Common Sense mungkin melibatkan fitur yang sebenarnya tidak tersedia bagi pengguna di bawah 18 tahun. Perusahaan menyebut keterbatasan transparansi dalam metode pengujian sebagai salah satu kelemahan laporan tersebut.

Gemini VS AI Lain

Penilaian terhadap Gemini tidak dilakukan dalam ruang kosong. Common Sense Media juga telah melakukan evaluasi terhadap sejumlah layanan AI lain. Hasilnya bervariasi, mulai dari “risiko minimal” hingga “tidak dapat diterima.”

  • Claude (Anthropic): dinilai berisiko minimal, karena jelas ditujukan untuk pengguna dewasa.
  • ChatGPT (OpenAI): mendapat label “risiko moderat,” dengan perlindungan yang lebih baik namun masih menyisakan potensi masalah.
  • Perplexity: dikategorikan berisiko tinggi, selevel dengan Gemini.
  • Meta AI dan Character.AI: dinyatakan “tidak dapat diterima” karena risikonya dianggap sangat berat.

Dari perbandingan ini, terlihat bahwa industri AI secara umum masih menghadapi tantangan besar dalam menghadirkan produk yang aman bagi anak dan remaja.

Implikasi Google Gemini

Laporan ini muncul di tengah kabar bahwa Apple sedang mempertimbangkan untuk menggunakan Gemini sebagai model bahasa besar (LLM) yang akan mendukung Siri generasi baru. Jika rencana ini benar, potensi paparan anak-anak dan remaja terhadap Gemini bisa semakin besar. Hal ini membuat isu keamanan semakin mendesak untuk ditangani sebelum fitur diluncurkan secara luas.

Selain itu, hasil penilaian ini memberi sinyal kepada perusahaan teknologi lain untuk meninjau kembali strategi mereka. Membuat AI yang aman bagi semua usia memerlukan pendekatan khusus yang memperhatikan psikologi perkembangan, bukan hanya penyaringan konten permukaan.

Kesimpulan

Penilaian Common Sense Media menempatkan Google Gemini sebagai produk AI dengan risiko tinggi bagi anak dan remaja. Meskipun Google telah mengembangkan sejumlah filter dan kebijakan, kritik utama tetap pada fakta bahwa sistem ini masih berakar dari versi dewasa, bukan hasil perancangan khusus untuk anak.

Perbandingan dengan layanan AI lain memperlihatkan bahwa masalah keamanan anak bukan hanya milik Google, melainkan tantangan besar bagi seluruh industri. Dengan semakin meluasnya penggunaan AI dalam kehidupan sehari-hari, tuntutan agar produk dirancang secara bertanggung jawab dari awal menjadi semakin penting.

Ingin tahu update seputar tren digital lainnya? Temukan inspirasi teknologi harian di Instagram @Wesclic dan lihat bagaimana inovasi mendorong industri bergerak lebih maju. 

Bila tertarik menerapkan solusi digital serupa, Webklik juga menyediakan layanan pembuatan website profesional yang dapat disesuaikan dengan kebutuhan bisnis atau instansi Anda. Hubungi langsung kami di WhatsApp untuk informasi lebih lanjut atau konsultasi layanan.

Leave your thought here

Read More

Vercel Raih Pendanaan US$300 Juta, Valuasi Tembus US$9,3 Miliar: Dorong Masa Depan Pengembangan Web Berbasis AI

alya 02/10/2025

Industri teknologi kembali diwarnai kabar besar dari ranah startup global. Vercel, perusahaan asal Amerika Serikat yang dikenal sebagai pengembang platform hosting modern untuk aplikasi web,…

OpenAI Luncurkan Sora 2: Model AI Generasi Video dengan Realisme Tinggi dan Kontrol Lebih Detail

alya 02/10/2025

OpenAI kembali menjadi sorotan global dengan memperkenalkan Sora 2, sebuah model kecerdasan buatan terbaru yang…

Meta Siap Ambil Alih Startup Chip Rivos: Perkuat Infrastruktur Semikonduktor Internal untuk Dorong AI

alya 02/10/2025

Meta Platforms Inc., perusahaan induk Facebook, Instagram, dan WhatsApp, kembali membuat langkah strategis dalam peta…

Claude Sonnet 4.5 Resmi Diluncurkan: Anthropic Klaim Model AI Terbaik untuk Coding di Dunia

alya 02/10/2025

Perusahaan kecerdasan buatan (AI) Anthropic kembali membuat gebrakan besar dalam industri teknologi dengan meluncurkan Claude…

Cerebras Systems Kumpulkan US$1,1 Miliar, Tantang Dominasi Nvidia di Pasar Chip AI

alya 02/10/2025

Industri kecerdasan buatan (AI) kembali diguncang kabar besar. Cerebras Systems, perusahaan rintisan asal Silicon Valley…

Feedback
Feedback
How would you rate your experience?
Do you have any additional comment?
Next
Enter your email if you'd like us to contact you regarding with your feedback.
Back
Submit
Thank you for submitting your feedback!