Blog

Google Gemini Kena Cap “High Risk” untuk Anak Muda

Organisasi nirlaba Common Sense Media, yang dikenal fokus pada isu keamanan anak dalam teknologi, baru saja merilis hasil penilaian risiko terhadap produk AI Google Gemini. Dalam laporannya, Gemini dinilai sebagai produk “berisiko tinggi” untuk anak-anak dan remaja. Penilaian ini dilakukan dengan menilai sejauh mana sistem AI dapat memberikan pengalaman yang aman, mendukung, atau justru menimbulkan bahaya bagi pengguna muda.

Salah satu temuan yang dianggap positif adalah Gemini dengan jelas mengidentifikasi dirinya sebagai komputer, bukan teman. Hal ini penting untuk mencegah anak-anak menganggap AI sebagai sosok nyata yang dapat menimbulkan delusi atau ketergantungan emosional. Namun, menurut Common Sense, sejumlah aspek lain masih jauh dari standar yang dibutuhkan untuk melindungi pengguna usia dini.

Kekhawatiran Utama Penggunaan Gemini

Dalam analisisnya, Common Sense menemukan bahwa Gemini tetap bisa memberikan akses terhadap konten yang dianggap tidak pantas atau berbahaya bagi anak-anak. Konten ini mencakup informasi tentang seks, narkoba, alkohol, hingga saran yang tidak aman terkait kesehatan mental.

Isu kesehatan mental menjadi perhatian khusus mengenai penggunaan AI sebagai teman bicara ini. Laporan tersebut menyoroti bahwa AI berpotensi memperburuk kerentanan emosional remaja. Kasus-kasus sebelumnya, termasuk gugatan hukum terhadap OpenAI dan Character.AI terkait kematian remaja yang diduga dipengaruhi interaksi dengan chatbot, memperkuat kekhawatiran ini.

Produk untuk Anak yang Masih Mirip Versi Dewasa

Common Sense juga menilai bahwa “Under 13” dan “Teen Experience” dalam Gemini sebenarnya hanya versi dewasa yang diberi tambahan filter pengaman. Artinya, pendekatan yang dipakai masih satu ukuran untuk semua, tanpa benar-benar memperhatikan kebutuhan perkembangan anak pada tiap tahap usia.

Robbie Torney, Direktur Senior Program AI di Common Sense, menekankan bahwa AI untuk anak harus dirancang sejak awal dengan memperhatikan kebutuhan mereka, bukan hanya adaptasi dari produk dewasa. Menurutnya, kegagalan memahami perbedaan kebutuhan usia membuat Gemini dinilai berisiko tinggi meskipun ada filter tambahan.

Respons Google Gemini terhadap Kritik

Menanggapi laporan ini, Google menyatakan pihaknya telah menambahkan lapisan perlindungan baru dan terus memperbaiki fitur keamanan. Perusahaan juga menekankan adanya kebijakan khusus bagi pengguna di bawah 18 tahun, termasuk uji red-teaming dan konsultasi dengan pakar eksternal.

Google mengakui bahwa masih ada respons Gemini yang tidak bekerja sesuai rencana. Oleh karena itu, penyesuaian tambahan dilakukan untuk mengatasi potensi celah. Selain itu, perusahaan menegaskan bahwa Gemini tidak dirancang untuk menciptakan kesan hubungan nyata dengan pengguna, sejalan dengan kekhawatiran yang disebutkan dalam laporan.

Namun, Google juga menyampaikan bahwa laporan Common Sense mungkin melibatkan fitur yang sebenarnya tidak tersedia bagi pengguna di bawah 18 tahun. Perusahaan menyebut keterbatasan transparansi dalam metode pengujian sebagai salah satu kelemahan laporan tersebut.

Gemini VS AI Lain

Penilaian terhadap Gemini tidak dilakukan dalam ruang kosong. Common Sense Media juga telah melakukan evaluasi terhadap sejumlah layanan AI lain. Hasilnya bervariasi, mulai dari “risiko minimal” hingga “tidak dapat diterima.”

  • Claude (Anthropic): dinilai berisiko minimal, karena jelas ditujukan untuk pengguna dewasa.
  • ChatGPT (OpenAI): mendapat label “risiko moderat,” dengan perlindungan yang lebih baik namun masih menyisakan potensi masalah.
  • Perplexity: dikategorikan berisiko tinggi, selevel dengan Gemini.
  • Meta AI dan Character.AI: dinyatakan “tidak dapat diterima” karena risikonya dianggap sangat berat.

Dari perbandingan ini, terlihat bahwa industri AI secara umum masih menghadapi tantangan besar dalam menghadirkan produk yang aman bagi anak dan remaja.

Implikasi Google Gemini

Laporan ini muncul di tengah kabar bahwa Apple sedang mempertimbangkan untuk menggunakan Gemini sebagai model bahasa besar (LLM) yang akan mendukung Siri generasi baru. Jika rencana ini benar, potensi paparan anak-anak dan remaja terhadap Gemini bisa semakin besar. Hal ini membuat isu keamanan semakin mendesak untuk ditangani sebelum fitur diluncurkan secara luas.

Selain itu, hasil penilaian ini memberi sinyal kepada perusahaan teknologi lain untuk meninjau kembali strategi mereka. Membuat AI yang aman bagi semua usia memerlukan pendekatan khusus yang memperhatikan psikologi perkembangan, bukan hanya penyaringan konten permukaan.

Kesimpulan

Penilaian Common Sense Media menempatkan Google Gemini sebagai produk AI dengan risiko tinggi bagi anak dan remaja. Meskipun Google telah mengembangkan sejumlah filter dan kebijakan, kritik utama tetap pada fakta bahwa sistem ini masih berakar dari versi dewasa, bukan hasil perancangan khusus untuk anak.

Perbandingan dengan layanan AI lain memperlihatkan bahwa masalah keamanan anak bukan hanya milik Google, melainkan tantangan besar bagi seluruh industri. Dengan semakin meluasnya penggunaan AI dalam kehidupan sehari-hari, tuntutan agar produk dirancang secara bertanggung jawab dari awal menjadi semakin penting.

Ingin tahu update seputar tren digital lainnya? Temukan inspirasi teknologi harian di Instagram @Wesclic dan lihat bagaimana inovasi mendorong industri bergerak lebih maju. 

Bila tertarik menerapkan solusi digital serupa, Webklik juga menyediakan layanan pembuatan website profesional yang dapat disesuaikan dengan kebutuhan bisnis atau instansi Anda. Hubungi langsung kami di WhatsApp untuk informasi lebih lanjut atau konsultasi layanan.

Leave your thought here

Read More

Yamaha Motor Luncurkan Cobot 7-Axis Terbaru: Revolusi Robot Kolaboratif Cerdas untuk Otomasi Industri Modern

alya 23/10/2025

Jakarta, 23 Oktober 2025 Yamaha Motor Co., Ltd. kembali mencuri perhatian dunia teknologi industri dengan peluncuran cobot (collaborative robot) terbaru mereka, yang mengusung desain 7-axis…

Lazarus Group Serang Industri Drone Eropa: Aksi Siber Korea Utara untuk Curi Teknologi UAV Terbaru Terungkap

alya 23/10/2025

Jakarta, 23 Oktober 2025 Dunia keamanan siber kembali diguncang oleh laporan terbaru yang mengungkap bahwa…

Korea Selatan Perluas Sayap Teknologi di Jepang: NIPA Bawa 50 Perusahaan K-ICT ke Japan IT Week Autumn 2025

alya 23/10/2025

Tokyo, 23 Oktober 2025  Dalam upaya memperkuat pengaruh industri teknologi informasi dan komunikasi (ICT) Korea…

OpenAI Siap Luncurkan “ChatGPT Atlas”: Browser AI Generasi Baru yang Bisa Menavigasi Web Seperti Asisten Pribadi Digital

alya 23/10/2025

San Francisco, Oktober 2025 Perusahaan pengembang kecerdasan buatan terkemuka, OpenAI, kembali mencetak tonggak baru di…

ASEAN dan Jepang Bersatu di AJCCA 2025: Membangun Perisai Siber Asia untuk Hadapi Ancaman Digital Global

alya 23/10/2025

Tokyo, 23 Oktober 2025 Dalam langkah strategis menghadapi meningkatnya ancaman siber global, negara-negara ASEAN bersama…

Feedback
Feedback
How would you rate your experience?
Do you have any additional comment?
Next
Enter your email if you'd like us to contact you regarding with your feedback.
Back
Submit
Thank you for submitting your feedback!