Google Gemini Kena Cap “High Risk” untuk Anak Muda
Organisasi nirlaba Common Sense Media, yang dikenal fokus pada isu keamanan anak dalam teknologi, baru saja merilis hasil penilaian risiko terhadap produk AI Google Gemini. Dalam laporannya, Gemini dinilai sebagai produk “berisiko tinggi” untuk anak-anak dan remaja. Penilaian ini dilakukan dengan menilai sejauh mana sistem AI dapat memberikan pengalaman yang aman, mendukung, atau justru menimbulkan bahaya bagi pengguna muda.
Salah satu temuan yang dianggap positif adalah Gemini dengan jelas mengidentifikasi dirinya sebagai komputer, bukan teman. Hal ini penting untuk mencegah anak-anak menganggap AI sebagai sosok nyata yang dapat menimbulkan delusi atau ketergantungan emosional. Namun, menurut Common Sense, sejumlah aspek lain masih jauh dari standar yang dibutuhkan untuk melindungi pengguna usia dini.
Kekhawatiran Utama Penggunaan Gemini
Dalam analisisnya, Common Sense menemukan bahwa Gemini tetap bisa memberikan akses terhadap konten yang dianggap tidak pantas atau berbahaya bagi anak-anak. Konten ini mencakup informasi tentang seks, narkoba, alkohol, hingga saran yang tidak aman terkait kesehatan mental.
Isu kesehatan mental menjadi perhatian khusus mengenai penggunaan AI sebagai teman bicara ini. Laporan tersebut menyoroti bahwa AI berpotensi memperburuk kerentanan emosional remaja. Kasus-kasus sebelumnya, termasuk gugatan hukum terhadap OpenAI dan Character.AI terkait kematian remaja yang diduga dipengaruhi interaksi dengan chatbot, memperkuat kekhawatiran ini.
Produk untuk Anak yang Masih Mirip Versi Dewasa
Common Sense juga menilai bahwa “Under 13” dan “Teen Experience” dalam Gemini sebenarnya hanya versi dewasa yang diberi tambahan filter pengaman. Artinya, pendekatan yang dipakai masih satu ukuran untuk semua, tanpa benar-benar memperhatikan kebutuhan perkembangan anak pada tiap tahap usia.
Robbie Torney, Direktur Senior Program AI di Common Sense, menekankan bahwa AI untuk anak harus dirancang sejak awal dengan memperhatikan kebutuhan mereka, bukan hanya adaptasi dari produk dewasa. Menurutnya, kegagalan memahami perbedaan kebutuhan usia membuat Gemini dinilai berisiko tinggi meskipun ada filter tambahan.
Respons Google Gemini terhadap Kritik
Menanggapi laporan ini, Google menyatakan pihaknya telah menambahkan lapisan perlindungan baru dan terus memperbaiki fitur keamanan. Perusahaan juga menekankan adanya kebijakan khusus bagi pengguna di bawah 18 tahun, termasuk uji red-teaming dan konsultasi dengan pakar eksternal.
Google mengakui bahwa masih ada respons Gemini yang tidak bekerja sesuai rencana. Oleh karena itu, penyesuaian tambahan dilakukan untuk mengatasi potensi celah. Selain itu, perusahaan menegaskan bahwa Gemini tidak dirancang untuk menciptakan kesan hubungan nyata dengan pengguna, sejalan dengan kekhawatiran yang disebutkan dalam laporan.
Namun, Google juga menyampaikan bahwa laporan Common Sense mungkin melibatkan fitur yang sebenarnya tidak tersedia bagi pengguna di bawah 18 tahun. Perusahaan menyebut keterbatasan transparansi dalam metode pengujian sebagai salah satu kelemahan laporan tersebut.
Gemini VS AI Lain
Penilaian terhadap Gemini tidak dilakukan dalam ruang kosong. Common Sense Media juga telah melakukan evaluasi terhadap sejumlah layanan AI lain. Hasilnya bervariasi, mulai dari “risiko minimal” hingga “tidak dapat diterima.”
- Claude (Anthropic): dinilai berisiko minimal, karena jelas ditujukan untuk pengguna dewasa.
- ChatGPT (OpenAI): mendapat label “risiko moderat,” dengan perlindungan yang lebih baik namun masih menyisakan potensi masalah.
- Perplexity: dikategorikan berisiko tinggi, selevel dengan Gemini.
- Meta AI dan Character.AI: dinyatakan “tidak dapat diterima” karena risikonya dianggap sangat berat.
Dari perbandingan ini, terlihat bahwa industri AI secara umum masih menghadapi tantangan besar dalam menghadirkan produk yang aman bagi anak dan remaja.
Implikasi Google Gemini
Laporan ini muncul di tengah kabar bahwa Apple sedang mempertimbangkan untuk menggunakan Gemini sebagai model bahasa besar (LLM) yang akan mendukung Siri generasi baru. Jika rencana ini benar, potensi paparan anak-anak dan remaja terhadap Gemini bisa semakin besar. Hal ini membuat isu keamanan semakin mendesak untuk ditangani sebelum fitur diluncurkan secara luas.
Selain itu, hasil penilaian ini memberi sinyal kepada perusahaan teknologi lain untuk meninjau kembali strategi mereka. Membuat AI yang aman bagi semua usia memerlukan pendekatan khusus yang memperhatikan psikologi perkembangan, bukan hanya penyaringan konten permukaan.
Kesimpulan
Penilaian Common Sense Media menempatkan Google Gemini sebagai produk AI dengan risiko tinggi bagi anak dan remaja. Meskipun Google telah mengembangkan sejumlah filter dan kebijakan, kritik utama tetap pada fakta bahwa sistem ini masih berakar dari versi dewasa, bukan hasil perancangan khusus untuk anak.
Perbandingan dengan layanan AI lain memperlihatkan bahwa masalah keamanan anak bukan hanya milik Google, melainkan tantangan besar bagi seluruh industri. Dengan semakin meluasnya penggunaan AI dalam kehidupan sehari-hari, tuntutan agar produk dirancang secara bertanggung jawab dari awal menjadi semakin penting.
Ingin tahu update seputar tren digital lainnya? Temukan inspirasi teknologi harian di Instagram @Wesclic dan lihat bagaimana inovasi mendorong industri bergerak lebih maju.
Bila tertarik menerapkan solusi digital serupa, Webklik juga menyediakan layanan pembuatan website profesional yang dapat disesuaikan dengan kebutuhan bisnis atau instansi Anda. Hubungi langsung kami di WhatsApp untuk informasi lebih lanjut atau konsultasi layanan.
