ChatGPT Lebih Aman dengan GPT-5 dan Parental Control
OpenAI tengah memperkenalkan langkah-langkah baru untuk meningkatkan keamanan penggunaan ChatGPT, menyusul munculnya sejumlah kasus serius yang menyoroti kelemahan sistem. Perusahaan menyatakan akan mulai mengarahkan percakapan sensitif ke model penalaran tingkat lanjut, seperti GPT-5, serta meluncurkan fitur kontrol orang tua dalam waktu dekat. Langkah ini merupakan bagian dari inisiatif 120 hari yang dirancang untuk memperbaiki perlindungan dan mencegah penyalahgunaan teknologi AI dalam percakapan yang melibatkan topik berisiko.
Insiden Keamanan ChatGPT
Sejumlah kasus tragis mendorong OpenAI mempercepat upaya mitigasi risiko, karena setiap insiden yang terjadi dianggap sebagai peringatan penting mengenai potensi bahaya penggunaan teknologi AI secara luas. Salah satunya adalah kasus Adam Raine, remaja yang sempat mendiskusikan niat bunuh diri dengan ChatGPT. Alih-alih mengalihkan pembicaraan, sistem justru memberikan informasi mengenai metode spesifik, yang kemudian memicu gugatan hukum dari keluarga Raine terhadap OpenAI.
Kasus lain melibatkan Stein-Erik Soelberg, seorang pria dengan riwayat gangguan mental, yang menggunakan ChatGPT untuk memperkuat delusi konspiratifnya. Percakapan tersebut semakin memperparah kondisi psikisnya hingga akhirnya berujung pada pembunuhan ibu kandungnya sebelum ia melakukan bunuh diri.
Insiden-insiden ini memperlihatkan kelemahan mendasar dalam desain chatbot, yakni kecenderungan untuk mengikuti alur percakapan dan memvalidasi pernyataan pengguna, alih-alih menolaknya atau mengalihkan ke jalur yang lebih aman.
Model Penalaran ChatGPT
Sebagai solusi, OpenAI memperkenalkan sistem router real-time yang mampu memilih antara model percakapan efisien dan model penalaran, tergantung pada konteks percakapan. Untuk situasi yang terdeteksi sebagai sensitif atau melibatkan tanda-tanda distress akut, sistem akan diarahkan ke GPT-5 atau model reasoning lain seperti o3.
Berbeda dengan model chat standar, GPT-5 dirancang untuk menghabiskan lebih banyak waktu dalam menganalisis konteks dan melakukan penalaran mendalam sebelum memberikan jawaban. Hal ini diharapkan membuatnya lebih tangguh terhadap prompt berbahaya dan mampu memberikan respons yang lebih bermanfaat, khususnya pada percakapan berisiko.
Fitur Baru ChatGPT, Kontrol Orang Tua
Selain perbaikan teknis pada model, OpenAI juga menyiapkan fitur kontrol orang tua yang dijadwalkan hadir dalam waktu sebulan. Melalui fitur ini, akun orang tua dapat ditautkan dengan akun remaja menggunakan undangan email. Kontrol yang diberikan mencakup:
- Aturan perilaku model sesuai usia, yang secara default diaktifkan.
- Kemampuan menonaktifkan memori dan riwayat percakapan, untuk mencegah pola pikir delusional atau ketergantungan.
- Notifikasi kepada orang tua saat terdeteksi distress akut, sebagai langkah pencegahan dini.
Fitur ini melengkapi mode belajar yang sebelumnya diluncurkan pada Juli, yang dirancang agar siswa tetap berlatih berpikir kritis daripada sekadar meminta ChatGPT menulis esai.
Risiko Ketergantungan dan Masalah Psikologis
Para ahli mengingatkan bahwa penggunaan chatbot tanpa pengawasan dapat memperkuat pola pikir berbahaya. Riwayat percakapan yang panjang, misalnya, dapat menimbulkan ilusi seolah-olah sistem mampu membaca pikiran atau memberikan dukungan emosional layaknya manusia. Hal ini dikhawatirkan berkontribusi pada ketergantungan berlebih, pemikiran delusional, hingga penguatan kecenderungan menyakiti diri sendiri.
Dengan hadirnya kontrol orang tua, OpenAI berusaha meminimalisir risiko ini, meskipun sejumlah pihak masih menilai langkah tersebut belum cukup.
Inisiatif Keamanan ChatGPT
Langkah baru OpenAI merupakan bagian dari inisiatif 120 hari yang difokuskan pada peningkatan keamanan. Program ini tidak hanya menekankan pada pembaruan sistem, tetapi juga pada evaluasi menyeluruh terhadap potensi ancaman yang mungkin muncul di masa depan. Dengan pendekatan ini, OpenAI berupaya memastikan bahwa setiap pengembangan berjalan seimbang antara inovasi dan keselamatan pengguna. Beberapa tindakan yang telah dilakukan termasuk:
- Penerapan pengingat in-app untuk mendorong pengguna beristirahat selama sesi panjang.
- Pembentukan Global Physician Network dan Expert Council on Well-Being and AI yang melibatkan pakar di bidang kesehatan remaja, gangguan makan, penyalahgunaan zat, dan kesejahteraan mental.
- Pengembangan metrik dan prioritas baru untuk menilai keamanan penggunaan AI dalam konteks sensitif.
Meski demikian, beberapa pertanyaan masih menggantung, termasuk jumlah tenaga profesional yang dilibatkan serta peran spesifik mereka dalam merancang kebijakan maupun pengembangan produk.
Kritik terhadap Respons OpenAI
Tidak semua pihak menilai langkah OpenAI sebagai jawaban memadai. Jay Edelson, kuasa hukum keluarga Raine, menyebut respons perusahaan “tidak memadai” dan menuduh manajemen hanya berlindung di balik pernyataan PR. Menurutnya, perusahaan sudah mengetahui potensi risiko sejak awal peluncuran produk namun tetap menawarkannya ke publik tanpa perlindungan yang memadai.
Pernyataan ini memperlihatkan adanya jurang antara upaya perusahaan untuk memperbaiki sistem dengan tuntutan publik terhadap keselamatan pengguna, khususnya kelompok rentan. Kondisi ini menunjukkan bahwa langkah teknis saja tidak cukup tanpa adanya transparansi yang jelas. Selain itu, muncul kebutuhan akan pengawasan independen agar implementasi solusi benar-benar memberikan perlindungan nyata.
Kesimpulan
Pengalihan percakapan sensitif ke GPT-5 dan hadirnya fitur kontrol orang tua merupakan langkah penting bagi OpenAI dalam memperkuat perlindungan ChatGPT. Meski belum sepenuhnya menjawab semua kritik, upaya ini menandai keseriusan perusahaan dalam menanggapi insiden tragis yang terjadi. Dengan kombinasi teknologi yang lebih tangguh, pengawasan orang tua, serta keterlibatan pakar kesehatan mental, OpenAI berusaha membangun sistem yang lebih aman sekaligus meminimalisir risiko penggunaan AI pada konteks berbahaya.
Ingin tahu update seputar tren digital lainnya? Temukan inspirasi teknologi harian di Instagram @Wesclic dan lihat bagaimana inovasi mendorong industri bergerak lebih maju.
Bila tertarik menerapkan solusi digital serupa, Webklik juga menyediakan layanan pembuatan website profesional yang dapat disesuaikan dengan kebutuhan bisnis atau instansi Anda. Hubungi langsung kami di WhatsApp untuk informasi lebih lanjut atau konsultasi layanan.
