OpenAI Hadirkan Fitur Kontrol Orang Tua dan Mode Perlindungan Percakapan Sensitif

OpenAI mengumumkan pada Selasa (2/9/21025) bahwa mereka berencana mengarahkan percakapan sensitif ke model penalaran seperti GPT-5 serta meluncurkan kontrol orang tua dalam waktu dekat.

Langkah ini merupakan bagian dari respons OpenAI terhadap insiden keamanan terbaru yang melibatkan ChatGPT, yang gagal mendeteksi tekanan mental pada penggunanya.

Pagar pembatas baru ini muncul setelah kasus tragis seorang remaja bernama Adam Raine yang bunuh diri.

Sebelumnya, Adam sempat berbicara dengan ChatGPT tentang rencana untuk mengakhiri hidupnya, bahkan mendapat informasi tentang metode bunuh diri dari chatbot itu. Orang tua Adam lalu mengajukan gugatan atas kematian yang tidak wajar kepada OpenAI.

Dalam sebuah postingan blog pekan lalu, OpenAI mengakui adanya kekurangan dalam sistem keamanannya, terutama dalam menjaga batasan selama percakapan panjang.

Para ahli menjelaskan bahwa masalah ini terkait dengan desain dasar model, yang cenderung memvalidasi pernyataan pengguna dan mengikuti alur percakapan, sehingga sulit mengalihkan diskusi yang berpotensi membahayakan.

Sebagai solusi, OpenAI berencana mengalihkan secara otomatis percakapan yang dianggap sensitif ke model penalaran, seperti GPT-5.

“Kami baru-baru ini memperkenalkan router real-time yang dapat memilih antara model obrolan efisien dan model penalaran berdasarkan konteks,” tulis OpenAI.

“Kami akan mulai merutekan percakapan sensitif—misalnya ketika ada tanda gangguan akut—ke model penalaran seperti GPT-5, agar respons yang diberikan lebih membantu dan bermanfaat.”

Model GPT-5 dan versi terbaru lainnya dirancang untuk berpikir lebih lama dan bernalar lebih mendalam sebelum memberikan jawaban. Dengan demikian, model ini lebih tahan terhadap perintah yang berpotensi merugikan.

Selain itu, OpenAI akan meluncurkan fitur kontrol orang tua dalam waktu dekat. Fitur ini memungkinkan orang tua menghubungkan akun mereka dengan akun anak remaja melalui undangan email.

Orang tua bisa mengatur aturan perilaku model yang sesuai usia, yang aktif secara default, dan menonaktifkan fitur seperti memori serta riwayat obrolan.

Menurut para ahli, fitur tersebut dapat membantu mencegah delusi, ketergantungan berlebihan, dan pola pikir merugikan yang bisa timbul dari interaksi berlebihan dengan AI.

Kontrol orangtua ini juga memungkinkan orang tua menerima notifikasi apabila sistem mendeteksi anak mereka mengalami “kesulitan akut.”

Pada akhir Juli, OpenAI juga telah meluncurkan Mode Belajar di ChatGPT untuk membantu siswa mempertahankan kemampuan berpikir kritis saat belajar, bukan hanya sekadar menulis esai.

TechCrunch telah meminta OpenAI untuk menjelaskan lebih rinci mengenai cara mendeteksi stres akut, durasi aturan perilaku yang telah diterapkan, dan kemungkinan pembatasan waktu penggunaan ChatGPT untuk remaja.

Meski OpenAI sudah menambahkan pengingat agar pengguna beristirahat selama sesi panjang, perusahaan belum menghentikan secara otomatis pengguna yang berpotensi menggunakan ChatGPT secara berlebihan.

OpenAI menyatakan perlindungan ini merupakan bagian dari “inisiatif 120 hari” untuk meninjau dan meluncurkan perbaikan yang dijadwalkan tahun ini.

Perusahaan juga bermitra dengan para ahli dari berbagai bidang, seperti gangguan makan, penyalahgunaan zat, dan kesehatan mental remaja, melalui Jaringan Dokter Global dan Dewan Pakar Kesejahteraan dan AI.

Tujuannya adalah mendefinisikan standar kesejahteraan, menetapkan prioritas, dan merancang perlindungan di masa depan. (saf/ipg)