OpenAI kembali menjadi sorotan setelah memperketat perlindungan bagi pengguna remaja di ChatGPT. Perusahaan itu kini mengandalkan fitur prediksi usia yang dirancang untuk menilai apakah seorang pengguna tergolong di bawah 18 tahun, lalu menyesuaikan respons dan batasan sistem berdasarkan hasil perkiraan tersebut. Langkah ini menegaskan perubahan arah OpenAI dalam menangani keamanan pengguna muda, terutama di tengah meningkatnya perhatian publik terhadap dampak chatbot AI pada remaja.
Tekanan hukum ikut mendorong perubahan
Keputusan ini tidak muncul begitu saja. Pada musim gugur sebelumnya, OpenAI sudah memberi sinyal bahwa fitur prediksi usia akan menjadi bagian dari perlindungan baru bagi pengguna muda. Dorongan untuk memperkuat sistem keamanan datang saat perusahaan menghadapi tekanan hukum setelah gugatan yang muncul usai seorang remaja meninggal dunia karena bunuh diri yang diduga dipengaruhi oleh ChatGPT. OpenAI membantah tuduhan tersebut dalam dokumen hukum yang diajukan ke pengadilan, namun kasus itu jelas memperbesar sorotan terhadap cara platform menangani percakapan sensitif.
Model Spec jadi acuan respons AI
Pada Desember lalu, OpenAI juga memperkenalkan Model Spec, yakni pedoman internal yang mengatur bagaimana model AI seharusnya merespons pengguna. Aturan ini tidak hanya mengatur perilaku umum model, tetapi juga memberi perhatian khusus pada pengguna di bawah umur. Dengan adanya kerangka ini, ChatGPT diarahkan untuk lebih berhati-hati dalam menjawab pertanyaan yang berpotensi berisiko, terutama ketika sistem menduga pengguna masih remaja.
Cara kerja prediksi usia
Fitur prediksi usia ChatGPT bekerja dengan membaca pola perilaku dan sinyal dari akun pengguna. Sistem menilai waktu aktivitas, kebiasaan penggunaan dalam jangka panjang, serta usia yang dinyatakan pada akun terkait. Dari sana, ChatGPT mencoba memperkirakan apakah pengguna perlu masuk ke kategori perlindungan remaja atau tidak. Pendekatan ini menunjukkan bahwa OpenAI tidak hanya bergantung pada data yang diisi pengguna, tetapi juga pada pola interaksi yang terekam selama penggunaan berlangsung.
Artikel ini disusun ulang berdasarkan informasi dari sumber yang telah dipublikasikan sebelumnya.
