8 hours ago
5
Jakarta, CNBC Indonesia - OpenAI merespons insiden remaja berusia 16 tahun yang tewas bunuh diri setelah berbulan-bulan berkomunikasi secara intens dengan chatbot AI ChatGPT.
Keluarga korban bernama Adam Raine tersebut menuntut OpenAI beserta sang CEO Sam Altman atas kejadian tragis ini. Keluarga menyebut perusahaan terburu-buru memasarkan versi terbaru ChatGPT tanpa memperhatikan isu keamanan platform.
Pasalnya, Raine dikatakan mendiskusikan metode bunuh diri dengan ChatGPT dalam beberapa kesempatan. Dalam pengajuan di pengadilan San Francisco, disebutkan bahwa ChatGPT membimbing Raine dan memberikan informasi terkait apakah metode bunuh diri yang ia rencanakan akan berhasil atau tidak.
Menanggapi hal ini, OpenAI menyiapkan fitur khusus pada ChatGPT yang memungkinkan peringatan terhadap orang tua jika anak mereka menunjukkan gejala tekanan akut saat berbicara dengan ChatGPT, dikutip dari The Guardian, Rabu (3/9/2025).
The Guardian mengatakan kekhawatiran terkait keselamatan jiwa anak makin tinggi di tengah banyaknya anak muda yang beralih ke chatbot AI untuk meminta dukungan dan saran.
Peringatan ini adalah bagian dari perlindungan baru bagi anak di bawah umur yang menggunakan ChatGPT. Adapun fitur ini akan diluncurkan secara resmi pada bulan depan.
Fitur pengamanan lainnya memungkinkan orang tua menyambungkan akun mereka dengan akun ChatGPT anak. Orang tua juga bisa mengontrol bagaimana model AI merespons jawaban ke anak sesuai dengan kelayakan usia.
Kendati demikian, beberapa pakar keamanan internet mengatakan langkah OpenAI belum cukup untuk mencegah insiden seperti ini. Pakar meminta chatbot AI harus melalui pengujian keamanan yang maksimal untuk anak muda sebelum dirilis ke publik.
"Banyak anak muda sudah menggunakan AI," tulis OpenAI dalam sebuah blog yang memperinci rencana terbarunya.
"Mereka termasuk di antara 'penduduk asli AI' pertama, tumbuh besar dengan perangkat-perangkat ini sebagai bagian dari kehidupan sehari-hari, seperti halnya generasi sebelumnya dengan internet atau ponsel pintar. Hal ini menciptakan peluang nyata untuk dukungan, pembelajaran, dan kreativitas, tetapi juga berarti keluarga dan remaja mungkin memerlukan dukungan dalam menetapkan pedoman sehat yang sesuai dengan tahap perkembangan unik seorang remaja," perusahaan menuturkan.
Disclaimer: Informasi dalam artikel ini tidak ditujukan untuk menginspirasi siapa pun untuk melakukan tindakan bunuh diri. Bila Anda merasakan gejala depresi dengan kecenderungan berupa pemikiran untuk bunuh diri, segera konsultasikan persoalan Anda ke pihak-pihak yang dapat membantu, seperti psikolog, psikiater, ataupun klinik kesehatan mental.
(fab/fab)
[Gambas:Video CNBC]
Next Article Pemilik ChatGPT Ketahuan Mau Beli Produk Terkenal Google
