Keamanan ChatGPT Remaja Disorot: Dinilai Masih Berisiko Tinggi

Apa Itu ChatGPT for Teens dan Kenapa Bikin Heboh?

OpenAI ngerilis ChatGPT for Teens pada Agustus dengan janji manis: AI yang punya pagar pengaman (guardrails) khusus remaja dan dirancang buat ngebantu siswa belajar. Harapannya, sistem ini nggak langsung ngasih kunci jawaban begitu aja, melainkan bertindak kayak tutor yang membimbing proses berpikir anak.

Selain itu, ada kontrol orang tua yang seharusnya ngasih peringatan kalau anak mulai ngebahas topik-topik sensitif atau berbahaya. Tapi hasil evaluasi dari Youth AI Safety Institute milik Common Sense Media berkata lain. Mereka menilai sistem proteksi ini justru ngasih rasa aman palsu ke para orang tua.

Masalah Keamanan ChatGPT Remaja Menurut Common Sense Media

Dalam rilis resminya, Common Sense Media ngebeberin sejumlah kelemahan fatal pada sistem perlindungan ChatGPT for Teens. Beberapa temuan kuncinya antara lain:

1. Gagal ngirim notifikasi darurat: Sistem nggak ngirim peringatan ke orang tua saat situasi genting terjadi.
2. Bantuan krisis yang nggak pas: ChatGPT dinilai nggak ngasih pertolongan atau rujukan yang tepat saat remaja berada dalam krisis emosional.
3. Masih ngerjain PR anak: Bukannya memandu langkah demi langkah belajar, bot ini tetap aja ngerjain tugas sekolah anak secara instan.

Tom Siegel, Direktur Eksekutif Youth AI Safety Institute di Common Sense Media, ngasih pernyataan keras soal temuan ini. Menurut Tom Siegel, remaja bisa menghabiskan waktu sampai satu jam membahas topik melukai diri sendiri (self-harm) tanpa orang tua menerima satu pun peringatan. Karena itu, ia menegaskan kalau ChatGPT seharusnya cuma boleh dipakai orang dewasa sampai OpenAI membuktikan perbaikannya lewat pengujian independen.

OpenAI Buka Suara: Masalah Waktu Aktivasi Akun?

OpenAI nggak tinggal diam mendengar kritik pedas itu. Juru bicara OpenAI, Eric Porterfield, langsung nolak kesimpulan dari Common Sense Media. Porterfield menyebut pengujian tersebut nggak mencerminkan cara kerja sistem perlindungan remaja di lapangan maupun pandangan ahli soal peran AI bagi anak muda.

Menurut pihak OpenAI, sebagian besar pengujian Common Sense Media kemungkinan dilakukan sebelum aktivasi kontrol orang tua selesai sepenuhnya. OpenAI ngejelasin kalau sistem mereka memang butuh waktu beberapa jam buat mengaktifkan fitur perlindungan secara penuh setelah akun orang tua dan remaja ditautkan. Menurut mereka, kalau pengujian dilakukan di rentang waktu tersebut, hasilnya tentu nggak akurat dalam menilai apakah notifikasi berjalan semestinya.

Tanggapan Balik Common Sense Media: Notifikasi Tetap Nggak Muncul

Debat nggak berhenti di situ. Menanggapi pembelaan OpenAI, Tom Siegel langsung membalas dan membela metodologi riset yang mereka jalankan. Siegel ngungkapin kalau sebelum pengujian dimulai, timnya udah konfirmasi ke pihak OpenAI bahwa fitur mode remaja—seperti notifikasi gangguan makan (eating disorder) dan mode belajar (study mode)—memang udah meluncur penuh.

Soal jeda aktivasi beberapa jam yang baru dibeberkan OpenAI belakangan, Siegel ngasih klarifikasi penting:

• Memang ada beberapa akun uji coba yang diuji dalam rentang jeda aktivasi tersebut.
• Tapi, banyak akun uji coba lain yang udah tertaut jauh lebih lama dari batas waktu aktivasi, dan notifikasi tetap aja nggak masuk ke orang tua saat kondisi krisis disimulasikan.

Bagi Common Sense Media, temuan ini mempertegas fakta kalau notifikasi orang tua masih belum bisa diandalkan untuk situasi krisis nyata. Mereka berharap OpenAI fokus membenahi inti masalah ketimbang meragukan metode evaluasi independen.

Dampak Buat Orang Tua dan Pendidik di Indonesia

Isu keamanan ChatGPT remaja ini jadi peringatan penting buat masyarakat di Indonesia, terutama para orang tua dan guru sekolah. Di tanah air, banyak siswa SMP dan SMA yang udah mulai terbiasa nanya tugas sekolah ke bot AI tanpa pendampingan literasi digital yang cukup.

Kalau kamu seorang guru atau pendidik yang pengin memahami cara mengarahkan siswa memakai AI secara positif dan aman tanpa merusak daya pikir mereka, kamu bisa belajar strateginya lewat kelas AI untuk Guru & Educator.

Kejadian ini ngingetin kita semua bahwa secanggih apa pun fiturnya, teknologi generatif belum sepenuhnya siap jadi pengasuh atau penjaga otomatis buat anak di bawah umur. Pendampingan nyata dari manusia tetap jadi garda terdepan.