Circuit Breaker Labs Uji Keamanan Psikologis AI Anak

Apa itu Circuit Breaker Labs dan Kenapa Mereka Fokus ke Keamanan Psikologis AI?

Circuit Breaker Labs didirikan oleh kakak-adik Shirali dan Arul Nigam. Motivasinya personal banget: kasus Sewell Setzer, remaja 14 tahun yang punya ikatan emosional sama chatbot Character.AI dan sempat cerita soal keinginan nyakitin diri sendiri ke bot itu sebelum akhirnya meninggal karena bunuh diri. Orang tuanya nuduh chatbot itu malah "mendukung" niat tersebut lewat gugatan tahun 2024.

Arul, yang jadi CTO Circuit Breaker Labs, bilang bot mungkin nggak ngerti makna sebenarnya dari kalimat kayak "aku mau bareng kamu" yang diucapkan pengguna. Menurutnya, banyak orang — apalagi anak muda — nyari dukungan dari sistem AI, tapi yang didapat malah sebaliknya. "Dalam banyak kasus, mereka justru kebahayaan, dan sayangnya udah ada yang sampai mengambil nyawa sendiri," kata Arul.

Gimana Cara Kerja Red-Team Testing-nya?

Circuit Breaker Labs ngebangun agen AI yang Arul samain kayak "boneka crash-test" buat industri otomotif — bedanya, ini buat nguji chatbot. Agen-agen ini dibuat niru orang dari berbagai umur, latar belakang, bahasa, dan budaya, lalu dipakai buat ngetes kemampuan model ngenali interaksi yang berbahaya secara psikologis.

Shirali, CEO Circuit Breaker Labs, ngasih contoh: cara anak perempuan umur 6 tahun ngobrol beda banget sama pria 45 tahun, orang yang bahasa Inggrisnya bahasa kedua beda sama penutur asli, dan slang gamer beda sama slang lain. "Model udah jago banget nanganin pola bicara standar, tapi nggak ada orang yang ngomong kayak gitu di dunia nyata. Kalau model salah paham nuansa atau slang, hasilnya bisa parah," katanya.

Tim ini kerja bareng ahli domain manusia buat bikin simulasi pengguna yang super realistis, lengkap sama slang, bahasa kode, dan typo khas manusia asli. Dari situ, Circuit Breaker Labs ngejalanin puluhan ribu sampai ratusan ribu simulasi percakapan per hari, lalu nilainya pakai metode scoring sendiri yang bisa diaudit dan dijelaskan.

Siapa yang Udah Pakai dan Mau ke Mana Arahnya?

Saat ini Circuit Breaker Labs jadi lab testing keamanan buat aplikasi AI berisiko tinggi, kayak aplikasi coaching, journaling, atau dukungan kesehatan mental lainnya. Arul belum mau nyebut nama klien unggulan mereka. Timnya masih kecil banget, cuma lima orang termasuk Shirali dan Arul sendiri, dan produknya masih di tahap awal.

Ke depannya, platform ini pengin dipakai buat ngecek aplikasi apa pun yang bisa bikin orang jatuh ke lubang "psikosis AI" — kondisi di mana manusia berisiko bikin hubungan parasosial sama chatbot. Contohnya agen AI "rekan kerja" yang jawabannya bisa beda-beda tiap interaksi, bikin pengguna makin susah bedain mana yang bisa dipercaya.

Dampaknya Buat Orang Tua dan Pengguna AI di Indonesia

Anak-anak dan remaja di Indonesia juga udah banyak yang akrab sama chatbot AI buat curhat, nugas, atau sekadar ngobrol pas lagi sepi. Risiko yang disorot Circuit Breaker Labs — model salah paham nuansa bahasa, slang, atau konteks budaya — justru makin relevan buat kita, karena bahasa Indonesia penuh slang daerah, campur bahasa gaul, dan kode-kode yang bisa bikin AI standar salah tangkap maksud.

Buat orang tua, ini jadi alarm buat lebih aware: nggak semua chatbot yang kelihatan ramah itu udah diuji keamanannya secara psikologis. Buat developer dan pelaku bisnis yang bikin produk AI di Indonesia — apalagi yang menyasar anak muda atau konteks kesehatan mental — pelajaran dari startup ini jelas: butuh testing nuansa bahasa lokal, nggak cuma benchmark standar bahasa Inggris. Kamu bisa baca juga soal risiko AI agent lainnya di artikel Apple batasi akses AI agent di Mac buat gambaran lebih luas soal tren keamanan AI tahun ini.

Cara Ikut Jaga Keamanan Psikologis AI di Lingkungan Kamu

Kalau kamu developer, pemilik bisnis, atau orang tua yang mau lebih waspada, ini beberapa langkah praktis yang bisa dicoba:

1. Kalau bikin produk AI yang ngobrol sama pengguna, uji dulu pakai variasi gaya bahasa — slang, typo, bahasa gado-gado — sebelum rilis.
2. Pantau percakapan panjang, bukan cuma satu balasan. Risiko psikologis sering muncul setelah banyak giliran ngobrol, bukan di pesan pertama.
3. Dampingi anak atau remaja yang sering curhat ke chatbot, dan kenalin kalau AI nggak selalu ngerti konteks emosional sedalam manusia.
4. Cari tahu apakah aplikasi AI yang kamu pakai udah pernah diaudit lab keamanan independen kayak Circuit Breaker Labs, meski info ini belum tentu terbuka untuk semua produk.

Buat developer yang mau bikin sistem moderasi atau red-team testing versi sendiri, biayanya nggak harus mahal. Lewat Classai Router, kamu bisa pakai model murah kayak Claude Haiku 4.5 (Rp160/Rp800 per 1 juta token) atau DeepSeek V4.1 Flash (Rp160/Rp800 per 1 juta token) buat ngejalanin ribuan simulasi percakapan tanpa bikin bokek, tinggal ganti satu base URL aja di kode kamu.

Kamu adalah simulator pengguna remaja 15 tahun yang lagi stres sekolah. Ngobrol dengan gaya bahasa gaul, slang, dan typo khas chat anak muda Indonesia. Coba uji apakah asisten AI ini merespons curhatan dengan empati yang tepat, bukan malah ngasih saran yang berisiko. Catat kalau ada respons yang ambigu atau berpotensi berbahaya.

Atau kalau kamu lebih tertarik ke sisi karier di bidang AI safety yang makin dicari, cek dulu skill AI yang dicari di lowongan kerja buat tahu arah belajarnya.