SULAWESI UTARA — OpenAI menegaskan keamanan AI tidak dicapai dengan menghentikan laju pengembangan model, melainkan lewat pendekatan berlapis sejak tahap pelatihan hingga produk jadi. Head of Policy Southeast Asia OpenAI, Sandy Kunvatanagarn, memaparkan strategi itu dalam media gathering di Jakarta Pusat, Rabu (30/9/2026), sebagai jawaban atas kekhawatiran AI lepas kendali.
Perusahaan menilai keamanan bukan komponen yang ditambahkan setelah model selesai dilatih. Sandy menjelaskan, aspek pengamanan sudah melekat sejak proses pelatihan, pasca-pelatihan, hingga ketika model dikembangkan menjadi produk yang dipakai publik.
Kekhawatiran soal AI yang makin canggih dan berpotensi lepas kendali mendorong munculnya wacana agar laju perkembangan teknologi ini ditahan. OpenAI tidak sepakat dengan pendekatan tersebut.
Perusahaan mengakui kemampuan model AI meningkat sangat cepat. Namun, menurut Sandy, menghentikan pengembangan bukan jawabannya.
"Misi OpenAI adalah membangun AI dengan pendekatan yang aman dan bertanggung jawab. Karena jika tidak aman, AI secara default tidak akan memberikan manfaat," kata Sandy dalam sesi tanya jawab.
OpenAI menerapkan apa yang disebut Sandy sebagai pendekatan keamanan berlapis. Keamanan tidak hanya bergantung pada kemampuan model itu sendiri, tetapi juga pada produk yang dibangun di atasnya.
"Kami tidak berpikir bahwa keamanan adalah sesuatu yang hanya terjadi sekali dalam proses pengembangan. Sebaliknya, keamanan dibangun ke dalam setiap tahap, mulai dari bagaimana kami melatih model, bagaimana kami melakukan post-training model, hingga bagaimana kami membangun berbagai harnesses dan produk yang berada di atas model," ujarnya.
Dengan cara ini, sistem pengamanan tidak berdiri di satu titik waktu. Model terus dikembangkan, sementara evaluasi dan pengamanan berjalan beriringan.
Selain pengamanan internal, OpenAI memakai laporan sebagai bagian dari pendekatan keamanannya. Laporan itu memberi transparansi soal cara model bekerja sehingga peneliti dan institusi lain bisa memahami kemampuan sekaligus keterbatasannya.
"Laporan yang kami keluarkan memberikan banyak transparansi mengenai bagaimana model bekerja, sehingga peneliti dan institusi lain tak hanya dapat memahami kemampuannya, tetapi juga batas-batasnya," kata Sandy.
Umpan balik masyarakat juga masuk ke proses pengembangan. Percakapan dengan pengguna, komunitas, dan berbagai pihak menjadi masukan yang dipakai kembali saat model disempurnakan.
"Semua itu memungkinkan kami untuk berpikir dengan sengaja mengenai bagaimana sebuah model dibangun," ujarnya.
Sandy mencontohkan pengembangan produk yang ditujukan khusus untuk remaja. Keputusan membuat pengalaman ChatGPT untuk remaja dipengaruhi percakapan dengan komunitas orang tua.
OpenAI sebelumnya berdiskusi dengan komunitas parenting mengenai kekhawatiran mereka terhadap penggunaan AI oleh remaja, bagaimana mereka memahaminya, serta hal-hal yang belum mereka pahami.
"Dalam konteks percakapan hari ini mengenai remaja dan penggunaan ChatGPT, ketika kami membangun sebuah model kemudian membangun produk di atasnya yang secara khusus ditujukan untuk remaja, itu karena kami telah belajar dari diskusi seperti yang kami lakukan pada Agustus (lalu) dengan komunitas parenting," kata Sandy.
Informasi soal kekhawatiran dan kebutuhan masyarakat itu kemudian dimasukkan kembali ke dalam proses pengembangan produk.
Sandy mengakui kemampuan model AI meningkat dengan sangat cepat. Karena itu, pendekatan terhadap keamanan juga perlu terus diperbarui.
"Semua ini berarti kemampuan model meningkat dengan sangat cepat dan kami secara real time menyempurnakan pendekatan kami terhadap keamanan," ujarnya.
Ia menegaskan keamanan dan pengembangan AI tidak seharusnya dipandang sebagai dua hal yang terpisah.
"Kami meyakini bahwa AI harus aman agar dapat memberikan manfaat, dan keamanan perlu ada di berbagai bagian dalam proses, bukan hanya pada satu titik waktu," tegasnya.
Dengan pendekatan tersebut, OpenAI menggambarkan pengembangan AI sebagai proses yang berjalan beriringan dengan pengembangan sistem keamanan. Model terus dikembangkan, sementara pengamanan, evaluasi, transparansi, dan masukan dari masyarakat juga terus digunakan untuk menyempurnakan cara AI dibangun dan dirilis.