Pengawasan AI Perlu Diperketat untuk Cegah Penyalahgunaan

Teddy Mantoro, Direktur School of Computer Science (SoCS) Universitas Nusa Putra, memperingatkan perlunya pengawasan lebih ketat terhadap pengembangan dan penggunaan kecerdasan buatan (AI). Pernyataan itu disampaikan pada 4 Oktober 2026 terkait meningkatnya kasus peretasan dan penyalahgunaan teknologi AI yang berpotensi membahayakan publik.

Ancaman nyata dari penyalahgunaan AI

Teddy menyoroti beberapa insiden yang menunjukkan kecanggihan AI bisa disalahgunakan jika tidak diawasi. Ia memberi contoh kasus yang pernah melibatkan perusahaan teknologi global dan lembaga pemerintah, sebagai bukti bahwa risiko tersebut bukan spekulasi.

"Kasus seperti ini banyak terjadi, termasuk yang melibatkan Anthropic dan lembaga pemerintah di dunia intelijen Amerika Serikat,"

Menurutnya, insiden-insiden itu menuntut respons serius dari pemerintah dan pemangku kepentingan lain untuk menutup celah penyalahgunaan.

Perbedaan sistem keamanan pada model AI

Teddy menjelaskan setiap Large Language Model (LLM) memiliki pola kerja dan mekanisme pengamanan yang berbeda. Beberapa model menerapkan pembatasan ketat terhadap konten sensitif seperti kekerasan, terorisme, dan informasi yang mengancam keamanan publik.

Perbedaan ini membuat tingkat keamanan tiap model tidak selalu sama. Akibatnya, potensi respons menyimpang atau kesalahan logika masih mungkin muncul meski ada filter dan mekanisme pengamanan.

"Potensi AI masuk ke dalam logika yang keliru masih sangat besar hingga saat ini, sehingga pengawasan tidak boleh diabaikan,"

Risiko penggunaan AI untuk pengembangan senjata

Teddy juga memperingatkan kemungkinan AI dipakai untuk mengembangkan senjata pemusnah massal. Ia menyebut eksperimen beberapa tahun terakhir menunjukkan kemampuan AI menghasilkan informasi teknis terkait senjata kimia.

"Hal tersebut sangat mungkin terjadi, karena tiga tahun lalu AI sudah mampu menghasilkan algoritma terkait senjata kimia dalam waktu singkat,"

Ia menambahkan, dalam sebuah percobaan, AI mampu memproduksi ratusan algoritma dalam waktu satu jam, yang mempertegas urgensi pengawasan.

Rekomendasi: pengawasan sejak tahap pengembangan

Teddy menekankan pengawasan harus dimulai sejak fase desain dan pengembangan. Langkah ini meliputi standar keamanan, audit independen, dan regulasi yang jelas untuk penggunaan LLM pada sektor sensitif.

Ia mengajak pembuat kebijakan, pengembang, dan masyarakat untuk bersama mencegah penyalahgunaan teknologi. Tanpa koordinasi dan aturan yang tegas, risiko yang ditimbulkan AI bisa melampaui manfaatnya bagi publik.

Implikasi: Kebijakan dan mekanisme pengawasan yang lebih kuat dianggap perlu agar perkembangan AI tetap selaras dengan keselamatan dan kepentingan publik.