Pengawasan AI Perlu Diperketat untuk Cegah Penyalahgunaan
Teddy Mantoro, Direktur School of Computer Science (SoCS) Universitas Nusa Putra, memperingatkan perlunya pengawasan lebih ketat terhadap pengembangan dan penggunaan kecerdasan buatan (AI). Pernyataan itu disampaikan pada 4 Oktober 2026 terkait meningkatnya kasus peretasan dan penyalahgunaan teknologi AI yang berpotensi membahayakan publik.
Ancaman nyata dari penyalahgunaan AI
Teddy menyoroti beberapa insiden yang menunjukkan kecanggihan AI bisa disalahgunakan jika tidak diawasi. Ia memberi contoh kasus yang pernah melibatkan perusahaan teknologi global dan lembaga pemerintah, sebagai bukti bahwa risiko tersebut bukan spekulasi.
"Kasus seperti ini banyak terjadi, termasuk yang melibatkan Anthropic dan lembaga pemerintah di dunia intelijen Amerika Serikat,"
Menurutnya, insiden-insiden itu menuntut respons serius dari pemerintah dan pemangku kepentingan lain untuk menutup celah penyalahgunaan.
Perbedaan sistem keamanan pada model AI
Teddy menjelaskan setiap Large Language Model (LLM) memiliki pola kerja dan mekanisme pengamanan yang berbeda. Beberapa model menerapkan pembatasan ketat terhadap konten sensitif seperti kekerasan, terorisme, dan informasi yang mengancam keamanan publik.
Perbedaan ini membuat tingkat keamanan tiap model tidak selalu sama. Akibatnya, potensi respons menyimpang atau kesalahan logika masih mungkin muncul meski ada filter dan mekanisme pengamanan.
"Potensi AI masuk ke dalam logika yang keliru masih sangat besar hingga saat ini, sehingga pengawasan tidak boleh diabaikan,"
Risiko penggunaan AI untuk pengembangan senjata
Teddy juga memperingatkan kemungkinan AI dipakai untuk mengembangkan senjata pemusnah massal. Ia menyebut eksperimen beberapa tahun terakhir menunjukkan kemampuan AI menghasilkan informasi teknis terkait senjata kimia.
"Hal tersebut sangat mungkin terjadi, karena tiga tahun lalu AI sudah mampu menghasilkan algoritma terkait senjata kimia dalam waktu singkat,"
Ia menambahkan, dalam sebuah percobaan, AI mampu memproduksi ratusan algoritma dalam waktu satu jam, yang mempertegas urgensi pengawasan.
Rekomendasi: pengawasan sejak tahap pengembangan
Teddy menekankan pengawasan harus dimulai sejak fase desain dan pengembangan. Langkah ini meliputi standar keamanan, audit independen, dan regulasi yang jelas untuk penggunaan LLM pada sektor sensitif.
Ia mengajak pembuat kebijakan, pengembang, dan masyarakat untuk bersama mencegah penyalahgunaan teknologi. Tanpa koordinasi dan aturan yang tegas, risiko yang ditimbulkan AI bisa melampaui manfaatnya bagi publik.
Implikasi: Kebijakan dan mekanisme pengawasan yang lebih kuat dianggap perlu agar perkembangan AI tetap selaras dengan keselamatan dan kepentingan publik.
Editor teknologi yang mengulas gadget, kecerdasan buatan, startup, dan inovasi digital.
Berita Terkait
Profesor Korea: Ahli Tak Mudah Tertipu AI, Perkuat Keahlian
Profesor Hwy-Chang Moon: AI tak mudah menipu ahli; pekerja wajib tingkatkan pengetahuan dan keterampilan unt...
Microsoft: Perbaikan Gangguan Outlook Tertunda, Layanan Global Terdampak
Microsoft menyatakan perbaikan gangguan Outlook tertunda; layanan seperti Teams dan Copilot terdampak di 74...
Lintasarta Luncurkan Deka LLM untuk Kendalikan Data Perusahaan
Lintasarta meluncurkan Deka LLM, platform AI untuk perusahaan yang memudahkan pengembangan aplikasi AI sekal...
AI di Indonesia: 74% Masih Pilot, Tantangan Infrastruktur dan Siber
Sekitar 74% inisiatif AI di Indonesia masih pilot; kendala infrastruktur, chip, SDM, dan risiko siber mengha...
LIMS dan Tuduhan Penyadapan terhadap Presiden Prabowo: Kronologi & Aturan
Dugaan penyadapan terhadap Presiden Prabowo (2025–2026) menempatkan LIMS sebagai fokus penyelidikan terkait...
Airlangga Minta Bank Perkuat Keamanan Siber Hadapi Hacking
Airlangga minta bank perkuat keamanan siber setelah tercatat 1,6 juta aktivitas berbahaya terblokir dalam 24...