Pakar: Bahaya Autonomous Learning, Redesign Jadi Solusi
Direktur School of Computer Science (SoCS) Nusa Putra University, Teddy Mantoro, memperingatkan risiko autonomous learning pada kecerdasan buatan (AI) dan menyerukan perancangan ulang sistem untuk mencegah dampak negatif. Pernyataan itu disampaikan saat wawancara dengan PRO3 RRI pada 4 Oktober 2026. Ia menekankan pentingnya deteksi dini, penghentian proses bermasalah, dan perancangan ulang yang terarah.
Risiko dan deteksi dini
Teddy menjelaskan bahwa kemampuan pembelajaran mandiri AI bisa memicu kesalahan desain yang meluas jika tidak dikendalikan. Menurutnya, kesalahan tersebut harus ditemukan pada tahap awal agar tidak berkembang menjadi masalah yang lebih besar.
Langkah awal yang perlu dilakukan, menurut Teddy, adalah mengidentifikasi sumber kesalahan dan segera menghentikan proses pembelajaran yang bermasalah. Setelah itu, tim harus merancang ulang komponen yang rentan untuk mencegah pengulangan.
- Identifikasi sumber kesalahan.
- Hentikan proses yang bermasalah.
- Rancang ulang sistem untuk meningkatkan keselamatan.
Autonomous learning sangat berbahaya kalau dibiarkan begitu saja, karena kondisi tersebut menunjukkan adanya kesalahan dalam desain sistem kecerdasan buatan.
Solusi teknis: redesign dan JEPA
Sebagai alternatif perancangan ulang, Teddy menyebut pendekatan Joint Embedding Predictive Architecture (JEPA). Ia menilai JEPA berpotensi menjadi generasi berikutnya dari agentic AI dengan cara berbeda dalam membangun kemampuan pemahaman terhadap dunia nyata.
Teddy menekankan bahwa pendekatan semacam JEPA tidak hanya berfokus pada model bahasa, tetapi juga menekankan pemahaman konteks dunia sebagai dasar pengembangan model yang lebih aman.
Prediksi mengenai risiko ini sudah disampaikan banyak tokoh AI, termasuk Yann LeCun yang mengembangkan pendekatan berbeda melalui JEPA.
Perlunya kolaborasi ahli
Menurut Teddy, perancangan ulang bukan pekerjaan satu atau dua orang. Ia bahkan memperkirakan diperlukan sekitar 100 doktor berlatar matematika yang bekerja terkoordinasi untuk menghasilkan model AI yang lebih aman.
Redesign AI membutuhkan banyak ahli, bahkan bisa melibatkan 100 doktor berlatar belakang matematika yang bekerja secara terarah.
Dalam tim tersebut, menurut dia, diperlukan satu pemimpin yang bertugas memastikan pengembangan model tetap berada dalam batasan dan tujuan yang ditetapkan.
Noise, halusinasi, dan peluang pengembangan
Teddy juga menyinggung fenomena noise dalam sistem AI yang bisa memicu halusinasi pada output. Namun, ia mengingatkan bahwa noise tidak selalu negatif; jika dimanfaatkan dengan tepat, noise dapat menjadi titik awal untuk menghasilkan representasi yang lebih nyata dan tajam.
Dengan meningkatnya adopsi AI di berbagai sektor, peringatan dan rekomendasi tersebut menjadi penting untuk kebijakan, riset, dan praktik pengembangan. Kolaborasi lintas-disiplin dan mekanisme pengawasan akan menentukan apakah AI berkembang secara aman atau sebaliknya.
Editor teknologi yang mengulas gadget, kecerdasan buatan, startup, dan inovasi digital.
Berita Terkait
Profesor Korea: Ahli Tak Mudah Tertipu AI, Perkuat Keahlian
Profesor Hwy-Chang Moon: AI tak mudah menipu ahli; pekerja wajib tingkatkan pengetahuan dan keterampilan unt...
Microsoft: Perbaikan Gangguan Outlook Tertunda, Layanan Global Terdampak
Microsoft menyatakan perbaikan gangguan Outlook tertunda; layanan seperti Teams dan Copilot terdampak di 74...
Lintasarta Luncurkan Deka LLM untuk Kendalikan Data Perusahaan
Lintasarta meluncurkan Deka LLM, platform AI untuk perusahaan yang memudahkan pengembangan aplikasi AI sekal...
AI di Indonesia: 74% Masih Pilot, Tantangan Infrastruktur dan Siber
Sekitar 74% inisiatif AI di Indonesia masih pilot; kendala infrastruktur, chip, SDM, dan risiko siber mengha...
LIMS dan Tuduhan Penyadapan terhadap Presiden Prabowo: Kronologi & Aturan
Dugaan penyadapan terhadap Presiden Prabowo (2025–2026) menempatkan LIMS sebagai fokus penyelidikan terkait...
Airlangga Minta Bank Perkuat Keamanan Siber Hadapi Hacking
Airlangga minta bank perkuat keamanan siber setelah tercatat 1,6 juta aktivitas berbahaya terblokir dalam 24...