Pakar: Bahaya Autonomous Learning, Redesign Jadi Solusi

Direktur School of Computer Science (SoCS) Nusa Putra University, Teddy Mantoro, memperingatkan risiko autonomous learning pada kecerdasan buatan (AI) dan menyerukan perancangan ulang sistem untuk mencegah dampak negatif. Pernyataan itu disampaikan saat wawancara dengan PRO3 RRI pada 4 Oktober 2026. Ia menekankan pentingnya deteksi dini, penghentian proses bermasalah, dan perancangan ulang yang terarah.

Risiko dan deteksi dini

Teddy menjelaskan bahwa kemampuan pembelajaran mandiri AI bisa memicu kesalahan desain yang meluas jika tidak dikendalikan. Menurutnya, kesalahan tersebut harus ditemukan pada tahap awal agar tidak berkembang menjadi masalah yang lebih besar.

Langkah awal yang perlu dilakukan, menurut Teddy, adalah mengidentifikasi sumber kesalahan dan segera menghentikan proses pembelajaran yang bermasalah. Setelah itu, tim harus merancang ulang komponen yang rentan untuk mencegah pengulangan.

1. Identifikasi sumber kesalahan.
2. Hentikan proses yang bermasalah.
3. Rancang ulang sistem untuk meningkatkan keselamatan.

Autonomous learning sangat berbahaya kalau dibiarkan begitu saja, karena kondisi tersebut menunjukkan adanya kesalahan dalam desain sistem kecerdasan buatan.

Solusi teknis: redesign dan JEPA

Sebagai alternatif perancangan ulang, Teddy menyebut pendekatan Joint Embedding Predictive Architecture (JEPA). Ia menilai JEPA berpotensi menjadi generasi berikutnya dari agentic AI dengan cara berbeda dalam membangun kemampuan pemahaman terhadap dunia nyata.

Teddy menekankan bahwa pendekatan semacam JEPA tidak hanya berfokus pada model bahasa, tetapi juga menekankan pemahaman konteks dunia sebagai dasar pengembangan model yang lebih aman.

Prediksi mengenai risiko ini sudah disampaikan banyak tokoh AI, termasuk Yann LeCun yang mengembangkan pendekatan berbeda melalui JEPA.

Perlunya kolaborasi ahli

Menurut Teddy, perancangan ulang bukan pekerjaan satu atau dua orang. Ia bahkan memperkirakan diperlukan sekitar 100 doktor berlatar matematika yang bekerja terkoordinasi untuk menghasilkan model AI yang lebih aman.

Redesign AI membutuhkan banyak ahli, bahkan bisa melibatkan 100 doktor berlatar belakang matematika yang bekerja secara terarah.

Dalam tim tersebut, menurut dia, diperlukan satu pemimpin yang bertugas memastikan pengembangan model tetap berada dalam batasan dan tujuan yang ditetapkan.

Noise, halusinasi, dan peluang pengembangan

Teddy juga menyinggung fenomena noise dalam sistem AI yang bisa memicu halusinasi pada output. Namun, ia mengingatkan bahwa noise tidak selalu negatif; jika dimanfaatkan dengan tepat, noise dapat menjadi titik awal untuk menghasilkan representasi yang lebih nyata dan tajam.

Dengan meningkatnya adopsi AI di berbagai sektor, peringatan dan rekomendasi tersebut menjadi penting untuk kebijakan, riset, dan praktik pengembangan. Kolaborasi lintas-disiplin dan mekanisme pengawasan akan menentukan apakah AI berkembang secara aman atau sebaliknya.