SELAMA ini, manusia membangun AI. Kini, batas itu mulai bergeser.
Model AI generasi baru disebut mulai dirancang dengan bantuan model AI lain. Jika tren ini berlanjut, pengembangan AI tidak lagi bergerak sepenuhnya dalam ritme manusia, tetapi ikut ditentukan oleh sistem yang kemampuannya terus meningkat.
Kecerdasan super buatan adalah tahap ketika AI melampaui kapasitas manusia dalam banyak bidang dan mampu mempercepat lahirnya teknologi AI berikutnya dengan intervensi manusia yang makin kecil.
Dalam konteks kebijakan, AI yang merancang AI berarti risiko teknologi tidak lagi bergerak linear. Risiko itu dapat masuk ke fase percepatan eksponensial.
Baca juga:Â Menata Jejak Lingkungan AI, Agenda Baru Kebijakan Iklim dan Infrastruktur Digital
Pernyataan ini muncul dari CEO SoftBank, Masayoshi Son. Dalam wawancara dengan CNBC, Son menyebut dirinya telah berdiskusi dengan CEO OpenAI Sam Altman dan sejumlah insinyur OpenAI. Dari percakapan itu, ia menyimpulkan model AI masa depan mulai dirancang dengan bantuan model AI lain.
Son bukan regulator independen. Ia adalah investor besar di sektor teknologi. Namun, sinyal yang ia sampaikan tetap penting. Ketika investor, laboratorium AI, dan pengembang model mulai bicara tentang AI yang membantu menciptakan AI berikutnya, ruang kebijakan tidak bisa lagi hanya menunggu bukti sempurna.
Dari Alat ke Arsitek
Selama satu dekade terakhir, AI banyak diposisikan sebagai alat produktivitas. AI menulis teks. AI membaca dokumen. AI membuat kode. AI membantu desain, riset, dan analisis data.
Fase berikutnya berbeda. AI mulai masuk ke proses pengembangan sistem AI itu sendiri.
OpenAI sebelumnya menyebut GPT-5.3-Codex sebagai salah satu model yang berperan penting dalam membantu proses penciptaan dirinya sendiri. Dalam keterangan resminya, OpenAI menjelaskan bahwa Codex digunakan untuk membantu debugging pelatihan, pengelolaan deployment, dan diagnosis hasil evaluasi model.
Baca juga: Data Center Makin Haus Listrik, Emisi Big Tech Makin Hijau di Atas Kertas
Ini belum berarti manusia keluar dari proses. Namun, struktur kerja berubah. Insinyur manusia tidak lagi menjadi satu-satunya pusat desain. AI mulai menjadi aktor teknis dalam pengujian, penyempurnaan, dan pengembangan model.
AI yang merancang AI belum otomatis berarti manusia kehilangan kendali, tetapi jelas menunjukkan kendali manusia harus diperkuat sebelum sistem bergerak terlalu otonom.
Bagi tata kelola, perubahan ini besar. Regulasi yang hanya mengatur produk akhir tidak cukup. Negara perlu memahami proses pengembangan, akses komputasi, standar audit, evaluasi keamanan, dan tanggung jawab perusahaan pengembang model.
Risiko Kendali
Son sebelumnya memperkirakan artificial superintelligence hadir dalam 10 tahun. Kini, ia menilai fase itu bisa datang jauh lebih cepat. Ia bahkan menyebut horizon dua tahun sebagai kemungkinan baru. Ia juga memperkirakan AI dapat melampaui manusia pada 70–80 persen bidang ilmu dalam beberapa tahun ke depan.
Angka ini tentu perlu dibaca hati-hati. Prediksi teknologi sering bergerak antara optimisme pasar dan kepentingan investasi. Namun, angka itu cukup menunjukkan arah percakapan global. AI tidak lagi hanya dibahas sebagai aplikasi, tetapi sebagai sistem strategis yang dapat mengubah struktur pengetahuan, ekonomi, dan kekuasaan.
Kekhawatiran serupa juga muncul dari Anthropic, perusahaan pengembang Claude. Reuters melaporkan, Anthropic memperingatkan perlunya rencana terkoordinasi di antara laboratorium AI besar untuk memperlambat atau menghentikan sementara pengembangan jika risiko meningkat.
Baca juga:Â Ekonomi AI Menguat, Arsitektur SDM Nasional Dipertaruhkan
Salah satu risiko yang disorot adalah recursive self-improvement. Istilah ini merujuk pada kondisi ketika sistem AI dapat membantu membangun penerus yang lebih kuat secara makin otonom.
Dalam skenario seperti ini, persoalan utama bukan apakah AI akan menjadi makin pintar. Persoalannya adalah apakah manusia masih memiliki mekanisme untuk menguji, membatasi, dan menghentikan sistem yang bergerak terlalu cepat.
Kontrol manusia tidak cukup dipahami sebagai tombol persetujuan. Kontrol manusia harus berarti akses audit, transparansi risiko, standar keselamatan, kapasitas regulator, serta kewajiban perusahaan untuk menjelaskan konsekuensi teknologinya.
Implikasi bagi Indonesia
Indonesia tidak berada di luar peta ini. Adopsi AI sudah masuk ke pendidikan, media, layanan publik, perbankan, industri kreatif, hukum, dan kesehatan. Namun, kerangka tata kelola AI masih tertinggal dibanding kecepatan pemakaian.
Implikasinya jelas. Indonesia perlu bergerak dari literasi penggunaan menuju tata kelola risiko. Pemerintah tidak cukup hanya mendorong adopsi AI untuk efisiensi. Pemerintah juga perlu membangun standar akuntabilitas, perlindungan data, audit algoritmik, keamanan model, dan mekanisme tanggung jawab jika sistem AI merugikan publik.
Baca juga: AI Indonesia Masuk ke Prosedur Medis Paling Dasar di Rumah Sakit
Isu ini juga menyentuh kedaulatan digital. Jika model AI paling kuat dikembangkan oleh segelintir perusahaan global, negara pengguna seperti Indonesia akan menghadapi ketergantungan baru. Ketergantungan itu bukan hanya pada aplikasi, tetapi pada infrastruktur pengetahuan, komputasi, dan keputusan otomatis.
AI yang merancang AI berikutnya adalah sinyal bahwa tata kelola teknologi harus naik kelas. Regulasi tidak boleh sekadar mengejar aplikasi yang sudah beredar. Regulasi harus mulai membaca arah sistem, aktor pengembang, dan risiko struktural di baliknya.
Dalam fase ini, pertanyaan kebijakan paling penting bukan lagi seberapa cepat AI dipakai.
Pertanyaannya, siapa yang memastikan AI tetap bekerja untuk manusia? ***
- Foto: AI-generated/ SustainReview – Ilustrasi manusia berhadapan dengan visual otak digital di pusat data. AI mulai masuk ke fase baru ketika sistemnya membantu merancang generasi AI berikutnya.
