SEBARIS.CO.ID — Google DeepMind resmi meluncurkan DeepMind Institute untuk membuka debat publik soal artificial general intelligence (AGI) melalui koleksi esai perdana. Lembaga ini dipimpin tiga direktur: Shane Legg, James Manyika, dan Demis Hassabis, dengan Legg sebagai managing editor. Langkah ini menandai pergeseran diskusi keselamatan AI dari pernyataan umum ke proposal kebijakan konkret.
Tujuan utamanya mempertemukan perbedaan pandangan antara Google, Google DeepMind, dan komunitas riset global soal AGI. "Mereka tidak akan selalu setuju, dan kemungkinan akan berubah pikiran seiring data serta informasi baru muncul di frontier yang bergerak cepat," demikian bunyi pengumuman institute tersebut.
Empat Esai Perdana dan Cakupannya
Koleksi esai perdana terdiri dari empat tulisan yang membahas topik berbeda. Masing-masing mengangkat kebijakan ekonomi untuk mengelola potensi disrupsi AGI, pelestarian penalaran model yang bisa dibaca manusia, prinsip kesejahteraan manusia, serta kerangka evaluasi model AI frontier.
Salah satu esai ditulis peneliti keselamatan DeepMind, Rohin Shah dan Anca Dragan. Keduanya berargumen bahwa menyempitnya jendela transparansi AI—kemampuan melihat dan memeriksa penalaran model langkah demi langkah—bukan hal yang tak terhindarkan.
Seiring arsitektur baru membuat model paling kuat semakin sulit dipantau, penulis mendorong pengembang dan regulator menghadapi trade-off keselamatan secara langsung. Opsinya bisa membatasi "opaque serial depth" alias jumlah komputasi berurutan yang bisa dijalankan model tanpa menghasilkan jejak penalaran terbaca.
Alternatif lain, pengembang diwajibkan membuktikan sistem yang kurang transparan tetap bisa dipantau sebaik model sebelumnya.
Usulan Badan Standar AI Frontier Pimpinan AS
Dalam esai lain, Hassabis mengusulkan badan standar AI frontier yang dipimpin Amerika Serikat untuk mengevaluasi model AI paling canggih. Lewat kerangka itu, pengembang mula-mula menyerahkan model secara sukarela untuk ditinjau hingga 30 hari sebelum rilis.
Setelah sistem evaluasi terbukti efektif, lulus uji bisa menjadi syarat untuk menerapkan model frontier di Amerika Serikat. Badan tersebut awalnya merancang asesmen bersama perusahaan AI, namun kemudian mengembangkan evaluasi independen yang tidak diungkap—disebut tes "held-out"—untuk mencegah lab menyesuaikan model dengan evaluasi yang diketahui.
Hassabis menyebut kerangka ini bisa "ditingkatkan jika tingkat keseriusan situasi menuntut," termasuk kemungkinan perlambatan terkoordinasi di antara pengembang AI frontier.
Mengapa Momentumnya Sekarang
Esai-esai ini hadir saat debat keselamatan industri bergeser dari pernyataan keprihatinan umum menuju proposal konkret soal pengungkapan, pengawasan pihak luar, dan perlambatan terkoordinasi jika pengamanan tertinggal. Pergeseran itu menguat pekan ini setelah sejumlah pemimpin industri mendukung elemen seruan CEO Anthropic, Dario Amodei, untuk "memperlambat" pengembangan AI frontier.
Bagi ekosistem digital Indonesia, arah kebijakan ini berpotensi memengaruhi cara perusahaan AI global merilis produk di pasar lokal. Regulator dalam negeri maupun pelaku startup yang bergantung pada model frontier perlu mencermati standar evaluasi yang sedang dirancang.
