JAKARTA, BANGSAONLINE.com-Makin banyak tokoh perusahaan teknologi raksasa dunia yang was-was terhadap pengembangan teknologi artificial intelligence (AI) atau kecerdasan buatan yang terlalu cepat. Mereka khawatir pengembangan AI yang tak terkendali justru akan menimbulkan risiko mengerikan yaitu memusnahkan manusia dari dunia.
Kekhawatiran terbaru disampaikan CEO yang juga Chairman Microsoft Satya Nadella. Menurut dia, pengembangan AI perlu dilengkapi dengan rem darurat.
"Kita perlu melengkapi model nondeterministik dengan desain sistem deterministik yang kuat, kontrol manusia, dan prosedur operasi yang andal, serta menetapkan standar industri saat standar yang ada tidak memadai," tulis Satya Nadella di platform X, yang dikutip CNBC , Selasa (13/10/2026).
Menurut dia, sistem AI harus dibangun dengan pengamanan serta kontrol independen. Selain itu, perlu ada wewenang bagi pihak terkait untuk menghentikan sementara atau mematikan model AI di tengah tugas yang sedang berjalan.
"Kita harus berasumsi bahwa suatu model sudah disusupi dan mengurungnya sejak awal. Anggap saja seperti rem darurat," ujar Nadella.
"Orang yang berwenang harus selalu dapat menghentikan sementara atau mematikan model di tengah tugas. Model yang lebih canggih akan membutuhkan teknologi penahanan yang perlu distandardisasi," tambah Nadella dikutip detik.com.
Nadella adalah salah seorang tokoh bisnis teknologi terkemuka Amerika Serikat. Pria kelahiran India itu diangkat sebagai CEO Microsoft pada 4 Februari 2014 menggantikan Steve Ballmer, lalu dipercaya sebagai Chairman pada 2021. Ia berhasil mentransformasi Microsoft dari perusahaan yang stagnan menjadi salah satu raksasa teknologi paling berharga di dunia dengan nilai kapitalisasi pasar menembus US$ 3 triliun.
Nadella yang tinggal di Bellevue, Washington itu mengingatkan bahwa sistem AI perlu dirancang dengan prinsip keteramatan (observability). Hal ini mencakup keragaman model, jejak tindakan model yang mudah dibaca manusia, pengujian sistem secara berkelanjutan, kontrol independen dan kemampuan audit, penahanan risiko, hingga pengungkapan insiden.
"Sistem superintelijen yang dapat dipercaya bukanlah sistem dengan model yang paling tepercaya, melainkan sistem yang membuat kita paling tidak bergantung atau menaruh kepercayaan buta pada model tersebut," kata Nadella yang merupakan sarjana Teknik Elektro dari Manipal Institute of Technology India.
Bukan hanya Nadella yang khawatir terhadap pengembangan AI yang tak terkendali. Para tokoh teknologi dunia lainnya seperti Bill Gates, pendiri Microsoft Bill Gates, juga telah mengingatkan tentang pentingnya AI direm.
Begitu juga CEO Anthropic Dario Amodei, CEO OpenAI Sam Altman, dan CEO SpaceXAI Elon Musk telah memperingatkan protokol keselamatan AI yang tidak memadai dan menganggap teknologi tersebut berkembang terlalu cepat.
Jacob Coxon, peneliti capabilities dan pretraining di Anthropic bahkan terpaksa mengundurkan diri karena menganggap perusahaan tempat ia bekerja tersebut, dan pesaingnya OpenAI, bertaruh dengan masa depan umat manusia.
Menurut Jacob Coxon, jika pelambatan pengembangan AI itu tidak dilakukan, ia memprediksi teknologi tersebut bakal membawa manusia ke ambang kepunahan.
"Jika tidak memperlambat laju kemajuan saat ini, kemungkinan besar kita akan mati dalam Waktu dekat," ujar Jacob Coxon.
Ironisnya, meski para bos teknologi telah menyampaikan alarm risiko AI, tapi Presiden Amerika Serikat (AS) Donald Trump tetap keras kepala. Presiden kontroversial itu justeru bersikap sebaliknya, ia terus mendorong AS untuk tetap unggul dalam bidang AI karena takut kalah dengan China.
