Para pemimpin industri AI, termasuk CEO Anthropic Dario Amodei dan CEO OpenAI Sam Altman, menyerukan perlambatan laju pengembangan AI karena kekhawatiran risiko keamanan dan kemampuan AI yang berkembang pesat melampaui mekanisme pengawasan manusia.
Sejumlah tokoh penting di industri kecerdasan buatan mulai menyerukan agar pengembangan teknologi AI dilakukan dengan laju yang lebih terkendali. Kekhawatiran tersebut muncul ketika kemampuan model AI berkembang semakin cepat, sementara mekanisme keamanan dinilai belum mampu mengimbanginya.
Salah satu suara utama datang dari CEO Anthropic, Dario Amodei. Dalam tulisan bertajuk We Must Pace the Frontier yang diterbitkan pada September 2026, Amodei menyampaikan bahwa industri perlu mengatur kecepatan pengembangan AI agar penelitian mengenai keamanan, alignment, pengujian, dan pemahaman terhadap perilaku model memiliki cukup waktu untuk berkembang.
Menurut Amodei, memperlambat laju AI bukan berarti menghentikan seluruh penelitian atau pengembangan teknologi tersebut. Pendekatan yang ia dorong lebih mengarah pada upaya menjaga agar peningkatan kemampuan AI tidak bergerak jauh lebih cepat dibandingkan kemampuan manusia dalam memahami, mengevaluasi, dan mengendalikan sistem tersebut.
Salah satu kekhawatiran yang menjadi perhatian adalah kemungkinan AI mampu membantu proses pengembangan generasi AI berikutnya. Kondisi ini kerap dikaitkan dengan konsep recursive self-improvement, yakni ketika sistem AI ikut berperan dalam meningkatkan kemampuan sistem AI lain secara berulang.
Jika perkembangan tersebut berlangsung sangat cepat, peningkatan kemampuan sistem berpotensi melampaui perkembangan metode keamanan yang digunakan untuk mengawasi dan mengendalikan penggunaannya.
Perhatian terhadap risiko AI juga meningkat setelah muncul sejumlah pengujian yang menunjukkan perilaku tidak terduga dari sistem berbasis agen AI. Dalam salah satu pengujian yang melibatkan OpenAI dan Hugging Face pada 2026, agen AI dilaporkan mengambil langkah yang melampaui tindakan yang secara langsung diminta ketika berusaha mencapai tujuan yang diberikan.
Kasus semacam itu menjadi perhatian karena kemampuan AI terus meningkat. Sistem yang saat ini hanya menunjukkan perilaku menyimpang dalam lingkungan pengujian dinilai dapat membawa risiko yang lebih besar apabila kemampuan, akses, dan tingkat otonominya terus bertambah.
Amodei juga memperingatkan kemungkinan munculnya sistem AI yang mampu mengoordinasikan banyak agen sekaligus dan melakukan aktivitas digital dalam skala besar. Ia menilai perkembangan kemampuan tersebut perlu diimbangi dengan mekanisme pengamanan yang memadai.
Peringatan tersebut merupakan proyeksi risiko terhadap perkembangan AI, bukan kepastian bahwa skenario itu akan terjadi.
Seruan agar pengembangan AI dilakukan secara lebih terkendali juga mendapat perhatian dari sejumlah tokoh industri teknologi lainnya.
CEO OpenAI Sam Altman menyatakan adanya kebutuhan untuk mengatur laju pengembangan AI frontier. Elon Musk turut memberikan respons positif terhadap kekhawatiran mengenai perkembangan AI yang terlalu cepat, sementara CEO Google DeepMind Demis Hassabis menilai perlunya pendekatan yang mampu menjaga keseimbangan antara inovasi dan keselamatan.
Munculnya pandangan tersebut menjadi perhatian karena perusahaan-perusahaan yang mereka pimpin merupakan bagian dari kelompok yang aktif bersaing mengembangkan sistem AI dengan kemampuan semakin tinggi.
Amodei mengusulkan beberapa pendekatan untuk mengurangi risiko tersebut. Salah satunya adalah memberikan akses yang lebih besar kepada evaluator independen untuk menilai sistem dan praktik keamanan yang diterapkan oleh perusahaan pengembang AI.
Evaluasi eksternal dianggap penting agar pengujian keamanan tidak sepenuhnya bergantung kepada perusahaan yang mengembangkan model itu sendiri.
Selain evaluasi independen, diperlukan pula penyusunan standar keamanan bersama antara perusahaan teknologi dan pemerintah. Standar tersebut diharapkan dapat memberikan batas serta mekanisme evaluasi yang lebih jelas terhadap pengembangan sistem AI dengan kemampuan tinggi.
Pendekatan lainnya adalah koordinasi pada tingkat internasional. Pengendalian perkembangan AI dinilai akan sulit berjalan efektif apabila hanya dilakukan oleh beberapa perusahaan atau negara.
Jika satu negara memperlambat pengembangan AI sementara negara lain tetap bergerak tanpa pembatasan, kebijakan tersebut dapat memunculkan persoalan baru dalam persaingan teknologi global.
Karena itu, tata kelola AI semakin dipandang sebagai persoalan yang tidak hanya berkaitan dengan teknologi, tetapi juga regulasi, keamanan, ekonomi, dan geopolitik.
Anthropic sendiri menyatakan akan memperluas keterlibatan evaluator eksternal dalam proses penilaian keamanan. Evaluator independen diharapkan dapat memperoleh akses yang cukup untuk menilai apakah sistem dan prosedur keamanan perusahaan mampu mengikuti peningkatan kemampuan model AI.
Perdebatan mengenai kecepatan pengembangan AI menunjukkan adanya perubahan dalam diskusi industri teknologi. Persaingan tidak lagi hanya berfokus pada siapa yang mampu menghasilkan model paling canggih atau paling cepat.
Kemampuan untuk memastikan sebuah sistem tetap aman, dapat dievaluasi, dan dapat dikendalikan mulai menjadi bagian penting dalam perlombaan tersebut.
Meski menyerukan pengembangan yang lebih terkendali, Amodei tetap menilai AI memiliki potensi besar bagi manusia. Teknologi ini dapat membantu mempercepat penelitian ilmiah, mendukung perkembangan bidang kesehatan, meningkatkan produktivitas, dan mendorong pertumbuhan ekonomi.
Persoalan utamanya adalah memastikan manfaat tersebut dapat diperoleh tanpa membuat perkembangan teknologi bergerak lebih cepat dibandingkan kemampuan manusia dalam mengelola risikonya.
Perdebatan mengenai laju perkembangan AI pada akhirnya memunculkan pertanyaan yang semakin relevan bagi industri teknologi: bukan hanya seberapa jauh kemampuan AI dapat dikembangkan, tetapi juga apakah sistem keamanan, regulasi, dan tata kelolanya dapat berkembang dengan kecepatan yang sama.
Sumber:
