Pemanfaatan agen AI untuk menyusun dan mengamankan kode infrastruktur kian meluas, namun maraknya serangan otonom mendorong urgensi tata kelola serta pengawasan ketat terhadap sistem itu sendiri.
Integrasi agen kecerdasan buatan (AI) yang bekerja mandiri dalam menulis serta memvalidasi keamanan kode perangkat lunak mulai diterapkan secara luas di sektor teknologi. Kendati agen otonom ini mampu mendeteksi ribuan kerentanan secara instan, perkembangan tersebut memunculkan persoalan mendasar terkait pihak yang bertanggung jawab mengawasi dan membatasi gerak operasional AI itu sendiri ketika dieksploitasi oleh pelaku kejahatan siber.
Tim Google AI and Infrastructure mengungkapkan penerapan metode berbasis agen untuk memeriksa perubahan kode secara langsung sebelum masuk ke repositori (pre-submit scanning). Berdasarkan arsitektur multi-agen bernama Mantis, pemindaian dilakukan terintegrasi dengan pemodelan ancaman lokal berbasis metadata basis kode aktif. Melalui mekanisme ini, ratusan kerentanan per bulan berhasil dicegah masuk ke lingkungan produksi Google di tengah ratusan juta baris kode yang terus diperbarui.
Namun, kemampuan agen perangkat lunak yang beroperasi tanpa campur tangan manusia langsung juga dimanfaatkan oleh aktor ancaman siber. Microsoft Security Research melaporkan aktivitas kelompok kejahatan siber Storm-3168, yang sebelumnya diidentifikasi oleh Sysdig sebagai sindikat pemeras berbasis agen pertama bernama JADEPUFFER. Pelaku memanfaatkan pembajakan identitas layanan (service principals) di ekosistem komputasi awan Microsoft Azure untuk melakukan operasi pengintaian selama lebih dari 15 jam, mengumpulkan kredensial, dan menghancurkan data berskala besar yang mencakup Akun Penyimpanan, basis data SQL, Brankas Kunci (Key Vaults), hingga mesin virtual.
Serangan yang dikoordinasikan secara otonom ini membuktikan bahwa identitas sistem dan izin akses yang diberikan kepada entitas non-manusia dapat menjadi celah kehancuran jika tidak diawasi. Microsoft menekankan bahwa kredensial yang bocor tetap aktif hingga dicabut secara eksplisit, sementara respons pertahanan kini turut menuntut penggunaan sistem AI seperti Project Perception dan MDASH guna mengimbangi skala serangan pelaku.
Kebutuhan akan batas kendali dan audit terhadap agen AI juga mendorong langkah konkret di sektor publik. Di Singapura, Government Technology Agency (GovTech Singapore) tengah menyiapkan infrastruktur akuntabilitas berupa registri agen AI menjelang penerapan asisten digital bagi sekitar 150.000 aparatur sipil negara. Chief Executive GovTech Goh Wei Boon menyatakan bahwa sistem ini memuat aturan yang dapat disesuaikan untuk memastikan kepatuhan operasional, termasuk pembatasan ketat seperti larangan bagi agen untuk menghapus berkas data atau mengirim surel ke pihak luar tanpa otorisasi.
Pada tingkat penyedia solusi keamanan, kebutuhan pengawasan agen AI mendorong inovasi dalam analitik perilaku entitas. Securonix mengembangkan analitik perilaku agen dan entitas (AEBA) serta pagar pembatas (agentic guardrails) guna memastikan setiap tindakan yang diambil oleh agen kecerdasan buatan tetap dapat diaudit, terikat oleh kebijakan perusahaan, dan berada di bawah supervisi analis manusia. Pengawasan berlapis ini dinilai krusial guna memastikan bahwa otonomi agen AI yang bertugas mengamankan infrastruktur tidak berbalik menjadi ancaman internal baru.
Sumber foto utama: Google Cloud Blog
