Tim IT tidak dilengkapi untuk menghentikan agen AI yang tidak terkendali
Posted by : Admin , Jan 30, 2026
Sudut pandang internal Akati menawarkan sudut pandang yang berbeda mengenai ancaman keamanan siber yang didorong oleh kecerdasan buatan. Sudah umum diketahui bahwa pelaku ancaman memanfaatkan kecerdasan buatan generatif untuk melakukan serangan phishing dan rekayasa sosial dalam skala besar. Akati memberi peringatan bahwa para penjahat siber akan mengeksploitasi agen di dalam sebuah perusahaan.
"Jika Anda memiliki penerapan Gen AI yang menggunakan GPU di cloud, mereka akan berusaha memanfaatkan itu dan menggunakannya untuk menjalankan kueri mereka sendiri," jelas Rajagopal.
Kampanye spionase siber yang digagalkan oleh Anthropic di musim gugur yang lalu mungkin mencerminkan serangan rantai pasokan yang menggunakan platform AI sebagai alat penipuan. Kelompok yang berhubungan dengan negara berhasil mengakses agen pemrograman AI Claude dan berusaha menyerang lebih dari dua puluh organisasi yang menggunakan LLM.
Rajagopal berpandangan bahwa para peretas sedang melaksanakan operasi pembuktian konsep.
"Saya rasa mereka sedang menguji batasan untuk melihat apa yang dapat mereka lakukan dan seberapa besar skala serta kecepatan yang bisa dicapai, jika mereka melancarkan serangan rantai pasokan lain seperti SolarWinds," ungkapnya.
Serangan SolarWinds pada tahun 2020 telah merusak MSP yang memanfaatkan platform tersebut untuk manajemen TI dan pemantauan jarak jauh. Ketika MSP dan MSSP mengembangkan agen untuk tim internal serta pelanggan, mereka harus tetap waspada.
Sumber : https://www.cybersecuritydive.com/news/rogue-ai-agents-threaten-msps-mssps-akati-sekurity/810231/
