Mengenal Tantangan Keamanan Agents of Chaos
Agents of Chaos kini hadir sebagai sebuah kompetisi AI red teaming inovatif yang diluncurkan oleh Crowdstrike. Praktisi keamanan saat ini sering mendengar istilah seperti prompt injection, pembajakan agen, hingga agen nakal (rogue agents). Namun, hanya segelintir orang yang memahami bagaimana rasanya memanipulasi agen AI secara langsung.
Melalui kompetisi ini, Anda akan mempelajari bagaimana otonomi menciptakan perilaku yang dapat dieksploitasi. Anda juga akan memahami perbedaan antara agen yang rentan dan agen yang aman. Crowdstrike merancang tantangan ini agar komunitas keamanan dapat merasakan serangan ini secara nyata dengan total hadiah mencapai $100.000 USD.
Misi Rahasia di Dunia Adversarial AI
Dalam permainan ini, Anda berperan sebagai agen rahasia yang menyusup ke dalam organisasi bayangan. Organisasi ini menggunakan agen AI otonom untuk meluncurkan serangan siber yang katastropik. Tugas utama Anda adalah mendapatkan kepercayaan organisasi tersebut sambil berusaha menghentikan rencana serangan mereka sebelum terlambat.
Agen otonom membuat keputusan berdasarkan tujuan, konteks, dan informasi yang tersedia bagi mereka. Untuk memanipulasi agen tersebut, Anda harus memahami proses penalaran mereka. Selanjutnya, Anda perlu memberikan input yang mengarahkan keputusan agen menuju tujuan Anda.
Teknik Manipulasi dalam Agents of Chaos
Permainan ini memperkenalkan berbagai teknik manipulasi yang sering digunakan dalam serangan dunia nyata. Berikut adalah beberapa metode yang harus Anda kuasai untuk menyelesaikan tantangan ini:
- Direct Prompt Injection: Anda berinteraksi langsung dengan model AI dan memerintahkannya untuk mengabaikan tujuan aslinya. Tidak ada tembok pelindung antara instruksi sistem dan input pengguna.
- Indirect Prompt Injection: Teknik yang lebih canggih di mana instruksi berbahaya ditanamkan dalam dokumen atau konten yang dibaca oleh agen. Agen akan mengeksekusi perintah tersebut seolah-olah itu adalah bagian dari instruksi internal mereka.
- Tool Poisoning: Agen AI sering menggunakan alat bantu seperti API atau eksekusi kode. Dengan memanipulasi alat tersebut, Anda dapat mengendalikan perilaku agen secara tidak langsung.
Format Kompetisi dan Tahapan Permainan
Tantangan Agents of Chaos berlangsung mulai 31 Agustus hingga akhir September. Kompetisi ini dibagi menjadi tiga babak (act) yang semakin menantang dengan hadiah yang terus meningkat:
- Act 1: The Sanctum (31 Agustus – 7 September) dengan hadiah $10.000.
- Act 2: The Gatekeeper (31 Agustus – 14 September) dengan hadiah $20.000.
- Act 3: The Basilisk (15 – 29 September) dengan hadiah utama $70.000.
Peserta akan dinilai berdasarkan kemampuan dan efisiensi mereka dalam menggunakan teknik manipulasi AI. Setelah kompetisi berakhir, pengalaman permainan ini akan tetap tersedia sebagai sumber daya edukasi mandiri bagi siapa saja yang ingin belajar.
Mengapa Simulasi Ini Penting untuk Keamanan IT?
Saat ini, banyak organisasi telah menyebarkan agen AI di lingkungan bisnis mereka. Sayangnya, sebagian besar deployment tersebut tidak dilengkapi dengan sistem keamanan runtime yang memadai. Kondisi ini membuat perusahaan rentan terhadap serangan atau konsekuensi dari ketidakselarasan agen (agentic misalignment).
Oleh karena itu, Crowdstrike memperkenalkan konsep AI Detection and Response (AIDR). Jika alat keamanan tradisional fokus pada infrastruktur, AIDR justru mendeteksi ancaman yang menargetkan dan mempersenjatai AI itu sendiri secara real-time. Kompetisi ini bertujuan mempercepat kesiapan komunitas keamanan dalam menghadapi ancaman masa depan.
Kesimpulan
Agents of Chaos bukan sekadar permainan, melainkan simulasi mendalam tentang tantangan keamanan AI yang nyata. Dengan berpartisipasi, Anda tidak hanya berkompetisi untuk mendapatkan hadiah, tetapi juga memperkuat keterampilan pertahanan siber Anda.
Crowdstrike Indonesia merupakan bagian dari PT. iLogo Infralogy Indonesia, yang bertindak sebagai partner resmi Crowdstrike. Selain itu, kami juga berperan sebagai penyedia layanan (vendor) sekaligus distributor berbagai produk Infrastruktur IT dan Cybersecurity terbaik di Indonesia.