Serangan siber terhadap sistem kecerdasan buatan (AI) kini melaju lebih cepat. Tren ancaman seperti prompt injection dan jailbreak makin sering digunakan. Teknik ini memanipulasi keluaran model AI dan membocorkan data sensitif.
Perilaku AI yang tak terduga juga dapat dipicu. Melihat tren tersebut, F5 mengumumkan ketersediaan umum dua solusi keamanan baru. Solusi ini disebut F5 AI Guardrails dan F5 AI Red Team.
Keduanya dirancang khusus melindungi sistem AI enterprise pada tahap operasional atau runtime.
F5 menegaskan pendekatan ini vital. Banyak alat keamanan lama tidak dirancang menghadapi pola serangan baru. Pola serangan tersebut muncul dari cara kerja model AI modern.
"Tata kelola enterprise tradisional tidak mampu mengikuti kecepatan perkembangan AI. Ketika kebijakan tertinggal dari adopsi, kebocoran data dan perilaku model yang tidak terduga akan terjadi," kata Kunal Anand, Chief Product Officer F5.
AI Guardrails berfungsi sebagai lapisan perlindungan runtime yang bersifat model-agnostic. Solusi ini dapat digunakan berbagai jenis model AI. Termasuk aplikasi dan agen AI di lingkungan cloud maupun on-premise.
Solusi ini dirancang memblokir ancaman seperti prompt injection. Selain itu, mencegah kebocoran data. Serta mendukung kepatuhan regulasi seperti GDPR dan EU AI Act.
Berikut perbandingan fitur utama solusi keamanan AI F5:
| Fitur | F5 AI Guardrails | F5 AI Red Team |
|---|---|---|
| Jenis Perlindungan | Perlindungan runtime | Pengujian keamanan ofensif otomatis |
| Fokus Ancaman | Prompt injection, kebocoran data | Simulasi berbagai teknik serangan |
| Kompatibilitas Model | Model-agnostic (berbagai jenis AI) | – |
| Kepatuhan Regulasi | Mendukung GDPR, EU AI Act | – |
| Basis Data Kerentanan | – | Database kerentanan AI, 10.000+ teknik serangan baru bulanan |
F5 AI Red Team: Uji Keamanan Ofensif Otomatis
Selain proteksi real-time, F5 menghadirkan AI Red Team. Sistem ini melakukan pengujian keamanan ofensif secara otomatis. AI Red Team mensimulasikan berbagai teknik serangan.
Ini didukung basis data kerentanan AI. Ditambah lebih dari 10.000 teknik serangan baru setiap bulan. Hasil temuan dari AI Red Team kemudian diintegrasikan kembali ke kebijakan AI Guardrails.
Sistem pertahanan ini terus berkembang. Mengikuti perubahan ancaman yang ada. F5 menyatakan kedua solusi ini sudah digunakan perusahaan Fortune 500.
Termasuk sektor layanan keuangan dan kesehatan. Kedua sektor tersebut memiliki tuntutan regulasi yang ketat.
