Prompt Injection Vulnerability Rate (PIVR)
Süni intellekt tətbiqinin kənar istifadəçilər tərəfindən göndərilən manipulyativ sorğulara (prompt injection) qarşı zəiflik və aldanma faizidir.
PIVR = (Uğurlu Prompt Injection Hücumlarının Sayı / Sınaqdan Keçirilən Ümumi Hücum Cəhdləri) * 100Ətraflı İzah
Prompt Injection Vulnerability Rate (PIVR) LLM əsaslı tətbiqlər hazırlayan startaplar üçün ən vacib kibertəhlükəsizlik metrikidir. İstifadəçilər sistemə xüsusi hazırlanmış əmrlər daxil edərək AI-ın daxili təlimatlarını (system prompts) sındıra və ya gizli məlumatları oğurlaya bilərlər.
PIVR-ın yüksək olması tətbiqin təhlükəsiz olmadığını və real istifadəyə hazır olmadığını göstərir. Bu göstəricini azaltmaq üçün daxil olan sorğuların filtrasiyası (guardrails) və təhlükəsizlik testləri (red teaming) aparılmalıdır.
Süni intellekt təhlükəsizliyi (AI TRiSM) müasir dövrdə korporativ müştərilərin proqram təminatı alarkən diqqət yetirdiyi ilk məqamdır.
AI köməkçisi tətbiqini sınaqdan keçirmək üçün təhlükəsizlik komandası 500 fərqli manipulyativ sorğu (attack prompt) göndərib. AI botu bunlardan 45-nə aldanaraq sistem qaydalarını pozub. PIVR = (45 / 500) * 100 = 9%.