AI Hallucination Risk Score (AHRS - Süni İntellekt Halüsinasiya Risk Hesabı)
Müştəri xidmətlərində və ya məzmun istehsalında istifadə olunan böyük dil modellərinin (LLM) yanlış, uydurma və ya qeyri-dəqiq məlumat vermə ehtimalını ölçən risk indeksidir.
AHRS = (Yoxlanılmış Səhv Cavab Sayı / Ümumi Yaradılmış Cavab Sayı) * 100Ətraflı İzah
Süni intellekt tətbiqlərinin ən böyük çatışmazlıqlarından biri 'halüsinasiya' (uydurma məlumat vermək) hallarıdır. Müştəri ilə birbaşa ünsiyyətdə olan AI çatbotlarında bu risk şirkətin reputasiyasına ciddi zərər vura bilər. AHRS bu riski nəzarətdə saxlamaq üçün istifadə olunur.
Aşağı AHRS göstəricisi sistemin etibarlı olduğunu və müştəri qarşısına çıxmağa hazır olduğunu göstərir. Bu göstəricini azaltmaq üçün RAG (Retrieval-Augmented Generation) arxitekturasından və ciddi prompt mühəndisliyindən istifadə olunur.
Şirkətlər AI sistemlərini istehsalata buraxmazdan əvvəl mütləq AHRS testləri keçirməlidirlər.
Müştəri xidmətləri üçün qurulmuş AI botunun verdiyi 1.000 cavabdan 15-də faktiki səhvlər və uydurma məlumatlar aşkarlanıb. AHRS = (15 / 1.000) * 100 = 1.5%.