RAG (Retrieval-Augmented Generation)
Böyük dil modellərinin (LLM) xarici və etibarlı məlumat mənbələrindən real vaxtda məlumat axtararaq daha dəqiq, aktual və kontekstə uyğun cavablar verməsini təmin edən memarlıq strukturudur.
Ətraflı İzah
RAG (Retrieval-Augmented Generation) süni intellekt dünyasında ən böyük problemlərdən biri olan 'hallüsinasiya' (AI-ın yanlış məlumat uydurması) problemini həll etmək üçün yaradılmışdır. LLM-lər yalnız öyrədildikləri tarixə qədər olan məlumatları bilirlər. RAG isə modelə cavab verməzdən əvvəl xarici verilənlər bazasında və ya internetdə axtarış etmək imkanı verir.
RAG sistemində istifadəçinin sualı daxil olduqda, sistem əvvəlcə daxili sənədlərdə (məsələn, şirkətin PDF-ləri, verilənlər bazası) müvafiq məlumatları axtarır (retrieval). Tapılan bu aktual məlumatlar sualla birlikdə LLM-ə ötürülür və model yalnız bu məlumatlara əsaslanaraq cavab generasiya edir (generation).
Bu texnologiya xüsusilə hüquq, tibb və maliyyə kimi dəqiqlik tələb edən sahələrdə süni intellekt tətbiqlərinin təhlükəsiz və etibarlı şəkildə istifadə olunmasını təmin edir.
Bir bankın daxili qaydalarını öyrənmiş süni intellekt köməkçisi müştərinin 'Kredit şərtləri nədir?' sualına cavab vermək üçün əvvəlcə bankın ən son daxili PDF sənədlərini (RAG vasitəsilə) oxuyur və tam dəqiq faiz dərəcələrini təqdim edir.