VEC (Vector Embedding Cost)
Böyük həcmli mətn və ya vizual məlumatların vektor verilənlər bazasına yerləşdirilməsi üçün tələb olunan hesablama və maliyyə xərcidir.
VEC = Ümumi Token Sayı * Token Başına Vektorlaşdırma QiymətiƏtraflı İzah
Vector Embedding Cost (VEC) semantik axtarış, tövsiyə sistemləri və RAG (Retrieval-Augmented Generation) tətbiq edən şirkətlər üçün mühüm infrastruktur xərcidir. Məlumatların süni intellekt tərəfindən başa düşülməsi üçün onlar əvvəlcə 'vektorlara' (rəqəmlər massivinə) çevrilməlidir. Bu proses (embedding) bulud provayderləri (məsələn, OpenAI, Cohere) tərəfindən token əsaslı qiymətləndirilir.
Böyük sənəd arxivlərinə malik şirkətlər üçün VEC ilkin mərhələdə çox yüksək ola bilər. Həmçinin, məlumatlar hər dəfə yeniləndikdə vektorlaşdırma prosesi yenidən aparılmalıdır ki, bu da davamlı xərc yaradır.
VEC-in optimallaşdırılması üçün mühəndislər yalnız ən vacib məlumatları vektorlaşdırır, daha ucuz açıq mənbəli (open-source) embedding modellərindən istifadə edir və effektiv keşləmə (caching) sistemləri qururlar.
Bir hüquq firması öz arxivindəki 50,000 uzun sənədi (hər biri orta hesabla 10,000 token, ümumilikdə 500,000,000 token) vektor bazasına köçürmək istəyir. İstifadə olunan embedding modelinin qiyməti 1 milyon token üçün 0.10 USD-dir. Hesablama: VEC = 500,000,000 * (0.10 / 1,000,000) = 50 USD. Bu ilkin xərcdir, lakin hər gün yeni sənədlər əlavə olunduqca bu xərc mütəmadi olaraq hesablanır.