Ha minden tárolt embeddinget összehasonlítunk a kérdéssel, az pontos, de néhány tízezer sor fölött már túl lassú ahhoz, hogy felhasználó elé kerüljön. A vektoradatbázisok egy kis pontosságot cserélnek nagyon sok sebességre közelítő legközelebbi-szomszéd indexekkel, és hozzáteszik azt az üzemeltetési részt, amire egy éles rendszernek szüksége van: metaadat szerinti szűrés, dokumentumok helyben frissítése, és az index konzisztenciája írás közben.
A kategória fiatalabb, mint amilyennek látszik, és a határai mozognak. A célzottan erre épült tárolók azokkal a kiterjesztésekkel versenyeznek, amelyek a csapat által amúgy is üzemeltetett adatbázisba épülnek — és néhány millió dokumentumig gyakran a kiterjesztés a jobb válasz: egy rendszert kell menteni, egyet monitorozni, egy hozzáférést kezelni. Külön vektoradatbázishoz nyúlni azelőtt, hogy a meglévőt kipróbálták volna, gyakori és drága szokás.
Kapcsolódó fogalmak
Embedding (beágyazás)
Számok listája, amely egy szövegrészt képvisel úgy, hogy a hasonló dolgokról szóló szövegek közel kerülnek egymáshoz.
RAG (visszakereséssel bővített generálás)
Először megkeressük a releváns dokumentumokat, és beletesszük a promptba, így a modell a te anyagodból válaszol, nem a memóriájából.
Ide tartozó munkapad
AI automatizálásA heted ismétlődő fele átadva egy szoftvernek, ami nem unja meg. Levelezés szűrése, utánkövetés, riportok, adatmozgatás olyan eszközök között, amiket sosem terveztek együttműködésre.
