Изградња система са проширеном генерисањем (РАГ) за АИ агенте често укључује коришћење више слојева и технологија за структуриране податке, векторе и информације о графиконима. Последњих месеци такође је постало све јасније да је системима вештачке интелигенције потребна меморија, која се понекад назива контекстуална меморија, да би ефикасно функционисали.
Сложеност и синхронизација поседовања различитих слојева података за омогућавање контекста могу довести до проблема са перформансама и прецизношћу. То је изазов који СурреалДБ жели да реши.
СурреалДБ је у уторак лансирао верзију 3.0 своје истоимене базе података заједно са проширењем серије А од 23 милиона долара, чиме је укупно финансирање достигло 44 милиона долара. Компанија је заузела другачији архитектонски приступ од релационих база података попут ПостгреСКЛ, изворних векторских база података као што је Пинецоне или базе података графова као што је Нео4ј. ОпенАИ инжењерски тим је недавно описао како је скалирао Постгрес на 800 милиона корисника користећи реплике за читање – приступ који функционише за радна оптерећења која су велика за читање. СурреалДБ користи другачији приступ: складишти меморију агента, пословну логику и мултимодалне податке директно унутар базе података. Уместо синхронизације у више система, векторска претрага, обилазак графова и релациони упити се извршавају трансакцијски у једном Руст-нативе механизму који одржава конзистентност.
"Људи покрећу ДуцкДБ, Постгрес, Сновфлаке, Нео4ј, Куадрант или Пинецоне све заједно, а онда се питају зашто не могу да постигну добру прецизност у својим агентима," Извршни директор и суоснивач Тобие Морган Хитцхцоцк рекао је за ВентуреБеат. "То је зато што морају да пошаљу пет различитих упита у пет различитих база података које имају само знање или контекст којим се баве."
Архитектура је одјекнула код програмера, са 2,3 милиона преузимања и 31.000 ГитХуб звезда до данас за базу података. Према Хичкоку, постојеће примене обухватају ивичне уређаје у аутомобилима и одбрамбеним системима, механизме за препоруке производа за главне продавце у Њујорку и Андроид технологије за приказивање огласа.
Агентска АИ меморија убачена у базу података
СурреалДБ складишти меморију агента као односе графова и семантичке метаподатке директно у бази података, а не у коду апликације или спољним слојевима кеширања.
Систем додатака Сурреалисм у СурреалДБ 3.0 омогућава програмерима да дефинишу како агенти граде и испитују ову меморију; логика ради унутар базе података са трансакционим гаранцијама, а не у међуоверу.
Ево шта то значи у пракси: Када агент ступи у интеракцију са подацима, он креира контекстне графиконе који повезују ентитете, одлуке и знање о домену као записе базе података. Ови односи се могу испитивати кроз исти СурреалКЛ интерфејс који се користи за векторску претрагу и структуриране податке. Агент који се распитује о проблему са клијентом може да прође кроз везе графикона до повезаних прошлих инцидената, да повуче векторске уградње сличних случајева и да се придружи структурираним подацима о клијентима — све у једном трансакцијском упиту.
"Људи више не желе да чувају само најновије податке," Хичкок је рекао. "Они желе да сачувају све те податке. Они желе да анализирају и да АИ разуме и прође кроз све податке организације у последњих годину или две, јер то информише њихов модел, њиховог АИ агента о контексту, о историји, и то стога може дати боље резултате."
Како се архитектура СурреалДБ-а разликује од традиционалних РАГ стекова
Традиционални РАГ системи постављају упите базама података на основу типова података. Програмери пишу засебне упите за претрагу векторске сличности, обилажење графова и релационе спојеве, а затим спајају резултате у коду апликације. Ово ствара кашњења синхронизације као повратне упите између система.
Насупрот томе, Хичкок је објаснио да СурреалДБ складишти податке као бинарно кодиране документе са графским односима уграђеним директно поред њих. Један упит преко СурреалКЛ-а може прећи релације графова, извршити претраге векторске сличности и придружити структуриране записе без напуштања базе података.
Та архитектура такође утиче на то како конзистентност функционише на скали: сваки чвор одржава конзистентност трансакција, чак и на скали од 50+ чворова, рекао је Хичкок. Када агент упише нови контекст у чвор А, упит на чвору Б одмах види то ажурирање. Нема кеширања, нема реплика за читање.
"Многи наши случајеви коришћења, многе наше примене су у којима се подаци стално ажурирају и односи, контекст, семантичко разумевање или графичке везе између тих података треба стално да се освежавају," рекао је. "Дакле, нема кеширања. Нема прочитаних реплика. У СурреалДБ-у свака ствар је трансакцијска."
Шта ово значи за ИТ предузећа
"Важно је рећи да СурреалДБ није најбоља база података за сваки задатак. Волео бих да кажем да јесмо, али није. и не можеш бити," Хичкок је рекао. "Ако вам је потребна само анализа преко петабајта података и никада заправо не ажурирате те податке, онда ће вам најбоље бити са складиштењем објеката или колонском базом података. Ако се само бавите претрагом вектора, онда можете користити векторску базу података као што је Куадрант или Пинецоне, и то ће бити довољно."
Преломна тачка долази када вам је потребно више типова података заједно. Практична корист се види у временским роковима развоја. Оно за шта су некада били потребни месеци да се направи са оркестрацијом са више база података сада може да се покрене за неколико дана, рекао је Хичкок.
