У пејзажу вештачке интелигенције који се брзо развија, раздаљина између идеје програмера и функционалног агента се историјски мерила сатима конфигурације, сукобима зависности и главобољама изазваним терминалом.
Та тачка трења се данас променила. Килостартуп за АИ инфраструктуру коју подржава суоснивач ГитЛаб-а Сид Сијбрандиј, најавио је општа доступност КилоЦлав-апотпуно управљана услуга дизајнирана да примени ОпенЦлав агент спреман за производњу за мање од 60 секунди.
Елиминишући „ССХ, Доцкер и ИАМЛ“ баријере које су чувале врхунске АИ агенте, Кило се клади да ће следећа фаза развоја софтвера – која се често назива "кодирање вибрације"— биће дефинисан не само квалитетом модела, већ и поузданошћу инфраструктуре на којој се налази.
Технологија: Реинжењеринг агентског сандбок-а
ОпенЦлав се појавио као вирусни феномен, сакупивши преко 161.000 ГитХуб звезда нудећи могућност која недостаје многим власничким алатима: могућност стварног обављања задатака—контролисање прегледача, управљање датотекама и повезивање са преко 50 платформи за ћаскање као што су ВхатсАпп и Сигнал.
Међутим, како је суоснивач и извршни директор Кило-а Сцотт Бреитенотхер приметио у ексклузивном интервјуу за ВентуреБеат, "ОпенЦлав сам по себи није тежак део… покретање јесте".
Техничка архитектура КилоЦлав-а је одмак од "Мац Мини на столу" модел на који су се многи рани усвојиоци ослањали. Уместо да захтева од корисника да обезбеде сопствени хардвер или виртуелне приватне сервере (ВПС), КилоЦлав ради на архитектури виртуелне машине са више закупаца (ВМ) коју покреће Фли.иочикашко удаљено прво покретање које нуди јавни облак фокусиран на програмере. Ово подешавање обезбеђује ниво изолације и безбедности који је тешко реплицирати појединачним програмерима.
"Оно што радимо је да КилоЦлав учинимо најбезбеднијим начином за позивање," Бреитенотхер је објаснио током интервјуа. "Имамо виртуелну машину која је хостована ОпенЦлав инстанца и ми се бавимо свом том мрежном сигурношћу, сандбокингом и проксијима који би били потребни пословној компанији. Ми у суштини покрећемо ОпенЦлав са више закупаца".
Да би осигурао безбедност, КилоЦлав користи два различита проксија која се налазе изван ВМ-а за управљање саобраћајем и заштиту инстанце од отвореног интернета. Ово спречава заједничко "грешка корисника" случајног откривања АПИ кључева агента или остављања локалне инстанце рањивом на спољне нападе. "Биће боље од [a local setup] на сваки начин," Бреитенотхер је устврдио. "Ако бисте га сами подесили, вероватно бисте пропустили неку поставку и завршили са њим случајно на интернету или открили АПИ кључ".
Производ: ‘механичко одело’ и судар у 3 ујутро
Примарна болна тачка за кориснике ОпенЦлав-а је „слом у 3 сата ујутро“ — тенденција да локално хостовани Ноде.јс процеси тихо умиру преко ноћи без праћења здравља или могућности аутоматског поновног покретања. КилоЦлав решава ово са уграђеним надзором процеса и изворним облаком "увек укључен" држава.
За разлику од стандардних токова рада Кило Цоде, који покреће терминалску сесију само када програмер покрене команду, КилоЦлав је упоран. "КилоЦлав само трчи и слуша," рекао је Бреитенотхер. "Увек је укључен, чека вашу ВхатсАпп поруку или Слацк поруку. Мора бити увек укључен. То је другачија парадигма – инфраструктура која је увек укључена у рад".
Ова упорност омогућава скуп од "агентске погодности" да Кило зове ан "егзоскелет за ум":
-
Планиране аутоматизације: Корисници могу да подесе црон послове да агент обавља истраживање, надгледа спремишта или генерише извештаје док је човек ван мреже.
-
Трајна меморија: Користећи а "Меморијска банка" система, агент складишти контекст у структурираним Маркдовн датотекама унутар спремишта, осигуравајући да задржи стање пројекта чак и ако се основни модел замени.
-
Команда за више платформи: Агент се може покренути из Слацк-а, Телеграма или терминала, одржавајући јединствено стање извршења на свим улазним тачкама.
Бреитенотхер је истакао промену у улози програмера током интервјуа: "Ми смо заправо преместили наше инжењере да буду власници производа. Када су се ослободили писања кода, они заправо много више размишљају. Они постављају стратегију за производ".
Предност „капија“: 500+ модела, без закључавања
Основна компонента КилоЦлав архитектуре је њена нативна интеграција са Кило Гатеваи-ом. Док је оригинални ОпенЦлав у почетку био блиско везан за Антхропиц-ове моделе, КилоЦлав омогућава корисницима да прелазе између преко 500 различитих модела провајдера као што су ОпенАИ, Гоогле и МиниМак, као и модела отворене тежине као што су Квен или ГЛМ.
"Ваш жељени модел данас можда неће бити исти – и искрено не би требао бити исти – за месец и по дана," Бреитенотхер је рекао, наглашавајући брзину индустрије. "Можда ћете желети различите моделе за различите задатке. Можда користите Опус за нешто сложено, или се за рутински посао пребацујете на строжи модел отворене тежине".
Ова флексибилност је подржана Килоовим транспарентним моделом цена. Компанија нуди "зеро маркуп" на АИ токенима, наплаћујући корисницима тачне стопе АПИ-ја које пружају произвођачи модела. За напредне кориснике, овим се управља преко Кило Пасс-а, нивоа претплате који обезбеђује бонус кредите (нпр. 199 УСД месечно за 278,60 УСД кредита) за субвенционисање агентског рада великог обима.
Како одмах започети са КилоЦлав-ом
-
Пријавите се или региструјте: Идите до апликације Кило Цоде на вебу (десктоп) на адреси апп.кило.аи и пријавите се користећи свој постојећи налог. Кило подржава неколико метода аутентификације, укључујући ГитХуб и Гоогле ОАутх.
-
Креирајте своју инстанцу: Изаберите "Канџа" картицу из бочног менија за навигацију да бисте приступили контролној табли КилоЦлав. Кликните на "Креирајте инстанцу" дугме да бисте почели да обезбеђујете свог агента (погледајте слику изнад да бисте га пронашли).
-
Изаберите свој модел: Изаберите подразумевани АИ модел за напајање свог агента из падајућег менија. Корисници могу да бирају између широког спектра опција, укључујући бесплатне (за сада) моделе као што је МиниМак.
-
Конфигуришите канале за размену порука (опционо): Током подешавања, опционо можете да повежете свог агента са Дисцорд-ом, Телеграмом или Слацк-ом и комуницирате са својим КилоЦлав агентом директно преко тих канала — уместо на веб локацији Кило Цоде. Али да бисте кренули брже, можете прескочити овај корак и увек ћете моћи да додате ове подржане бот кључеве и касније конфигуришете ове канале у подешавањима инстанце.
-
Обезбеђивање и почетак: Кликните "Креирајте и обезбедите" да подесите своју виртуелну машину. Када се инстанца обезбеди, кликните "Почни" за покретање агента, што обично траје само неколико секунди
-
Верификујте и приступите: Кликните на "Отвори" дугме за улазак у ОпенЦлав интерфејс. Због сигурности, мораћете да кликнете "Приступни код" да генеришете једнократни верификациони токен који први пут потврђује валидност вашег уређаја.
-
Започните кодирање вибрације: Када будете верификовани, можете започети интеракцију са својим агентом директно у интерфејсу за ћаскање. Агент ће остати да ради 24/7 на наменској виртуелној машини, слушајући команде на свим повезаним платформама.
Према Брендану О’Леарију, односима са програмерима у Кило Цоде-у и бившем еванђелисту програмера у ГитЛаб-у, корисници нису сигурни који модел да изаберу треба да консултују ПинцхБенцх, алатку за бенцхмаркинг отвореног кода развијену за процену модела на 23 агентска задатка из стварног света, као што су сортирање е-поште и генерисање блог постова.
Бенцхмаркинг агентске ере: лансирање ПинцхБенцх-а, новог опен-соурце бенцхмаркинг пакета посебно за Цлав задатке
Да би помогао програмерима да се крећу у избору између 500+ модела, Кило је такође објавио ПинцхБенцхбенцхмарк отвореног кода посебно за агентска радна оптерећења.
Док традиционални стандарди као што су ММЛУ или ХуманЕвал тестирају ћаскање у изолацији, ПинцхБенцх тестира агенте на 23 стварна задатка у више корака као што су управљање календаром и истраживање из више извора.
Пројекат је предводио О’Лири, који је током демонстрације приметио да је мерило "некако инспирисан… другим малим врстама забавних клупа" попут оних које је креирао програмер Јутјубер Тео Браун (@т3дотгг)извршни директор/оснивач Пинг Лабс.
О’Леари је објаснио да, иако су постојећи стандарди често високо специјализовани, он је желео начин да то уради "бенцхмарк врсте ствари које смо тражили да ОпенЦлав уради".
Он је лично водио бенцхмарк "стотине и стотине пута против ОпенЦлав-а" да би осигурао његову тачност, и узевши страницу из Браунове књиге (ух, видео-плејбоок?), такође је покренуо Јутјуб серију како би сазнао да ли КилоЦлав може да се носи са разним задацима, под насловом, прикладно, "Вилл Ит Цлав?"
Да би одржао високе стандарде евалуације за субјективне задатке као што је писање постова на блогу, О’Леари је дизајнирао систем у којем је врхунски "судијски модел"—посебно Цлауде 3.5 Опус—користи се за оцењивање резултата других модела. "Ми заправо имамо… не модел који се тестира, већ увек Опус… [judge] излаз сваког од модела," О’Лири је навео, додајући да модел судије чак даје посебне напомене о квалитету извршења.
Бенцхмарк омогућава корисницима да виде упоређивање дијаграма распршености "Цена за интелигенцију," идентификујући који модели нуде највећу стручност за најнижу цену. Ова специфична визуализација је приоритет за О’Леарија, који је приметио да јесте "мој омиљени графикон за гледање модела… колико трошите у односу на колико је стопа успеха".
За оне који више воле да буду домаћини сопствене инфраструктуре, О’Лири је учинио процес потпуно транспарентним, пружајући а "скилл фајл који људи могу да преузму" па могу "бенцхмарк своје ОпенЦлав инстанце" самостално
"Свеједно радимо овај посао да бисмо знали које подразумеване вредности треба да препоручимо," Бреитенотхер је додао у одвојеном интервјуу. "Одлучили смо да га отворимо јер индивидуални програмер не би требало да размишља о томе који модел је најбољи за посао. Желимо да људима пружимо све више информација".
О’Леари је проширио ову филозофију, описујући мерило као битак "као Олимпијске игре на много начина," одакле се крећу задаци "веома објективно оцењен" онима којима је потребна нијансиранија процена.
Контекст индустрије: Разликовање од растуће ОпенЦлав породице изданака
КилоЦлав улази на тржиште све препуније ОпенЦлав варијанти. Пројекти попут Наноцлав-а су постали лаки, док су компаније попут Рунлаиер-а циљале на предузеће "Виртуелни приватни сервер" ниша.
Међутим, Кило се истиче одбијањем "виљушка" код. "То није виљушка, и то је оно што је важно," Бреитенотхер је навео. "ОпенЦлав се креће тако брзо да смо домаћини стварног ОпенЦлав-а [version]. То је буквално ОпенЦлав на заиста добро подешеној виртуелној машини којом се добро управља".
Ово осигурава да како се основни ОпенЦлав пројекат развија, корисници КилоЦлав-а аутоматски добијају ажурирања без ручног "гит пулл" операције.
Ово "отворено језгро" филозофија се протеже и на лиценцирање. Док је КилоЦлав плаћена хостована услуга, основни Кило ЦЛИ и основна проширења остају лиценцирани МИТ-ом. Ово омогућава ревизију заједнице—критична карактеристика за предузећа која су свесна безбедности.
Закључак: ка агентској будућности
Лансирање КилоЦлав-а означава стратешки потез Кила да прошири своју корисничку базу даље "чудан" програмери до менаџера предузећа и нетехничких професионалаца. Понудом а "једним кликом" пут до производног агента, компанија покушава да демократизује "магичне тренутке" оф АИ.
Према издању које је Кило доставио ВентуреБеат-у пре лансирања, у прве две недеље, више од 3.500 програмера придружило се листи чекања. Ови рани усвојитељи су били "стварно гура КилоЦлав у свим правцима," користећи га за аутоматизацију свега, од управљања Дисцорд-ом до одржавања спремишта.
"Наша мисија је да изградимо најбољу све-у-једном радну платформу АИ," закључио је Бреитенотхер. "Било да сте програмер, менаџер производа или инжењер података, желимо да све ове личности искусе магију егзоскелета за ум".
КилоЦлав је сада доступан и нуди 7 дана бесплатног рачунара за све нове кориснике. Са хиљадама програмера који су већ очистили листу чекања, изгледа да је стигла ера управљаног АИ агента – Мац Мини није потребан.
