Пратите ЗДНЕТ: Додајте нас као жељени извор на Гоогле-у.
ЗДНЕТ-ови кључни закључци
- Гоосе се понаша као агент који планира, понавља и примењује промене.
- Оллама је локално време извођења које хостује модел.
- Квен3-цодер је ЛЛМ фокусиран на кодирање који генерише резултате.
Ако програмирате било који број година, прилично сте проживели гомилу циклуса хиперактивности. Било да се ради о новом развојном окружењу, новом језику, новом додатку или некој новој онлајн услузи са тако моћним АПИ-јем који штеди време, све је то „револуционарно“ и „мења свет“, барем према ПР представницима који продају велику нову ствар.
А ту је и агентско АИ кодирање. Када вам алатка може помоћи да направите четири године развоја производа за четири дана, утицај се мења у свету. Док вибрацијско кодирање има своје противнике (из доброг разлога), агенти за АИ кодирање као што су ОпенАИ-јев Цодек и Цлауде Цоде заиста су револуционарни. Они радикално трансформишу софтверску индустрију.
Такође: Испробао сам алтернативу Цлауде Цоде која је локална, отвореног кода и потпуно бесплатна – како функционише
Током мог тестирања, утврдио сам да можете да обавите неколико сати агентског кодирања ту и тамо уз планове од 20 долара месечно од компанија за вештачку интелигенцију. Али ако намеравате да унесете читаве дане кодирања, мораћете да надоградите на планове од 100 УСД или 200 УСД месечно. У супротном, ризикујете да будете стављени на чекање док се ваша алокација токена не ресетује.
Иако су и ОпенАИ и Антхропиц више пута рекли да поштују приватност база кода, чињеница је да оба раде свој посао на инфраструктури облака. Тај напор има својствени безбедносни ризик. Коришћење ових технологија такође може да крши уговоре на основу начина на који управљате својим изворним кодом или чак и где се ваш посао обавља.
Недавно је, међутим, објављено могуће решење за ове изазове. Комбиновањем три одвојена алата, можда ће бити могуће заменити скупе платформе за кодирање засноване на облаку бесплатним АИ агентом који ради на вашем локалном рачунару.
Такође: Тестирао сам бесплатне и плаћене алате за АИ кодирање – ево који бих заправо користио
У свом претходном чланку, показао сам вам како да подесите ово окружење и урадио нека основна тестирања. Успео сам да потврдим да ово подешавање може да покреће агентско кодирање (иако сам му задао само једноставан проблем, и имао је неких изазова).
У овом чланку ћу вас провести кроз три алата (Гоосе, Оллама и Квен3-цодер) и објаснити шта сваки доприноси укупном решењу.
Затим, у наредном чланку, покушаћу да искористим овај систем да направим велики пројекат, проширујући своју апликацију Цлауде Цодед иПхоне, Мац и Аппле Ватцх на иПад. Уместо да користим Цлауде Цоде за пројекат, идем да видим да ли ове три групе битова могу да ураде целу ствар на мом Мац-у, и то бесплатно.
Квен3: ЛЛМ за кодирање
Почнимо са Квен3-кодером, моделом великог језика који је специфичан за кодирање. Одабрао сам Квен због Пост Јацка Дорсеиа на Ксрекавши „гуска + квен3-цодер = вов“, а такође и зато што ми га је Џек Волен из ЗДНЕТ-а препоручио када сам питао о моделима кодирања за преузимање.
Такође: Престаните да користите ЦхатГПТ за све: Моји АИ модели за истраживање, кодирање и још много тога (и које избегавам)
То је питање које желим да појачам. Знамо да су модели као што су ОпенАИ ГПТ-5.2-цодек и Антхропицов Опус-4.5 одлични у кодирању, али су засновани на облаку и долазе уз накнаду. Гледамо Квен3-кодер зато што је је бесплатно и за преузимање.
Хајде да разговарамо о томе шта је велики језички модел. Размислите о ЦхатГПТ-у. Када га користите, можете одабрати модел (или, са бесплатном верзијом, модел се обично бира за вас). Интерфејс, или цхатбот, је посебан део софтвера од модела.
Ако бисмо користили аналогију са аутомобилом, модел је мотор, а цхатбот је путнички простор са воланом и инструмент таблом.
Квен3-цодер је специјализована верзија Квен3 ЛЛМ из Алибаба. То је део софтвера који заправо пише код. Овај модел генерише код из упита и разуме програмске језике, оквире и обрасце. Може да изврши рефакторирање кода (учини измене у целом коду), покрене диффс (упореди код), креира објашњења кода и поправи код.
Такође: Ксцоде 26.3 коначно доноси агентско кодирање у Аппле-ове програмерске алате
Модел кодирања није у стању да управља радним токовима у више корака. Не зна када да престане да ради на проблему или када да понови проблем. Модел такође нема сећања на ништа осим тренутно покренутог контекста.
Оллама: Време извођења модела
Оллама је локални слој времена за извођење и сервирање модела. Модели не трче сами. Користећи базу података као аналогију, модел је попут саме базе података, збирка информација. У случају модела, то је огромно складиште знања.
Оллама је као механизам базе података. Главна разлика између базе података и механизма базе података је у томе што механизам базе података умеће и извлачи податке из стварне базе података. Оллама само извлачи информације из модела великог језика, тако да је то више рунтиме (систем који покреће нешто што је претходно изграђен од стране другог система) него потпуни мотор.
Оллама је инфраструктура која заправо покреће велике језичке моделе на вашој машини и чини их доступним другим процесима преко локалног АПИ-ја. Он преузима, инсталира и управља локалним ЛЛМ-овима. Покреће процесе закључивања на вашем хардверу (ЦПУ или ГПУ). Он чини моделе доступним другим процесима преко конзистентне крајње тачке АПИ-ја. Такође се бави променом модела, управљањем верзијама и контролом ресурса.
Такође: Да ли ЦхатГПТ Плус још увек вреди ваших 20 долара? Упоредио сам то са бесплатним, Го и Про плановима – ево мог савета
С друге стране, Оллама не разуме циљеве вашег пројекта. Не управља разговорима или задацима.
Треба напоменути још једну ствар. Оллама сама по себи није специјализовани алат за кодирање. Зна кодирање само ако ЛЛМ који тренутно ради зна кодирање.
Пошто прихвата АПИ позиве за ЛЛМ приступ, Оллама је нешто попут АИ сервера, који се налази између ЛЛМ-а и интерфејса за ћаскање.
Гуска: Менаџер кодирања
Гуска је у основи агентски део слагалице, који обезбеђује оркестрацију за остале главне компоненте. То је део који разуме намеру, управља задацима и одлучује шта да тражи од модела да следеће уради.
Гоосе тумачи ваша програмска упутства. Ако вам се свиђа идеја кодирања вибрација, Гоосе декодира вибрације које му дате и разбија рад на кораке који се односе на анализу, планирање, генерисање кода и тестирање. То је део система који одржава разговорни контекст и контекст задатака кроз итерације.
Такође: Како да направите своју прву иПхоне апликацију са АИ – није потребно искуство кодирања
У договору са човеком који га води, Гоосе одлучује да ли промена заслужује преписивање модула или блока и да ли се код може само модификовати. Такође управља командама тока посла као што су „скенирајте репо, предложите измене, примените разлике“.
Гуска сама не генерише код. Не покреће моделе директно (иако разговара са њима). И не зна ништа о синтакси кода осим ако модел који користи не помаже.
Гоосе је у суштини директор и менаџер пројекта процеса кодирања вибрације.
Типичан ток посла
Дакле, хајде да погледамо како све три компоненте раде заједно да би вам омогућиле да генеришете код:
- Човек даје подсетник који описује циљ програмирања.
- Гуска тумачи тај циљ и одлучује шта да ради.
- Гоосе шаље прецизан упит за кодирање Оллами.
- Оллама покреће Гвен3-цодер локално на вашем рачунару.
- Гвен3-цодер враћа код или анализу.
- Гуска одлучује да ли да је примени, прецизира или поново пита.
Овај модел тока посла је разлог зашто вибе кодирање делује течно. Можете остати апстрактни и интуитивни док систем преводи ваше упите у опипљиве промене кода.
Такође: Користио сам Цлауде Цоде да вибе кодирам Мац апликацију за 8 сати, али то је био више посао него магија
Иако овај приступ заиста добро функционише за ова три алата, друга окружења агентског кодирања као што су Цлауде Цоде или ОпенАИ Цодек имају сопствену мешавину ЛЛМ кодирања, времена извођења модела и менаџера програмирања. Сви они само раде иза фронт-енд интерфејса који производи за кодирање представљају својим корисницима програмера.
Што се тиче три алата о којима овде говоримо, ова архитектура пружа велику флексибилност и контролу. На пример, можете заменити Гвен3-кодер ЛЛМ за други модел кодирања без промене Гоосе. Можете да ажурирате или оптимизујете Олламу без додиривања токова посла. Временом, Гоосе може еволуирати у паметнијег агента без преквалификације модела. Плус, све је локално, проверљиво (мислим да је то реч) и модуларно.
Ваше одељење за софтверско инжењерство у кутији
Ево забавног начина да размислите о овом приступу. Једном када подесите Гоосе, Оллама и Квен3-цодер на вашој локалној машини, заправо имате одељење за софтверско инжењерство у кутији. Гоосе је виши инжењер који води сесију. Оллама је инфраструктурни инжењер који управља вашим рачунарским окружењем. Квен3-цодер је брз, талентован јуниор програмер који пише код.
Шта је са тобом? Да ли сте испробали локалне алате за кодирање засноване на агентима као што је Гоосе витх Оллама и модел кодирања који се може преузети? Или се још увек ослањате на услуге засноване на облаку као што су Цлауде Цоде или Цодек?
Да ли вам се свиђа идеја да свој код и упутства у потпуности задржите на сопственој машини или видите компромисе који би овај приступ учинили непрактичним за ваш рад? Шта мислите о мешању и усклађивању компоненти, као што су замена модела или времена извођења, уместо да користите платформу за кодирање све у једном? Обавестите нас у коментарима испод.
Можете пратити моја свакодневна ажурирања пројекта на друштвеним мрежама. Обавезно се претплатите на мој недељни билтен за ажурирањеи пратите ме на Твиттер/Кс на @ДавидГевиртзна Фејсбуку у Фацебоок.цом/ДавидГевиртзна Инстаграму у Инстаграм.цом/ДавидГевиртзна Блуески ат @ДавидГевиртз.цома на ИоуТубе-у на адреси ИоуТубе.цом/ДавидГевиртзТВ.
