МиниМак-ов нови отворени М2.5 и М2.5 Лигхтнинг је скоро најсавременији док кошта 1/20 Цлауде Опус 4.6

Кинески АИ стартуп МиниМакса седиштем у Шангају, изазвао је шокове кроз индустрију вештачке интелигенције данас објављивањем свог новог М2.5 језички модел у две варијанте, које обећавају да ће врхунска вештачка интелигенција бити толико јефтина да бисте могли у потпуности да престанете да бринете о рачуну.

Такође се каже да је "опен соурце," иако тежине (подешавања) и код још увек нису објављени, као ни тачан тип лиценце или услови. Али то је скоро ван сврхе с обзиром на то колико га јефтино МиниМак сервира преко свог АПИ-ја и партнера.

Последњих неколико година, коришћење најмоћније вештачке интелигенције на свету било је као да ангажујете скупог консултанта — било је сјајно, али сте стално гледали на сат (и број жетона). М2.5 мења ту математику, смањење трошкова границе за чак 95%.

Пружајући перформансе које се такмиче са врхунским моделима из Гоогле-а и Антхропиц-а уз делић цене, посебно у коришћењу агентских алата за пословне задатке, укључујући креирање Мицрософт Ворд, Екцел и ПоверПоинт датотекаМиниМак се клади да будућност није само у томе колико је модел паметан, већ колико често можете себи приуштити да га користите.

Заиста, у том циљу, МиниМак каже да је успело "са вишим професионалцима у областима као што су финансије, право и друштвене науке" како би се осигурало да модел може да обавља стварни рад у складу са њиховим спецификацијама и стандардима.

Ово издање је важно јер сигнализира прелазак са АИ као "цхатбот" на АИ као а "радник". Када интелигенција постане "превише јефтин за мерење," програмери престају да праве једноставне алате за питања и одговоре и почну да праве "агенти"— софтвер који може да проведе сате аутономно кодирајући, истражујући и организујући сложене пројекте, а да притом не оштети банку.

У ствари, МиниМак је већ применио овај модел у сопствене операције. тренутно, 30% свих задатака у МиниМак ХК-у је завршено до М2.5и запањујућа 80% њиховог новоурезаног кода је генерисано М2.5!

Као што МиниМак тим пише у свом објави на блогу, "верујемо да М2.5 пружа практично неограничене могућности за развој и деловање агената у привреди."

Технологија: ретка снага и ЦИСПО пробој

Тајна ефикасности М2.5 лежи у његовој архитектури Миктуре оф Екпертс (МоЕ). Уместо да покреће свих својих 230 милијарди параметара за сваку реч коју генерише, само модел "активира" 10 милијарди. Ово му омогућава да задржи дубину размишљања масивног модела док се креће агилношћу много мањег модела.

Да би обучио овај сложени систем, МиниМак је развио власнички оквир учења за појачање (РЛ) под називом Форге. МиниМак инжењер Оливе Сонг наведено на ТхурсдАИ подцаст на ИоуТубе-у да је ова техника била инструментална за скалирање перформанси чак и уз коришћење релативно малог броја параметара и да је модел обучен у периоду од два месеца.

Форге је дизајниран да помогне моделу да учи од њега "окружења из стварног света" — у суштини дозвољавајући АИ да вежба кодирање и користи алате у хиљадама симулираних радних простора.

"Оно што смо схватили је да постоји много потенцијала са малим моделом као што је овај ако на њему тренирамо учење са појачањем са великом количином окружења и агената," Сонг рече. "Али то није баш лако урадити," додајући да су то потрошили "много времена" на.

Да би модел био стабилан током ове интензивне обуке, користили су математички приступ под називом ЦИСПО (оптимизација политике узорковања важности исечка) и поделили формулу на свом блогу.

Ова формула осигурава да модел не буде превише коригован током тренинга, омогућавајући му да развије оно што МиниМак назива "Арцхитецт Миндсет". Уместо да скочи директно у писање кода, М2.5 је научио да прво проактивно планира структуру, карактеристике и интерфејс пројекта.

Најсавременија (и близу) мерила

Резултати ове архитектуре се огледају у најновијим ранг листама индустрије. М2.5 се није само побољшао; доспео је у највиши ниво модела кодирања, приближавајући се најновијем Антхропиц-овом моделу, Цлауде Опус 4.6, објављеном пре само недељу дана, и показујући да су кинеске компаније сада само неколико дана од тога да сустигну далеко боље ресурсе (у смислу ГПУ-а) америчке лабораторије.

Ево неких од најважнијих карактеристика новог МиниМак М2.5 бенцхмарк-а:

• СВЕ-Бенцх Верификовано: 80,2% — Одговара Цлауде Опус 4.6 брзинама

• БровсеЦомп: 76,3% — Водећа претрага и употреба алата у индустрији.

• Мулти-СВЕ-клупа: 51,3% — СОТА у вишејезичном кодирању

• БФЦЛ (Позивање алата): 76,8% — Високо прецизни агентски радни токови.

На ТхурсдАИ подцасту, домаћин Алекс Волков је истакао да МиниМак М2.5 ради изузетно брзо и да стога користи мање токена за довршавање задатака, по редоследу од 0,15 долара по задатку у поређењу са 3,00 долара за Цлауде Опус 4.6.

Пробијање баријере трошкова

МиниМак нуди две верзије модела преко свог АПИ-ја, обе фокусиране на употребу у производњи великог обима:

• М2.5-Лигхтнинг: Оптимизовано за брзину, испоручујући 100 токена у секунди. Кошта 0,30 УСД по 1М улазних токена и 2,40 УСД по 1М излазних токена.

• Стандардни М2.5: Оптимизовано за цену, ради на 50 токена у секунди. Кошта упола мање од Лигхтнинг верзије (0,15 УСД по 1М улазних токена / 1,20 УСД по 1М излазних токена).

Једноставним језиком: МиниМак тврди да можете покренути четири "агенти" (радници АИ) непрекидно током целе године за отприлике 10.000 долара.

За пословне кориснике, ова цена је отприлике од 1/10 до 1/20 цене конкурентских власничких модела као што су ГПТ-5 или Цлауде 4.6 Опус.

Стратешке импликације за предузећа и лидере

За техничке лидере, М2.5 представља више него само јефтинији АПИ. То тренутно мења оперативни приручник за предузећа.

Притисак да "оптимизирати" нестала су упутства за уштеду новца. Сада можете применити моделе са високим контекстом и образложењем за рутинске задатке који су раније били скупи.

Побољшање брзине од 37% у извршавању задатака од краја до краја значи "агентиц" цевоводе које цене АИ оркестратори — где модели разговарају са другим моделима — коначно се крећу довољно брзо за корисничке апликације у реалном времену.

Поред тога, високи резултати М2.5 у финансијском моделирању (74,4% на МЕВЦ) сугеришу да може да се носи са "прећутно знање" специјализованих индустрија као што су право и финансије са минималним надзором.

Пошто је М2.5 позициониран као модел отвореног кода, организације потенцијално могу да спроводе интензивне, аутоматизоване ревизије кода у размерама које су раније биле немогуће без масовне људске интервенције, уз одржавање боље контроле над приватношћу података, али док се не објаве услови лиценцирања и тежине, ово остаје само надимак.

МиниМак М2.5 је сигнал да граница АИ више није само у томе ко може да изгради највећи мозак, већ ко тај мозак може учинити најкориснијим—и најприступачнијим—радником у просторији.

извор линк