Антхропиц је 5. фебруара објавио Цлауде Опус 4.6, свој најмоћнији модел вештачке интелигенције. Међу новим карактеристикама модела је и могућност координације тимова аутономних агената — више АИ који деле посао и довршавају га паралелно. Дванаест дана након објављивања Опуса 4.6, компанија је избацила Соннет 4.6, јефтинији модел који се скоро поклапа са Опусовим кодирањем и вештинама рада на рачунару. Крајем 2024. године, када је Антхропиц први пут представио моделе који су могли да контролишу рачунаре, једва су могли да користе претраживач. Сада Соннет 4.6 може да се креће по Веб апликацијама и да попуњава обрасце са могућношћу на нивоу човека, према Антропском. И оба модела имају радну меморију довољно велику да може да држи малу библиотеку.
Клијенти предузећа сада чине отприлике 80 одсто прихода Антхропиц-а, а компанија је прошле недеље затворила круг финансирања од 30 милијарди долара по процени од 380 милијарди долара. По свим расположивим мерилима, Антхропиц је једна од најбрже растућих технолошких компанија у историји.
Али иза великог лансирања производа и вредновања, Антхропиц се суочава са озбиљном претњом: Пентагон је сигнализирао да би одредити компанија представља „ризик у ланцу снабдевања“ – ознака која се чешће повезује са страним противницима – осим ако не одустане од ограничења војне употребе. Такво одређивање би могло ефикасно да примора извођаче из Пентагона да лише Клода осетљивог посла.
О подршци научном новинарству
Ако уживате у овом чланку, размислите о томе да подржите наше награђивано новинарство претплата. Куповином претплате помажете да се обезбеди будућност упечатљивих прича о открићима и идејама које данас обликују наш свет.
Тензије су прокључале после 3. јануара, када су америчке снаге за специјалне операције извршиле рацију у Венецуелу и ухватиле Николаса Мадура. Тхе Валл Стреет Јоурнал известио је да су снаге користиле Клода током операције преко Антропиковог партнерства са одбрамбеним извођачем Палантир—а Акиос је известио да је ова епизода ескалирала ионако напорне преговоре о томе за шта би, тачно, Клод могао да се користи. Када је извршни директор Антропика дошао до Палантира да пита да ли је технологија коришћена у рацији, питање је одмах изазвало узбуну у Пентагону. (Антхропиц је оспорио да је ова акција имала за циљ да сигнализира неодобравање било које конкретне операције.) Секретар одбране Пете Хегсетх је „близу“ прекида везе, рекао је високи званичник администрације за Акиос, додајући: „Потрудићемо се да они плате цену за овако форсирање наше руке.
Сукоб поставља питање: може ли компанија основана да спречи катастрофу вештачке интелигенције задржати своје етичке линије када њени најмоћнији алати – аутономни агенти способни да обрађују огромне скупове података, идентификују обрасце и делују на основу њихових закључака – раде унутар поверљивих војних мрежа? Да ли је вештачка интелигенција „безбедност на првом месту“ компатибилна са клијентом који жели системе који могу сами да размишљају, планирају и делују на војном нивоу?
Антропик је повукао две црвене линије: нема масовног надзора Американаца и нема потпуно аутономног оружја. Извршни директор Дарио Амодеи је рекао Антропик ће подржати „националну одбрану на све начине осим на оне који би нас учинили сличнијим нашим аутократским противницима“. Друге велике лабораторије — ОпенАИ, Гоогле и кАИ — сложиле су се да олабаве мере заштите за коришћење у некласификованим системима Пентагона, али њихови алати још увек не раде унутар војних поверљивих мрежа. Пентагон је захтевао да вештачка интелигенција буде доступна за „све законите сврхе“.
Трење тестира Антропикову централну тезу. Компанију су 2021. основали бивши руководиоци ОпенАИ-а који су веровали да индустрија не схвата довољно озбиљно безбедност. Позиционирали су Клода као етичку алтернативу. Крајем 2024. године Антхропиц је учинио Цлаудеа доступним на платформи Палантир са нивоом безбедности у облаку до „тајног“ – чинећи Цлаудеа, према јавним налозима, првим великим језичким моделом који функционише унутар поверљивих система.
Питање које застој сада намеће јесте да ли је безбедност на првом месту кохерентан идентитет када се технологија угради у поверљиве војне операције и да ли су црвене линије заиста могуће. „Ове речи изгледају једноставне: незаконито праћење Американаца“, каже Емелиа Пробасцо, виши сарадник Центра за безбедност и нове технологије у Џорџтауну. „Али када дођете до тога, постоје читаве армије адвоката који покушавају да реше како да протумаче ту фразу.
Размотрите преседан. Након открића Едварда Сноудена, америчка влада је бранила масовну колекцију телефонских метаподатака – ко је кога звао, када и колико дуго – тврдећи да ове врсте података не носе исту заштиту приватности као садржај разговора. Дебата о приватности је тада била о људским аналитичарима који претражују те записе. Сада замислите систем вештачке интелигенције који испитује огромне скупове података — мапирање мрежа, уочавање образаца, означавање људи од интереса. Правни оквир који имамо изграђен је за еру људске ревизије, а не анализе на нивоу машина.
„У неком смислу, било која врста масовног прикупљања података коју тражите од вештачке интелигенције је масовни надзор по једноставној дефиницији“, каже Петер Асаро, суоснивач Међународног комитета за контролу наоружања робота. Акиос је известио да је високи званичник „тврдио да постоји значајна сива зона око” Антхропиц-ових ограничења „и да је неизводљиво да Пентагон мора да преговара о појединачним случајевима коришћења са” компанијом. Асаро нуди два читања те жалбе. Великодушно тумачење је да је надзор заиста немогуће дефинисати у доба вештачке интелигенције. Песимистична, каже Асаро, је да „они заиста желе да их користе за масовно надгледање и аутономно оружје и не желе то да кажу, па то називају сивом зоном“.
Што се тиче друге Антхропиц-ове црвене линије, аутономног оружја, дефиниција је довољно уска да се њоме може управљати – системи који бирају и погађају мете без људског надзора. Али Асаро види забрињавајућу сиву зону. Он указује на системе лаванде и јеванђеља израелске војске, за које је пријављено да користе вештачку интелигенцију за генерисање масивних листа мета које иду људском оператеру на одобрење пре него што се напади изведу. „У суштини сте аутоматизовали елемент циљања, што је нешто (што) нас веома занима и (то је) блиско повезано, чак и ако не спада у уску строгу дефиницију“, каже он. Питање је да ли би Клод, који ради унутар Палантирових система на поверљивим мрежама, могао да ради нешто слично – обрађује обавештајне податке, идентификује обрасце, открива особе од интереса – а да било ко у Антропику не може да каже где се тачно завршава аналитички рад и где почиње циљање.
Операција Мадуро тестира управо ту разлику. „Ако прикупљате податке и обавештајне податке да бисте идентификовали мете, али људи одлучују: ‘У реду, ово је листа циљева које ћемо заправо бомбардовати’—онда имате онај ниво људског надзора који покушавамо да захтевамо“, каже Асаро. „С друге стране, и даље се ослањате на ове АИ да бирате ове мете, а колико је провера и колико копања у валидност или законитост тих циљева је засебно питање.
Антропик можда покушава да повуче границу уже – између планирања мисије, где би Клод могао да помогне у идентификацији циљева бомбардовања, и свакодневног посла обраде документације. „Постоје све ове врсте досадних апликација великих језичких модела“, каже Пробаско.
Али могућности Антхропицових модела могу отежати одржавање тих разлика. Тимови агената Опуса 4.6 могу поделити сложен задатак и радити паралелно—напредак у аутономној обради података који би могао да трансформише војну обавештајну службу. И Опус и Соннет могу да се крећу по апликацијама, попуњавају обрасце и раде на различитим платформама уз минималан надзор. Ове карактеристике које покрећу Антхропиц-ову комерцијалну доминацију су оно што чини Клода тако привлачним унутар поверљиве мреже. Модел са огромном радном меморијом такође може да држи читав обавештајни досије. Систем који може да координише аутономне агенте за отклањање грешака у бази кода може да их координише за мапирање побуњеничког ланца снабдевања. Што Клод постаје способнији, то је тања граница између аналитичког рада који је Антропик спреман да подржи и надзора и циљања које је обећао да ће одбити.
Како Антхропиц помера границу аутономне вештачке интелигенције, захтев војске за тим алатима ће бити само све гласнији. Пробаско се плаши да сукоб са Пентагоном ствара лажну бинарну везу између безбедности и националне безбедности. „Како би било да имамо сигурност и национална безбедност?“ пита она.
