Две приче о творцу Цлаудеа Антхропиц објављене су у уторак које, када се комбинују, вероватно дају језиву слику. Прво, амерички министар одбране Пете Хегсетх наводно врши притисак на Антхропиц да уступи своје АИ заштите и да војсци неограничен приступ свом четботу Цлауде АИ. Компанија је тада одабрала исти дан када су објављене вести о Хегсету да одустане од свог кључног обећања о безбедности.
У уторак, Антхропиц је рекао да мења свој Политика одговорног скалирања (РСП) за спуштање заштитних ограда. До сада је основно обећање компаније било да престане са обуком нових АИ модела осим ако се унапред не могу гарантовати посебне безбедносне смернице. Ова политика, која је поставила тешке везе да заустави развој, била је велики део Антхропиц-овог обраћања предузећима и потрошачима.
„Две и по године касније, наша искрена процена је да су се неки делови ове теорије промене одиграли онако како смо се надали, али други нису“, написао је Антропик. Сада, његова ажурирана политика приступа безбедности релативно, а не строгим црвеним линијама.
Антропикови цитати у ан интервју са Време звучи довољно разумно у вакууму. „Осећали смо да никоме не би помогло да престанемо да тренирамо АИ моделе“, рекао је Јаред Каплан, главни научни службеник Антхропиц-а. Време. „Нисмо заиста осећали, са брзим напредовањем вештачке интелигенције, да има смисла да се унилатерално обавезујемо… ако конкуренти напредују.“
Извршни директор Антхропиц Дарио Амодеи (Фотографија Давид Дее Делгадо/Гетти Имагес за Тхе Нев Иорк Тимес) (Дејвид Ди Делгадо преко Гетти Имагес)
Али такође можете прочитати те цитате као најновији пример етике врућег стартупа који постаје све сивији како расте њена вредност. (Сећате се старе Гуглове мантре „Не буди зао“ коју је касније уклонио из свог кодекса понашања?) Најновије верзије Клода су наишле на широке похвале, посебно у кодирању. У фебруару, Антропски прикупио 30 милијарди долара у нове инвестиције. Сада има вредност од 380 милијарди долара. (Кад смо већ код конкуренције о којој се Каплан споменуо, тренутно се цени ривал ОпенАИ преко 850 милијарди долара.)
Уместо Антхропиц-ових претходних трипвире-а, имплементираће нове „Извештаје о ризику“ и „Мапе пута за безбедност граница“. Ови модели обелодањивања су дизајнирани да обезбеде транспарентност јавности уместо оних тврдих линија у песку.
Антропик каже да је промена мотивисана „проблемом колективног деловања“ који произилази из конкурентног АИ пејзажа и антирегулаторног приступа САД. „Ако је један програмер вештачке интелигенције паузирао развој да би применио безбедносне мере, док су други кренули даље са обуком и увођењем АИ система без јаких ублажавања, то би могло резултирати светом који је мање безбедан“, наводи се у новом РСП-у. „Програмери са најслабијом заштитом одређивали би темпо, а одговорни програмери би изгубили способност да раде безбедносна истраживања и унапреде јавну корист.“
Министар одбране Пете Хегсетх (Фотографија ААрон Онтивероз/Тхе Денвер Пост) (ААрон Онтивероз преко Гетти Имагес)
Ни Антропиково саопштење ни Време ексклузивно помиње слона у соби: кампања притиска Пентагона. у уторак, Акиос пријавио да је Хегсет рекао извршном директору Антропика Дарију Амодеију да компанија има рок до петка да војсци да неометан приступ свом АИ моделу или да се суочи са казнама. Компанија је наводно понудила да усвоји своје политике коришћења за Пентагон. Међутим, не би дозволио да се његов модел користи за масовно надгледање Американаца или оружја које пуца без људског учешћа.
Ако Антхропиц не попусти, стручњаци кажу да би најбоља опклада била правни поступак. Али да ли ће казне које је Пентагон предложио бити довољне да уплаше стартап вођен профитом да се придржава правила? Хегсетсове претње наводно укључују позивање на Закон о одбрамбеној производњи, који председнику даје овлашћење да усмери приватне компаније да дају приоритет одређеним уговорима у име националне одбране. Војска би такође могла да раскине свој уговор са Антхропиц-ом и означи га као ризик за ланац снабдевања. То би приморало друге компаније које раде са Пентагоном да потврде да Клод није укључен у њихове токове посла.
Клод је једини модел вештачке интелигенције који се тренутно користи за најосетљивији рад војске. „Једини разлог зашто још увек разговарамо са овим људима је да су нам потребни и потребни су нам сада“, рекао је званичник одбране Акиос. „Проблем за ове момке је што су толико добри. Клод је наводно коришћен у нападу Мадура у Венецуели, тему за коју се каже да је Амодеи покренуо са својим партнером Палантир.
ВремеПрича о новом РСП-у укључивала је реакције директора непрофитне организације фокусиране на ризике од вештачке интелигенције. Цхрис Паинтер, директор МЕТР-а, описао је промене као разумљиве и можда лош знак. „Свиђа ми се нагласак на транспарентном извештавању о ризицима и јавно проверљивим безбедносним мапама пута“, рекао је он. Међутим, он је такође изразио забринутост да би флексибилнији РСП могао да доведе до ефекта „врелог жаба“. Другим речима, када безбедност постане сива зона, наизглед бескрајна серија рационализација могла би да одведе компанију на веома мрачну стазу коју је некада осуђивала.
Паинтер је рекао да нови РСП показује да Антхропиц „верује да треба да пређе у режим тријаже са својим безбедносним плановима, јер методе за процену и ублажавање ризика не иду у корак са темпом способности. Ово је још један доказ да друштво није спремно за потенцијалне катастрофалне ризике које представља АИ“.
