Када Антропичан прошле године постала прва велика компанија за вештачку интелигенцију коју је америчка влада одобрила за поверљиву употребу — укључујући и војне примене — вест није изазвала велики одјек. Али ове недеље је други развој погодио као топовска кугла: Пентагон јесте преиспитујући свој однос са компанијом, укључујући уговор од 200 милиона долара, наводно зато што се АИ фирма која је свесна безбедности противи учешћу у одређеним смртоносним операцијама. Такозвано Министарство рата могло би чак означити Антхропиц као „ризик у ланцу снабдевања“, гримизно слово које је обично резервисано за компаније које послују са земљама које су под надзором федералних агенција, попут Кине, што значи да Пентагон не би пословао са фирмама које користе Антропикову вештачку интелигенцију у свом одбрамбеном раду. У изјави за ВИРЕД, главни портпарол Пентагона Шон Парнел потврдио је да је Антропик био у врућој фотељи. „Наша нација захтева да наши партнери буду спремни да помогну нашим ратницима да победе у свакој борби. На крају крајева, овде се ради о нашим трупама и безбедности америчког народа“, рекао је он. Ово је порука и другим компанијама: ОпенАИ, кАИ и Гоогле, који тренутно имају Министарство одбране уговора о некласификованом раду, скачу кроз потребне обруче да би добили своја висока одобрења.
Овде има доста тога за распакивање. Као прво, поставља се питање да ли је Антхропиц кажњен због притужби на чињеницу да је његов АИ модел Цлауде коришћен као део рације за смену председника Венецуеле Николаса Мадура (то је шта се извештава; компанија то демантује). Ту је и чињеница да Антхропиц јавно подржава регулацију вештачке интелигенције – што је изванредно стајалиште у индустрији и оно које је у супротности са политиком администрације. Али постоји већи, узнемирујући проблем. Да ли ће владини захтеви за војну употребу учинити саму вештачку интелигенцију мање безбедном?
Истраживачи и руководиоци верују да је вештачка интелигенција најмоћнија технологија икада измишљена. Практично све садашње АИ компаније су основане на претпоставци да је могуће постићи АГИ, или суперинтелигенцију, на начин који спречава широко распрострањену штету. Елон Муск, оснивач кАИ-а, некада је био највећи заговорник обуздавања вештачке интелигенције — суоснивао је ОпенАИ јер се плашио да је технологија превише опасна да би је била остављена у рукама компанија које траже профит.
Антхропиц је издвојио простор као најсигурнији од свих. Мисија компаније је да има заштитне ограде тако дубоко интегрисане у своје моделе да лоши глумци не могу да искористе најмрачнији потенцијал вештачке интелигенције. Исак Асимов је то рекао први и најбољи у свом закони роботике: Робот не сме да повреди људско биће или, нечињењем, дозволи људском бићу да се повреди. Чак и када вештачка интелигенција постане паметнија од било ког човека на Земљи – могућност у коју лидери вештачке интелигенције жарко верују – те ограде морају да држе.
Стога се чини контрадикторним да се водеће лабораторије АИ боре да своје производе уведу у најсавременије војне и обавештајне операције. Као прва велика лабораторија са поверљивим уговором, Антхропиц обезбеђује влади а „прилагођени сет модела Цлауде Гов-а направљених искључиво за америчке кориснике националне безбедности. Ипак, Антропик је рекао да је то учинио без кршења сопствених безбедносних стандарда, укључујући забрану коришћења Клода за производњу или дизајнирање оружја. Извршни директор Антхропиц Дарио Амодеи је посебно рекао он не жели да је Клод укључен у аутономно оружје или надзор владе АИ. Али то можда неће успети са тренутном администрацијом. Главни технички директор Министарства одбране Емил Мајкл (бивши главни пословни директор Убера) рекао је новинарима ове недеље да влада неће толерисати компанију АИ која ограничава начин на који војска користи вештачку интелигенцију у свом оружју. „Ако постоји рој дронова који излази из војне базе, које су ваше опције да га уништите? Ако време људске реакције није довољно брзо … како ћете?“ упитао је реторички. Толико о првом закону роботике.
Постоји добар аргумент да ефикасна национална безбедност захтева најбољу технологију од најиновативнијих компанија. Док су чак и пре неколико година неке технолошке компаније устукнуле од сарадње са Пентагоном, 2026. су генерално махале заставом као потенцијални војни извођачи. Још нисам чуо ниједног руководиоца вештачке интелигенције да говори о томе да су њихови модели повезани са смртоносном силом, али извршни директор Палантира Алекс Карп не стиди се да кажеса очигледним поносом, „Наш производ се повремено користи за убијање људи.“
