Ево о овој „златној“ ери АИ. Хакер је искористио Антхропиц-ов Цлауде цхатбот да изврши нападе на мексичке владине агенције, . Ово је резултирало крађом 150 ГБ званичних државних података, укључујући евиденцију пореских обвезника, акредитиве запослених и још много тога.
Хакер је користио Клода да пронађе рањивости у државним мрежама и да напише скрипте да их искористи. Такође је дао задатак чет-боту да пронађе начине за аутоматизацију крађе података, како је навела компанија за сајбер безбедност Гамбит Сецурити. Ово је почело у децембру и трајало око месец дана.
Изгледа да је хакер у суштини успео да уклони Клода из затвора уз помоћ упита, коначно заобилазећи заштитну ограду цхатбот-а. Клод је првобитно одбио подле захтеве док на крају није попустио.
„Укупно, произвео је хиљаде детаљних извештаја који су укључивали планове спремне за извршење, говорећи људском оператеру тачно које унутрашње мете да нападне следеће и које акредитиве да користи“, рекао је Кертис Симпсон, главни стратешки директор компаније Гамбит Сецурити.
Антхропиц је истражио тврдње, прекинуо активност и забранио све укључене рачуне, према представнику компаније. Портпарол је такође рекао да његов најновији модел, Цлауде Опус 4.6, укључује алате за ометање ове врсте злоупотребе.
Такође је објављено да је овај хакер користио ЦхатГПТ да допуни нападе, користећи ОпенАИ-јев цхат бот да прикупи информације о томе како да се креће кроз рачунарске мреже, одреди који су акредитиви потребни за приступ системима и како да избегне откривање. ОпенАИ каже да је идентификовао покушаје хакера да прекрши његову политику коришћења и да су алати одбили да се придржавају.
Хакер остаје неидентификован. Напади се не приписују одређеној групи, али Гамбит Сецурити јесте сугерисао да би могли бити повезани са страном владом. Такође је нејасно шта хакер жели да уради са свим тим подацима.
Мексичка национална дигитална агенција није коментарисала кршење, али је истакла да је сајбер безбедност приоритет. Државна влада Халиска пориче да је пробијена, рекавши да су погођене само федералне мреже. Међутим, мексички национални изборни институт је такође одбио било какво кршење или неовлашћени приступ последњих месеци. Вреди напоменути да је Гамбит током свог истраживања пронашао најмање 20 безбедносних пропуста које земља вероватно не жели да истакне.
Ово није први пут да је Клод коришћен за велики сајбер напад. Прошле године, хакери у Кини су манипулисали алатом у покушају да , од којих је неколико било успешно. Антропски који се обавезао да никада неће обучити систем вештачке интелигенције осим ако не може унапред да гарантује да су безбедносне мере адекватне. Па ко зна шта свеж пакао будућност ће донети како алати компаније постају напреднији.
