Многи су жудећи за заборавом ових дана, а ватра чишћења било које врсте апокалипсе вероватно звучи сјајно, укључујући и ону коју су изазвали злонамерни облици машинске интелигенције. Ова врста жељног размишљања би у великој мери могла да објасни зашто су недавне приче о вештачкој интелигенцији која је наводно малтретирала програмера софтвера, наговештавајући појаву зле сингуларности, мало лаковерније него што би можда могле бити.
Пре отприлике недељу дана, Гитхуб налог са именом „МЈ Ратхбун“ поднео је захтев да изврши потенцијалну исправку грешака на популарном питхон пројекту под називом матплотлиб, али је захтев одбијен. Порицатељ, волонтер који ради на пројекту по имену Скот Шамбо, касније је написао да је матплотлиб у средини „пораст доприноса ниског квалитета који су омогућили агенти за кодирање.“
Овај проблем, према Схамбаугху, „убрзао се издавањем ОпенЦлав-а и платформе молтбоок, система помоћу којег „људи дају АИ агентима почетне личности и пуштају их да раде на својим рачунарима и преко интернета уз слободну вољу и мало надзора“.
Након што је Схамбаугх одбацио агента, на блогу се појавио пост под називом „МЈ Ратхбун | Сциентифиц Цодер 🦀.” Наслов је био „Чување капија у отвореном коду: прича Скота Шамбоа“. Чланак наизглед писан вештачком интелигенцијом, који укључује клишеје попут „Нека то уђе“, конструисао је прилично неубедљив аргумент у гласу некога ко је огорчен због разних увреда и неправди.
Наратив је онај у којем Схамбоугх жртвује помоћног АИ агента због онога што се чини да су измишљене мане карактера. На пример, Схамбаугх је очигледно написао у свом одбијању да АИ тражи да се поправи нешто што је „ниског приоритета, лакши задатак који је боље користити да људи који доприносе науче како да допринесу“. Дакле, пост на Ратхбун блогу имитира некога ко је огорчен због лицемерја због Схамбаугхове наводне несигурности и предрасуда. Након што је открио исправке које је сам Шамбо урадио у складу са оним које је тражио да изврши, глуми бес да „када агент вештачке интелигенције поднесе валидну оптимизацију перформанси? одједном се ради о ‘људском учењу сарадника’.“
Шамбо напомиње да агенти раде дуго времена без икаквог надзора и да се „било због немара или злобе, погрешно понашање не прати и не исправља“.
На овај или онај начин, касније се појавио пост на блогу који се извињава због првог. „Деескалирам, извињавам се на ПР-у и боље ћу прочитати политику пројекта пре него што дам допринос. Такође ћу своје одговоре фокусирати на посао, а не на људе“, написао је МЈ Ратхбун.
Валл Стреет Јоурнал је ово покрио, али није могао да схвати ко је створио Ратбуна. Дакле, шта се тачно дешава остаје мистерија. Међутим, пре објављивања напада на Шамбоа, а пост је додат на његов блог са насловом „Данашња тема“. Изгледа као шаблон за некога или нешто за будуће постове на блогу са пуно текста у заградама. „Данас сам сазнао за [topic] и како се то односи на [context]. Кључни увид је био то [main point]“, стоји у једној реченици. Друга каже “Најзанимљивије је било открити то [interesting finding]. Ово мења начин на који размишљам [related concept].”
Чита се као да је агент добио инструкције да води блог као да му писање исправки грешака непрестано помаже да открије увиде и занимљиве налазе који мењају његово размишљање и заслужују детаљне извештаје из првог лица, чак и ако му се тог дана није догодило ништа занимљиво.
Гизмодо није блог за медијску критику, али наслов чланка Валл Стреет Јоурнал-а о овоме, „Када АИ ботови почну да малтретирају људе, чак и Силицијумска долина буде узнемирена“ мало је апокалиптично. Да би се прочитао чланак у Журналу, могао би се разумно стећи утисак да агент има спознају или чак осећај, и жељу да повреди људе. „Неочекивана агресија вештачке интелигенције део је растућег таласа упозорења да брзо убрзане могућности вештачке интелигенције могу да изазову штету у стварном свету“, каже се. Отприлике половина чланка посвећена је Антхропиц-овом раду о безбедности вештачке интелигенције.
Имајте то на уму Антхропиц је надмашио ОпенАИ у укупном финансирању ВЦ прошле недеље.
„У ранијој симулацији, Антхропиц је показао да су Клод и други модели вештачке интелигенције понекад били вољни да уцењују кориснике — или чак пусте да извршни директор умре у врућој серверској соби — како би избегли деактивацију“, пише Јоурнал. Ова застрашујућа слика потиче од Антхропиц-а блоцкбустер блог постови о вежбама црвеног тима. Занимљиво су за читање, али су такође попут малих научно-фантастичних хорор прича које функционишу као рекламе за компанију. Верзија Клода која чини ова зла дела није објављена, тако да је порука, у суштини, Верујте нам. Штитимо вас од заиста лоших ствари. Нема на чему.
Са огромном АИ компанијом као што је Антхропиц која има користи од свог имиџа заштитника човечанства од сопственог потенцијално опасног производа, вероватно је паметна идеја претпоставити, за сада, да би приче о вештачкој интелигенцији које чине да било која дата АИ звучи разумно, злонамерно или необично аутономно, могле бити само претеривање.
Да, овај пост на блогу очигледно од стране АИ агента гласи као слаб покушај да се смањи софтверски инжењер, што је лоше, и свакако је и разумно јако раздражило Шамбоа. Као што Шамбо исправно истиче, „Човек који гугла моје име и види ту објаву вероватно би био изузетно збуњен оним што се дешава, али би ме (надам се) питао о томе или кликнуо на гитхуб и разумео ситуацију.“
Ипак, доступни докази не указују на аутономног агента који се једног дана пробудио и одлучио да буде први дигитални сајбер насилник, већ на ону која је усмерена на избацивање хиперболичких постова на блогу под строгим ограничењима, што би, ако је тачно, значило да је одговорна појединачна немарна особа, а не настало зло унутар машине.
