Хана Фрај: ‘АИ може да уради неке надљудске ствари – али и виљушкари’

Шансе су да данас размишљате о вештачкој интелигенцији много више него пре пет година. Откако је ЦхатГПТ лансиран у новембру 2022. године, навикли смо на интеракцију са вештачком интелигенцијом у већини сфера живота, од чет-бота и технологије паметне куће до банкарства и здравствене заштите.

Али таква брза промена доноси неочекиване проблеме – као што показује математичарка и емитер Хана Фрај у АИ поверљиво са Ханом Фрајнови троделни документарац Би-Би-Сија у којем она разговара са људима чије је животе променила технологија. Она је разговарала са Нев Сциентист о томе како треба да посматрамо вештачку интелигенцију, њену улогу у савременој математици – и зашто ће она уздрмати глобалну економију.

Бетхан Ацкерлеи: У емисији истражујете шта АИ ради нашим односима и осећању стварности. Нешто од овога произилази из „уласке интелигенције“ – идеје да нам ови алати дају оно што желимо да чујемо, а не оно што треба да чујемо. Како се ово дешава?

Хана Фрај: Ранији модели су били изузетно подли. Све што бисте написали, они би били као: „О мој Боже, тако си невероватан, ти си најбољи писац којег сам икада искусио“. Сада су мало бољи, али постоји ова фундаментална контрадикторност. Желимо да буду од помоћи, охрабрења и да се осећамо као да смо важни, а то су ствари које добијате од заиста доброг људског односа.

У исто време, заиста добар људски однос ће наглас изговорити тешке ствари. Ако убаците превише тога у АИ, он престаје да буде од помоћи и почиње да се расправља и није забавно бити у близини. Постоји и велики број људи који су раскинули са партнерима јер су то користили као терапеут, а АИ је рекао: „Отарасите га се“.

Има људи који су напустили посао. Постоје људи који су покушали да користе вештачку интелигенцију да зараде новац и изгубили су богатство јер су претерано веровали у њене способности. Када почнете да укључујете све те људе, ово је заиста велика група. Мислим да сви знамо некога ко је био погођен балонима друштвених медија и радикализацијом. Мислим да је ово нова верзија тога.

Да ли је присуство ових проблема променило начин на који користите АИ?

Оно што се променило је начин на који сам то навео. Тако да га сада редовно позивам да ми, рецимо, каже оно што не видим, да пронађе моје предрасуде. Не буди улизичан, реци ми тешке ствари.

Ако не желимо да АИ буде такав, какав желимо да буде?

Одговор вероватно зависи од ситуације. У научним просторима постоје невероватни примери – мислим на АлпхаФолд [an AI that predicts protein structures]. У математици се постиже невероватан напредак, где алгоритми имају интелигенцију која није као људска. Али мислим да не можете имати добар модел расуђивања осим ако се концептуално не преклапа са стварима које људи схватају да је свет. Тако да мислим да то треба да буде више људски.

Чини се да сваки дан има вести о математичком проблему који је годинама био нерешен, али је сада решен помоћу вештачке интелигенције. Да ли вас то узбуђује?

Волим да размишљам о томе као да постоји велика математичка мапа и да су математичари људи на одређеној територији и круже око ње. Они не виде увек везе са стварима у близини. Невероватни математичари пронашли су мостове између два региона мапе, као што је претпоставка Танијама-Шимура, где су јапански математичари пронашли мост између две иначе неповезане области математике. Онда је све што смо знали одавде важило и тамо и обрнуто.

Мислим да је вештачка интелигенција заиста добра у томе да каже: „Погледајте мало овде, изгледа као плодна територија која је недовољно истражена“, и то је заиста, заиста узбудљиво. Оно у чему АИ није тако добар је померање граница даље. А оно у чему заиста није добар… је потпуна апстракција, ширење, веће теорије. Оно што људи увек кажу је, да сте дали АИ све до 1900. године, не би дошло до опште теорије релативности. Тако да сам још увек узбуђен што смо на овом веома слатком месту где ће вештачка интелигенција учинити људску математику бржом, ефикаснијом, узбудљивијом, али смо јој и даље потребни.

Постоји много заблуда о АИ. Коју бисте одбацили, да можете?

Људи га замишљају као свемоћну, скоро свемоћну. „АИ је ово рекао; АИ ми је рекао да купим ове акције.“ Постоје одређене ситуације у којима АИ може да ради надљудске ствари, али и виљушкари. Направили смо алате који могу да раде ствари које људи не могу дуго времена. То не значи да су боголики или да имају недодирљиво знање.

Нећете виљушкару дати приступ вашем банковном рачуну…

Не! Тачно. Мислим да је то то – уоквиривање ових ствари. Пошто говоре језиком и разговарају са нама, осећају се као створење. Ми немамо тај проблем са Википедијом. Било би боље мислити на ове ствари као на Екцел табелу која је заиста способна, а не као створење.

Зашто тежимо ка антропоморфизацији АИ?

Наша тела су подешена за когнитивне друштвене односе. Ми смо паметна, друштвена врста. А ово је наизглед паметан, наизглед друштвени ентитет. Наравно, ставили смо лик на то. Не постоји ништа у нашој прошлости, у нашем дизајну, што би нас натерало да урадимо било шта друго.

Зар не постоји начин да се заштитимо од тог антропоморфног порива?

Мислим да је неправедно да се то заиста ставља у руке појединцима. То је помало као да кажете да је нездрава храна бесплатно доступна и ваша је одговорност да је немате превише. Начин на који су ови интерфејси дизајнирани, разговори које води са вама, сада имамо заиста добре доказе да све ово доводи до тога да људи све више упадају у ову замку. И мислим да ћете само у дизајну ових система икада моћи да спречите људе да падају низ ове зечје рупе.

Постоје многи друштвени проблеми које АИ истиче, као што су људи који су веома изоловани и усамљени. Али зар АИ није могао помоћи у овим проблемима?

Ако кажете: „У реду, не можете разговарати ни са једним цхатботовима ако се осећате усамљено, хајде да то забранимо“, онда и даље имате усамљене људе. И, наравно, било би невероватно да постоји обиље људских односа за све, али то се не дешава. Дакле, с обзиром да је ово свет у коме се налазимо, мислим да постоје неке ситуације у којима разговор са четботом може да ублажи неке од најгорих проблема у вези са усамљеношћу. Али то су деликатне теме. Када почнете да користите технологију за решавање заиста људских питања, постоји невероватна крхкост свега тога.

Хајде да причамо о далекој будућности. Често размишљамо о екстремним сценаријима са АИ – рецимо да суперинтелигентна вештачка интелигенција дизајнирана да прави спајалице претвара нас све у спајалице. Колико је корисно размишљати о таквом сценарију судњег дана?

У једном тренутку сам мислио да ови луди, далеки сценарији одвлаче пажњу од онога што је заиста важно, а то је да су одлуке доносили алгоритми који су утицали на животе људи. Предомислио сам се у последњих неколико година, јер мислим да само бригом о таквим стварима можете уградити техничке безбедносне механизме да спречите да се то догоди.

Дакле, брига није бесмислена, брига заиста има моћ. Постоје заиста лоши потенцијални исходи вештачке интелигенције, и што смо искренији у томе, већа је вероватноћа да ћемо моћи да их ублажимо. Желим да ово буде као И2К, знаш? Желим да ово буде ствар због које смо забринути и забринути, и зато смо урадили посао да то спречимо.

Мислите ли да ћемо икада доћи до вештачке опште интелигенције?

Ми заправо немамо јасну дефиницију шта је АГИ. Али ако узмемо да АГИ значи бар онолико добар колико и већина људи на било ком задатку који укључује рачунар, онда смо, да, скоро смо стигли, заиста. Неки људи схватају да АГИ значи изнад људских способности у сваком могућем задатку. То не знам. Али мислим да АГИ заиста уопште није далеко. Заиста мислим да ћемо у наредних пет до 10 година видети сеизмичке промене.

хттпс://ввв.иоутубе.цом/ватцх?в=иитк4Зрпхдк

Какве промене?

Мислим да ће доћи до дубоких промена у економским моделима на које смо навикли током читаве историје човечанства. Мислим да ће бити заиста огромних скокова напред у науци, због чега сам заиста узбуђен, иу дизајну медицине. Читава структура нашег друштва је изграђена на идеји да свој рад и знање и људску интелигенцију размјењујете за новац који онда користите за куповину ствари – мислим да у томе има неке крхкости.