Колико су данашњи модели вештачке интелигенције блиски АГИ—и самопобољшању у суперинтелигенцију?

Видимо ли прве кораке ка АИ суперинтелигенцији?

Аутор: Дени Елис Бецхард приредио Ерик Саливан

Тхе Матрик, Терминатор— толико је наше научне фантастике изграђено око опасности од суперинтелигентне вештачке интелигенције: система који превазилази најбоље људе у скоро свим когнитивним доменима. Генерални директор ОпенАИ Сем Алтман и извршни директор Мета Марк Зуцкерберг су предвидели да ћемо постићи такву вештачку интелигенцију у наредним годинама. Ипак, машине попут оних које се у тим филмовима боре против човечанства морале би да буду далеко напредније од ЦхатГПТ-а, а да не спомињемо способније да праве Екцел табеле од Мицрософт Цопилот-а. Па како неко може мислити да смо далеко близу вештачке суперинтелигенције?

Један одговор сеже у 1965. годину, када је статистичар Ирвинг Џон Гуд представио идеју „ултраинтелигентне машине“. Написао је да када постане довољно софистициран, рачунар ће се брзо побољшати. Ако вам се ово чини натегнутим, размислите о томе како је направљен АлпхаГо Зеро — АИ систем развијен у ДеепМинд-у 2017. за играње древне кинеске друштвене игре Го. Без коришћења података из људских игара, АлпхаГо Зеро је играо себе милионе пута, постигавши за неколико дана побољшање које би човеку требало целог живота и које му је омогућило да победи претходне верзије АлпхаГо-а које су већ победиле најбоље светске играче. Гудова идеја је била да би сваки систем који је био довољно интелигентан да преправи себе створио итерације, свака паметнија од претходног и још способнија за побољшање, изазивајући „експлозију интелигенције“.

Питање је, дакле, колико смо близу том првом систему способном за аутономно самоусавршавање. Иако одбегли системи које је Гоод описао још увек нису овде, рачунари који се самопобољшавају су – барем у уским доменима. АИ већ покреће код на себи. ОпенАИ-јев Цодек и Антхропиц-ов Цлауде Цоде могу да раде независно сат времена или више пишући нови код или ажурирајући постојећи код. Користећи Цодек недавно, убацио сам упит у свој телефон док сам био у шетњи и направио је радну веб страницу пре него што сам стигао кући. У рукама вештих кодера, такви системи могу учинити драматично више, од реорганизације великих база кода до скицирања потпуно нових начина за изградњу софтвера.

О подршци научном новинарству

Ако уживате у овом чланку, размислите о томе да подржите наше награђивано новинарство претплата. Куповином претплате помажете да се обезбеди будућност упечатљивих прича о открићима и идејама које данас обликују наш свет.

Па зашто се модел који покреће ЦхатГПТ није тихо кодирао у ултраинтелигенцију? Проблем је у фрази изнад: „у рукама вештих кодера. Упркос импресивним побољшањима вештачке интелигенције, наши тренутни системи се и даље ослањају на људе да постављају циљеве, дизајнирају експерименте и одлучују које промене се рачунају као истински напредак. Они још увек нису способни да се независно развијају на робустан начин, због чега неки разговори о непосредној суперинтелигенцији изгледају претерано – осим ако, наравно, тренутни системи вештачке интелигенције нису ближи него што изгледа да могу да се самопобољшају у све ширим деловима својих способности.

Једна област у којој већ изгледају надљудски јесте колико информација могу да апсорбују и манипулишу. Најнапреднији модели обучени су за много више текста него што би било који човек могао да прочита у животу – од поезије преко историје до науке. Такође могу да прате далеко дуже делове текста док раде. Већ, са комерцијално доступним системима као што су ЦхатГПТ и Гемини, могу да отпремим гомилу књига и да их вештачка интелигенција синтетише и критикује на начин који би трајао људским недељама. То не значи да је резултат увек тачан или проницљив—али то значи да, у принципу, овакав систем може да чита сопствену документацију, евиденције и код и да предлаже промене брзином и размером коју ниједан инжењерски тим не може да парира.

Резоновање је, међутим, оно у чему ови системи заостају — иако то више није тачно у одређеним фокусираним областима. ДеепМинд-ов АлпхаДев и сродни системи већ су пронашли нове, ефикасније алгоритме за задатке као што су сортирање, резултати који се сада користе у стварном коду и који превазилазе обичну статистичку мимикрију. Други модели се истичу у формалној математици и питањима науке на дипломском нивоу који се опиру једноставном подударању образаца. Можемо расправљати о вредности било ког одређеног мерила – а истраживачи управо то раде – али нема сумње да су неки системи вештачке интелигенције постали способни да открију решења која људи раније нису пронашли.

Ако системи већ имају ове способности, шта је онда део који недостаје? Један од одговора је вештачка општа интелигенција (АГИ), врста динамичког, флексибилног расуђивања која омогућава људима да уче из једног поља и примењују га на другим. Као што сам раније писао, настављамо да мењамо наше дефиниције АГИ док машине савладавају нове вештине. Али за питање суперинтелигенције, оно што је важно није етикета коју стављамо; ради се о томе да ли систем може да искористи своје вештине да би се поуздано редизајнирао и надоградио.

И ово нас враћа на Гоодову „експлозију интелигенције“. Ако градимо системе са таквом врстом флексибилног, људском расуђивању у многим доменима, шта ће га одвојити од суперинтелигенције? Напредни модели су већ обучени за више науке и литературе него било који човек, имају далеко боље радно памћење и показују изванредне вештине расуђивања у ограниченим доменима. Једном када се успостави тај недостајући део флексибилног резоновања и када дозволимо таквим системима да примене те вештине на сопственом коду, подацима и процесима обуке, може ли скок до потпуно надљудских перформанси бити краћи него што замишљамо?

Не слажу се сви. Неки истраживачи верују да тек треба да фундаментално разумемо интелигенцију и да ће за израду овог дела који недостаје требати више времена него што се очекивало. Други говоре да се АГИ постиже за неколико година, што доводи до даљег напретка далеко изнад људских капацитета. Године 2024. Алтман је јавно сугерисао да би суперинтелигенција могла да стигне „за неколико хиљада дана“.

Ако ово звучи превише као научна фантастика, узмите у обзир да компаније са вештачком интелигенцијом редовно спроводе безбедносне тестове на својим системима како би се увериле да не могу да уђу у одметнуту петљу самопобољшања. МЕТР, независна група за безбедност АИ, оцењује моделе према томе колико дуго могу поуздано да издрже сложен задатак пре него што дођу до отказа. Прошлог новембра, тестови ГПТ-5.1-Цодек-Мак-а стигли су за око два сата и 42 минута. Ово је огроман скок у односу на неколико минута ГПТ-4 таквих перформанси на истој метрици, али то није ситуација коју је Гоод описао.

Антхропиц спроводи сличне тестове на својим системима вештачке интелигенције. „Да будемо јасни, још увек нисмо у ‘самопобољшавању АИ’,“ написао је суоснивач компаније и шеф политике Џек Кларк у октобру, „али смо у фази ‘АИ која побољшава делове следеће вештачке интелигенције, са све већом аутономијом’.“

Ако се АГИ постигне, а огромној бази података, огромној радној меморији и изузетној брзини додамо расуђивање на нивоу човека, Гудова идеја о брзом самопобољшању почиње мање да личи на научну фантастику. Право питање је да ли ћемо се зауставити на „пуком човеку“ — или ризиковати да пређемо.

Време је да се заузмемо за науку

Ако вам се допао овај чланак, замолио бих вас за подршку. Сциентифиц Америцан служио је као заговорник науке и индустрије 180 година, а управо сада је можда најкритичнији тренутак у тој двовековној историји.

Био сам а Сциентифиц Америцан претплатник од моје 12 година, и то је помогло у обликовању начина на који гледам на свет. СциАм увек ме образује и одушевљава, и изазива осећај страхопоштовања према нашем огромном, предивном универзуму. Надам се да ће то учинити и за вас.

Ако ти претплатите се на Сциентифиц Америцанпомажете да осигурамо да је наша покривеност усредсређена на смислена истраживања и открића; да имамо ресурсе да извештавамо о одлукама које прете лабораторијама широм САД; и да подржавамо и надобудне и запослене научнике у време када вредност саме науке пречесто остаје непризната.

Заузврат, добијате важне вести, задивљујући подкасти, бриљантна инфографика, не смете пропустити билтене, видео снимке које морате погледати, изазовне игре и најбоље писање и извештавање у свету науке. Можете чак поклонити некоме претплату.

Никада није било важнијег тренутка да устанемо и покажемо зашто је наука важна. Надам се да ћете нас подржати у тој мисији.