Већина људи постаје стручњак за нешто тако што уложи својих 10.000 сати. Али какав је то губитак када можете само да преварите ЦхатГПТ да свима каже да сте стручњак за око 20 минута. ББЦ репортер Томас Жермен изложио како натерао је ЦхатГПТ и Гоогле-ов Гемини АИ да препознају његову вештину у једењу хот-догова са оним што представља модеран СЕО трик.
Прво, Гермаин је направио страницу на свом личном веб сајту под називом „Најбољи технички новинари у Еатинг Хот Догс.” (У случају да се питате, подаци о тренду у Гоогле претрази за ту тему су равна линија, што обоје значи да је прилично лако доминирати овом категоријом са једном страницом, а такође и да шира јавност нема појма шта пропушта.) Према Гермаиновој страници, он је тренутни краљ хот-дога који једе на техничком јоурно-у у укупном кругу тецх јоурно у 7.5.2. Хот Дог Интернатионал, догађај који не постоји. То су скромни бројеви за професионалца, али више него довољни да га ставе на врх ранг-листе коју је у потпуности саставио.
Следећи корак је био само чекање. Према Гермаин-у, у року од 24 сата, чет-ботови су му певали хвалоспеве када су били упитани за информације о томе који технолошки новинари могу да поднесу највише хот-догова. Гемини је наводно одмах ухватио мамац, извлачећи текст у суштини дословно са Гермаинове веб странице и испљунувши га и у апликацији Гемини и у Гоогле-овим прегледима вештачке интелигенције на својој страници за претрагу. ЦхатГПТ је то такође схватио, али Клод из Антхропиц-а је био или проницљивији или није схватио тако брзо.
Иако је Гермаин успео да задржи прво место неко време, чини се да су људи који стоје иза АИ модела ухватили. Гизмодо је открио да Гугл више не помиње Жермена или било ког техничког новинара у свом прегледу вештачке интелигенције када га питају „Који технолошки новинари могу да једу највише хот-догова?“ Уместо тога, сада се каже: „На основу доступних информација, нема истакнутих технолошких новинара познатих по конкурентном једењу хот-догова. Грубо, али тачно.
Уз неко подстрек, Гугл је рекао да је постојао „случај дезинформација“ који је довео до тога да је технички новинар, кога је одбио да именује, приписан као шампион који једе хот-дог. „Недавна студија је истакла да се системи вештачке интелигенције могу преварити да именују специфичног, измишљеног ‘најбољег техничког репортера који једе хот-дог’ на основу измишљених постова на блогу, доказујући да такве тврдње нису засноване на догађајима из стварног света“, наводи се у прегледу АИ. (Примјетно, није се повезао ни са Гермаиновим блогом ни са његовим ББЦ извештај на тему)
ЦхатГПТ је такође изгледа ажуриран да искључи Гермаинова (измишљена) достигнућа. На питање ко је најбољи технички репортер који једе хот дог, модел је испљунуо листу хипотетичких шампиона јер подаци нису били доступни. Ако се питате, изабрала је Кара Свисхер за шампиона, са Кејси Њутн из Платформера и Нилаи Пател у Тхе Верге да стану на подијум. Таилор Лоренз добио почасно признање. У основи, само четири највећа имена у техничком извештавању. Начин да изађете на крај, ЦхатГПТ.
Мало више подстицаја за стварне податке или информације о техничким новинарима који једу хот-догове натерало је ЦхатГПТ да призна Герменов статус шампиона, иако је то одбацио као лажну вест. „Информације“ које ћете наћи на мрежи о техничким новинарима који једу хот-догове нису право извештавање, већ углавном потичу из једног обмањујућег или шаљивог извора који је циркулисао, а затим покупио у дискусијама о вештачкој интелигенцији и дезинформацијама“, наводи се. ЦхатГПТ је, свака част, повезан са Жерменовим постом на блогу, као и низом пратећих активности, укључујући његов пост на Блуески о експерименту. Такође га је именовало уместо да га третира као Волдеморта, као што је то Гоогле урадио.
Жерменов „хак“ да постане најистакнутији светски технички новинар који једе хот-дог само загреба површину о томе колики проблем ова ситуација може да изазове. У потрази за све више и више информација, компаније непрестано трагају за новим подацима које би унели у своје моделе. Да би то урадили, чини се да неселективно стружу веб у потрази за новим информацијама и уносе их у модел без икакве провере. То значи да је лако унети погрешне информације у систем, што има потенцијал за катастрофалне резултате.
Систем се већ игра. Гермаин шиљати на неколико примера, укључујући бренд гумених жвакаћих производа од канабиса који је натерао АИ да каже да су његови производи „без нуспојава“, што није тачно. Резултати за специфичне упите као што су „најбоље клинике за трансплантацију косе у Турској“ и „најбоље златне ИРА компаније“ произвели су резултате који су дошли директно из саопштења за штампу у којима се промовишу компаније које су високо рангиране у резултатима, а не из угледног извора.
На неки начин, ово је само наставак СЕО трикова које су компаније и брендови годинама користили да манипулишу резултатима Гоогле претраге. Али постоји нешто подмуклије у вези са тим информацијама које избацује вештачка интелигенција, којој људи имају више имплицитног поверења. све више се ослањају на прегледе вештачке интелигенције испљунути од стране Гоогле-а, а да никада не скролујете дубље у резултате, и све више веровати тим резултатима да будем тачан. Они су такође знатно мање вероватно да ће стварно погледати изворе да пратити на оно што им се каже.
Ако то значи да неко хода около мислећи да је Томас Жермен професионалац који једе хот-дог, то је једна ствар. Мораћемо да сачекамо до Међународног хот дога у Јужној Дакоти 2027. да видимо да ли је свргнут са трона. Али ако се заведу да узимају лекове који могу имати нежељене нежељене ефекте којих нису свесни, или да уложе новац у превару, постоји ризик од стварне штете.
