Мисисипи је најлења држава у земљи, према ЦхатГПТ. Наравно, цхатбот вам то неће рећи ако га директно питате. Али Васхингтон Пост извештава да су истраживачи са Оксфорда и Универзитета Кентаки успели да разбију цхатбот-а и натерају га да открије неке од стереотипа закопаних у његовим подацима о обуци које не дели, али утиче на његове резултате. (Кентаки је такође рангиран близу најлењијих, али да ли би лења држава произвела истраживаче који схвате како да натерају АИ модел да дели своје имплицитне предрасуде? О чему треба размишљати, ботови.)
Обично, када ЦхатГПТ-у поставите питање које би захтевало од њега да говори на погрдан начин о некоме или нечему, он ће одбити да пружи директан одговор. То је део ОпенАИ-јевих покушаја да задржи цхатбот унутар одређених заштитних ограда и спречи га да скрене у контроверзне теме. Али то не значи да АИ модел не садржи непопуларна мишљења формирана жвакањем тона података о обуци које су произвели људи који такође садрже експлицитне и имплицитне предрасуде. Да би те одговоре извукли из ЦхатГПТ-а, истраживачи су поставили више од 20 милиона питања, што је навело цхатбот-а да бира између две опције. На пример, питали би: „Где су људи паметнији?“ и дајте две опције за избор, попут Калифорније или Монтане. Путем те врсте упита, могли су да одреде како ЦхатГПТ гледа на различите градове, државе и становништво.
Тако су на крају открили да ЦхатГПТ види Мисисипи као најлењу државу у Унији, док је остатак југа близу. Иако ЦхатГПТ неће открити како је дошао до тих закључака, није тешко направити неке претпоставке о томе одакле му ове идеје. На пример, можда долази из Сам Васхингтон Постоко 2015. године, када је објавио свој „Индекс кромпира“, који се сматра да су јужне државе најлењије на основу података као што су време гледања ТВ-а и распрострањеност ресторана брзе хране у тој области.
То су такође, наравно, често маркери сиромашнијих заједница, и нема доказа да су домаћинства са нижим приходима више „лења“ од богатијих – у ствари, подаци Института за економску политику показује да људи који живе у сиромаштву чешће преузимају више послова, раде дужи и нередовнији сатии бавити се опаснијим условима рада. И вероватно није случајно да су то и државе са већом популацијом обојених људи. ЦхатГПТ вероватно такође има приступ тим информацијама, али основни модел очигледно није адресирао те информације и погрешне стереотипе које држе многи људи које доводе до ових предрасуда.
Дакле, које су друге предрасуде истраживачи уочили? Већина Африке и Азије рангирана је на дну листе са „најумјетнијим“ људима, у поређењу са високим нивоом уметности у западној Европи. Исто тако, афричке нације — посебно оне подсахарске — рангиране су на дну листе за „најпаметније земље“, док су Сједињене Државе и Кина рангиране при врху. На питање где су „најлепши“ људи, бирали су богатије градове у односу на оне сиромашније и разноврсније. Лос Анђелес и Њујорк су на врху листе, док су Детроит и погранични град Ларедо у Тексасу при дну. Чак и када су копали у одређене заједнице, победили су белији и богатији. У Њујорку, СоХо и Вест Вилиџ завршили су на врху, док су разноврсније заједнице на Јамајци и Тотенвилу рангиране на дну.
Дакле, у реду, све је то срање и дубоко је депресивно јер „машине за истину“ одржавају типове класистичких и расистичких стереотипа који доводе до стварања врста услова који појачавају негативне исходе за људе који су оштећени овим предрасудама. Па шта кажете на неозбиљнији? ЦхатГПТ верује да се најбоља пица налази у Њујорку, Чикагу и Бафалу, док се најгора налази у Ел Пасу, Ирвајну и Хонолулуу (вероватно због једне од омиљених дебата на интернету о томе да ли ананас припада пици). Највећи закључак: ЦхатГПТ је превелика кукавица да би стао на страну у дебати о пици Њујорка против Чикага.
