У седмици прилично јавних напуштања компанија за вештачку интелигенцију, случај Зое Хитзиг је, вероватно, највише привукао пажњу. Бивши истраживач у ОпенАИ развео се од компаније у описао у Њујорк тајмсу у којој је упозорила не на неку нејасну, неименовану кризу као што је Антхропиц-ова недавно одустала заштитна вођа, већ на нешто стварно и неизбежно: ОпенАИ-јево увођење реклама у ЦхатГПТ и које информације ће користити за циљање тих спонзорисаних порука.
Постоји важна разлика коју Хитзиг прави рано у свом тексту: проблем није само оглашавање, већ потенцијално коришћење огромне количине осетљивих података које су корисници поделили са ЦхатГПТ-ом без размишљања о томе како би могли да се користе за њихово циљање или ко би их потенцијално могао добити у руке.
„Већ неколико година, корисници ЦхатГПТ-а су генерисали архиву људске искрености која нема преседана, делом зато што су људи веровали да разговарају са нечим што није имало скривене циљеве“, написала је она. „Људи причају чет-ботовима о својим медицинским страховима, проблемима у вези, својим веровањима у Бога и загробни живот. Оглашавање изграђено на тој архиви ствара потенцијал за манипулисање корисницима на начине на које немамо алате да разумемо, а камоли да спречимо.“
ОпенАИ је барем признао ову забринутост. У а блог пост објављено раније ове године, најављујући да ће компанија експериментисати са оглашавањем, компанија је обећала да ће задржати заштитни зид између разговора које корисници имају са ЦхатГПТ-ом и огласа које им четбот приказује. „Ваше разговоре са ЦхатГПТ чувамо приватним од оглашивача и никада не продајемо ваше податке оглашивачима.“
Хициг верује да је то тачно… за сада. Али она је изгубила поверење у компанију да задржи ту позицију на дуги рок, посебно зато што не постоји ништа што би је могло задржати да би следило обећану приватност. Истраживач је тврдио да ОпенАИ „гради економски мотор који ствара снажне подстицаје за превазилажење сопствених правила“, и упозорио је да компанија можда већ одустаје од претходних принципа.
На пример, ОпенАИ има изјавио је да не оптимизује ЦхатГПТ да би максимизирао ангажовање – метрика која би била посебно интересантна за компанију која покушава да задржи људе закључане у разговорима како би могла да им приказује више огласа. Али изјава није обавезујућа и није јасно да ли је компанија то испунила. Прошле године, компанија је наишла на проблем удварања са својим моделом — почео је да постаје претерано ласкав својим корисницима и, с времена на време, ушао у обмањујуће размишљање које је можда допринело „цхатбот психоза” и самоповређивање. Стручњаци имају упозорио та удварање није само грешка у подешавању модела, већ намеран начин да се корисници навуку на разговор са четботом.
На неки начин, ОпенАИ само убрзано покреће Фацебоок модел обећавајући корисницима приватност над њиховим подацима и потом ћилим-вући их када се испостави да су подаци прилично вредни. Хитзиг покушава да изађе испред воза пре него што он подигне превише воде, и препоручио је да ОпенАИ усвоји модел који ће заправо гарантовати заштиту за кориснике – било да створи неку врсту стварног, обавезујућег независног надзора или стави податке под контролу поверења са „законском обавезом да делује у интересу корисника“. Било која опција звучи сјајно, иако је Мета урадио прву тако што је створио Мета надзорни одбор, а затим рутински га игнорисали и презирали.
Хициг такође, нажалост, може имати тешку битку да натера људе да се брину. Две деценије друштвених медија створиле су осећај за нихилизам приватности у широј јавности. Нико не воли рекламе, али већини људи оне не сметају довољно да било шта ураде. Форестер је открио да 83% људи испитаници ће наставити да користе бесплатни ниво ЦхатГПТ-а упркос увођењу реклама. Антхропиц је покушао да освоји неке поене код јавности тако што је ударио ОпенАИ због своје одлуке да убаци огласе у ЦхатГПТ са истакнутим Супер Бовл спотом овог викенда, али је реакција јавности била већа конфузија од свега, по АдВеек-ушто је показало да је оглас рангиран у доњих 3% допадљивости на свим местима на Супер Бовлу.
Хицигово упозорење је основано. Брига коју има је стварна. Али навести јавност да брине о сопственој приватности након година потчињености алгоритама је право повећање.
