Рејчел Фелтман: За Сциентифиц Америцан‘с Наука брзо, Ја сам Рацхел Фелтман.
ТикТок алгоритам, који обликује оно што види више од милијарду корисника, развио је готово мистичну репутацију за откривање шта људи желе да гледају. Те моћи заправо нису магичне, али су важне. Алгоритам који се широко користи као ТикТок може имати огроман утицај на нашу културу одређујући које информације људи добијају и како.
Док се ТикТок припрема да избаци верзију апликације само за САД са већинским америчком власништвом, поставља се много питања о томе како би се платформа – и њен свемоћни алгоритам – могли променити. Да ли ће нови инвеститори преобликовати које врсте садржаја се промовишу или потискују?
О подршци научном новинарству
Ако уживате у овом чланку, размислите о томе да подржите наше награђивано новинарство претплата. Куповином претплате помажете да се обезбеди будућност упечатљивих прича о открићима и идејама које данас обликују наш свет.
Овде да разложимо шта знамо о дуго очекиваној продаји ТикТок-а и шта би то могло значити за будућност платформе је Келлеи Цоттер, доцент на Одсеку за рачунарство усредсређено на човека и друштвену информатику на Универзитету Пенсилваније.
Хвала вам пуно што сте данас дошли на ћаскање.
Кели Котер: Наравно, драго ми је што сам овде и хвала што сте ме позвали.
Фелтман: Дакле, да ли бисте почели тако што бисте нам рекли нешто о свом поријеклу – знате, какво истраживање радите?
Цоттер: Зато истражујем све врсте ствари које се односе на друштвене и етичке импликације дигиталних технологија, а посебно се фокусирам, обично, на алгоритме и вештачку интелигенцију – а можда прецизније на алгоритме друштвених медија – и нека од мојих суштинских интересовања су у томе како људи уче о овим технологијама и схватају њихов смисао, како их замишљају и шта мисле да би оне могле да омогуће.
А онда имам књигу која је тренутно под уговором са Оксфорд Университи Пресс-ом о критичкој алгоритамској писмености, тако да је једна од ствари које ме занимају да разумем како нам оно што знамо о алгоритмима може помоћи да управљамо њима на начин одоздо према горе. И такође размишљамо о нашем разумевању платформи и пракси које имамо око њих као о врсти контекстуалних увида које имамо.
Фелтман: Шта мислите, шта недостаје већини људи у разумевању алгоритама који покрећу друштвене медије које користе?
Цоттер: Дакле, када сам почео да истражујем ово пре можда скоро 10 година, још увек је постојао велики део популације који није ни био свестан да ови процеси постоје да би сортирали и филтрирали садржај на мрежи. Сада мислим да се то прилично променило, тамо где постоји—вероватно већина људи има неку свест о овим процесима који се дешавају. Имају извесну свест да оно што виде у својим фидовима није све што би могли да виде. И мислим да они такође имају основно разумевање како то функционише, тако да знају да то зависи од њихове активности на сајтовима: ствари са којима се баве, ствари које гледају, ствари које деле, ствари које коментаришу, све те ствари.
Мислим да је све више од тога, можда сложеније техничко разумевање, више ван домашаја, али је такође ограничен начин на који су људи свесни утицаја или последица алгоритама. Дакле, људи су често свесни начина—свог сопственог сусрета са алгоритмима јер много научимо о њима кроз сопствено искуство. Али не постоји нека врста широког разумевања начина на који би алгоритми могли да преобликују различите шире друштвене процесе.
Фелтман: Мм. Дакле, недавно сте написали чланак за Разговор о продаји ТикТок-а и о томе како је она повезана са врстом злогласног ТикТок алгоритма. За почетак шта знамо о ТикТок продаји? Шта се тамо дешава?
Цоттер: Тако да имамо неке детаљи у овом тренутку, не потпуна слика, али имамо неке детаље. Дакле, знамо да ће договор створити нову апликацију само за САД, издвојену из оригиналне апликације; да ће бити већинско власништво америчких компанија, око 80 процената, а затим мање од 20 процената међу кинеским инвеститорима, БитеДанце — матичне компаније ТикТока.
А главни покретач стварања овог уговора првобитно је имао везе са забринутошћу да је апликација под кинеском контролом. А једна од кључних фокусних тачака био је алгоритам јер је постојала забринутост у вези са начинима на које се алгоритмом може манипулисати како би се обликовао садржај који корисници виде у својим фидовима на начин на који су амерички законодавци утврдили да се тиче. Дакле, алгоритам би, дакле, био лиценциран за ову нову америчку компанију, а они би га поново обучили и поново направили за апликацију само за САД.
Фелтман: Да, и зашто је судбина ТикТок алгоритма тако велики део овог разговора, знате, чак и сада када не би био у рукама стране силе?
Цоттер: Алгоритам је у срцу свега што ТикТок ради. Дакле, свака платформа друштвених медија се заиста врти око функција које њихови алгоритми обављају. Дакле, алгоритми су дизајнирани да прилагоде садржај корисничким преференцијама, тако да су дизајнирани да корисничка искуства учине смисленим и вредним; то је нека врста циља. Али то такође значи да они играју централну улогу у обликовању врсте културе на начин на који одређене врсте садржаја чине видљивим или мање видљивим.
Дакле, они сортирају и филтрирају садржај за људе, а затим такође примењују неке од смерница заједнице које компаније друштвених медија постављају како би се увериле да садржај који људи виде у својим фидовима није претерано крвав или да не промовише насиље или у—историјски гледано, постојала је забринутост да се дезинформације минимизирају. Дакле, постоје различити начини на које би требало да оптимизује фидове како би подигао најбољи садржај и најбољи садржај за појединачног корисника.
Фелтман: Као неко ко је проучавао алгоритме друштвених медија скоро деценију, шта је јединствено у вези са оним који покреће ТикТок страницу „За тебе“, и у ствари, алгоритамски и можда на начин на који људи осетити да ради, ако то има смисла?
Цоттер: Да, ТикТок алгоритам се сматра посебно добрим у прилагођавању садржаја корисницима. Постоји нека популарна концепција о томе да познајете људе боље него што они сами себе познају. И нека од мојих истраживања са колегама су истраживала те врсте веровања и начине на које се она спајају у овој заиста чудној мешавини духовних веровања и теорија завере, где понекад постоји перцепција да је оно што људи виде у њиховим фидовима некако, као, космички предодређено за њих; намењен је посебно њима. Дакле, постоји ово заиста—постоје перцепције да је алгоритам веома моћан и добар у својој намени.
На неки начин, на много начина, алгоритам се не разликује посебно од других алгоритама друштвених медија. На неки начин је дизајниран на исти начин, где је циљ да задржи кориснике на сајту и натера их да се враћају. То је нешто за шта је оптимизовано. И он се такође, као и други алгоритми друштвених медија, ослања на сигнале понашања људи на сајту – опет, ствари које воле, ствари које коментаришу, ствари које деле, ове врсте сигнала интересовања.
Један Валл Стреет Јоурнал истраживање је сугерисало да је време гледања на ТикТок-у посебно снажан сигнал интересовања који алгоритам користи за рангирање садржаја. Један од разлога зашто би ТикТок алгоритам могао бити потенцијално бољи у прилагођавању садржаја је природа кратког видео формата, где је лакше прочитати шта људе занима на основу дужине времена које проводе гледајући било који дати део садржаја у односу на било коју другу ствар.
Такође има и друге, попут, јединствене карактеристике које промовишу више веза између креатора и корисника. Тако добијамо, као, функцију Ститцх, где ће људи реаговати на различите видео снимке; они ће спојити видео другог аутора и одговорити на њега сопственим видео снимком. Постоје звуци, где људи могу да користе сличне звукове да би створили неку врсту мемова и различитих разговора или промовисали сличне идеје о стварима. Дакле, постоје начини на које су везе међу корисницима олакшане карактеристикама платформе које би могле бити од помоћи за разумевање корисничких преференција.
Али није сасвим јасно зашто је, барем се перципира као, посебно добар у кројењу садржаја. Имамо неке информације о томе како то функционише, али је тешко знати било који разлог зашто би могао бити посебно добар.
Фелтман: Дакле, с обзиром на оно што знамо о предложеним купцима за ТикТок и снагу ТикТок алгоритма, које су импликације ако продаја прође?
Цоттер: Да, зато што је алгоритам толико важан за живот на платформи, шта је он, важно је у чијим је рукама јер ће директно, опет, обликовати како платформа изгледа – како ће изгледати ова нова америчка апликација.
Дакле, предложени инвеститори, или (инвеститори) који су подељени, су нека врста познатих ентитета. Орацле је, наравно, велики, и они одржавају податке за ТикТок у САД већ (неколико) година, тако да је један био—некако праћен из тог успостављеног односа. Али мислим да је велика забринутост око инвеститора који су именовани да изгледа да сви они имају везе са Трамповом администрацијом, да су конзервативнији у својим ставовима, и то има потенцијал да промени врсту идеолошког нагиба платформе ако инвеститори одлуче да желе да подесе алгоритам на неки начин или да подесе смернице заједнице на начин који би могао да прихвати овај нови говор или да прихвате смернице заједнице.
Дакле, можда је једна важна ствар коју треба приметити: раније, када смо још увек били у разговорима о покушају да се донесе закон о забрани ТикТока, забринутост законодаваца, посебно републиканских законодаваца, била је већа видљивост палестинских хештегова на ТикТок-у у односу на израелске; наводно постоји нека врста искривљености у садржају. Дакле, са власником који има јаку идеолошку тачку гледишта и има вољу да то учини делом апликације, могуће је, кроз подешавање алгоритма, на неки начин преобликовати укупну композицију садржаја на платформи.
Дакле, ово нема везе са власништвом, већ са новом апликацијом, јер ће то бити само амерички корисници — па кажу да ће постојати глобални садржај који ће и даље бити видљив на платформи, али корисника јер ће ова апликација бити америчка. Дакле, можемо очекивати да ако се овај нови алгоритам, како је лиценциран од стране БитеДанце-а, поново обучи за кориснике само у САД, да америчке вредности, преференције, понашања која утичу на курирање садржаја помоћу алгоритма на сајту—могли бисмо очекивати да видимо неке суптилне промене, само по природи тог различитог скупа података на којем се гради.
А ако корисници виде да је нова апликација у рукама Трампових савезника или да је конзервативнија у својим гледиштима и имају забринутост да би ти инвеститори могли утицати на садржај у апликацији, могли бисмо очекивати да неки корисници напусте апликацију. Дакле, то би могло да доведе до ситуације у којој не само да је то апликација коју сачињавају само људи са седиштем у САД, већ само подскуп америчких корисника и посебно оних који би можда могли бити десничарски, што би такође, опет, имало велики утицај на врсте садржаја које тамо видите.
Дакле, на крају, нова апликација може изгледати драстично другачије него што је тренутно, у зависности од тога шта се дешава са одлукама које доносе инвеститори, одлукама корисника, ко остаје, а ко одлази, и све то.
Фелтман: Па, хвала вам пуно што сте дошли да разговарамо о овоме са нама. Дефинитивно ћемо контактирати да разговарамо више ако ова продаја прође.
Цоттер: Да, радо бих ћаскао више. Хвала још једном што сте ме примили.
Фелтман: То је све за данашњу епизоду. Вратићемо се у петак да сазнамо како посластице за Ноћ вештица могу да поиграју наше цревне микробе.
Наука брзо продуцирам ја, Рејчел Фелтман, заједно са Фондом Мванги и Џефом ДелВисијом. Ову епизоду је уредио Алек Сугиура. Схаина Поссес и Аарон Схаттуцк проверите чињенице у нашој емисији. Нашу тематску музику је компоновао Доминик Смит. Претплатите се на Сциентифиц Америцан за најновије и детаљније вести из науке.
За Сциентифиц Америцан, ово је Рацхел Фелтман. Видимо се следећи пут!
