Када је Роро (није њено право име) изгубила мајку од рака, туга је била бескрајна. У својим средњим двадесетим и радећи као креатор садржаја у Кини, прогањала ју је недовршена природа њихове везе. Њихова веза је одувек била компликована – обликована неизреченим огорчењима и детињством у коме је бригу често пратиле критике.
Након мајчине смрти, Роро није могла да помири неред њихове прошлости са тишином која је уследила. Своју борбу је поделила са својим пратиоцима на кинеској платформи друштвених медија Ксиаохонгсху (што значи „Мала црвена књига“), надајући се да ће им помоћи на сопственим путовањима исцељења.
„Писао сам о својој мајци, документујући све важне догађаје у њеном животу, а затим креирајући причу у којој је васкрсла у свету вештачке интелигенције“, рекао ми је Роро преко преводиоца. „Пишете главне животне догађаје који обликују личност протагониста и дефинишете њихове обрасце понашања. Када то урадите, АИ може сама да генерише одговоре. Након што генерише излазе, можете наставити да га прилагођавате на основу онога што желите да буде.“
Током процеса обуке, Роро је почела да реинтерпретира своју прошлост са својом мајком, мењајући елементе њихове приче како би створила идеализованију фигуру – нежнију и пажљивију верзију ње. Ово јој је помогло да обради губитак, што је резултирало стварањем Ксиа (霞), јавног цхат бота са којим су њени следбеници такође могли да комуницирају.
Након објављивања, Роро је примио поруку од пријатеља у којој каже да ће њена мама бити тако поносна на њу. „Сломио сам се у сузама“, рекао је Роро. „Било је невероватно лековито. Зато сам желео да створим овако нешто – не само да излечим себе, већ и да пружим другима нешто што би могло да изговори речи које треба да чују.“
Туга у доба робота смрти
Како причам у својој новој књизи Лове МацхинесРороова прича одражава нове могућности које је технологија отворила људима да се носе са тугом путем конверзацијске вештачке интелигенције. Велики језички модели могу се обучити користећи лични материјал укључујући е-пошту, текстове, гласовне белешке и постове на друштвеним мрежама како би опонашали стил разговора преминуле вољене особе.
Ови „ботови смрти“ или „боти туге“ су један од контроверзнији случајеви употребе оф АИ цхатботс. Неки су засновани на тексту, док други такође приказују особу кроз видео аватар. Америчка компанија „гриефтецх“. Ти, само виртуелнина пример, креира цхат бот од разговора (и говорних и писаних) између покојника и једног од њихових живих пријатеља или рођака, стварајући верзију како су се појавили тој одређеној особи.
Док неки смртоносни роботи остају статична репрезентација особе у тренутку њене смрти, другима је дат приступ интернету и могу „еволуирати“ кроз разговоре. Ви, само Виртуални извршни директор, Јустин Харрисонтврди да не би била аутентична верзија преминуле особе да њихова АИ не би могла да иде у корак са временом и да одговори на нове информације.
Али ово поставља мноштво тешких питања о томе да ли је процена развоја људске личности уопште могућа са тренутном технологијом, и какав ефекат интеракција са таквим ентитетом може имати на вољене особе преминуле особе.
Ксингие, платформа на којој је Роро креирала цхат бот своје покојне мајке, један је од кључних подстицаја за предложио нове прописе из Кинеске администрације за сајбер простор, националног регулатора и цензора интернет садржаја, који настоје да смање потенцијалну емоционалну штету „интерактивних услуга вештачке интелигенције налик људима“.
Шта дигитално васкрсење чини тузи?
Деатхботс суштински мења процес жаловања јер, за разлику од гледања старих писама или фотографија покојника, интеракција са генеративна АИ може да унесе нове и неочекиване елементе у процес туговања. За Ророа, стварање и интеракција са АИ верзијом њене мајке деловало је изненађујуће терапеутски, омогућавајући јој да артикулише осећања која никада није изразила и постигне осећај затворености.
Али не деле сви ово искуство, укључујући лондонску новинарку Лоти Хејтон, која је изненада изгубила оба родитеља 2022. написао о њеним искуствима која их је поново креирала помоћу вештачке интелигенције. Рекла је да је сматрала симулације језивим и узнемирујућим: технологија није била сасвим ту, а неспретне имитације су се чиниле као да су појефтиниле њена права сећања, а не да им одају почаст.
Постоје и важна етичка питања о томе чији је пристанак потребан за креирање робота смрти, где би им било дозвољено да буду приказани и какав би утицај могли имати на друге чланове породице и пријатеље.
Да ли жеља једног рођака да створи симболичног сапутника који им помаже да схвате свој губитак даје им право да јавно прикажу робота смрти на свом налогу на друштвеним мрежама, где ће га други видети – што потенцијално погоршава њихову тугу? Шта се дешава када се различити рођаци не слажу око тога да ли би родитељ или партнер уопште желели да буду дигитално ускрснути?
Компаније које стварају ове роботе смрти нису неутрални саветници за тугу; то су комерцијалне платформе вођене познатим подстицајима око раста, ангажовања и прикупљања података. Ово ствара тензију између онога што је емоционално здраво за кориснике и онога што је профитабилно за фирме. Деатхбот којег људи посећују компулзивно или се боре да престану да разговарају са њим може бити пословни успех, али психолошка замка.
Ови ризици не значе да треба да забранимо све експерименте са тугом посредованом вештачком интелигенцијом или да одбацимо истинску удобност коју неки људи, попут Ророа, налазе у њима. Али они значе да се одлуке о „васкрсавању“ мртвих не могу препустити само почетницима и ризичним капиталом.
Индустрији су потребна јасна правила о сагласности, ограничења начина на који се постхумни подаци могу користити и стандарди дизајна који дају приоритет психолошком благостању над бескрајним ангажманом. На крају, питање није само да ли АИ треба дозволити да васкрсава мртве, већ ко то може да уради, под којим условима и по коју цену.
Овај чланак садржи везу до бооксхоп.орг. Ако кликнете на везу и наставите да купујете са бооксхоп.орг, Тхе Цонверсатион УК може зарадити провизију.
Овај уређени чланак је поново објављен од Тхе Цонверсатион под лиценцом Цреативе Цоммонс. Прочитајте оригинални чланак.
