Ако знате шта да слушате, нечији глас вам може рећи о нивоу образовања, емоционалном стању, па чак и о професији и финансијама — више него што можете замислити. Научници сада тврде да се технологија у облику снимака гласа у текст може користити за подизање цена, непоштено профилисање, узнемиравање или ухођење.
Док људи могу бити прилагођени очигледнијим знаковима као што су умор, нервоза, срећа и тако даље, компјутери може учинити исто — али са много више информација и много брже. Нова студија тврди да обрасци интонације или ваш избор речи могу открити све, од ваше личне политике до присуства здравствених или здравствених стања.
Док технологија обраде гласа и препознавања представља могућности, ванредни професор говорне и језичке технологије Универзитета Аалто Том Бацкстромглавни аутор студије, види потенцијал за озбиљне ризике и штете. Ако корпорација разуме вашу економску ситуацију или потребе на основу вашег гласа, на пример, то отвара врата дизању цена, попут дискриминаторних премија осигурања.
А када гласови могу открити детаље као што су емоционална рањивост, пол и други лични детаљи, сајбер-криминалци или сталкери могу да идентификују и прате жртве преко платформи и изложе их изнуди или узнемиравању. Све су то детаљи које подсвесно преносимо када говоримо и на које несвесно реагујемо пре свега.
Џеналин Понрај, оснивач компаније Делаире, футуриста који ради на регулацији људског нервног система усред нових технологија, рекла је за Ливе Сциенце: „Врло мало пажње се поклања физиологији слушања. У кризи, људи примарно не обрађују језик. Они реагују на тон, ритам, прозодију и дах, често пре него што сазнање има шансу да се ангажује.“
Пази на свој тон
Док је Бекстром рекао за Ливе Сциенце да технологија још није у употреби, семе је посејано.
„О аутоматском откривању беса и токсичности у онлајн играма и позивним центрима отворено се говори. То су корисни и етички чврсти циљеви“, рекао је он. „Али све већа адаптација говорних интерфејса према клијентима, на пример – тако да би стил говора аутоматизованог одговора био сличан стилу корисника – говори ми да су етички сумњиви или злонамерни циљеви достижни.
Он је додао да, иако није чуо да је неко ухваћен да ради нешто неприкладно са технологијом, не зна да ли зато што нико није, или зато што једноставно нисмо тражили.
Разлог зашто говорим о томе је зато што видим да су многи алати за машинско учење за анализу кршења приватности већ доступни, а њихова злобна употреба није претерана.
Том Бацкстром, доцент Универзитета Аалто
Такође морамо запамтити да су наши гласови свуда. Између сваке говорне поште коју оставимо и сваки пут када нам линија за корисничку подршку каже да се позив снима ради обуке и квалитета, дигитални запис наших гласова постоји у количини која се може поредити са нашим дигиталним отиском, укључујући објаве, куповине и друге активности на мрежи.
Ако, или када, велики осигуравач схвати да може повећати профит селективним одређивањем цена покрића према информацијама о нама које смо прикупили из наших гласова помоћу вештачке интелигенције, шта ће их зауставити?
Бекстром је рекао да би чак и разговор о овом питању могао бити отварање Пандорине кутије, чиме би јавност и „противници“ били свесни нове технологије. „Разлог зашто говорим о томе је зато што видим да су многи алати за машинско учење за анализу кршења приватности већ доступни, а њихова злобна употреба није претерана“, рекао је он. „Ако је неко већ схватио, могао би имати велику предност.“
Као такав, он је наглашен да јавност треба да буде свесна потенцијалних опасности. Ако не, онда су „велике корпорације и државе за надзор већ победиле“, додаје он. „То звучи веома суморно, али бирам да се надам да ћу моћи нешто да урадим по том питању.“
Чување вашег гласа
Срећом, постоје потенцијални инжењерски приступи који нам могу помоћи у заштити. Први корак је мерење тачно онога што наши гласови одају. Како је Бекстром рекао у а изјаватешко је направити алате када не знате шта штитите.
Та идеја је довела до стварања Интересна група за безбедност и приватност у говорној комуникацијикоји пружа интердисциплинарни форум за истраживање и оквир за квантификацију информација садржаних у говору.
Одатле је могуће пренети само оне информације које су стриктно неопходне за намеравану трансакцију. Замислите да релевантни систем претвара говор у текст за потребне сирове информације; или оператер вашег провајдера уписује информације у свој систем (без снимања стварног позива), или ваш телефон претвара ваше речи у текстуални ток за пренос.
Као што је Бекстром рекао у интервјуу за Ливе Сциенце: „Информације које се шаљу сервису биле би најмањи износ за испуњавање жељеног задатка.“
Осим тога, рекао је он, ако исправно схватимо етику и заштиту технологије, онда то показује велико обећање. „Убеђен сам да говорни интерфејси и говорна технологија могу да се користе на веома позитивне начине. Велики део нашег истраживања односи се на развој говорне технологије која се прилагођава корисницима тако да је природнија за коришћење.“
„Приватност постаје забрињавајућа јер такво прилагођавање значи да анализирамо приватне информације — језичке вештине — о корисницима, тако да се не ради нужно о уклањању приватних информација, већ о томе шта се приватне информације издвајају и за шта се користе.
Кеумарс Афифи-Сабет
Кршење ваше приватности је ужасан осећај – било да је у питању хаковање или друштвени медији који гурају онлајн огласе због којих мислите да приватни разговор није тако приватан. Студије попут ове, међутим, показују да смо једва ухватили површину када је у питању начин на који можемо бити циљани – посебно са нечим тако интимним и личним за нас као што је наш сопствени глас.
Са побољшањем вештачке интелигенције и постајањем других технологија далеко софистициранијим, то наглашава да ми заиста немамо појма о томе како ће то заиста утицати на нас – конкретно, како би одређене силе могле да злоупотребе технологију да нас искористе. Иако је приватност потрошача масовно нарушена у последњих неколико деценија, преостало је доста простора да оно што држимо близу себе искористимо да буде комодификовано, у најбољем случају, или у најгорем случају, оружје против нас.
