Када је АИ алгоритам означен као ‘женски’, већа је вероватноћа да ће га људи искористити
Већа је вероватноћа да ће људи искоришћавати партнерке за вештачку интелигенцију него мушке – што показује да дискриминација заснована на полу има утицај и изван људских интеракција.
Недавна студија, објављена 2. новембра у часопису иСциенцеиспитали су како се људи разликују у својој спремности да сарађују када су партнери људи или АИ добили женске, небинарне, мушке и никакве родне ознаке.
Истраживачи су замолили учеснике да играју добро познати мисаони експеримент под називом „Затвореникова дилема“, игра у којој два играча бирају да сарађују један са другим или да раде независно. Ако сарађују, обојица добијају најбољи исход.
Али ако један одлучи да сарађује, а други не, играч који није сарађивао постиже бољи резултат, нудећи подстицај једном да „искористи“ другог. Ако обоје одлуче да не сарађују, оба играча имају низак резултат.
Људи су имали око 10% већу вероватноћу да ће експлоатисати АИ партнера него човека, показала је студија. Такође је откривено да је већа вероватноћа да ће учесници сарађивати са женским, небинарним и неродним партнерима него са мушким партнерима јер су очекивали да ће и други играч сарађивати.
Људи су имали мање шансе да сарађују са мушким партнерима јер им нису веровали да бирају сарадњу, показало је истраживање – посебно учеснице, које су чешће сарађивале са другим „женским“ агентима него агентима које су идентификовали мушкарци, ефекат познат као „хомофилија“.
„Уочене пристрасности у људским интеракцијама са АИ агентима ће вероватно утицати на њихов дизајн, на пример, како би се максимизирало ангажовање људи и изградило поверење у њихове интеракције са аутоматизованим системима“, рекли су истраживачи у студији. „Дизајнери ових система морају бити свјесни нежељених предрасуда у људским интеракцијама и активно радити на њиховом ублажавању у дизајну интерактивних АИ агената.
Ризици антропоморфизације агенаса вештачке интелигенције
Када учесници нису сарађивали, то је било из једног од два разлога. Прво, очекивали су да други играч неће сарађивати и нису желели нижи резултат. Друга могућност је да су мислили да ће друга особа сарађивати и да би одлазак соло смањио њихов ризик од нижег резултата – по цену другог играча. Истраживачи су ову другу опцију дефинисали као експлоатацију.
Учесници су имали већу вјероватноћу да ће „искористити“ своје партнере када су имали женске, небинарне или неродне ознаке него мушке. Ако је њихов партнер био АИ, вероватноћа експлоатације се повећала. Мушкарци су склонији експлоатацији својих партнера и вероватније да ће сарађивати са људским партнерима него АИ. Жене су чешће сарађивале од мушкараца и нису правиле дискриминацију између човека или АИ партнера.
Студија није имала довољно учесника који су се идентификовали као било који пол осим женског или мушког да би се извукли закључци о томе како други полови ступају у интеракцију са родним људима и партнерима АИ.
Према студији, све више алата за вештачку интелигенцију се антропоморфизује (дају им се људске карактеристике као што су пол и имена) како би се људи подстакли да верују и сарађују са њима.
Антропоморфизација вештачке интелигенције без разматрања како родно заснована дискриминација утиче на интеракције људи могло би, међутим, да ојача постојеће предрасуде, чинећи дискриминацију гором.
Иако су многи данашњи системи вештачке интелигенције онлајн цхат ботови, у блиској будућности људи би могли рутински да деле пут са аутомобилима који се сами возе или да АИ управља њиховим радним распоредом. То значи да ћемо можда морати да сарађујемо са АИ на исти начин на који се тренутно очекује да сарађујемо са другим људима, чинећи свест о родној пристрасности АИ још критичнијом.
„Иако показивање дискриминаторних ставова према родно заснованим агентима вештачке интелигенције можда не представља велики етички изазов само по себи, могло би да подстакне штетне навике и погорша постојећу дискриминацију засновану на полу у нашим друштвима“, додали су истраживачи.
„Разумевањем основних образаца пристрасности и перцепције корисника, дизајнери могу радити на стварању ефикасних, поузданих АИ система који су способни да задовоље потребе својих корисника уз промоцију и очување позитивних друштвених вредности као што су правичност и правда.
