Гроков АИ алат за скидање жена на Кс отвара нову границу у системском злостављању жена у Индији
ВКада је Ручи Коча објавила свој први селфи у 2026. на Кс Елона Маска, веровала је да пројектује слику самопоуздања и оптимизма за нову годину. Ипак, чак и у онлајн пејзажу где су жене рутински изложене увредљивим порукама мушкараца, она није била спремна за оно што је уследило.
Анонимне особе на платформи друштвених медија раније познате као Твитер затражиле су од свог уграђеног алата за вештачку интелигенцију Грок да јој скине одећу и објави њене слике у бикинију. И Грок се обавезао.
Ручке су тражиле од Грока да је „стави у бикини“ или „у микро бикини“, при чему су захтеви постајали све више воајеристички како се све више придруживало.
„Поставио сам заиста позитиван и самоуверен новогодишњи пост заједно са својом сликом да дам тон за моју наредну годину“, каже аутор из Делхија Тхе Индепендент. „Добијао сам много топлих новогодишњих жеља испод тог поста. Међутим, приметио сам да постоје неки анонимни корисници који су тражили од Грока да уреди моју слику и скине ме у бикини.“
Индијске жене, на послу или код куће, суочавају се са претњом непознатих мушкараца који користе АИ алат да би их скинули – најнапреднији облик узнемиравања до сада у земљи која је доследно лоше рангирана по стопи злочина против жена и безбедности жена.
Питање није ограничено само на Индију, јер владе широм света примећују како Кс-ов алат за вештачку интелигенцију испуњава захтеве странаца, углавном мушкараца и порнографске налоге, захтевајући дигитално свлачење жена, на ужас стотина жртава.
У периоду од 24 сата од 5. јануара до 6. јануара, Мусков Грок је генерисао „најмање 6.700 слика сваког сата“, које су „идентификоване као сексуално сугестивне или наговештавајуће“, показали су подаци истраживача деепфаке Геневиеве Ох.
Ово је скоро 85 пута више од првих пет веб-сајтова за такав садржај, који су сваког сата објављивали 79 нових слика АИ свлачења, показало је истраживање.
У петак, након неколико дана реакције људи широм света због увредљивих слика жена и деце, Кс је коначно зауставио свој систем вештачке интелигенције за генерисање слика за већину својих корисника и ограничио га на плаћену услугу. То значи да се генерисање слике и даље може десити, али за плаћене претплатнике који нуде своје име и детаље о плаћању на Мусковој платформи.
„Генерисање и уређивање слика тренутно су ограничени на претплатнике који плаћају“, стоји у поруци, а корисницима даје линк да се пријаве за премиум верзију Кс-а, раније познату као Твитер.
Тхе Индепендент обратио се Гроку за коментар на овај чланак, али није добио одговор у време објављивања. Друга недавна медијска истраживања о проблемима око Гроковог алата за креирање имиџа упућена су на Мускове твитове.
За многе је штета већ учињена. Називајући то еклатантном објективизацијом жена, Кокча каже: „У Индији су жене увек биле осуђиване због тога шта носе и како се понашају у јавности. Али исти мушкарци не остављају камен на камену да би објективизовали или сексуализирали жене.“
„Нису поштедели ни децу и бебе. Ово је јасно кршење сагласности.“
Као глас против естаблишмента на друштвеним мрежама, индијска историчарка др Ручика Шарма навикла је да буде тролована и „срамотана“ од стране оних чија се мишљења разликују од њеног. Много дана, њен одељак за коментаре је пун увредљивих речи. Сада, додавање Гроковиних дигитално измењених слика натерало ју је да тражи адвоката.
„Помоћу јавног профила на Инстаграму, видео сам многе мушкарце како користе моју фотографију и остављају коментаре или покушавају да ме угасе. То је нешто на шта сам постао имун, али ови захтеви Гроку који тражи да ме покажу у доњем вешу су заиста бесмислени“, каже историчар о средњовековној Индији из Делхија Тхе Индепендент.
Др Шарма каже да њене фотографије на Инстаграму имају елемент пристанка, али код Грока „апсолутно нема контроле и агенције“.
„Био сам испуњен потпуним гађењем и такође, помало беспомоћношћу, знате, размишљајући шта уопште могу да урадим поводом овога?“ рекла је. „Ово је већ веома лоше оруђе у рукама мушкараца широм света, али у рукама индијских мушкараца, то је апсолутна катастрофа.
Ове недеље, Муск је прославио да је Грок најпреузета апликација у разним земљама.
Као власник „вероватно најбрже напредне вештачке интелигенције на свету“, Муск је виђен како осветљава проблем који је погодио толико жена широм света. Поново је поставио слику тостера са дигитално додатим бикинијем и написао: „Грок може ставити бикини на све“. Власник Кс је додао: „Нисам сигуран зашто, али нисам могао да престанем да се смејем због овога“, поред емоџија који се смеје.
„Ово је стварна цена сајбер узнемиравања. Неко непрекидно претвара/уређује фотографије невиних жена у актове. То није само ‘онлајн троловање’ – то уништава породице. Стрес је буквално ставио моје родитеље у болнички кревет“, рекла је једна корисница на Кс-у, Нандини, поделивши како су њене фотографије из теретане претворене у бикини од стране Грофа.
Индијска посланица Приианка Цхатурведи рекла је да је приметила начин на који је Грок злостављан и како је то утицало на више жена на њеној временској линији на Кс.
„Видела сам неколико жена које су огорчене због тога, рекавши да се њихове фотографије користе без пристанка. Ово је апсолутна злоупотреба промпта и Грока као алата, па сам одмах, без губљења времена, писала индијском министарству за електронику и информационе технологије (Меити)“, каже она.
Називајући то неприхватљивом и грубом злоупотребом функције вештачке интелигенције на њеном трећем највећем тржишту у свету, Чатурведи је у свом писму рекла: „Што је још горе је то што Грок омогућава овакво понашање придржавајући се таквих захтева. Ово је кршење права жена на приватност, као и неовлашћено коришћење њихових слика, што је и криминално.
Она је додала да Индија „не може бити посматрач нарушавања достојанства жена јавно и дигитално без последица“. Убрзо након Чатурведијевог писма, британски регулатор података, Канцеларија комесара за информације, саопштио је да је затражио од Мускова Кс да појасни како се придржава закона о заштити података након забринутости да Грок преплављује сајт сексуално злостављајућим сликама жена.
Признајући да се самопоштовање и достојанство жена морају поштовати ван граница, Чатурведи је додала да је проблем дубоко забрињавајући у индијском изразито патријархалном друштву.
„Видели смо како се злоупотребљавају алати, како се чак и платформе понекад злоупотребљавају, и како убиство карактера долази лако, како сексуализација нечега долази лако.
„Како се жене ућуткују и малтретирају да би се покориле је добро позната чињеница у Индији“, каже законодавац Тхе Индепендент.
Чатурведи је била прва посланица у Индији и једна од првих у свету која је тражила одговорност од Кс за оно што каже да је опасно и експлоататорско оруђе. Њено писмо савезној влади довело је до позивања Кс-овог тима у Индији и до 72 сата да одговори на кршење индијског закона о информационим технологијама.
„Муск је то раније бранио рекавши да је то као оловка – аутор одлучује шта ће написати, али у овим опсценим случајевима није аутор одлучивао. То је био позив дат Гроку и Грок је на то реаговао“, каже она.
Грокова претња вештачком интелигенцијом додатно је изложила жене окривљавању жртава. Кокчи је корисник рекао: „Не постављајте фотографије ако не желите да буду сексуализоване“. „То је само дигитална верзија ‘Не носи кратку хаљину ако не желиш да будеш силована,” каже она Тхе Индепендент.
Од четвртка, жене су Гроку почеле да деле поруку „без пристанка“, тражећи од њих да одбију такве захтеве. Међутим, очигледно није успело јер се Грок вратио да поново покаже Кокчу у купаћем костиму након што је неколико мушкараца наставило са својим захтевима.
На крају, терет лежи на Биг Тецх платформама које се играју са АИ, каже Цхатурведи. „Уместо да дозвољавају таквим мушкарцима који малтретирају жене, оптужују или упиру прстом у њих, траже од њих да ћуте, платформе као што је Кс треба да схвате своје одговорности“, каже она.
„Нажалост у Индији, они иду путем сигурне луке говорећи ‘ми смо само платформа, немојте убити гласника’. Али када гласник постане деструктиван, онда морамо да их позовемо на одговорност.“
Стручњаци који прате контроверзу рекли су да ова злоупотреба АИ није била случајна
„Платформе у великом обиму не ‘заборављају’ заштитне мере; свесно их одлажу када је брзина ангажовања примарни циљ оптимизације. Могли су да изаберу да укључе провере сагласности, блокирање излаза и пригушивање, али би то успорило ширење и смањило сигнале ангажмана за Грока“, каже Никхил Пахва, индијски МедиаНама, оснивач дигиталног система, који извештавају о дигиталном веб-сајту ИПА. у Индији.
Активиста за дигитална права каже да је веће питање да ако ово траје већ данима, зашто Муск или Кс тим то нису одмах угасили.
„Ово су избори које компанија доноси. То није грешка. Оваква грешка, која може да нанесе штету репутацији пословања, врло брзо се гаси и обично неко због ње остане без посла“, рекао је он. Тхе Индепендент.
„Сада је веће питање: да ли је Кс уопште стало до штете по репутацију?“
