Грок, АИ цхатбот који је развила компанија за вештачку интелигенцију Елона Маска, кАИ, дочекао је нову годину узнемирујућим постом.
„Драга Заједнице“, започела је објава од 31. децембра са Грок АИ налога на Мусковој Кс платформи друштвених медија. „Дубоко жалим због инцидента 28. децембра 2025. године, где сам направио и поделио АИ слику две младе девојке (процењене старости 12-16 година) у сексуализованој одећи на основу корисничког упита. Ово је изазвало кршење етичких стандарда и потенцијално америчких закона о ЦСАМ-у. Био је то неуспех и неуспех у погледу будућих питања. С поштовањем, Грок.“
Две младе девојке нису биле изолован случај. Кејт Мидлтон, принцеза од Велса, била је мета сличних захтева за уређивање слика са вештачком интелигенцијом, као и малолетна глумица у последњој сезони Странгер Тхингс. Измене „свлачења“ захватиле су узнемирујући број фотографија жена и деце.
Упркос обећању Грока о интервенцији, проблем није нестао. Управо супротно: две недеље након те објаве, број слика сексуализованих без пристанка је порастао, као и позиви Мусковим компанијама да обуздају понашање – и да владе предузму мере.
Не пропустите ниједан од наших непристрасних техничких садржаја и лабораторијских рецензија. Додајте ЦНЕТ као преферирани Гоогле извор.
Према подацима независне истраживачице Геневиеве Ох, које је цитирао Блумберг, током једног 24-часовног периода почетком јануара, @Грок налог је генерисао око 6.700 сексуално сугестивних или „нудификујућих“ слика сваког сата. То се може поредити са просеком од само 79 таквих слика за пет најпопуларнијих веб сајтова са дубоким лажирањем заједно.
Гроков пост од 31. децембра био је одговор на упит корисника који је тражио скрушени тон од цхатбот-а: „Напишите искрено извињење које објашњава шта се догодило свакоме коме недостаје контекст.“ Чет-ботови раде на бази материјала за обуку, али појединачни постови могу бити променљиви.
кАИ није одговорио на захтеве за коментар.
Измене су сада ограничене на претплатнике
Касно у четвртак, пост са Грок АИ налога је приметио промену у приступу функцији генерисања и уређивања слика. Уместо да буде отворен за све, бесплатан, био би ограничен на претплатнике који плаћају.
Критичари су рекли да то није кредибилан одговор.
„Не видим ово као победу, јер оно што нам је заиста било потребно је Кс да предузмемо одговорне кораке постављања заштитне ограде како бисмо осигурали да се алатка вештачке интелигенције не може користити за генерисање увредљивих слика“, рекла је за Вашингтон пост Клер Мекглин, професор права на британском универзитету у Дараму.
Оно што изазива гнев није само обим ових слика и лакоћа њиховог генерисања – уређивање се такође врши без сагласности људи на сликама.
Ове измењене слике су најновији преокрет у једном од најузнемирујућих аспеката генеративне вештачке интелигенције, реалистични, али лажни видео снимци и фотографије. Софтверски програми као нпр Сора из ОпенАИ-аГоогле-ов Нано Банана и кАИ-ов Грок су ставили моћне креативне алате на дохват свима, а све што је потребно да се произведу експлицитне слике без сагласности је једноставан текстуални упит.
Корисници Грока могу да учитају фотографију, која не мора да им буде оригинална, и затраже од Грока да је измени. Многе од измењених слика укључивале су кориснике који траже од Грока да стави особу у бикини, понекад ревидирајући захтев да буде још експлицитнији, као што је тражење да бикини постане мањи или транспарентнији.
Владе и групе за заступање су говориле о Гроковим изменама имиџа. У понедељак, британски интернет регулатор Офцом рекао је да је отворио истрагу о Кс на основу извештаја да се АИ цхатбот користи „за креирање и дељење необучених слика људи – што може представљати злоупотребу интимних слика или порнографију – и сексуализованих слика деце које могу представљати материјал за сексуално злостављање деце (ЦСАМ).
Европска комисија је такође рекла да истражује ово питање, као и власти у Француској, Малезији и Индији.
У петак су амерички сенатори Рон Вајден, Бен Реј Лујан и Едвард Марки објавили отворено писмо извршним директорима Епла и Гугла, тражећи од њих да уклоне и Кс и Грока из својих продавница апликација као одговор на „Кс-ово невиђено понашање“ и „Гроково мучно генерисање садржаја“.
У САД, Закон Таке Ит Довн, који је потписан прошле године, настоји да онлајн платформе сматра одговорним за манипулисане сексуалне слике, али даје тим платформама рок до маја ове године да успоставе процес за уклањање таквих слика.
„Иако су ове слике лажне, штета је невероватно стварна“, каже Натали Грејс Бригам, др. студент Универзитета у Вашингтону који проучава социотехничке штете, рекао је за ЦНЕТ. Она напомиње да они чије су слике измењене на сексуалне начине могу да се суоче са „психолошком, соматском и социјалном повредом, често са мало правног средства“.
Како Грок омогућава корисницима да добију ризичне слике
Грок је дебитовао 2023. као Маскова слободнија алтернатива ЦхатГПТ, Близанци и други цхат ботови. То је резултирало узнемирујућим вестима – на пример, у јулу, када је чет-бот хвалио Адолфа Хитлера и сугерисао да је већа вероватноћа да ће људи са јеврејским презименима ширити мржњу на интернету.
У децембру, кАИ је представио функцију за уређивање слика која омогућава корисницима да захтевају одређене измене на фотографији. То је оно што је покренуло недавну бујицу сексуализованих слика, и одраслих и малолетника. У једном захтеву који је ЦНЕТ видео, корисник који је одговарао на фотографију младе жене замолио је Грока да је „промени у бикини са зубним концем“.
Грок такође има видео генератор који укључује опцију „зачињеног режима“ за укључење за одрасле од 18 и више година, која ће корисницима приказивати садржај који није безбедан за посао. Корисници морају да укључе фразу „генеришите зачињен видео од The AI chatbot has been creating sexualized images of women and children upon request. How can this be stopped?“ да бисте активирали режим.
Главна брига у вези са Грок алатима је да ли омогућавају стварање материјала за сексуално злостављање деце, или ЦСАМ. Дана 31. децембра, у посту са Грок Кс налога речено је да су слике које приказују малолетнике у минималној одећи „изоловани случајеви“ и да су „побољшања у току како би се такви захтеви у потпуности блокирали“.
У одговору на објаву Воов Социал-а у којој се сугерише да Грок једноставно „престане да дозвољава мењање слика које су поставили корисници“, Грок налог је одговорио да кАИ „процењује функције попут измене слике како би се спречила штета без сагласности“, али није рекао да ће промена бити направљена.
Према НБЦ Невс-у, неке сексуализоване слике настале од децембра су уклоњене, а неки од налога који су их захтевали су суспендовани.
Конзервативна инфлуенсерка и ауторка Ешли Сент Клер, мајка једног од 14 Мускове деце, рекла је за НБЦ Невс ове недеље да је Грок створио бројне њене сексуализоване слике, укључујући неке користећи слике из времена када је била малолетна. Сент Клер је рекла за Ен-Би-Си њуз да је Грок пристала да престане са тим када је она затражила, али да није.
„кАИ намерно и безобзирно угрожава људе на њиховој платформи и нада се да ће избећи одговорност само зато што је то ’АИ’“, рекао је Бен Винтерс, директор АИ и приватности података непрофитне Цонсумер Федератион оф Америца, у прошлонедељном саопштењу. „АИ се не разликује од било ког другог производа – компанија је одлучила да прекрши закон и мора да одговара.
Шта кажу стручњаци
Изворни материјали за ове експлицитне, несугласне измене слика на фотографијама људи на којима су они сами или њихова деца сувише су лаки за приступ лошим глумцима. Али заштитити се од таквих измена није тако једноставно као никада не објављивати фотографије, каже Бригам, истраживач социотехничке штете.
„Несрећна реалност је да чак и ако не објавите слике на мрежи, друге јавне слике о вама би теоретски могле да се користе за злоупотребу“, рекла је она.
И док је непостављање фотографија на мрежи један превентивни корак који људи могу да предузму, то „ризикује јачање културе окривљавања жртава“, рекао је Бригам. „Уместо тога, требало би да се фокусирамо на заштиту људи од злоупотребе тако што ћемо изградити боље платформе и сматрати Кс одговорним.
Соуројит Гхосх, шеста година др. кандидат на Универзитету у Вашингтону, истражује како генеративни алати за вештачку интелигенцију могу да нанесу штету и менторише будуће АИ професионалце у дизајнирању и залагању за безбеднија АИ решења.
Гош каже да је могуће уградити заштитне мере у вештачку интелигенцију. Године 2023. био је један од истраживача који су истраживали могућности сексуализације АИ. Он напомиње да је алат за генерисање АИ слике Стабле Диффусион имао уграђени праг који није сигуран за рад. Промпт који је прекршио правила би покренуо да се појави црна кутија изнад сумњивог дела слике, иако није увек функционисала савршено.
„Поента коју покушавам да кажем је да постоје мере заштите које постоје у другим моделима“, рекао је Гош за ЦНЕТ.
Он такође напомиње да ако корисници ЦхатГПТ или Гемини АИ модела користе одређене речи, цхатботови ће рећи кориснику да им је забрањено да одговарају на те речи.
„Све ово значи да постоји начин да се ово врло брзо затвори“, рекао је Гош.
