Шпанска влада ће затражити од тужилаца да истраже друштвене медијске компаније Кс, Мета и ТикТок како би утврдили да ли су починили кривична дела тако што су наводно дозволили својој вештачкој интелигенцији да генерише и шири материјал о сексуалном злостављању деце.
Шпански социјалистички премијер Педро Санчез рекао је да је његова влада донела одлуку како би заштитила „ментално здравље, достојанство и права наших синова и кћери“ и да се оконча „некажњавање“ огромних платформи друштвених медија.
Влада је саопштила да предузима мере на основу експертског извештаја који је анализирао „потенцијалну кривичну одговорност све раширенијих пракси у дигиталном окружењу, као што су генерисање и ширење сексуалног садржаја и сексуално злостављање деце путем дубинских лажирања и манипулације стварним сликама како би се створиле друге са експлицитним сексуалним садржајем, чиме се нарушава достојанство жртава“.
У извештају се упозорава на потенцијалну умешаност компанија друштвених медија у ове радње јер дозвољавају „њихово масовно ширење брзином и непрозирношћу која у великој мери омета откривање и кривично гоњење, а такође олакшава формирање мрежа које производе, деле и монетизују овај садржај“.
Тај потез, који је влада договорила у уторак, најављен је пошто Санчезова администрација припрема низ мера које ће укључивати забрану друштвених медија за млађе од 16 година и законодавство да се технолошке компаније сматрају одговорним за садржај мржње и штетан садржај.
Такође долази мање од месец дана након што је Европска комисија покренула истрагу о Кс Елона Маска због производње сексуално експлицитних слика и ширења могућег материјала о сексуалном злостављању деце од стране платформског АИ цхатбот-а, Грока.
У уторак, Ирска Комисија за заштиту података (ДПЦ) – која прати технолошке компаније са европским седиштем у Даблину – рекла је да ће се „велика” истрага фокусирати на генеративну функционалност вештачке интелигенције повезану са моделом великог језика Грок.
Заменик комесара регулатора, Грахам Доиле, рекао је да је сарађивао са Кс због наводне способности корисника да подстакну налог @Грок да генерише сексуализоване слике стварних људи, укључујући децу.
„Сврха ове истраге је да се утврди да ли је Кс поштовао своје обавезе према ГДПР-у… у вези са личним подацима који се обрађују о субјектима података из ЕУ/ЕЕА“, рекао је Дојл.
Елма Саиз, портпарол шпанске владе, рекла је да Мадрид неће дозволити да дигитално сексуално насиље над малолетницима буде „појачано или заштићено“ алгоритмима, додајући: „Оно што је овде у питању је безбедност наших синова и кћери и заштита њихових слика, њихове приватности и њихове слободе“.
Саиз је рекао да ће кабинет званично тражити од државног тужиоца да истражи и, ако је применљиво, кривично гони фирме које су прекршиле закон.
Мета је рекао да не може да коментарише предложену истрагу јер нема никакве детаљне информације о том питању. Међутим, наводи се да има изузетно чврст став о сексуалној експлоатацији деце и интимним сликама без пристанка – било да су стварне или генерисане вештачком интелигенцијом – и уклонио сав такав садржај када је пронађен. Кс и ТикТок су такође контактирани за коментар.
Санчезов покушај да компаније друштвених медија позове на одговорност и да заштити децу од онога што је назвао „дигиталним дивљим западом“ изазвао је жесток одговор власника неких од највећих светских технолошких фирми.
Раније овог месеца, премијер је рекао да је потребна хитна акција јер су друштвени медији постали „пропала држава у којој се закони игноришу, а злочини толеришу“.
Он је такође ставио Маска у задатак да користи Кс за „појачавање дезинформација“ због одлуке његове администрације да регулише 500.000 радника без докумената и тражилаца азила, истичући да је Муск и сам мигрант.
Чини се да су коментари разбеснели Маска, који је Санчеза назвао „тиранином и издајником народа Шпаније“ и „правим фашистичким тоталитарцем“.
Планови шпанске владе такође су разбеснели руског технолошког предузетника и суоснивача Телеграма Павела Дурова. У општој поруци посланој свим корисницима Телеграма у Шпанији, он је оптужио администрацију Санчеса да „гура опасне нове прописе који угрожавају ваше интернет слободе“, додајући да би те мере могле да претворе Шпанију „у државу надзора под маском ‘заштите’.
Извори из шпанске владе су се повукли, рекавши да је порука Дурова без преседана милионима корисника осмишљена да наруши поверење у институције и да је показала потребу да се друштвене мреже и апликације за размену порука регулишу.
„Шпанци не могу да живе у свету у коме страни технолошки олигарси могу да преплаве наше телефоне пропагандом по жељи само зато што је влада најавила мере за заштиту малолетника и спровођење закона“, рекли су они.
Све већа забринутост због штетних ефеката друштвених медија навела је бројне владе, укључујући Шпанију, Британију, Грчку и Француску, да усвоје или размотре усвајање строжих закона. Аустралија је у децембру постала прва земља која је деци млађој од 16 година забранила приступ таквим платформама.
