Произвођачи АИ цхат робота који доводе децу у опасност суочиће се са огромним казнама или ће чак видети да су њихове услуге блокиране у Великој Британији према променама закона које ће објавити Кеир Стармер у понедељак.
Охрабрени тиме што је Кс Елона Маска зауставио свој алат Грок АИ у стварању сексуализованих слика стварних људи у Великој Британији након негодовања јавности прошлог месеца, министри планирају „разбијање гнусног илегалног садржаја који је креирала АИ“.
Са све више деце која користе цхат ботове за све, од помоћи око домаћег задатка до подршке менталном здрављу, влада је рекла да ће „брзо кренути да затвори законску рупу и натера све добављаче АИ цхатботова да се придржавају обавеза незаконитог садржаја у Закону о безбедности на мрежи или се суоче са последицама кршења закона“.
Стармер такође планира да убрза нова ограничења за коришћење друштвених медија од стране деце ако се посланици након јавних консултација сложе о могућој забрани млађе од 16 година. То значи да би било какве промене у коришћењу друштвених медија од стране деце, које могу укључивати друге мере као што је ограничавање бесконачног померања, могле да се десе већ овог лета.
Али конзервативци су одбацили тврдњу владе да се брзо понаша као „више дима и огледала“ с обзиром да консултације још нису започеле.
„Тврдња да предузимају ‘хитне мере’ једноставно није веродостојна када њихове такозване хитне консултације чак и не постоје,” рекла је Лора Трот, секретарка за образовање у сенци. „Лабуристи су у више наврата говорили да немају став о томе да ли млађима од 16 година треба спречити приступ друштвеним медијима. То није довољно добро. Јасно ми је да треба да зауставимо млађе од 16 година да приступају овим платформама.“
Потези су уследили након што је онлајн регулатор Офцом признао да нема овлашћења да делује против Грока, јер слике и видео снимци које је направио чет-бот без да он претражује интернет нису у оквиру постојећих закона, осим ако се не ради о порнографији. Промена да се АИ цхатботови доведу под Закон о безбедности на мрежи могла би да се деси у року од неколико недеља, иако је рупа у закону позната већ више од две године.
„Технологија се креће веома брзо, а закон мора да иде у корак“, рекао је Стармер. „Акција коју смо предузели против Грока послала је јасну поруку да ниједна платформа не добија бесплатан пролаз. Данас затварамо рупе које доводе децу у опасност и постављамо основу за даље деловање.“
Компаније које крше Закон о безбедности на мрежи могу се суочити са казнама од до 10% глобалног прихода, а регулатори се могу обратити судовима да блокирају њихову везу у Великој Британији.
Ако се АИ цхат ботови користе посебно као претраживачи, за производњу порнографије или рад у контексту од корисника до корисника, они су већ обухваћени законом. Али могу се користити за креирање материјала који подстиче људе да се самоповређују или одузму себи живот, или чак генеришу материјал за сексуално злостављање деце, без суочавања са санкцијама. То је рупа коју влада каже да жели да затвори.
Извршни директор НСПЦЦ-а, Цхрис Схервоод, рекао је да су млади људи контактирали његову линију за помоћ и пријављивали штете узроковане АИ цхат-ботовима и да не вјерује технолошким компанијама да их дизајнирају безбедно.
У једном случају, 14-годишња девојчица која је разговарала са АИ цхатботом о својим навикама у исхрани и телесној дисморфији добила је нетачне информације. Код других су видели „младе људе који се самоповређују чак и када им се сервира садржај више самоповређивања“.
„Друштвени медији су донели огромну корист младим људима, али много штете“, рекао је Шервуд. „АИ ће бити такав на стероидима ако не будемо опрезни.“
ОпенАИ, стартуп у Сан Франциску вредан 500 милијарди долара који стоји иза ЦхатГПТ-а, једног од најпопуларнијих четботова у Великој Британији, и кАИ, који производи Грок, су се обратили за коментар.
Пошто је калифорнијски 16-годишњи Адам Раине одузео себи живот након, како наводи његова породица, „месеца охрабрења од ЦхатГПТ-а“, ОпенАИ је покренуо родитељски надзор и уводи технологију за предвиђање старости како би ограничио приступ потенцијално штетном садржају.
Влада такође треба да се консултује о присиљавању платформи друштвених медија да онемогуће корисницима да шаљу и примају голе слике деце – пракса која је већ незаконита.
Лиз Кендал, секретар за технологију, рекла је: „Нећемо чекати да предузмемо мере које су породице потребне, па ћемо пооштрити правила о АИ цхатботовима и постављамо терен како бисмо могли да делујемо у складу са резултатима консултација о младима и друштвеним медијима.
Фондација Моли Роуз, коју је основао отац 14-годишње Моли Расел, која се убила након што је гледала штетни садржај на мрежи, назвала је те кораке „добром уплатом”. Али је позвао премијера да се посвети новом закону о безбедности на мрежи „који јача регулативу и јасно ставља до знања да су безбедност производа и добробит деце цена пословања у УК“.
