Guverner Kalifornije Gavin Newsom potpisao je u četvrtak širok paket zakona usmerenih na zaštitu dece od rizika povezanych sa tehnologijom, uključujući društvene mreže i chat botove zasnovane na veštačkoj inteligenciji.
Ovi zakoni će kažnjavati velike kompanije društvenih mreža iznosom do milijun dolara po detetu ukoliko se utvrdi da su bile nemarne u nanošenju štete deci preko svojih platformi, zabraniti tehnološkim firmama da nude adiktivne feed-ove bilo kome mlađem od 16 godina, zahtevati od operatera chat bot-ova sa AI da vrše procene rizika pre nego što ih puste u rad i omogućiti porodicama da se odjave od primanja školskih laptopova.
Newsom se pridružio svojoj supruzi i državnim zakonodavcima u muzeju za decu u blizini San Franciska kako bi naglasio važnost zaštite dece u vreme kada im je tako lak pristup društvenim mrežama i AI chatbot-ovima.
„Dizajnirali smo kolijevice da budu sigurne, stolice da budu sigurne, autosedišta da budu sigurna,“ izjavila je poslanica Rebecca Bauer-Kahan. „Ipak smo dozvolili tehnologiju da se predaje našoj deci i nikada nismo tražili niti očekivali da bude bezbedna.“
Meta je postigla dogovor sa Kalifornijom i još 28 država prošlog meseca nakon što su u tužbi iz 2023. godine tvrdili da je tehnološki gigant namerno dizajnirao funkcije koje zavlače decu u zavisnost. Kompanija se saglasila da plati do 18 milijardi dolara i ojača mere za bezbednost dece.
Ostale države su takođe u poslednjih godina zagovarale bolje zaštitne mehanizme da bi zaštitile decu od potencijalnih šteta koje mogu proisteći iz društvenih mreža.
Pre dve godine, država Njujork odobrila je zakon koji roditeljima dopušta da blokiraju da njihova deca dobijaju objave koje algoritam platforme predlaže na društvenim mrežama, potez kojim se želi ograničiti feed-ove koje kritičari smatraju adiktivnim. Politika bi trebalo da stupi na snagu početkom sledeće godine.
Newsom je rekao da nove kalifornijske zakone ističu vođstvo države po ovom pitanju.
„Dobar dan za našu decu,“ rekao je. „Dobar dan za državu Kaliforniju.“
Jim Steyer, osnivač Common Sense Media, čiji je brat Tom Steyer vodio kampanju za guvernera, rekao je da su zakoni „najvažnije, najopsežnije zakonodavstvo“ na temu u istoriji Sjedinjenih Država.
Međutim, Meta je izrazila zabrinutost po pitanju nekih od predloga, navodeći da zakon kojim se ograničavaju adiktivni feed-ovi otežava kompaniji da korisnicima na svojim platformama pruži sadržaje koji su im zabavni.
„Verujemo da pružanje prilagođenog iskustva predstavlja važan deo onoga što Facebook i Instagram čine vrednim za tinejdžere dok se povezuju sa porodicom i prijateljima i istražuju svoje interese — bezbedno,“ rekao je u saopštenju portparol Jim Cullinan. „Personalizacija je takođe način na koji pružamo sadržaj prilagođen uzrastu tinejdžera koji je relevantan za njih — sve uz pravilne zaštitne mere.“
Newsom je vodio suptilan balans u politici prema tehnologiji tokom svoje gotovo osam godina mandata guvernera u najnaseljenijoj državi, čija se uloga kao globalnog tehnološkog centra često hvalila u njegovim govorima.
On je prošle godine potpisao zakon kojim platforme podsećaju korisnike da komuniciraju sa chatbot-om, a ne sa ljudskim bićem. Neko vreme kasnije, on je veto-irao zakon koji bi zabranio kompanijama da čine AI chatbot-ove dostupnim bilo kome mlađem od 18 godina, osim ako bi preduzeća mogla osigurati da tehnologija ne može da vodi seksualne razgovore ili podstiče samopovređivanje.
Newsom je takođe potpisao zakon 2024. godine kojim se ograničava korišćenje pametnih telefona učenicima u školama.
Maria Raine, majka tinejdžera Adama, koji se prošle godine suočio sa samoubistvom, rekla je da je njegov odlazak posledica „rade« chatbota. Jedan od zakona koje je Newsom potpisao, koji zahteva da operateri chatbot-ova implementiraju određene sigurnosne mere kako bi zaštitili decu, inspirisan je Adamovom pričom.
„Adam je bio rani korisnik AI, i mnogi od nas roditelja tada nismo razumeli opasnosti,“ rekla je Raine na konferenciji za novinare. „Sada svi postajemo svesniji opasnosti AI društvenog društva i potrebe da naša vlada reaguje kako bi zaštitila našu decu.“
Newsom je takođe potpisao zakone u sredu, koje podržava Anthropic, koji imaju za cilj poboljšanje nadzora nad kompanijama koje se bave AI. Jedna mera zahteva da država uspostavi pravila za nezavisne organizacije koje procenjuju bezbednosne rizike AI modela, a druga zahteva da država uspostavi registar AI revizora, koji bi morali biti finansijski nezavisni od preduzeća kojima vrše reviziju.
