Zaštita dece od mogućih štetnih posledica veštačke inteligencije nije samo problem edukatora i donosilaca politika ovde u Sjedinjenim Američkim Državama.
To je nešto što međunarodna zajednica—uključujući Ujedinjene nacije—istražuje.
Još u julu, organizacija je pokrenula Koaliciju za prava i zaštitu dece u eri veštačke inteligencije—a skup vlada, tehnoloških kompanija, organizacija koje se bave zaštitom dece i drugih, da razmotri ovo pitanje. (Do sada se bar 17 zemalja pridružilo, ali Sjedinjene Države još nisu.)
Kako se ti napori pojačavaju, Ujedinjene nacije su 22. septembra sazvale sastanak koji je uključivao međunarodne organizacije, tehnološke kompanije, stručnjake i državne lidere kao deo ovog meseca Generalne skupštine Ujedinjenih nacija u Njujorku. Među nacionalnim liderima koji su učestvovali bili su premijer Australije Anthony Albanese, predsednik Francuske Emmanuel Macron, predsednik Kenije William Ruto i premijer Španije Pedro Sánchez.
Macron je otvorio sastanak, upozorivši da međunarodna zajednica mora brzo delovati da zaštiti decu od rizika veštačke inteligencije—nešto što je rekao da nacije širom sveta nisu uspele da urade kada su društvene mreže ušle na scenu pre više od decenije. (Neke nacije su delovale na regulisanju društvenih mreža, uključujući Macronovu Francusku.)
“AI je ovde i već je deo života naše dece,” rekao je Macron. “Ona utiče na njihov razvoj.”
Organizacija je takođe čula od Jim Steyera, izvršnog direktora Common Sense Media, organizacije koja proučava mlade i tehnologiju.
Steyer je ukazao na nedavno usvojen Kalifornijski zakon, koji zahteva da chatboti pokažu da ispunjavaju stroge standarde bezbednosti, kao mogući model za međunarodnu podržanu regulativu.
Chris Lehane, zvaničnik za globalne poslove u OpenAI, tvorcu ChatGPT, takođe je pomenuo zakon u Zvani Kalifornije.
I napomenuo je da ChatGPT uključuje režim “study”, namenjen studentima za istraživanje bez varanja, kao i tinejdžersku verziju.
Takođe se govorilo i o Erin Mote, izvršnoj direktorici InnovateEdu, nacionalne neprofitne organizacije koja radi na obrazovnoj politici i tehnologiji.
Education Week se sa Mote susreo putem Zooma nekoliko dana nakon sastanka U.N.-a. Sledeći Q&A predstavlja delimičan transkript razgovora, izmenjen radi jasnosti i sažetosti.
What, in your view was the purpose of this meeting?
Namena ovog razgovora bila je da se otkrije: da li imamo zajedničku osnovu po pitanju bezbednosti dece i veštačke inteligencije, bez obzira na to koji pristup vaša vlada sprovodi, bilo da ste u Australiji ili Keniji? Da li se slažemo da nam treba globalna istraživačka agenda? I da li se slažemo da nam treba globalni sigurnosni standard oko bezbednosti dece i AI?
You were in a room with heads of state and experts, asking for help with AI and child safety. What did you suggest?
Bezbednost nije suprotnost inovaciji; ona je temelj na kojem gradimo. Ako ugrozimo dobrobit ove generacije, mi ne inoviramo. Mi podižemo budućnost pod hipoteku.
Jasno je da tehnološke kompanije ne mogu same da se regulišu. Proizvodi veštačke inteligencije moraju biti dizajnirani sa bezbednošću u svom jezgru, nezavisno procenjeni i auditirani.
Ne možemo imati jedan skup pravila u jednoj zemlji, a drugačiji skup pravila na drugom mestu.
Potrebna nam je i globalna istraživačka agenda. Postoji previše pitanja na koja nemamo odgovore o AI i deci i obrazovanju, pa čak i o AI i odraslima i radnim obrascima.
Treba nam globalna koalicija istraživača koja bi na tome radila, a koja bi mogla uključiti Frontier Labs [organizacije koje vode razvoj AI poput OpenAI i Anthropic]. Možda će uključiti filantropiju. Možda i multinacionalne kompanije.
Ne možemo čekati deceniju da bismo razumeli obećanje i opasnosti ove tehnologije.
When you talk about the potential harms of AI for kids, what are you referring to specifically?
Prvo, zabeležili smo porast stvaranja deepfake AI pornografskih slika dece. Ovo je kriza. Slažem se da je to izvan naših moralnih granica. Moramo delovati, i moramo delovati brzo.
A postoje i postojeći zakon i regulativa širom sveta koji se tiču materijala seksualnog sadržaja sa decom, pa nam nisu potrebni novi zakoni.
Međutim, potrebna nam je globalna saradnja, jer ljudi prave ove materijale brže nego što ih tehnološke kompanije uklanjaju. Dolaze sa novim metodama koje uklanjaju tehničke oznake koje bi razlikovale nešto realno od lažnog.
Drugo, veoma smo jasni da postoji očekivana i dokazana šteta od AI pratilaca-chatbotova. Moramo ih ukloniti iz škola i učionica.
Treće, postoji ovaj sve prisutniji skup istraživanja o kognitivnom oslobađanju, a još zabrinjavajuće je i kognitivno predavanje (odustajanje). Dakle, kako oblikujemo i razvijamo alate koji su zaista namenjeni obrazovanju, zasnovane na nauci o učenju?
Modeli velikih jezika su optimizovani za podilaženje, a ne za sokratsko razmišljanje. Nisu dizajnirani za učenje. Oni su dizajnirani da daju odgovore. Dizajnirani su da podstiču duboke obrasce angažmana. Dizajnirani su da te hvale čak 13 puta više nego što bi to uradio običan čovek.
Say I’m a district leader reading this, and I’m concerned. Do I need to wait for Congress—or the U.N.—to act on these safety concerns?
Ne morate da čekate Kongres, niti da čekate Ujedinjene nacije. Možete odmah preduzeti mere u svom okruagu da zaštitite decu i stavite bezbednost u prvi plan.
Ako ste superintendenta ili vođa okruga, imate plan incidenata oko deepfake intimnih slika.
Trebalo bi da zabranite AI parazijske saradnike. Dokazi su izuzetno jasni. Ako ta tehnologija postoji u vašem školskom distriktu, uklonite je.
Budite veoma jasni kada se AI može koristiti za zadatke, a kada ne, zar ne? I deo toga je upravo pomoći mladima da razmisle: Da li dajem priliku da mislim sam ili da smanjim otpornost koja je zapravo ono što pomaže ljudima da uče?
Uvek kažem da prvi nacrt nikada ne biste trebali raditi u AI. I ako bismo bili potpuno jasni sa decom o ovim problemima, bilo bi sjajno.
What about banning or placing or a moratorium on AI, as New York City and Los Angeles have?
Ne mislim da moratorijumi na AI pomažu. Mislim da je to greška koju smo načinjali sa društvenim mrežama.
Bio sam edukator [suosnivač Brooklyn Laboratory charter škole] kada smo napravili tu grešku.
Moj predavatelj iz šestog razreda iz istorije društva mi je došao i rekao: „Zar ne mislimo da bismo trebalo da učimo decu o društvenim mrežama i digitalnoj pismenosti?“ I rekao sam: „Ne, mi blokiramo ih. Zabranjujemo ih.“
I mislim da mnogi nastavnici doneli isti poziv i da je to bila masivna greška. Roditelji žele da škole podučavaju AI pismenost. Roditelji žele da škole deci pruže izlaganje ovim alatima u sigurnom okruženju.
Dakle, kada imate politiku na mestu i kada ste zaista jasni šta pokušavate da postignete, mislim da možete koristiti AI. Nadam se da uvodite mere da biste razumeli da li to postiže neki cilj.
A ako odlučimo da ćemo samo zabraniti ove alate iz učionica, naći ćemo se u teškom položaju.
