Škole širom Ilinoisa imaju novu stavku na listi za proveru tokom ponovnog otvaranja: informisanje i edukovanje učenika i roditelja o posledicama korišćenja veštačke inteligencije za kreiranje deepfake video zapisa, slika ili zvučnog sadržaja bez saglasnosti.
Prošlog jula, država je usvojila zakon koji menja svoje propise o školama kako bi uključio generisanje i distribuciju AI deepfake sadržaja kao oblik cyber-nasilja. Do 1. jula, od škola se očekivalo da ažuriraju svoje politike o cyber-nasilju, kako bi odrazile ovu promenu, da preduzimaju odgovarajuće disciplinske mere i da edukuju učenike o zloupotrebi AI.
Došlo je do „kambrijske eksplozije“ zloupotrebe AI u školama, naročito među učenicima koji su pomoću besplatnih online aplikacija pravili seksualno eksplicitne video snimke ili slike učenika, većinom učenica, bez njihove saglasnosti. U nedostatku jasne politike o tome kako se nositi sa deepfake sadržajem i uz malo preventivnih mera, škole su se suočavale sa naporima da ublaže psihološki i emotivni udar na ciljane učenike ili da uspostave stroge kazne za počinioce.
Novi zakon predstavlja korak u pravom smeru jer školski sistemi dobijaju postojeći okvir koji mogu primeniti na pojavu koja se brzo razvija, saopštili su stručnjaci.
„Biće jasnije sve konfuzije i eventualne rasprave koje bi navodile da se zakoni o cyber-nasilju ne primenjuju,” rekao je Daniel Krause, direktor Willowbrook High School u Villa Parku, Ilinois.
Krause je ažurirao politiku svog školska cyber-nasilja da uključi termine kao što su veštačka inteligencija, deepfake-ovi i identitet, pokret koji je započeo sa drugim školskim liderima u svom OKRGU čak i pre nego što je zakon usvojen.
„Zakon može pomoći … učenicima i porodicama da razumeju ozbiljnost nepravilne upotrebe [ AI ], kako bismo se fokusirali na potencijalne koristi i primenu u obrazovanju,” dodao je Krause.
Međutim, ažurirane politike protiv cyber-nasilja moraju ići dalje od same konstatacije posledica, rekla je Kristin Woelfel, savetnica za politiku pri Centru za demokratiju i tehnologiju, nevladinoj organizaciji koja zagovara online građanske slobode. One takođe moraju uspostaviti protokole koji podržavaju one pogođene ovim deepfake-ovima.
„Nije samo stvar: ‘Bićete kažnjeni ako ovo uradite.’ Trebalo bi da bude i: ‘Evo kome treba da prijavite ovakvu stvar.’ Čak i inicijalni odziv kada učenik pokušava da prijavi nešto može imati veliki uticaj na to kako će to prevazići,” rekla je Woelfel.
Locating the new legislation in school policy
Deepfake-ovi kreirani veštačkom inteligencijom i društvene mreže mogu biti opasna kombinacija, rekao je Arven Lyp, direktor Downers Grove South High School u Downers Groveu, Ilinois.
Pre društvenih mreža ili lako dostupnih generatora AI, maltretiranje učenika bi trajalo nekoliko trenutaka ili najviše nekoliko dana, dodao je Lyp. Sada, video zapisi ili slike koje postanu viralne uzrokuju da učenici budu stalno izloženi maltretiranju. Iako nema zvanično potvrđenog broja takvih slučajeva u Ilinoisu ili drugim državama, istraživanje centa za demokratiju i tehnologiju iz 2024. godine je otkrilo da 40% učenika javnih škola K-12 zna za deepfake koji uključuje nekoga iz njihove škole, uključujući 15% koji su bili upućeni na seksualno eksplicitan deepfake koji prikazuje člana njihove školske zajednice.
Slučajevi AI deepfake često dolaze zajedno sa drugim oblicima cyber-nasilja, rekao je Krause. Uvođenjem opštih termina poput „neprihvatljiva upotreba tehnologije“, „korišćenje nečije ličnosti“ ili „kršenja prava pojedinca“, školskim liderima bi se omogućilo da identifikuju i istraže razna kršenja u okviru ažuriranih politika cyber-nasilja.
Dok je Krause dodao specifične reči koje definišu AI-generisane deepfake-ove u novoj politici, škola koju vodi Lyp zadržala je postojeće formulacije. „Nova legislacija se nalazi u našoj politici kroz izbor reči koje koristimo — cyber-nasilje,“ dodala je.
Iako dodavanje ovoga postojećoj politici protiv cyber-nasilja ima smisla, moglo bi se lako smatrati i delom druge politike, rekla je Woelfel. Predložila je nekoliko oblasti na koje bi trebalo obratiti pažnju, zasnovanih na CDT-ovom modelu politike o neovlašćenim intimnim prikazima:
- Identifikovanje šta je deepfake i kako nastaje;
- Navođenje posledica za učenike i porodice. Učenici bi trebalo da budu svesni da ovo ponašanje može dovesti do krivične prijave;
- Definisanje protokola za prijavljivanje, koji uključuju identifikovanje odraslih u školi kome se treba obratiti;
- Obezbeđivanje podrške učenicima ili nastavnicima koji postanu žrtve ovih deepfake-ova;
- Olakšavanje pristupa javnim resursima — kao što su mreže podrške, alati za prijavu i sajtovi koji mogu ukloniti slike — kako bi bili lako dostupni.
Principals focus on prevention through education
Nijedna politika ili procedura ne može potpuno ispraviti ozbiljnu štetu koju uzrokuje eksplicitni deepfake video ili slika, rekao je Krause. Učitelji i školski rukovodioci moraju da pristupe problemu pre nego što se i pojavi.
Krauseova škola obično započinje školsku godinu sastancima po razrednom nivou posvećenim bezbednosti učenika, sa fokusom na to kako prijaviti nešto što nanosi štetu njima ili njihovim vršnjacima, ili ih stavlja u opasnost.
Postoji slična sesija i za nastavnike kako bi se postavile prave procene—ako svedoče o cyber-nasilju među učenicima, ili ako im učenik donese neprimerenu sliku ili video, nastavnici treba da znaju kome da prijave, ne gledajući materijal sami. U poslednjih nekoliko godina, Krause je u svoje sastanke sa roditeljima ubacio i diskusije o nepravilnoj upotrebi AI i time to postao deo poruke za početak školske godine.
Drugi direktori proširili su svoje lekcije o digitalnom građanstvu da uključe zloupotrebu AI i njen uticaj. Jeff Wardle, direktor Buffalo Grove High School u Buffalo Groveu, Ilinois, otišao je korak dalje i povezao online ponašanje sa osnovnim vrednostima škole poput dobroti, hrabrosti i pripadnosti.
„Želimo da učenici budu radoznali kako AI funkcioniše i koje su njegove prednosti, ali i kako se može zloupotrebiti u loše svrhe. A zatim želimo da učenici budu hrabri, … neka osećaju poruku: ‘Ako vidiš nešto, reci nešto’ kako bi progovorili,” rekao je Wardle. U narednoj školskoj godini Wardle planira da organizuje otvorenu obuku za sve učenike o deepfake-ovima, šta oni znače, njihovom uticaju i posledicama.
On takođe planira da školskog službenika za bezbednost škole uključi u razgovore o deepfake-ovima kada se obraćaju učenicima o drugim temama poput maloletničkog konzumiranja alkohola, pušenja ili pravljenja pornografije. Učešće SRO-a može pomoći učenicima da razumeju dugoročne pravne posledice kreiranja i distribucije deepfake-ova. „Nije to zastrašujuća taktika. To je više obrazovna taktika,” rekao je.
Wardle želi da proširi tu edukaciju i na roditelje. U njegovim susretima sa roditeljima tokom orijentacije prvaka ove godine, Wardle će razgovarati o tome kako roditelji mogu pomoći školama da spreče ovakvu zloupotrebu tehnologije tako što će podeliti nazive uobičajenih AI aplikacija, kako bi naglasili potrebu za odgovornim digitalnim građanstvom i objasnili kako da prijave sumnju školskoj administraciji.
„Želimo da se oni udruže sa nama. Ne možemo to da uradimo sami, a iskreno, verovatno ni oni sami ne mogu. Ali ako sarađujemo na ovome, zaista verujem da možemo preduprediti situaciju i nadamo se da ćemo je zaustaviti pre nego što uopšte počne,” rekao je Wardle.
