Jedan od tri prosvetnih radnika ne zna da li njihova škola ili distrikt imaju politiku koja bi se bavila potencijalnom prijetnjom po bezbednost učenika od AI-generisanih lažnih slika i video zapisa.
To proizlazi iz nacionalne ankete sprovedene ovog leta nad 852 prosvetna radnika od strane EdWeek Research Center. Manji udeo—22%—je rekao da njihova škola ili distrikt nema takvu politiku, a 2% ispitanika je rekao da njihov distrikt ili škola razmatra da je uspostavi.
Problem poznat kao “deepfake-ovi” — koji bi lažno mogli prikazati nastavnika ili učenika kako iznosi uvredljive reči ili se pojavljuje na seksualan način — raste u školama mnogo brže nego što se donose politike koje bi se bavile njihovom štetom.
Na nacionalnom nivou, 1 od 4 učenika K-12 poznaje nekoga koga su prikazali u neovlašćenom i seksualno eksplicitnom deepfake-u, prema istraživanju učenika iz 2024. godine koje je sproveo Center for Democracy and Technology, nevladina organizacija koja se zalaže za prava ljudi na internetu.
Internet je danas prepun jednostavnih i besplatnih alata zasnovanih na veštačkoj inteligenciji koje učenici mogu koristiti da kreiraju i distribuiraju lažne slike ili video zapise svojih vršnjaka ili nastavnika. Mnogi su seksualno eksplicitni, ciljajući žene ili devojke. Drugi prete da naruše reputacije — na primer, učenici su pravili lažne video zapise direktora ili drugih zaposlenih koji iznose rasističke ili neprikladne komentare.
“Nastavnici možda ne shvataju koliko malo veština je potrebno da bi se ovo uradilo,” rekao je Bart Caylor, osnivač firme Caylor Solutions, marketinške firme koja radi sa školama na kreiranju planova za reagovanje u krizi. “Nije vežba više od uzimanja videa sa Facebooka, bacanja ga u jedan od ovih alata i reći: ‘Promeni šta govore i rade.’ Ne zahteva nikakvu veštinu, ne zahteva napor, ne zahteva novac.”
Rukovodioci škola i distrikta trebalo bi da pripreme plan akcije pre nego što dođe do incidenata, umesto da se šaraju posle događaja. Ipak, to bi moglo biti izazovno ako nastavnici nisu svesni deepfake-ova ili štete koju mogu izazvati.
U istraživanju EdWeek Research Center, 13% prosvetnih radnika izjavilo je da ne znaju šta je deepfake, a većina ispitanika nije dobila nikakvu obuku za prepoznavanje ili reagovanje na deepfake-ove.
Takva obuka je naročito važna za nastavnike, koji su verovatno prva linija odbrane kada eksplicitni deepfake počne da kruži među učenicima, izjavila je Erin Mote, osnivač i izvršna direktorica InnovateEDU, nacionalne obrazovne neprofitne organizacije koja pomaže školskim distriktima da kreiraju sigurnosne smernice protiv nepravilne upotrebe AI od strane učenika.
“Mislim da vođe treba da znaju: Da li su njihovi nastavnici jasni šta je deepfake i šta da urade kada ga susretnu?”
Da li postojeće politike disciplinskih mera mogu da funkcionišu?
Više od 20% ispitanika u anketi reklo je da postojeće politike njihove škole ili distriktom široko pokrivaju seksualno eksplicitne deepfake-ove.
Međutim, slučaj deepfake nije isto što i cyberbullying, saglasni su stručnjaci. Dok učenici mogu koristiti AI da generišu slike sa namerom da uče ucenjivanje, objavljivanje i distribucija neovlašćene, seksualno eksplicitne slike maloletnika sada predstavlja savezno krivično delo, što omogućava policijskim organima da kazne počinioce koji su i sami maloletnici.
Ove AI-generisane slike ili video zapisi takođe mogu prouzrokovati nepopravljivu štetu mladim ljudima koji nemaju kontrolu nad time kako im lice bude manipulirano i deljeno. Kada se deepfake pojavi u školi, adolescentni žrtve često moraju da sede u razredu pored onih koji su ga napravili ili širili, i direktno se obraćaju platformama društvenih mreža da uklone ove slike.
Deepfake-ovi bi trebalo da budu veći deo razgovora o bezbednosti učenika, ali to ne znači da distrikti nužno trebaju novu politiku, rekla je Kristin Woelfel, savetnica za politiku pri Center for Democracy and Technology.
Woelfel, koja je radila na model politikama za adresiranje incidenata deepfake u školama, rekla je da je važno dopisati ili dodati specifičan jezik unutar postojećih politika o fer korišćenju tehnologije, uznemiravanju i sajber-nasilju kako bi se adresirala šteta uzrokovana ovim medijima.
“Škole mogu biti kreativne oko toga gde će to da budu integrisano,” rekla je Woelfel. “Mislim da je to čak i deo prevencije. Nije svako znao da deepfake-ovi spadaju pod ove politike jer nismo ovo pitanje vodili na širokom nivou. Ali na ovom [sadašnjem] nivou, škole će verovatno videti više deepfake-ova.”
Kako reakcije lidera na deepfake-ove utiču na bezbednost
Škole treba da izrade „plan reagovanja na incident“, koji može poslužiti kao posudba iz postojećih politika, ali predstavlja jedinstveni, jedinstveni pristup za sve da ga slede kada se pojavi deepfake, rekla je Mote.
Plan bi trebalo da pomogne nastavnicima da otkriju i prijave incidente sa deepfake-ovima bezbedno, da obuzda njihovo širenje i da podrži žrtve sa traumom kojoj pristupaju kroz pažnju prema traumi, dodala je Mote. Nastavnici treba da budu obučeni da uoče znake lažne slike i da slede uspostavljene protokole—kao na primer obavezno prijavljivanje—kada učenik donese neprikladnu sliku na njihov susret.
“Poslednje što biste želeli je da nastavnik kaže: ‘Hej, šaljite mi tu deepfake intimnu sliku na moj lični telefon da bih je odneo glavnom rukovodiocu,’” rekla je Mote. “Jer sada nastavnik ima pristup materijalu o zlostavljanju dece na svom ličnom telefonu.”
Škole mogu da ponude stručno usavršavanje za nastavnike o medijima koje stvara AI kako bi razvile njihovo znanje o otkrivanju i osigurale da prate prave protokole, dodala je Mote.
Za Woelfel iz Centra za demokratiju i tehnologiju, otkrivanje nije toliko važno koliko reagovanje na pravi način. Za seksualno eksplicitne slike koje se dele bez pristanka, istraživanja pokazuju da šteta žrtvi “na kraju bude ista, bilo da je slika stvarna ili lažna,” rekla je. Utvrđivanje da li je slika stvarna “je zapravo manje važno od toga šta ćete uraditi povodom toga.”
Uopšteno, međutim, škole i distrikti ne obučavaju nastavnike da otkrivaju ili reaguju na deepfake-ove. Devet od deset prosvetnih radnika reklo je EdWeek Research Center da nisu bili obučeni ni na jednu ni na drugu temu u protekle dve godine.
Prevencija je u tome da učenici znaju posledice
Učenici treba da budu potpuno svesni politika deepfake u njihovoj školi ili planova odgovora koji jasno navode posledice. Mote je rekla da školski distrikti „duguju učenicima određeni prost jezik” o tome šta bi se dogodilo ako kreiraju ili distribuiraju neovlašćene slike ili video zapise; neke državne mere i savezni zakon uključuju zatvorsku kaznu kao jednu od posledica.
U ovom trenutku škole su najverovatnije (56%) da obaveste roditelje ako učenik napravi ili distribuirа štetan deepfake, prema anketi. Druga četvrtina kaže da bi izbacili učenike počinioce, 48% bi koristilo suspenziju kao kaznu, a 33% bi primenilo obnovne prakse da se saniraju posledice.
Ideally, učenici bi trebalo da nauče da budu sa više empatije prema svojim vršnjacima i razviju dublje razumevanje pristanka, izjavila je Woelfel.
„Najmanje što škole treba da urade je da ljude podsete da je ovo pogrešno,” rekla je Woelfel. „Ako to ne uradite, niste čak ni jedan korak napred ka tom procesu.”
