Ako nastavnica otpremi detaljne planove nastave u školsku AI-nadahnutu platformu za kurikulum, da li bi njeno delo ili podaci njenih učenika mogli da se koriste za obuku sledećeg modela?
Najčešće nastavnici nemaju način da to saznaju.
“Možemo postajati sve agresivniji, ili možemo delovati odlučno,” izjavila je Randi Veingarten, predsednica Američke federacije nastavnika (AFT), koja broji skoro 1,9 miliona članova. “Bilo šta manje od pravno obavezujućih odredbi je samo željeni plan.”
U sredu, Microsoft je postao prvi od giganta za razvoj veštačke inteligencije koji je pristao da usvoji pravno obavezujuće standarde privatnosti i nadzora za AI povezan sa licencama u školama, kroz 30-stranarski memorandum o sporazumu između kompanije i Nacionalne akademije za AI nastavu u Njujorku. Akademija je formirana prošlog jula kroz petogodišnje partnerstvo vredno 23 miliona dolara između AFT-a, Anthropic-a, Microsofta i OpenAI-a.
Na brIFingu o sporazumu, Veingarten je naglasila da njen sindikat još uvek pregovara sa Anthropic-om i OpenAI-jem o usvajanju standarda za njihove obrazovne proizvode. “Želimo da to postane standard u industriji,” rekla je, ali je dodala da bi sindikat nastavnika “nastavio borbu” da savezne i državne vlade usvoje pravne standarde za AI u obrazovanju. Iako Anthropic zvanično nije potpisao sporazum, saopštio je u julu da radi sa AFT-om na “usaglašavanju naših uslova i praksi privatnosti sa zlatnim standardima koje razvijaju.”
Federalni zakoni o privatnosti koji štite podatke o zdravlju i obrazovanju “nikada nisu predvideli pojavu AI,” rekla je Veingarten. “U nedostatku tih zaštita, tehnološke kompanije moraju preuzeti odgovornost za proizvode koje stvaraju i plasiraju učenicima, nastavnicima i zajednicama.”
Nova Microsoft-ova pravila neće biti primenjana automatski. Od 1. novembra, školski okruzi mogu zatražiti dodavanje novog jezika u nove ili postojeće ugovore sa Microsoft proizvodima.
Međutim, Brad Smith, potpredsednik i predsednik Microsofta, rekao je da je važno da sporazum “ima zube,” uključujući odredbe za reviziju i pravno sprovođenje.
“Mislim da je to ono što je danas potrebno da bi ljudi imali poverenje u tehnologiju koju njihova deca mogu koristiti u školama,” dodao je Smith.
Pejzaž zaštite podataka je zamršen
Standardi koriste „namerno široku“ definiciju podataka učenika — uključujući informacije iz registra poput imena, ocena i zapisa o ponašanju, ali i materijale za pisanje, memorijske fajlove i radne rezultate, kao i podatke poput pritiska na tastere ili praćenja očiju koji bi se mogli “razumno koristiti” za identifikovanje ili povezivanje sa učenicima.
Prema sporazumu, anonimizirani “telemetrijski” podaci o tome kako učenici i nastavnici koriste alate ne smeju se koristiti za obuku AI modela ili za izradu oglasa, profila učenika ili za nagađanje njihovog ponašanja, već samo za otklanjanje grešaka, bezbednosna pitanja ili “poboljšanje proizvoda.”
Međutim, deidentifikacija podataka ne garantuje da neko nikada neće biti identifikovan, prema rastućem broju studija.
Zašto? Zamislite nastavnicu koja otpremi informacije o intervencijama u učenju koje koristi za različite grupe u svom odeljenju. Jedna intervencija namenjena je učenicima sa određenim tipom disleksije. Posebno, eseji jednog učenika o porodičnom sukobu tokom odmora u Mejn-u pokazuju znakove iste poteškoće.
Zatim, druga nastavnica koja radi sa istim učenicima na grupnom projektu traži pomoć AI kako bi napisao podržano pismo za dete čiji su roditelji nedavno započeli razvod po povratku sa porodičnog odmora u Mejn-u. Kada se uzmu u obzir ove različite informacije, AI alat bi mogao da kombinuje podatke i identifikuje učenika, njegovu poteškoću i osetljivu porodičnu situaciju, pokazalo je nekoliko studija u poslednjih nekoliko godina.
Dok nije bilo istraživanja koja koriste podatke učenika u konkretno istraživanjima, studije pokazuju da trenutni AI modeli često mogu da preidentifikuju ljude iz širokog spektra anonimusnih podataka upoređujući pozadinske činjenice, stilove pisanja i druge pretpostavljene informacije.
Ogromna količina podataka koje Microsoft i druge kompanije mogu prikupiti u školama teško se može preceniti. Microsoft-ov program „learning zone“, koji će biti pilotiran na svim uređajima sa Windows 11 ove godine, obećava nastavnicima „žive učionice sa real-time uvidom u učenikovu aktivnost“, a njegova „copilot notebooks“ predstavljaju AI-pokretan radni prostor zasnovan na učenikovim materijalima. U praksi, takve mogućnosti znače da bi veliki deo školskih radova učenika mogao biti otpremljen u alat tokom školske godine.
Vremenom, pa i same firme deluju nesigurno u pogledu podataka koje njihovi alati mogu da prikupe u okviru normalne upotrebe. Na primer, ovog leta Anthropic je najavio usklađivanje sa AFT-ovim smernicama kada je pokrenuo program Claude for Teachers, koji se zalaže da se ulazi ili izlazi nastavnika ne koriste za obuku modela i da se zaštita podataka učenika uskladi sa Federalnim zakonom o pravima na privatnost u obrazovanju (FERPA).
Ali u avgustu je pojasnio da nastavnici koji otpremaju učenički rad i dalje mogu prekršiti FERPA bez dodatnog odobrenja distriktu, jer bi podaci mogli identifikovati pojedinačne učenike. (Anthropic nije odmah odgovorio na zahtev za komentar.)
Michael Mulgrew, predsednik United Federation of Teachers, najvećeg priznatog ogranka AFT-a u Njujorku, rekao je da je privatnost učenika „ozbiljna briga“ koju novi standardi počinju da rešavaju, ali i dalje podržava jednogodišnju zabranu gradske administracije Njujorka na upotrebu AI alata od strane učenika u osnovnim, srednjim školama i većini gimnazija.
„Potrebno je da u Njujorku postoji projekat gde su nastavnici već obučeni za upotrebu AI, da mogu da pregledaju ove materijale pre nego što razmotrimo ukidanje [moratorijuma na AI za učenike],“ rekao je Mulgrew. „Tako se ova stvar radi na odgovoran način.“
Prema jezičkim odredbama AFT-ovog sporazuma sa Microsoft-om:
- Osim podataka vezanih za bezbednost, podaci učenika, nastavnika ili korisnika ne smeju se koristiti za obuku ili poboljšanje AI modela.
- Svi podaci — uključujući one koje obrađuju treće strane poput Khanmigo ili PowerSchool — moraju biti šifrovani i podvrgnuti kontroli pristupa, uz sigurnosna testiranja od strane nezavisnih grupa i planove za reagovanje na eventualne povrede podataka.
- Kompanija bi imala trajnu obavezu da obavesti korisnike i smanji štetu od povreda podataka, čak i nakon završetka ugovora.
- Alati bi smanjivali nepotrebno prikupljanje podataka, pri čemu bi alati sa višim rizikom, poput biometrije, memorije, profilisanja i praćenja, zahtevali dodatnu reviziju.
- Učenici i korisnici bi imali kontrolu nad eksportom, zadržavanjem i izbrisivanjem svojih podataka, koji ne bi mogli biti prodavani za oglase ili razvoj proizvoda.
- Učenicima i porodicama bi bili dati vodiči na lakom jeziku o tome kako AI alati funkcionišu i kako štite privatnost.
- AI alati moraju obezbediti pravičan i jednake pristup funkcijama učenicima sa posebnim potrebama.
- AI „prijatelji“ — chat-botovi programirani da simuliraju ljudske odnose i pružaju stalnu, personalizovanu socijalnu ili emocionalnu podršku učenicima — bili bi izričito zabranjeni.
- Škole ili distrikti koji poseduju Microsoft licencu bilizovali bi obaveštenja o novim funkcijama i načinu korišćenja podataka, a imali bi mogućnost izvoza podataka kako bi mogli da pređu drugom provajderu.
- Curanje podataka mora biti prijavljeno u roku od 72 sata i otklonjeno.
