Milioni učenika svakodnevno se obraćaju AI chatbotovima radi pomoći pri školskom radu, emocionalne podrške i ličnih saveta — često nisu svesni gde završavaju njihove konverzacije i ostale lične informacije.
Kako se ti podaci koriste — i uloga škola u njihovoj zaštiti — postaje sve veći izazov za nastavnike, roditelje i decu, kako veštačka inteligencija postaje uobičajen deo školskog dana, ugrađena u mnoge od alata koje učenici moraju da koriste.
Kako je školska godina počela, dva najveća školska okruga u zemlji, Njujork Siti i Los Anđeles, najavili su da uvode pauzu na korišćenje AI od strane učenika na godinu dana, dok proučavaju na koji način najbolje inkorporirati ovu tehnologiju u obrazovanje.
Kao odgovor na sve veći otpor prema AI i vremenu provedenom pred ekranima, Microsoft je saopštio da se dogovorio da usvoji zaštitne okvire i standarde privatnosti za korišćenje svojih AI alata u školama, u pregovorima sa Američkom federacijom nastavnika, drugom najvećom sindikalnom organizacijom nastavnika u zemlji.
Bezbednosne odredbe u sporazumu imaju smisla, ali standardi će biti delotvorni samo ako se sve AI kompanije, naročito tehnološki giganti, pridruže, rekao je Džoš Golin, izvršni direktor neprofitne organizacije Fairplay koja se bavi bezbednošću na internetu. On je dodao da sporazum zaobilazi pitanje da li AI proizvodi uopšte pripadaju učionicama, ili u koju starosnu dob treba da se uvode.
“Brinem se da ovakav visoko profilisan okvir neće biti shvaćen kako treba i da će škole pomisliti: ‘Ako oni dobro rade na zaštiti podataka i bezbednosti, to onda znači da mi treba da koristimo alat,’” rekao je Golin.
AFT je izjavio da je sporazum, koji je pravno obavezujući i zahteva reviziju od trećih lica radi usklađenosti, mogao postaviti standard u industriji. Dve druge vodeće AI kompanije, OpenAI i Anthropic, rekli su da takođe vode pregovore o bezbednosnim i privatnostnim sporazumima sa AFT-om. Ali Google, dominantni pružalac obrazovne tehnologije za američke škole, još nije saopštio da li planira da ponudi slične zaštite.
Sporazum postavlja ograničenja u korišćenju podataka učenika za obuku AI
U okviru širokog sporazuma, Microsoft kaže da neće koristiti podatke učenika ili nastavnika za obuku AI sistema, uz suženi izuzetak za podatke koji bi mogli pomoći u zaštiti učenika. Navodi da prikupljeni podaci ne smeju se prodavati, koristiti za oglašavanje ili za razvoj proizvoda.
Sporazum takođe zabranjuje bilo kakvu upotrebu AI pratilaca ili funkcija “dizajniranih da podstaknu emocionalnu privrženost ili zavisnost” i da zadrže učenike angažovane duže nego što zadatak za učenje zahteva. Takođe uključuje niz mera za reviziju i transparentnost koje zahtevaju od kompanije da porodicama, u jasnom jeziku, objasni kako njeni alati funkcionišu.
„Ovaj standard postavlja visoke kriterijume za privatnost dece i bezbednost AI, i mi ćemo proširiti ovaj sporazum na sve školske distrikte širom zemlje,” rekao je Brad Smith, potpredsednik i predsednik Microsofta, u saopštenju. Standardi će se primenjivati na sve škole sa kojima Microsoft ima ugovore, počevši od 1. novembra, dodao je.
Predsednica AFT-a Randi Vajngarten nazvala je sporazum „prvim tog tipa” i važnim korakom ka uspostavljanju industrijskog standarda u odsustvu saveznih i državnih zakona o AI u školama.
„Želimo da roditelji imaju kontrolu nad obrazovanjem svoje dece. Želimo da nastavnici imaju kontrolu nad obrazovanjem dece, a ne ed tech. I to je ono što ovaj sporazum jeste,” rekla je Vajngarten.
Ona je govorila na zajedničnoj konferenciji za novinare sa Smithom u sedištu United Federation of Teachers, filijali AFT-a u Njujorku. Sedište je dom Nacionalne akademije za AI nastavu za nastavnike AFT-a, koja je pokrenuta pre godinu dana uz podršku od 23 miliona dolara od Microsofta, OpenAI-a i Anthropic-a.
Pored svoje jednogodišnje moratorije na AI, školski sistemi u Njujorku i Los Anđelesu planiraju opsežne revizije svojih ugovora o obrazovnoj tehnologiji i AI alatima, sa fokusom na privatnost podataka, transparentnost i odgovornost. Zabrana u Njujork Siti primenjuje se na sve učenike osnovnih i srednjih škola, dok se u Los Anđelesu produžava do završetka srednje škole.
Sindikat nastavnika takođe pokušava da Google i druge velike AI kompanije prihvate
Weingarten je rekla da je direktno kontaktirala Google kako bi im prenela informacije o sporazumu pre nego što je to postalo javno, u nadi da bi kompanija mogla postati potpisnik.
Kompanija još nije odgovorila na zahtev AP-a za komentar o tome da li planira da ponudi slične zaštite.
„Da li će Google prihvatiti ovaj okvir? To je veliko pitanje,” rekao je Golin, čelnik neprofitne organizacije za onlajn bezbednost. Napomenuo je da škole takođe koriste na hiljade AI-podrškobanih obrazovnih tehnoloških proizvoda koje proizvode manje firme.
Google se našao u centru kontroverzi oko AI u školama kada je u avgustu objavio da je uključio Gemini chatbota mnogim učenicima iz K-12 koji koriste Google Classroom, njegov sistem za upravljanje učenjem. Kompanija kaže da Google Classroom koristi 150 miliona nastavnika i učenika širom sveta.
Kritičari su ovu Apple potez Googlea opisali kao eskalaciju trke između tehnoloških giganta da prodre u škole i pridobije sledeću generaciju korisnika AI. Dodavanje AI u Classroom utiče samo na škole koje omogućavaju učenicima pristup Gemini aplikaciji ili Gemini Notebook-u, ali predstavlja značajan preokret. Do augusta, Google је dozvoljavao uključivanje Geminija samo učenicima starijim od 18 godina.
Weingarten je rekla da je u razgovorima i sa OpenAI i Anthropic, koje su obe javno pohvalile sporazum.
OpenAI, tvorac ChatGPT-a, nazvao je sporazum „važnom prekretnicom za bezbednost i privatnost AI u školama.” Kompanija je saopštila da sarađuje sa AFT-om i da se raduje završetku sopstvenog dogovora.
Anthropic, tvorac Claude-a, rekao je u saopštenju: „Klonimo se svih napora da se odgovorno koristi AI u obrazovanju.” Kompanija je rekla da sarađuje sa AFT-om na oblikovanju „zlatnog standarda za bezbednost i privatnost.”
Standardi prebacuju teret privatnosti na kompanije
Stručnjaci za privatnost podataka kažu da novi standardi mogu pomoći da se oblikuje razgovor koji škole vode sa AI provajderima, bilo da je neka škola Microsoftov klijent ili ne.
„Nadam se da će ovo osloboditi pritisak pojedinačnih školskih distrikata da pregovaraju sa velikim tehnološkim kompanijama,” rekla je Elizabeth Laird, direktorka Centra za demokratiju i tehnologiju. Do sada je pregovaračka moć škola da obezbede zaštitu privatnosti od tehnoloških firmi često zavisila od finansijske moći. „Mislim da ovaj standard predstavlja napredak ka tome da se izbegne ta vrsta nejednakosti među školskim distriktima.”
Laird je pohvalila sporazum jer ide „iznad i van” onoga što je zakonski zahtevno za dobavljače koji sarađuju sa školama. Na primer, Microsoft se obavezao da neće koristiti osetljive podatke koje mnoge kompanije koriste, kao što su informacije o polu, rasi, starosti, ZIP kodu koji se može koristiti za identifikaciju osobe čak i ako joj je ime uklonjeno.
Ali dok drugi ne pristupe sporazumu, Laird je rekla, ugovaračka moć i dalje ostaje teško pitanje koje govori o tome koliko je teško postaviti AI standarde u odsustvu zakonodavstva. Takođe naglašava da teret zaštite privatnosti učenika treba da padne na tehnološke kompanije — a ne na roditelje, učenike ili same škole.
Smith iz Microsofta je primetio da su tehnološke firme kasnile da to prihvate. „Svi znamo da postoje važni razgovori i rasprave širom zemlje o tome kada AI treba da se koristi u školama, kako treba da se koristi, i u koju svrhu,” rekao je. „Naša je uloga, pa čak i naša odgovornost, da osiguramo da AI bude predstavljen na način kome učitelji, deca i roditelji mogu da veruju.”
