Stručnjaci za veštačku inteligenciju upozoravaju da bi tehnologija mogla da uništi čovečanstvo u narednoj deceniji.
Horda agenata vođena veštačkom inteligencijom izvodi samovoljni hak.
Generalni direktori velikih kompanija koje se bave veštačkom inteligencijom javno apeliraju na usporavanje tehnološkog razvoja.
Naslovi o potencijalnim opasnostima ove tehnologije dovoljni su da sastanak za profesionalni razvoj nastavnika posvećen veštačkoj inteligenciji izgleda kao prva scena distopijskog naučno-fantastičnog filma.
Veštačka inteligencija se već može koristiti da oponaša glas direktora škole ili da pomogne hakeru da probije bezbednosne zaštite škola. Ako bi botovi sa veštačkom inteligencijom zaista, nehotice ili po ljudskom nalogu, mogli da oslobode smrtonosni virus, pokrenu nuklearnu bombu ili izazovu haos na vitalnoj infrastrukturi, kako neki stručnjaci upozoravaju, treba li nastavnik dvoumiti pre nego što upotrebi chatbot za sastavljanje mejlova roditeljima?
Da li će pojačan strah od veštačke inteligencije podstaći sve veći otpor roditelja prema prekomernoj upotrebi tehnologije u školama?
Postoji već mnogo razloga za brigu kada se radi o AI u obrazovanju od predškolskog do školskog uzrasta — privatnost podataka učenika, kognitivno oslobađanje, deca koja prave deepfake-ove — za nastavnike da troše mentalnu energiju na neko teorijsko, apokaliptično buduće, rekao je Justin Reich, izvršni direktor MIT-ovog Teaching Systems Lab, koji istražuje budućnost učenja nastavnika.
„Nastavnici i porodice imaju mnogo o čemu da razgovaraju, mnogo razloga za brigu, samo treba da se pozabavimo štetama koje ove sisteme danas prouzrokuju,“ Reich je rekao. „Ne morate da nagađate o budućim štetama.“
Reich i drugi skeptični su po pitanju motiva kompanija da izlažu potencijalne mane AI. (Neki kritičari tvrde da se izvršni direktori velikih AI kompanija pozivaju na regulativu tehnologija koje su razvili kako bi otklonili potencijalne konkurente ili prikazali moć tehnologije.)
„Ovi ljudi nisu iskreni,“ Reich je rekao o tehnološkim direktorima. „Samo su sebi posvećeni i veoma loše predviđaju budućnost.“
Pozivajući se na usporavanje razvoja AI, Dario Amodei, izvršni direktor Anthropic-a, rekao je da se tehnologija razvija prebrzo da bi inženjeri osigurali neophodne bezbednosne mere.
Kompanija se „trudila da prioritet daje oprezu nad brzinom i razboritosti nad profitom,“ napisao je. Ali „u poslednjih nekoliko meseci sam postao uveren da potpuno rešavanje rizika zahteva još veći oprez — ne samo ulaganjem u prevenciju rizika, već tempom napretka kapaciteta kako bi prevencija rizika imala vremena da uhvati korak.“
Is slowing down AI adoption in education a bad thing?
Ipak, talas užasnih vesti možda će podstaći više školskih distrikata da razmotre zabranu ili pauzu usvajanja AI alata za poučavanje, učenje i upravljanje školama, predviđali su stručnjaci.
„Ove priče su zaista zastrašujuće, i kada smo u strahu, želimo da pritisnemo pauzu i da zaštitimo našu decu,“ rekao je Jeremy Roschelle, zajednički direktor istraživanja nauke o učenju u Digital Promise, neprofitnoj organizaciji koja radi na jednakosti i tehnologiji u školama. „Mislim da će to povećati pokret da se zabranira ili pauzira“ upotreba alata generativne AI usmerenih na učenike u školama.
Florida’s state board of education this month called for districts to allow families to decide whether to “opt-in” to letting their children use generative AI learning tools.
Najveća dva distrikte — Javne škole grada Njujorka i Los Angeles Unified — nedavno su stali sa upotrebom AI alata među učenicima. Politika Los Angelesa ograničava upotrebu tehnologije za sve učenike. New York zabranjuje to u osnovnim i srednjim školama, ali dopušta ograničenu upotrebu u srednjim školama.
Ovaj novi pritisak da se pristup AI usvoji sa više pažnje i razumnosti mogao bi distriktima dati priliku da se odmore i odluče kada i na koji način tehnologija može biti najviše korisna, rekla je Rebecca Winthrop, starija saradnica i direktor Centra za Univerzalno obrazovanje u Brookings Institution, gde je vodila istraživanje o potencijalnim problemima i prednostima generativne AI u školama K-12 i zaključila da rizici prevazilaze koristi.
Pauza u hype oko AI „učiniće lakšim za zaista usporavanje i pokušaj da se ostvari ono što bih nazvala veoma dobro, korisno, usko korišćenje AI,“ izjavila je Winthrop.
Takvo „usko“ korišćenje AI — ali potencijalno efikasno — moglo bi da uključi alate koji pomažu nastavnicima da u realnom vremenu analiziraju podatke učenika i da otkriju gde učenici imaju poteškoće. Ili bi se moglo koristiti stariji oblik tehnologije—prediktivna AI, koja može da prepozna obrasce i na njihovu osnovu daje sugestije—da pruži učenicima personalizovane zadatke iz čitanja i matematike, rekla je.
Winthrop je takođe preporučila školskim distriktima da se klone agentičke AI, naprednije verzije tehnologije u odnosu na generativnu AI. Agentic AI je dizajnirana da bude proaktivna i da obavlja višestruke zadatke, poput rezervacije putovanja ili kodiranja i popravljanja softverskih programa.
„Treba biti vrlo oprezan da u školama nema agentičke AI jer nije testirana,“ rekla je Winthrop.
Rising AI fears could prompt district leaders to take a harder look at tech tools before buying them
Vesti koje navlače paniku o AI mogu navesti lidere distrikta da pažljivije preispitaju ed-tech alate koji uključuju ovu tehnologiju, umesto da kupuju stotine tehničkih alata bez dovoljno provere, kako su neke školsku sisteme u prošlosti učinile, rekao je Roschelle.
„Ne želiš hiljadu novih proizvoda da uđe u škole koji su označeni kao ‘vibe’ i zapravo ne znaš šta je u njima i šta rade, jer su brzo napravljeni bez dovoljnog ljudskog nadzora,“ rekao je Roschelle.
To je ono što je Matthew Callison, direktor inovacija i strateških partnerstava u South Fayette Township javnim školama u blizini Pittsburgha, izvukao iz mnogobrojnih nedavnih vesti o destruktivnim snagama AI.
„Kao nastavnici, trebamo biti pažljivi i proveravati alate koje uvodimo,“ rekao je Callison. „Postoje brige koje moramo uzeti u obzir. Trebaju nam i granične linije koje moramo imati na mestu.“
A istovremeno je dodao: „moramo pripremati učenike da razumeju šta je tehnologija, kako da je koriste kako bi se osnažili i kako da je koriste odgovorno, i voditi ove konstruktivne razgovore pomažući učenicima da razmotre sve posledice i prednosti i mane,“ dodao je.
Za neke učenike — ne najmlađe — to bi moglo značiti korišćenje alata generativne AI, uz vođstvo i podršku nastavnika, rekao je Callison.
„Naš zadatak je da pomognemo učenicima da budu uspešni izvan naših četiri zida, a to podrazumeva razgovore sa brižnim odraslima i pomoći učenicima da razumeju i navigiraju ovim alatima i ovim pitanjima,“ rekao je.
Students encouraged to provide input about how to think about the role of AI in schools
Takav pristup je usvojila i Heidi Sipe, superintendent Umatilla School District u Oregonu.
Sipe je zamolila svoju savetodavnu školsku komisiju učenika da joj pomogne da razmisli o pristupu tehnologiji u okrugu. Učenici su zagovarali izbegavanje AI u časovima pisanja, osim dopuštanja inicijalne faze brainstorminga.
Međutim, učenici vide i vrednost te tehnologije. Na primer, neki učenici su podelili pozitivna iskustva sa virtuelnim chatbot tutorima, rekla je Sipe. A predložili su korake, poput obuke roditelja kako da koriste AI, kako bi mogli da pomognu zaštititi korišćenje tehnologije od strane svoje dece na smisleniji i sofisticiraniji način.
Prošlog leta, učenici iz Umatille pridružili su se grupi od 98 srednjoškolaca iz cele zemlje kako bi izradili nacionalni okvir za AI. Učenici iz distrikta su takođe govorili o implikacijama AI za K-12 sa državnim zakonodavcima.
Potencijalne opasnosti AI nastaviće da budu deo razvojno primerenih diskusija o tehnologiji, rekla je Sipe.
„Moramo biti veoma pažljivi i razmisliti šta bi trebalo da bude naše osnovno delo [kao nastavnici], a to je da razvijamo snažne učenike koji su vešti u kritičkom razmišljanju,“ rekla je Sipe.
„I zato, dok razgovaramo sa učenicima o svim [ovim informacijama], oni bi trebalo da čitaju, da uče i da postavljaju pitanja. Trebalo bi da se pitaju: kakva bi uloga AI trebalo da bude u mom životu, imajući u vidu da postoje stvari van naše kontrole trenutno i da je to zabrinjavajuće.“
