Imaginează-ți că poți reduce așteptarea de o săptămână pentru rezultatul examenului la câteva secunde, cu un scor bazat pe date și o scurtă explicație a motivului. Notarea algoritmică promite viteză, amploare și (potențial) o mai mare consecvență. Dar, așa cum a arătat controversa din Marea Britanie pentru examenul de nivel A din 2020 , automatizarea poate amplifica și nedreptatea dacă nu sunt implementate garanții, transparență și protecții legale. Acest articol explorează modul în care funcționează notarea algoritmică, ce a mers prost în cazul Marii Britanii, cum contează regulile UE, precum Legea privind inteligența artificială și GDPR, și la ce ar trebui să se aștepte studenții de acum înainte.
Definirea gradării algoritmice în limbaj simplu
Notarea algoritmică este un termen generic pentru gama de tehnologii care ajută la atribuirea de scoruri lucrărilor studenților. La capătul cel mai simplu se află evaluatorii automati cu variante multiple de răspuns; la celălalt capăt se află sistemele care utilizează procesarea limbajului natural (NLP) și modelele lingvistice mari (LLM) pentru a evalua eseuri, răspunsuri scurte și chiar proiecte deschise. Aceste sisteme pot detecta structura gramaticală, pot compara răspunsurile cu răspunsurile modelului sau pot aplica ajustări statistice pentru a corecta dificultatea întrebărilor. Alegerile pe care le facem în construirea acestor modele – datele pe care le furnizăm și regulile pe care le stabilim – decid dacă notarea algoritmică promovează echitatea sau adâncește inegalitatea.
Notele influențează accesul la universități, burse și locuri de muncă. Prin urmare, atunci când algoritmii intră în procesul de notare, aceștia influențează direct viitorul tinerilor. De la COVID-19, școlile au apelat din ce în ce mai mult la instrumente automatizate, iar odată cu noile reguli ale UE privind inteligența artificială și cu legile privind protecția datelor, Europa a devenit un teren de testare cheie pentru cât de echitabile și transparente vor fi aceste sisteme.
Un exemplu din lumea reală: povestea examenului de nivel avansat din Marea Britanie
Când Regatul Unit a anulat examenele de nivel A cu prezență fizică în timpul pandemiei de COVID-19, în 2020 a fost utilizată o abordare algoritmică pentru a produce rezultate bazate pe performanța școlară istorică și pe predicțiile profesorilor. Implementarea a dus la obținerea de note mai mici decât cele așteptate de către un număr mare de elevi, ceea ce a afectat în mod disproporționat elevii din școlile mai puțin înstărite. Această situație a stârnit un val de indignare la nivel național, care a dus la retragerea de către guvern a scorurilor algoritmice. Episodul a scos în evidență două lecții dificile: (1) algoritmii pot reproduce și amplifica inegalitățile existente; (2) transparența și procesele clare de contestare sunt esențiale atunci când un sistem automatizat afectează viitorul oamenilor.
Notarea asistată de inteligență artificială oferă feedback mai rapid, o consecvență mai mare și suport scalabil pentru învățarea pe tot parcursul vieții și micro-acreditări aliniate cu Obiectivul de Dezvoltare Durabilă (ODD) 4. Cu toate acestea, aceasta prezintă și riscuri, inclusiv potențiale părtiniri din datele istorice, lipsa de transparență în deciziile de notare și dependența excesivă de automatizare, care poate trece cu vederea judecata umană importantă.
Credit imagine: „Generat de inteligență artificială, examen școlar, elevi” de Yamu_Jay via Pixabay (utilizat sub licența Pixabay)
Cadrul de reglementare al UE: Legea privind inteligența artificială și RGPD
Notarea algoritmică poate ajuta la fel de mult ca și cum ar putea dăuna. Pe de o parte, notarea asistată de inteligență artificială oferă feedback mai rapid, o consecvență mai mare și suport scalabil pentru învățarea pe tot parcursul vieții și micro-acreditări aliniate cu Obiectivul de Dezvoltare Durabilă (ODD) 4; pe de altă parte, prezintă și riscuri, inclusiv potențiale părtiniri din datele istorice, lipsa de transparență în deciziile de notare și dependența excesivă de automatizare, care poate trece cu vederea judecăți umane importante.
Încă de la apariția sa, Uniunea Europeană s-a angajat să încadreze utilizarea inteligenței artificiale și să ofere orientări și reglementări care să protejeze utilizatorii. Două instrumente juridice europene sunt importante pentru clasificarea algoritmică:
Legea IA (regulamentul din 2024) : Sistemele utilizate pentru a determina accesul la educație se încadrează în categoriile de IA cu risc ridicat. Furnizorii trebuie să efectueze evaluări ale riscurilor, să asigure reprezentativitatea datelor și să implementeze măsuri de transparență și guvernanță. Aceasta înseamnă că sistemele de notare vor necesita probabil teste și documentație riguroase înainte de implementare.
GDPR : Notarea algoritmică prelucrează date cu caracter personal (nume, răspunsuri la examene, evidențe școlare) și, prin urmare, trebuie să respecte principiile GDPR privind legalitatea, limitarea scopului, acuratețea și securitatea. Este important de menționat că articolul 22 limitează utilizarea procesului decizional complet automatizat care are efecte juridice sau similare semnificative, oferind în același timp dreptul la revizuire umană și la contestarea deciziilor. Aceasta este o garanție crucială pentru studenți.
Împreună, regulile creează atât obligații pentru dezvoltatori, cât și protecții pentru studenți. Cu toate acestea, conformitatea nu este automată; necesită o proiectare atentă și procese concrete.
Cum ar trebui să arate o implementare bună
Dacă școlile sau comisiile de examinare intenționează să utilizeze notarea algoritmică, acestea ar trebui cel puțin:
- Publicați o explicație în limbaj simplu a modului în care funcționează sistemul și a datelor pe care le utilizează.
- Realizați și publicați audituri ale prejudecăților care să arate cum sunt afectate diferite grupuri (în funcție de școală, mediu socio-economic, limbă maternă).
- Garantăm prezența unei persoane implicate în apeluri și cazuri limită, așa cum este cerut de garanțiile GDPR.
- Asigurați calitatea și reprezentativitatea datelor — datele de antrenament trebuie să corespundă populației pe care sistemul o va evalua.
- Oferiți o cale de atac accesibilă și o remediere clară atunci când se constată greșeli.
Opiniile studenților: ce ar trebui să întrebe tinerii
Dacă ești student, iată câteva întrebări inteligente pe care le poți adresa școlii sau comisiei de examen înainte de a utiliza un sistem algoritmic în lucrarea ta:
- Nota mea este produsă (chiar și parțial) de un algoritm?
- Ce date folosește algoritmul? Sunt acestea datele mele personale?
- Cum pot contesta nota mea? Va fi revizuit cazul de o persoană?
- A fost sistemul auditat pentru părtinire? Pot vedea rezultatele?
A cere răspunsuri despre cum tehnologia modelează lumea în care trăiești este o formă de participare informată și nu poate strica niciodată.
Echilibrul dintre promisiune și protecție
Pentru ca notarea algoritmică să sprijine ODD 4 al ONU prin extinderea accesului și standardizarea evaluărilor, aceasta trebuie implementată cu garanții juridice, transparență și un angajament față de echitate. Legislația UE indică deja în această direcție: Legea privind inteligența artificială marchează sistemele de notare ca fiind cu risc ridicat; GDPR le oferă studenților dreptul la evaluare și informare de către oameni. Promisiunea tehnică este reală (feedback mai rapid, potențiale câștiguri în materie de echitate), dar provocarea politică este de a asigura că aceste beneficii ajung la toată lumea.
Automatizarea va face parte din viitorul educației. S-a dovedit că algoritmii puteau nota în trecut și vor continua să noteze și în viitor. Pentru tinerii europeni, întrebarea cheie este cum vor fi guvernați algoritmii. Audituri mai bune, contestații mai clare și implicarea studenților trebuie să existe înainte ca sistemele automatizate să decidă cine intră la universitate, cine primește burse și cine rămâne în urmă. Cititorii Pulse-Z ar trebui să fie interesați, deoarece este vorba despre echitate, drepturi și reguli care modelează oportunitățile tinerilor din întreaga Europă.