Immagina di ridurre l'attesa di una settimana per il risultato del tuo esame a pochi secondi, con un punteggio basato sui dati e una breve spiegazione del perché. La valutazione algoritmica promette velocità, scalabilità e (potenzialmente) maggiore coerenza. Ma come ha dimostrato la controversia sugli A-level del 2020 nel Regno Unito , l'automazione può anche amplificare l'ingiustizia se non vengono implementate garanzie, trasparenza e tutele legali. Questo articolo esplora il funzionamento della valutazione algoritmica, cosa è andato storto nel caso del Regno Unito, l'importanza di norme UE come l'AI Act e il GDPR e cosa dovrebbero aspettarsi gli studenti in futuro.
Definizione della valutazione algoritmica in linguaggio semplice
La valutazione algoritmica è un termine generico che indica la gamma di tecnologie che aiutano ad assegnare punteggi ai lavori degli studenti. All'estremità più semplice ci sono i correttori automatici a risposta multipla; all'altra estremità ci sono sistemi che utilizzano l'elaborazione del linguaggio naturale (NLP) e modelli linguistici di grandi dimensioni (LLM) per valutare saggi, risposte brevi e persino progetti aperti. Questi sistemi possono rilevare la struttura grammaticale, confrontare le risposte con le risposte modello o applicare aggiustamenti statistici per correggere la difficoltà delle domande. Le scelte che facciamo nella costruzione di questi modelli – i dati che forniamo loro e le regole che stabiliamo – decidono se la valutazione algoritmica promuove l'equità o aggrava le disuguaglianze.
I voti determinano l'accesso all'università, alle borse di studio e al lavoro. Pertanto, quando gli algoritmi entrano nel processo di valutazione, influenzano direttamente il futuro dei giovani. A partire dal COVID-19, le scuole si sono sempre più rivolte a strumenti automatizzati e, con le nuove norme UE sull'intelligenza artificiale e le leggi sulla protezione dei dati in vigore, l'Europa è diventata un banco di prova fondamentale per valutare l'equità e la trasparenza di questi sistemi.
Un esempio concreto: la storia dell'esame di maturità nel Regno Unito
Quando il Regno Unito ha annullato gli esami di maturità in presenza durante la pandemia di COVID-19, nel 2020 è stato utilizzato un approccio algoritmico per produrre risultati basati sui risultati scolastici storici e sulle previsioni degli insegnanti. L'implementazione ha portato a un gran numero di studenti che hanno ricevuto voti inferiori alle aspettative, colpendo in modo sproporzionato gli alunni provenienti da scuole meno abbienti. Questa situazione ha scatenato una protesta nazionale che ha portato il governo a ritirare i punteggi algoritmici. L'episodio ha evidenziato due dure lezioni: (1) gli algoritmi possono riprodurre e amplificare le disuguaglianze esistenti; (2) trasparenza e procedure di ricorso chiare sono essenziali quando un sistema automatizzato influisce sul futuro delle persone.
La valutazione assistita dall'intelligenza artificiale offre un feedback più rapido, maggiore coerenza e un supporto scalabile per l'apprendimento permanente e le micro-credenziali in linea con l'Obiettivo di sviluppo sostenibile (SDG) 4. Tuttavia, comporta anche dei rischi, tra cui potenziali distorsioni derivanti da dati storici, mancanza di trasparenza nelle decisioni di valutazione e un eccessivo affidamento all'automazione che potrebbe trascurare importanti giudizi umani.
Credito immagine: "Generato dall'IA, esame scolastico, studenti" di Yamu_Jay tramite Pixabay (utilizzato con licenza Pixabay)
Il regolamento UE: legge sull'intelligenza artificiale e GDPR
La valutazione algoritmica può essere tanto utile quanto dannosa. Da un lato, la valutazione assistita dall'intelligenza artificiale offre un feedback più rapido, maggiore coerenza e un supporto scalabile per l'apprendimento permanente e le micro-credenziali in linea con l'Obiettivo di Sviluppo Sostenibile (SDG) 4; dall'altro, comporta anche dei rischi, tra cui potenziali distorsioni derivanti da dati storici, mancanza di trasparenza nelle decisioni di valutazione e un eccessivo affidamento all'automazione, che potrebbe trascurare importanti valutazioni umane.
Fin dalla sua nascita, l'Unione Europea si è impegnata a disciplinare l'uso dell'IA e a fornire linee guida e normative a tutela degli utenti. Due strumenti giuridici europei sono importanti per la valutazione algoritmica:
Legge sull'IA (regolamento del 2024) : i sistemi utilizzati per determinare l'accesso all'istruzione rientrano nelle categorie di IA ad alto rischio. I fornitori devono effettuare valutazioni del rischio, garantire la rappresentatività dei dati e implementare misure di trasparenza e governance. Ciò significa che i sistemi di valutazione richiederanno probabilmente test approfonditi e una solida documentazione prima dell'implementazione.
GDPR : la valutazione algoritmica elabora dati personali (nomi, risposte agli esami, registri scolastici) e pertanto deve rispettare i principi di liceità, limitazione delle finalità, accuratezza e sicurezza del GDPR. È importante sottolineare che l'articolo 22 limita l'uso di processi decisionali completamente automatizzati che hanno effetti giuridici o di analoga rilevanza, garantendo al contempo il diritto alla revisione umana e alla contestazione delle decisioni. Questa è una tutela fondamentale per gli studenti.
Nel complesso, le norme creano obblighi per gli sviluppatori e tutele per gli studenti. Tuttavia, il rispetto delle norme non è automatico; richiede una progettazione attenta e processi concreti.
Come dovrebbe essere un buon dispiegamento
Se le scuole o le commissioni d'esame intendono utilizzare la valutazione algoritmica, dovrebbero almeno:
- Pubblicare una spiegazione semplice del funzionamento del sistema e dei dati che utilizza.
- Eseguire e pubblicare audit sui pregiudizi che mostrino come vengono influenzati i diversi gruppi (in base alla scuola, al background socioeconomico, alla lingua madre).
- Garantire la partecipazione attiva di un operatore per i ricorsi e i casi limite, come richiesto dalle misure di sicurezza del GDPR.
- Garantire la qualità e la rappresentatività dei dati: i dati di addestramento devono corrispondere alla popolazione che il sistema valuterà.
- Offrire un percorso di ricorso accessibile e una chiara soluzione quando vengono rilevati errori.
Le voci degli studenti: cosa dovrebbero chiedere i giovani
Se sei uno studente, ecco alcune domande intelligenti da porre alla tua scuola o alla commissione d'esame prima che un sistema algoritmico venga utilizzato nel tuo lavoro:
- Il mio voto è prodotto (anche in parte) da un algoritmo?
- Quali dati utilizza l'algoritmo? Sono i miei dati personali?
- Come posso presentare ricorso contro il mio voto? Il mio caso verrà esaminato da una persona?
- Il sistema è stato sottoposto a verifica per verificare eventuali distorsioni? Posso vedere i risultati?
Pretendere risposte su come la tecnologia plasma il mondo in cui viviamo è una forma di partecipazione informata e non può mai far male.
Equilibrio tra promessa e protezione
Affinché la valutazione algoritmica possa supportare l'Obiettivo di Sviluppo Sostenibile n. 4 delle Nazioni Unite ampliando l'accesso e standardizzando le valutazioni, è necessario che sia implementata con garanzie legali, trasparenza e un impegno per l'equità. La legislazione dell'UE punta già in questa direzione: l'AI Act segnala i sistemi di valutazione come ad alto rischio; il GDPR garantisce agli studenti il diritto alla revisione umana e all'informazione. La promessa tecnica è concreta (feedback più rapido, potenziali guadagni in termini di equità), ma la sfida politica è garantire che tali benefici raggiungano tutti.
L'automazione sarà parte del futuro dell'istruzione. È stato dimostrato che gli algoritmi potevano valutare gli studenti in passato e continueranno a farlo in futuro. Per i giovani europei, la domanda chiave è come saranno gestiti gli algoritmi. Controlli più efficaci, ricorsi più chiari e il coinvolgimento degli studenti devono arrivare prima che i sistemi automatizzati decidano chi viene ammesso all'università, chi ottiene borse di studio e chi viene escluso. I lettori di Pulse-Z dovrebbero interessarsene, perché si tratta di equità, diritti e regole che plasmano le opportunità dei giovani in tutta Europa.