Predstavte si, že by ste týždeň trvajúce čakanie na výsledok skúšky skrátili na niekoľko sekúnd, s výsledkom založeným na dátach a krátkym vysvetlením prečo. Algoritmické známkovanie sľubuje rýchlosť, rozsah a (potenciálne) väčšiu konzistentnosť. Ako však ukázala kontroverzia okolo maturitnej skúšky v Spojenom kráľovstve v roku 2020 , automatizácia môže tiež zosilniť nespravodlivosť, pokiaľ nie sú zavedené záruky, transparentnosť a právna ochrana. Tento článok skúma, ako algoritmické známkovanie funguje, čo sa pokazilo v prípade Spojeného kráľovstva, aký je význam pravidiel EÚ, ako je zákon o umelej inteligencii a GDPR, a čo by študenti mali očakávať v budúcnosti.
Definovanie algoritmického hodnotenia v jednoduchom jazyku
Algoritmické hodnotenie je zastrešujúci pojem pre celý rad technológií , ktoré pomáhajú priraďovať skóre študentským prácam. Na najjednoduchšom konci sú automatizované hodnotiace systémy s výberom odpovede; na druhom konci sú systémy, ktoré používajú spracovanie prirodzeného jazyka (NLP) a modely veľkých jazykov (LLM) na hodnotenie esejí, krátkych odpovedí a dokonca aj projektov s otvoreným koncom. Tieto systémy dokážu zistiť gramatickú štruktúru, porovnať odpovede s modelovými odpoveďami alebo použiť štatistické úpravy na korekciu náročnosti otázok. Voľby, ktoré robíme pri vytváraní týchto modelov – údaje, ktoré im poskytujeme, a pravidlá, ktoré nastavujeme – rozhodujú o tom, či algoritmické hodnotenie podporuje spravodlivosť alebo prehlbuje nerovnosť.
Známky formujú prístup k univerzitám, štipendiám a pracovným miestam. Preto, keď algoritmy vstupujú do procesu hodnotenia, priamo ovplyvňujú budúcnosť mladých ľudí. Od pandémie COVID-19 sa školy čoraz viac obracajú na automatizované nástroje a s novými pravidlami EÚ o umelej inteligencii a zákonmi o ochrane údajov sa Európa stala kľúčovým testovacím priestorom pre to, aké spravodlivé a transparentné budú tieto systémy.
Príklad z reálneho sveta: príbeh o britskej maturite
Keď Spojené kráľovstvo počas pandémie COVID-19 zrušilo prezenčné skúšky A-level, v roku 2020 bol použitý algoritmický prístup na získanie výsledkov založených na historických školských výsledkoch a predpovediach učiteľov. Zavedenie tohto prístupu viedlo k tomu, že veľký počet študentov dostával nižšie známky, ako sa očakávalo, čo neúmerne ovplyvnilo žiakov z menej bohatých škôl. Táto situácia vyvolala národné pobúrenie, ktoré viedlo k stiahnutiu algoritmických skóre vládou. Táto epizóda zdôraznila dve ťažké ponaučenia: (1) algoritmy môžu reprodukovať a zosilňovať existujúce nerovnosti; (2) transparentnosť a jasné procesy odvolania sú nevyhnutné, keď automatizovaný systém ovplyvňuje budúcnosť ľudí.
Hodnotenie s pomocou umelej inteligencie ponúka rýchlejšiu spätnú väzbu, väčšiu konzistentnosť a škálovateľnú podporu pre celoživotné vzdelávanie a mikrokvalifikácie v súlade s cieľom trvalo udržateľného rozvoja (SDG) 4. Nesie však so sebou aj riziká vrátane potenciálneho skreslenia z historických údajov, nedostatočnej transparentnosti pri rozhodovaní o hodnotení a nadmerného spoliehania sa na automatizáciu, ktorá môže prehliadať dôležitý ľudský úsudok.
Zdroj obrázka: „Vytvorené umelou inteligenciou, Školská skúška, Študenti“ od Yamu_Jay cez Pixabay (použité na základe licencie Pixabay)
Súbor pravidiel EÚ: zákon o umelej inteligencii a GDPR
Algoritmické hodnotenie môže pomôcť, rovnako ako uškodiť. Na jednej strane hodnotenie s pomocou umelej inteligencie ponúka rýchlejšiu spätnú väzbu, väčšiu konzistentnosť a škálovateľnú podporu pre celoživotné vzdelávanie a mikrokvalifikácie v súlade s cieľom trvalo udržateľného rozvoja (SDG) 4; na druhej strane však prináša aj riziká vrátane potenciálneho skreslenia z historických údajov, nedostatočnej transparentnosti pri rozhodovaní o hodnotení a nadmerného spoliehania sa na automatizáciu, ktorá môže prehliadať dôležitý ľudský úsudok.
Európska únia sa od svojho vzniku zaviazala k rámcovému stanoveniu používania umelej inteligencie a k poskytovaniu usmernení a predpisov na ochranu používateľov. Pre algoritmické hodnotenie sú dôležité dva európske právne nástroje:
Zákon o umelej inteligencii (nariadenie z roku 2024) : Systémy používané na určovanie prístupu k vzdelávaniu patria do kategórií umelej inteligencie s vysokým rizikom. Poskytovatelia musia vykonávať posúdenia rizík, zabezpečiť reprezentatívnosť údajov a implementovať opatrenia týkajúce sa transparentnosti a riadenia. To znamená, že systémy hodnotenia budú pravdepodobne pred nasadením vyžadovať dôkladné testovanie a dokumentáciu.
GDPR : Algoritmické známkovanie spracováva osobné údaje (mená, odpovede na skúšky, školské záznamy), a preto musí dodržiavať zásady GDPR týkajúce sa zákonnosti, obmedzenia účelu, presnosti a bezpečnosti. Dôležité je, že článok 22 obmedzuje používanie plne automatizovaného rozhodovania, ktoré má právne alebo podobne významné účinky, a zároveň poskytuje práva na ľudské preskúmanie a napadnutie rozhodnutí. To je kľúčová záruka pre študentov.
Tieto pravidlá spolu vytvárajú povinnosti pre vývojárov a zároveň ochranu pre študentov. Dodržiavanie predpisov však nie je automatické; vyžaduje si starostlivý návrh a konkrétne procesy.
Ako by malo vyzerať dobré nasadenie
Ak školy alebo skúšobné komisie plánujú používať algoritmické známkovanie, mali by minimálne:
- Zverejnite zrozumiteľné vysvetlenie, ako systém funguje a aké údaje používa.
- Vykonávať a publikovať audity zaujatosti, ktoré ukazujú, ako sú ovplyvnené rôzne skupiny (podľa školy, socioekonomického zázemia, rodného jazyka).
- Zaručiť ľudskú interakciu v prípade odvolaní a hraničných prípadov, ako to vyžadujú záruky GDPR.
- Zabezpečte kvalitu a reprezentatívnosť údajov – tréningové údaje musia zodpovedať populácii, ktorú bude systém hodnotiť.
- Ponúknite prístupný spôsob odvolania a jasnú nápravu v prípade zistenia chýb.
Hlasy študentov: na čo by sa mali mladí ľudia pýtať
Ak ste študent, tu je niekoľko múdrych otázok, ktoré by ste mali položiť svojej škole alebo skúšobnej komisii predtým, ako vo svojej práci použijete algoritmický systém:
- Je moja známka (aj čiastočne) generovaná algoritmom?
- Aké údaje algoritmus používa? Sú to moje osobné údaje?
- Ako sa môžem odvolať proti svojmu hodnoteniu? Posúdi môj prípad človek?
- Bol systém auditovaný na zaujatosť? Môžem si pozrieť výsledky?
Požadovať odpovede na otázku, ako technológia formuje svet, v ktorom žijete, je formou informovanej účasti a nikdy nemôže uškodiť.
Vyváženie sľubu a ochrany
Aby algoritmické hodnotenie podporovalo cieľ udržateľného rozvoja OSN č. 4 rozšírením prístupu a štandardizáciou hodnotení, musí byť implementované s právnymi zárukami, transparentnosťou a záväzkom k rovnosti. Právne predpisy EÚ už týmto smerom smerujú: zákon o umelej inteligencii označuje systémy hodnotenia za vysoko rizikové; GDPR dáva študentom právo na ľudské preskúmanie a informácie. Technický prísľub je reálny (rýchlejšia spätná väzba, potenciálne výhody v oblasti spravodlivosti), ale politickou výzvou je zabezpečiť, aby sa tieto výhody dostali ku každému.
Automatizácia bude súčasťou budúcnosti vzdelávania. Ukázalo sa, že algoritmy mohli hodnotiť v minulosti a budú hodnotiť aj v budúcnosti. Pre mladých Európanov je kľúčovou otázkou, ako budú algoritmy riadené. Lepšie audity, jasnejšie odvolania a zapojenie študentov musia prísť skôr, ako automatizované systémy rozhodnú o tom, kto sa dostane na univerzitu, kto získa štipendiá a kto zostane pozadu. Čitateľov Pulse-Z by to malo zaujímať, pretože ide o spravodlivosť, práva a pravidlá, ktoré formujú príležitosti mladých ľudí v celej Európe.