In un contesto europeo segnato da una forte lentezza dei procedimenti di tipo civile e penale, la tecnologia appare quasi come risposta pragmatica . Effettivamente automatizzare attivit\u00e0 ripetitive, ordinare mucchi di fascicoli, segnare incongruenze o richiamare precedenti pu\u00f2 dare pi\u00f9 tempo ai giudici di occuparsi di aspetti pi\u00f9 complessi del caso.\u00a0 Tuttavia, l\u2019ingresso dell\u2019AI nelle aule di giustizia solleva diversi interrogativi che vanno per oltre il rendere i processi pi\u00f9 corti. Il problema principale sarebbe infatti quello della trasparenza.<\/p>\n
Nei sistemi europei la giustizia non si esaurisce nel mero dispositivo finale, ma \u00e8 essenziale che il percorso che porti ad esso sia comprensibile e specialmente verificabile. Molti sistemi di intelligenza artificiale infatti, funzionano come \u201cscatole nere\u201d, producendo risultati senza rendere in modo completo i criteri utilizzati.\u00a0<\/a><\/p>\n Un caso concreto che pu\u00f2 facilitare la comprensione di questo problema dell’intelligenza artificiale \u00e8 quello del sistema “SyRI” dei Paesi Bassi. Questo algoritmo, sviluppato dal governo olandese per individuare possibili frodi nei sussidi sociali, combina tantissimi\u00a0 database governativi come: dati fiscali, registri immobiliari, registrazione dei veicoli e informazioni sul lavoro e reddito. Questi dati venivano poi analizzati in modo automatico per assegnare un livello di rischio ai cittadini. Se ad esempio una persona risultava “a rischio”, veniva riferita alle autorit\u00e0 per ulteriori controlli<\/a>.<\/p>\n Il problema principale di questo meccanismo \u00e8 quello della trasparenza<\/a>, l’algoritmo non era infatti di dominio pubblico, le autorit\u00e0 non spiegavano in modo approfondito quali dati venivano combinati, i criteri di rischio o come venivano costruiti i profili sospetti! Rendeva dunque impossibile per i cittadini contestare la decisione del sistema. Il tribunale dell’Aia nel 2020 dichiar\u00f2 illegale l’uso del sistema<\/a>. Secondo la corte infatti SyRI violava il diritto alla privacy e non garantiva in modo sufficiente le garanzie di trasparenza nel processo decisionale.<\/p>\n Se le parti di un processo non possono comprendere come un algoritmo abbia contribuito alla decisione, viene meno la possibilit\u00e0 di contestare. Tutto questo pu\u00f2 ad esempio risultare nei rischio di discriminazioni indirette. Gli algoritmi infatti apprendono da dati storici: se i dati ricavati riflettono le disparit\u00e0 sociali o prassi discriminatorie sedimentate nel tempo, il sistema rischia di riportarle.<\/p>\n In ambito penale, strumenti che stimano la probabilit\u00e0 di recidiva o suggeriscono misure cautelari, potrebbero incidere in maniera sproporzionale su determinati imputati appartenenti a una certa categoria di persone.\u00a0 Tutto ci\u00f2 andrebbe contro il principio europeo fondato sull\u2019uguaglianza e sul divieto di discriminazione. Un\u2019altra problematica sarebbe quella della responsabilit\u00e0. La tradizione giuridica europea<\/a> attribuisce la decisione a un soggetto umano, che si assume la propria responsabilit\u00e0 e che debba motivare il proprio operato.<\/p>\n Consapevole di questi rischi, il Consiglio d\u2019Europa ha adottato delle linee guida etiche<\/a> per l\u2019uso dell\u2019AI nei sistemi giudiziari, sottolineando la centralit\u00e0 del controllo dell\u2019essere umano, la non discriminazione e sopratutto la trasparenza.<\/p>\n