Ai încredere în algoritm? Nu chiar atât de repede – Cum prejudecățile umane încă guvernează deciziile IA

Noi cercetări arată că nici cei mai „corecți” algoritmi nu pot scăpa de influența judecății umane, ceea ce ridică întrebări dificile despre cine controlează cu adevărat rezultatele într-o lume condusă de inteligența artificială.

IA este utilizată din ce în ce mai mult în viețile noastre. Pentru a o utiliza în mod echitabil, trebuie să înțelegem cum interacționează oamenii și IA. Deși dezvoltarea IA oferă multe beneficii, utilizarea ei echitabilă este o provocare. IA este utilizată acum în domenii importante, cum ar fi angajarea și împrumuturile.

Credem că oamenii care supraveghează deciziile legate de inteligența artificială vor preveni discriminarea, însă cercetările EU Policy Lab , susținute de Centrul European pentru Transparență Algoritmică ( ECAT ), arată că lucrurile sunt mai complicate.

Către echitate sistemică

Cercetările EU Policy Lab evidențiază necesitatea de a depăși simpla supraveghere individuală a inteligenței artificiale și de a adopta, în schimb, o abordare la nivel de sistem care să abordeze atât prejudecățile umane, cât și pe cele algoritmice. Pentru a minimiza eficient discriminarea, sunt necesare acțiuni la mai multe niveluri.

Măsurile tehnice ar trebui să garanteze că sistemele de inteligență artificială sunt concepute pentru a fi echitabile și sunt actualizate periodic pentru a evita potențialele erori. Intervențiile organizaționale strategice pot crea o cultură care valorizează echitatea, inclusiv instruirea angajaților cu privire la modul de gestionare a instrumentelor de inteligență artificială.

Acțiunea politică este, de asemenea, crucială – stabilirea unor linii directoare clare pentru colaborarea dintre om și inteligența artificială va ajuta la o mai bună gestionare a riscului de discriminare.

Oferirea factorilor de decizie a puterii de a face alegerile corecte

Pentru a reduce cu adevărat părtinirea în deciziile luate cu ajutorul inteligenței artificiale, este extrem de important să oferim factorilor de decizie instrumentele și regulile potrivite. Trebuie să fim foarte clari în ceea ce privește momentele în care este în regulă să ignorăm sugerările inteligenței artificiale și trebuie să fim atenți la evoluția lucrurilor.

Dacă le oferim factorilor de decizie informații despre cum se descurcă și unde ar putea greși, acest lucru îi poate ajuta să ia decizii mai bune. Acest lucru îi îndeamnă să se gândească la deciziile lor, ceea ce duce la procese mai corecte și mai echilibrate, susținute de inteligență artificială.

Puncte cheie din cercetare

Cercetarea Laboratorului de Politici al UE a folosit o combinație de metode pentru a demonstra cât de complicată este, de fapt, echitatea în domeniul inteligenței artificiale. Pentru a construi sisteme de inteligență artificială mai echitabile și mai deschise, trebuie să înțelegem cum iau decizii oamenii și inteligența artificială și cum se influențează reciproc.

În cele din urmă, obținerea justiției necesită mai mult decât simpla eliminare a prejudecăților din algoritmi. De asemenea, necesită o selecție atentă a datelor de antrenament și validare pentru a preveni transferul prejudecăților umane sau al dezinformării intenționate în sistemele de inteligență artificială. În plus, o schimbare a atitudinilor umane și a abordărilor organizaționale este la fel de esențială. Utilizarea inteligenței artificiale pentru a lua decizii ne oferă șansa de a ne gândi la propriile noastre prejudecăți și la modul în care facem alegeri, atât personal, cât și ca societate.