Live

Scânteia

Danemarca nu va juca în următorul sezon al serialului Black Mirror.

Imaginează-ți că te trezești într-o dimineață și afli că ai ținut o conferință de presă, spunând lucruri pe care nu ți le-ai imaginat niciodată, deși nici măcar nu-ți amintești că le-ai dat. În lumea serialului Black Mirror , este doar marți. Imaginea ta, vocea ta, chiar și expresiile tale nu-ți mai aparțin; au devenit proprietatea intelectuală a altcuiva, material pentru reproducere, divertisment sau chiar tortură. Pentru că în acest univers, întrebarea nu este dacă tehnologia te va trăda, ci când. De la „USS Callister”, unde personajele sunt prinse în clone digitale fără consimțământul lor, până la „Joan Is Awful”, unde viața unei femei devine proprietatea unei platforme de streaming, serialul se joacă cu aceeași idee iar și iar: că imaginea ta, vocea ta, chiar și personalitatea ta pot deveni un produs fără ca tu să ai un cuvânt de spus în această chestiune.

Într-o lume nu atât de îndepărtată, în aprilie 2024, prim-ministrul Mette Frederiksen al Danemarcei a abolit Paștele, Crăciunul și alte câteva sărbători, potrivit președintelui Partidului Popular Danez, Morten Messerschmidt, care a postat un videoclip cu prim-ministrul făcând anunțul. Evident, videoclipul era un deepfake și a fost etichetat ca atare, dar a devenit viral, iar imediat a urmat o furtună politică. Aproape toate partidele au condamnat actul și au cerut guvernului să legifereze.

Aici puteți vedea o imagine din videoclip care o prezintă pe Mette Frederiksen falsă. Imaginea este generată de inteligența artificială. (Foto: © Captură de ecran de la X)

Un an mai târziu, ministrul Culturii, Jakob Engel-Schmidt, a înaintat o propunere radicală conform căreia toți danezii ar trebui să dobândească automat drepturile de autor pentru propriile materiale. Această propunere s-a bucurat de un sprijin larg, nouă dintre cele unsprezece partide din Parlament fiind de acord să ofere consensul necesar pentru a permite fiecărui cetățean să solicite eliminarea deepfake-urilor care îl privesc de pe orice platformă, chiar și atunci când acestea nu au fost exploatate comercial. De asemenea, propunerea prevede compensații, menținând în același timp o excepție pentru parodie și satiră.

În centrul dezbaterii, privind etica problemei, s-a aflat discuția despre ce s-ar întâmpla dacă aceeași tehnologie ar fi utilizată într-o perioadă de criză, de exemplu, dacă l-ar arăta pe prim-ministru declarând stare de urgență sau anunțând măsuri restrictive din cauza unei crize. Preocuparea era că deepfake-urile nu sunt doar videoclipuri amuzante sau periculoase, ci instrumente capabile să submineze încrederea în vocile instituționale în sine. Inovația introdusă de acest model danez este proactivitatea, adică nu este necesară dovada prejudiciului adus victimei, în esență schimbarea datelor, restabilirea suveranității pure a aparenței și identității cu un act automat și universal.

Capacitatea inteligenței artificiale de a crea conținut realist a transformat însăși conceptul de dovadă într-un câmp de luptă unde deepfake-urile pot fi folosite pentru a ocoli sistemele de recunoaștere facială și vocală, până la punctul de a obține acces ilegal la date sensibile. Problema, desigur, nu se oprește la securitatea cibernetică, implicațiile sociale și psihologice fiind enorme. 95% dintre deepfake-uri sunt pornografice, afectând în mod disproporționat femeile și minorii, în timp ce capacitatea de a respinge materialele plauzibile ca fiind false, așa-numitul dividend al mincinosului, subminează încrederea în discursul public. În arena politică, un exemplu notabil l-au reprezentat apelurile audio deepfake cu „vocea lui Joe Biden” care au împiedicat alegătorii să meargă la urne în New Hampshire, arătând cum astfel de instrumente pot destabiliza chiar și alegerile. Noua realitate nu are nicio legătură cu confidențialitatea în sine, ci cu extinderea acesteia ca o chestiune de securitate democratică.

Prin propunerea sa, Danemarca încearcă să elimine această lacună, țara intenționând să își folosească viitoarea președinție a UE pentru a promova problema la Bruxelles, Engel-Schmidt declarându-și deja intențiile de a ridica problema la masa negocierilor europene și de a promova un cadru comun care să oblige chiar și marile platforme să se conformeze, cu amenințarea unor amenzi mari pentru nerespectare, făcând din Danemarca micul laborator pentru o intervenție care ar putea modela regulile europene de protecție a identității digitale în era algoritmilor genetici.

Perspectiva europeană: Homo Digitalis

Propunerea Danemarcei a fost considerată inovatoare și ambițioasă, generând atât entuziasm, cât și scepticism. După cum a explicat Lefteris Helioudakis, avocat specializat în noi tehnologii și director executiv al Homo Digitalis , „la prima vedere, propunerea pare a fi o soluție discutabilă. Dreptul de autor funcționează ca un contract social: creatorul unei opere originale contribuie cu ceva la societate, iar în schimb societatea acordă creatorului drepturi exclusive. Extinderea acestei logici la informațiile biometrice este nealiniată cu principiile fundamentale ale dreptului proprietății intelectuale.” Prin urmare, noua lege ambițioasă a Danemarcei stabilește un nou precedent bazat pe conceptul de identitate mai degrabă decât pe cel de creație, ceva fără precedent.

Homo Digitalis subliniază, de asemenea, că cadrul legal la nivel european exista deja în Directiva 1385/2024, care incriminează utilizarea deepfake-urilor în contexte sensibile, până la Legea privind serviciile digitale (DSA), care prevede reguli privind conținutul ilegal și răspunderea platformelor. „Astfel de norme de legalitate sunt de fapt elaborate de parlamentele naționale ale statelor membre ale UE. Astfel, Danemarca ar putea explora alte prevederi privind datele cu caracter personal, dezinformarea, defăimarea, pentru a combate o astfel de utilizare a deepfake-urilor, dar nu a făcut-o.” Mergând cu un pas mai departe, într-o critică a „inovației” acțiunii daneze, astfel de inițiative naționale unilaterale pot atrage atenția mass-media, dar nu abordează rădăcina problemei.

„La prima vedere, propunerea pare a fi o soluție discutabilă. Drepturile de autor funcționează ca un contract social: creatorul unei opere originale contribuie cu ceva la societate, iar în schimb societatea acordă creatorului drepturi exclusive. Extinderea acestei logici la informațiile biometrice este nealiniată cu principiile fundamentale ale dreptului de proprietate intelectuală.”

În același timp, când vine vorba de libertatea de exprimare, Homo Digitalis este categoric: „Excepțiile pentru parodie, satiră și critică politică sunt deja bine stabilite în legislația UE privind drepturile de autor… Împreună, aceste mecanisme oferă atât garanțiile legale pentru libertatea de exprimare, cât și instrumentele procedurale pentru combaterea deepfake-urilor dăunătoare, fără a reinventa echilibrul subiacent.” Cu alte cuvinte, cadrul pentru protejarea satirei și a criticii politice există deja și nu este nevoie de un nou echilibru; ceea ce este necesar este aplicarea regulilor existente, bine fundamentate.

Observația lor privind responsabilitatea platformelor, împreună cu DSA, readuce în prim-plan obligațiile platformelor mari de a efectua evaluări sistematice ale riscurilor, nu doar pentru conținutul ilegal, ci și pentru materialele care „ar putea submina discursul public”. Aceasta înseamnă că există deja prevederi pentru deepfake-uri, astfel încât acestea intră sub incidența măsurilor obligatorii de atenuare, chiar și prin mecanismul de răspuns la crize prevăzut de lege. Intervenția Danemarcei pare mai degrabă un act politic decât o necesitate legală, posibil în conformitate cu tendința mai largă de securitate a UE, extinsă în spațiul digital.

În cele din urmă, potrivit lui Lefteris Helioudakis, director executiv al Homo Digitalis, pericolul este ca reglementarea să fie tratată ca un panaceu, când adevărata provocare este sistemică. După cum avertizează dl Helioudakis, „Prea des, interesele comerciale modelează agenda, împingând adoptarea rapidă în ciuda preocupărilor etice, juridice și societale nerezolvate. Această lipsă de pregătire și de examinare critică crește probabilitatea ca IA să submineze drepturile individuale și procesele democratice.” Bătălia nu este doar cu deepfake-urile; este cu modul în care inteligența artificială invadează fiecare domeniu al vieții noastre fără o dezbatere publică suficientă. Pe scurt, Homo Digitalis nu respinge inițiativa Danemarcei, ci o vede ca pe o oportunitate pentru ceva mai amplu, arătând clar atunci când ne spune că „Ceea ce este necesar acum este o reflecție critică asupra regulilor existente și o experimentare activă cu remediile pe care le oferă. Acest lucru necesită o implicare mai amplă a cetățenilor… Avem nevoie urgentă de mai multe voci și de mai multă participare pentru a asigura o supraveghere semnificativă și o reziliență democratică.” Prin urmare, provocarea nu este doar de a ne stabili legal identitatea, ci de a o proteja politic, prin acțiune colectivă și control democratic.

„ Prea des, interesele comerciale modelează agenda, împingând adoptarea rapidă în ciuda preocupărilor etice, juridice și societale nerezolvate. Această lipsă de pregătire și de analiză critică crește probabilitatea ca IA să submineze drepturile individuale și procesele democratice. ”

Filosofierea oglinzii negre

Ideea de drept de autor asupra unui corp este, în esență, o încercare de a încadra legal ceva ce este altfel evident, și anume că corpurile noastre ne aparțin – în general – transformând inițiativa legislativă a Danemarcei în ceva ce până acum am considerat de la sine înțeles, și anume că corpurile noastre ne aparțin. Cu toate acestea, însuși actul de protecție legală dezvăluie că acest adevăr evident s-a prăbușit, a fost perturbat și că tehnologia ne obligă să definim ce înseamnă „egoul” atunci când vocea, imaginea și chiar gândurile noastre pot fi copiate la nesfârșit, într-un efort de a ne restabili ca proprietari ai propriului sine prin intermediul unor terți parametri.

Problema, din moment ce ne privește la nivel material, nu poate fi decât ontologică. Corpul este punctul de referință al identității, o graniță materială care distinge sinele de celălalt. Atunci când acest corp poate fi reprodus perfect, granița se prăbușește, mai ales când „clona” mea digitală nu mai este o străină, dar nici nu mai este tocmai eu. Este un hibrid care îmi poartă vocea și mișcările, dar nu se supune voinței mele. Și aici rezidă provocarea, nu în cine deține drepturile de proprietate intelectuală, ci în modul în care menținem conceptul de subiectivitate, de sine, într-o lume în care sinele s-a multiplicat. Drepturile de autor asupra corpului sunt discutate în prezent în termeni de piață, în termeni de înregistrare, licențiere și compensare – logica fiind, pe de o parte, că ar trebui să fie protectoare, dar, pe de altă parte, că transformă identitatea în capital, iar aceasta nu este o problemă a soluției, ci o parte a problemei pe care suntem chemați să o rezolvăm. Dacă corpul meu este un bun, îl pot închiria, vinde, cesiona – sau îl pot pierde dacă nu pot plăti pentru protecția sa. Libertatea devine un privilegiu, problema nefiind însă împuternicirea, ci o nouă formă de dependență, unde suveranitatea individuală pe care dreptul de autor ar trebui să o apere devine o condiție prealabilă pentru participarea la societate. Astfel, amenințarea duce la o problemă suplimentară, în care corpul este transformat dintr-un loc al experienței într-un obiect al managementului, societatea funcționând nu în termeni de recunoaștere, ci în termeni de conformitate. O conformitate care implică un fel de licență prin care, dacă nu te „protejezi”, devii fie invizibil, fie vulnerabil. Prin urmare, identitatea individuală nu mai este o relație, ci un contract.

Adevăratul răspuns la această problemă nu poate fi pur și simplu mai multe drepturi; avem nevoie de un concept de „proprietate” care să nu definească corpul ca pe o marfă, ci ca pe o extensie a demnității umane, o întoarcere la rădăcinile drepturilor omului. O politică care să nu se limiteze la compensații financiare, ci să garanteze că nicio utilizare a imaginii sau a „clonei” nu poate înlătura autonomia persoanei. Provocarea filosofică a drepturilor de autor asupra unui corp nu este de a găsi un preț corect pentru fața noastră sau o pedeapsă justă pentru utilizarea abuzivă a acesteia, ci de a ne asigura că fața noastră nu devine niciodată comercializabilă. Numai în acest fel poate tehnologia să extindă, mai degrabă decât să anuleze, libertatea umană.

Scris de

Modelați conversația

Aveți ceva de adăugat la această poveste? Aveți idei pentru interviuri sau unghiuri pe care ar trebui să le explorăm? Anunțați-ne dacă doriți să scrieți o continuare, un contrapunct sau să împărtășiți o poveste similară.

Scrieți un articol de contraargumentare Scrieți un articol conex