De vonk

Denemarken speelt niet mee in het volgende Black Mirror-seizoen

Stel je voor dat je op een ochtend wakker wordt en erachter komt dat je een persconferentie hebt gegeven, waarin je dingen hebt gezegd die je je nooit had kunnen voorstellen, terwijl je je niet eens meer kunt herinneren dat je die hebt gegeven. In de wereld van Black Mirror is dit gewoon dinsdag. Je imago, je stem, zelfs je gezichtsuitdrukkingen behoren niet langer toe aan jou; ze zijn het intellectuele eigendom van iemand anders geworden, materiaal voor reproductie, entertainment of zelfs marteling. Want in dit universum is de vraag niet óf de technologie je zal verraden, maar wanneer. Van "USS Callister", waarin personages zonder hun toestemming gevangen zitten in digitale klonen, tot "Joan Is Awful", waarin het leven van een vrouw eigendom wordt van een streamingplatform, speelt de serie steeds opnieuw met hetzelfde idee: dat je imago, je stem, zelfs je persoonlijkheid een product kan worden zonder dat je er iets over te zeggen hebt.

In een wereld niet zo ver weg, schafte premier Mette Frederiksen van Denemarken in april 2024 Pasen, Kerstmis en diverse andere feestdagen af , aldus de voorzitter van de Deense Volkspartij, Morten Messerschmidt, die een video plaatste waarin de premier de aankondiging deed. De video was uiteraard een deepfake en werd ook als zodanig bestempeld, maar ging viraal en er volgde onmiddellijk een politieke storm. Bijna alle partijen veroordeelden de maatregel en riepen de regering op tot wetgeving.

Hier zie je een afbeelding uit de video waarop een nep-Mette Frederiksen te zien is. De afbeelding is gegenereerd door AI. (Foto: © Screenshot van X)

Een jaar later diende minister van Cultuur Jakob Engel-Schmidt een radicaal voorstel in om alle Denen automatisch auteursrechten op hun eigen content te laten verwerven. Dit voorstel kreeg brede steun, waarbij negen van de elf partijen in het parlement instemden met het bereiken van de consensus die nodig is om elke burger in staat te stellen de verwijdering van deepfakes die hen aangaan van elk platform te eisen, zelfs wanneer ze niet commercieel zijn geëxploiteerd. Het voorstel voorziet ook in compensatie, met behoud van een uitzondering voor parodie en satire.

Centraal in het ethische debat stond de vraag wat er zou gebeuren als dezelfde technologie in een crisisperiode zou worden gebruikt, bijvoorbeeld als de premier de noodtoestand uitroept of beperkende maatregelen aankondigt vanwege een crisis. De zorg was dat deepfakes niet alleen grappige of gevaarlijke video's zijn, maar tools die het vertrouwen in institutionele stemmen zelf kunnen ondermijnen. De innovatie die dit Deense model introduceerde, is proactiviteit: bewijs van schade aan het slachtoffer is niet vereist, maar de gegevens worden in wezen gewijzigd en de pure soevereiniteit van uiterlijk en identiteit wordt hersteld met een automatische en universele handeling.

Het vermogen van kunstmatige intelligentie om realistische content te creëren, heeft het concept van bewijs getransformeerd tot een slagveld waar deepfakes gebruikt kunnen worden om gezichts- en stemherkenningssystemen te omzeilen, tot het punt waarop illegale toegang tot gevoelige gegevens wordt verkregen. Het probleem beperkt zich natuurlijk niet tot cybersecurity, met enorme sociale en psychologische implicaties. 95% van de deepfakes is pornografisch en treft onevenredig veel vrouwen en minderjarigen, terwijl de mogelijkheid om aannemelijk materiaal als nep af te doen, het zogenaamde dividend van de leugenaar, het vertrouwen in het publieke debat ondermijnt. In de politieke arena waren de deepfake-audiogesprekken met "Joe Bidens stem" een opvallend voorbeeld, waardoor kiezers in New Hampshire niet naar de stembus konden, wat aantoont hoe dergelijke tools zelfs verkiezingen kunnen destabiliseren. De nieuwe realiteit heeft niets te maken met privacy per se, maar met de uitbreiding ervan als een kwestie van democratische veiligheid.

Denemarken probeert met zijn voorstel deze kloof te dichten. Het land wil zijn aanstaande EU-voorzitterschap gebruiken om de kwestie in Brussel onder de aandacht te brengen. Engel-Schmidt heeft al aangegeven dat hij de kwestie in Europa wil aankaarten en wil aandringen op een gemeenschappelijk kader dat zelfs de grote platforms verplicht zich eraan te houden. Bij niet-naleving kunnen hoge boetes worden opgelegd. Daarmee wordt Denemarken een klein laboratorium voor een interventie die de Europese regels voor de bescherming van digitale identiteit in het tijdperk van genetische algoritmen vorm kan geven.

Het Europese perspectief: Homo Digitalis

Het Deense voorstel werd gezien als innovatief en ambitieus en wekte zowel enthousiasme als scepsis. Zoals Lefteris Helioudakis, advocaat gespecialiseerd in nieuwe technologieën en directeur van Homo Digitalis , uitlegde: "Op het eerste gezicht lijkt het voorstel een twijfelachtige omweg. Auteursrecht functioneert als een sociaal contract: de maker van een origineel werk draagt ​​iets bij aan de samenleving en in ruil daarvoor verleent de samenleving die maker exclusieve rechten. Deze logica uitbreiden naar biometrische informatie staat haaks op de fundamentele beginselen van het intellectuele-eigendomsrecht." De ambitieuze nieuwe Deense wet schept dan ook een nieuw precedent, gebaseerd op het concept van identiteit in plaats van creatie, iets wat nog nooit eerder is voorgekomen.

Homo Digitalis wijst er ook op dat het wettelijk kader op Europees niveau al bestond in Richtlijn 1385/2024, die het gebruik van deepfakes in gevoelige contexten strafbaar stelt, tot aan de Wet digitale diensten (DSA), die regels bevat over illegale content en platformaansprakelijkheid. "Dergelijke wettigheidsregels worden feitelijk vastgesteld door de nationale parlementen van de EU-lidstaten. Denemarken zou dus andere bepalingen over persoonsgegevens, desinformatie en smaad kunnen onderzoeken om dergelijk gebruik van deepfakes aan te pakken, maar dat heeft het niet gedaan." Nog een stap verder: als kritiek op de "innovatie" van de Deense aanpak trekken dergelijke unilaterale nationale initiatieven wellicht media-aandacht, maar ze pakken de kern van het probleem niet aan.

Op het eerste gezicht lijkt het voorstel een twijfelachtige omweg. Auteursrecht functioneert als een sociaal contract: de maker van een origineel werk draagt ​​iets bij aan de samenleving, en in ruil daarvoor verleent de samenleving die maker exclusieve rechten. Deze logica doortrekken naar biometrische informatie staat haaks op de fundamentele beginselen van het intellectuele-eigendomsrecht.

Tegelijkertijd is Homo Digitalis categorisch als het gaat om de vrijheid van meningsuiting: "Uitzonderingen voor parodie, satire en politieke kritiek zijn al goed verankerd binnen de EU-auteursrechtwetgeving… Samen bieden deze mechanismen zowel de wettelijke waarborgen voor de vrijheid van meningsuiting als de procedurele instrumenten om schadelijke deepfakes aan te pakken, zonder het onderliggende evenwicht opnieuw uit te vinden." Met andere woorden: het kader voor de bescherming van satire en politieke kritiek bestaat al, en er is geen behoefte aan een nieuw evenwicht; wat nodig is, is de toepassing van de bestaande, goed onderbouwde regels.

Hun observatie over platformverantwoording, met de DSA, brengt de verplichting van grote platforms om systematische risicobeoordelingen uit te voeren opnieuw onder de aandacht, niet alleen voor illegale content, maar ook voor materiaal dat "het publieke debat kan ondermijnen". Dit betekent dat er al voorzieningen zijn voor deepfakes, en dat deze dus onder verplichte mitigatiemaatregelen vallen, zelfs via het wettelijk vastgelegde crisisresponsmechanisme. De interventie van Denemarken lijkt meer op een politieke daad dan op een juridische noodzaak, mogelijk in lijn met de bredere trend van EU-veiligheid, die zich uitstrekt tot de digitale ruimte.

Tot slot, volgens Lefteris Helioudakis, directeur van Homo Digitalis, is het gevaar dat regelgeving als een wondermiddel wordt beschouwd, terwijl de werkelijke uitdaging systemisch is. Zoals de heer Helioudakis waarschuwt: "Te vaak bepalen commerciële belangen de agenda en dringen ze aan op snelle invoering, ondanks onopgeloste ethische, juridische en maatschappelijke zorgen. Dit gebrek aan bereidheid en kritische toetsing vergroot de kans dat AI individuele rechten en democratische processen zal ondermijnen." De strijd speelt zich niet alleen af ​​tegen deepfakes; het speelt zich af tegen de manier waarop kunstmatige intelligentie elk aspect van ons leven binnendringt zonder voldoende publiek debat. Kortom, Homo Digitalis wijst het Deense initiatief niet af, maar ziet het als een kans voor iets breders. Ze maken duidelijk wanneer ze ons vertellen: "Wat nu nodig is, is een kritische reflectie op bestaande regels en actief experimenteren met de remedies die ze bieden. Dit vereist een bredere betrokkenheid van burgers… We hebben dringend meer stemmen en meer participatie nodig om zinvol toezicht en democratische veerkracht te garanderen." De uitdaging is dus niet alleen om onze identiteit juridisch vast te leggen, maar ook om deze politiek te beschermen, door middel van collectieve actie en democratische controle.

" Te vaak bepalen commerciële belangen de agenda en dringen ze aan op snelle acceptatie, ondanks onopgeloste ethische, juridische en maatschappelijke zorgen. Dit gebrek aan paraatheid en kritische toetsing vergroot de kans dat AI individuele rechten en democratische processen zal ondermijnen. "

Filosoferen over zwarte spiegel

Het idee van auteursrecht op het lichaam is in wezen een poging om iets dat anders vanzelfsprekend is, namelijk dat ons lichaam ons toebehoort – in het algemeen – juridisch vorm te geven. Het Deense wetgevingsinitiatief wordt daarmee iets wat we tot nu toe als vanzelfsprekend beschouwden, namelijk dat ons lichaam ons toebehoort. De juridische bescherming zelf laat echter zien dat deze vanzelfsprekende waarheid is ingestort, verstoord, en dat technologie ons dwingt te definiëren wat 'ego' betekent wanneer onze stem, ons beeld en zelfs onze gedachten eindeloos gekopieerd kunnen worden, in een poging onszelf opnieuw te vestigen als eigenaar van onszelf via derde parameters.

Het probleem, aangezien het ons op materieel niveau aangaat, kan niet anders dan ontologisch zijn. Het lichaam is het referentiepunt voor identiteit, een materiële grens die het zelf van de ander onderscheidt. Wanneer dit lichaam perfect gereproduceerd kan worden, valt de grens weg, vooral wanneer mijn digitale 'kloon' niet langer een vreemde is, maar ook niet precies ikzelf. Het is een hybride die mijn stem en mijn bewegingen draagt, maar niet mijn wil gehoorzaamt. En hier ligt de uitdaging, niet in wie de intellectuele eigendomsrechten bezit, maar in hoe we het concept van subjectiviteit, van het zelf, in stand houden in een wereld waarin het zelf zich heeft vermenigvuldigd. Het auteursrecht op het lichaam wordt momenteel besproken in markttermen, in termen van registratie, licenties en compensatie – met de logica dat het enerzijds beschermend zou moeten zijn, maar anderzijds dat het identiteit transformeert tot kapitaal, en dit is geen probleem van de oplossing, maar onderdeel van het probleem dat we moeten oplossen. Als mijn lichaam een ​​bezit is, kan ik het verhuren, verkopen, overdragen – of het verliezen als ik de bescherming ervan niet kan betalen. Vrijheid wordt een privilege, waarbij het probleem niet empowerment is, maar een nieuwe vorm van afhankelijkheid, waarbij de individuele soevereiniteit die het auteursrecht zou moeten verdedigen een voorwaarde wordt voor deelname aan de samenleving. Zo leidt de dreiging tot een bijkomend probleem, waarbij het lichaam wordt getransformeerd van een ervaringsplek tot een object van beheer, waarbij de samenleving niet functioneert in termen van erkenning, maar in termen van gehoorzaamheid. Een gehoorzaamheid die een soort licentie impliceert waarbij je onzichtbaar of kwetsbaar wordt als je jezelf niet "beschermt". Bijgevolg is individuele identiteit niet langer een relatie, maar een contract.

Het echte antwoord hierop kan niet simpelweg meer rechten zijn; we hebben een concept van 'eigendom' nodig dat het lichaam niet definieert als een handelsartikel, maar als een verlengstuk van de menselijke waardigheid, een terugkeer naar de wortels van de mensenrechten. Een beleid dat zich niet beperkt tot financiële compensatie, maar ervoor zorgt dat geen enkel gebruik van de afbeelding of 'kloon' de autonomie van de persoon kan ondermijnen. De filosofische uitdaging van het auteursrecht op het lichaam is niet om een ​​eerlijke prijs voor ons gezicht te vinden, of een eerlijke straf voor misbruik ervan, maar om ervoor te zorgen dat ons gezicht nooit verkoopbaar wordt. Alleen op deze manier kan technologie de menselijke vrijheid uitbreiden in plaats van tenietdoen.

Geschreven door

Geef het gesprek vorm

Heb je iets toe te voegen aan dit verhaal? Heb je ideeën voor interviews of invalshoeken die we moeten verkennen? Laat het ons weten als je een vervolg wilt schrijven, een tegengeluid wilt laten horen of een soortgelijk verhaal wilt delen.