L'étincelle

Le Danemark ne participera pas à la prochaine saison de Black Mirror.

Imaginez-vous vous réveiller un matin et découvrir que vous avez donné une conférence de presse, en disant des choses que vous n'auriez jamais imaginées, sans même vous en souvenir. Dans l'univers de Black Mirror , c'est un jour comme un autre. Votre image, votre voix, même vos expressions ne vous appartiennent plus ; elles sont devenues la propriété intellectuelle de quelqu'un d'autre, un matériau à reproduire, à divertir, voire à torturer. Car dans cet univers, la question n'est pas de savoir si la technologie vous trahira, mais quand. De « USS Callister », où des personnages sont piégés dans des clones numériques sans leur consentement, à « Joan Is Awful », où la vie d'une femme devient la propriété d'une plateforme de streaming, la série explore sans cesse la même idée : votre image, votre voix, voire votre personnalité, peuvent devenir un produit sans que vous ayez votre mot à dire.

Dans un monde proche, en avril 2024, la Première ministre danoise Mette Frederiksen abolirait Pâques, Noël et plusieurs autres jours fériés, selon le président du Parti populaire danois, Morten Messerschmidt, qui a publié une vidéo de l'annonce faite par la Première ministre. Cette vidéo, un deepfake, a été signalée comme telle, mais elle est devenue virale, déclenchant immédiatement une vive polémique. Presque tous les partis ont condamné cette mesure et ont appelé le gouvernement à légiférer.

Voici une image extraite de la vidéo montrant une fausse Mette Frederiksen. L'image est générée par intelligence artificielle. (Photo : © Capture d'écran de X)

Un an plus tard, le ministre de la Culture, Jakob Engel-Schmidt, a présenté une proposition radicale visant à accorder automatiquement à chaque Danois les droits d'auteur sur ses propres créations. Cette proposition a reçu un large soutien : neuf des onze partis représentés au Parlement ont accepté de créer le consensus nécessaire pour permettre à chaque citoyen d'exiger le retrait des deepfakes le concernant de n'importe quelle plateforme, même lorsqu'ils n'ont pas fait l'objet d'une exploitation commerciale. Elle prévoit également une compensation, tout en maintenant une exception pour la parodie et la satire.

Au cœur du débat, concernant l'éthique de la question, se trouvait la question de savoir ce qui se passerait si cette même technologie était utilisée en période de crise, par exemple si elle montrait le Premier ministre déclarant l'état d'urgence ou annonçant des mesures restrictives. On craignait que les deepfakes ne soient pas seulement des vidéos amusantes ou dangereuses, mais des outils capables de saper la confiance dans les institutions elles-mêmes. L'innovation introduite par ce modèle danois réside dans la proactivité : la preuve du préjudice subi par la victime n'est pas requise, les données étant modifiées de manière automatique et universelle, ce qui restaure la pleine souveraineté de l'apparence et de l'identité.

La capacité de l'intelligence artificielle à créer du contenu réaliste a transformé la notion même de preuve en un champ de bataille où les deepfakes permettent de contourner les systèmes de reconnaissance faciale et vocale, jusqu'à obtenir un accès illégal à des données sensibles. Le problème, bien sûr, ne se limite pas à la cybersécurité, ses implications sociales et psychologiques étant considérables. 95 % des deepfakes sont pornographiques, touchant de manière disproportionnée les femmes et les mineurs, tandis que la possibilité de discréditer des contenus plausibles en les qualifiant de faux, ce qu'on appelle le « dividende du menteur », mine la confiance dans le débat public. Sur le plan politique, un exemple frappant est celui des appels audio truqués avec la « voix de Joe Biden » qui ont empêché des électeurs de se rendre aux urnes dans le New Hampshire, démontrant comment de tels outils peuvent déstabiliser même les élections. Cette nouvelle réalité n'a rien à voir avec la vie privée en soi, mais avec son extension en matière de sécurité démocratique.

Le Danemark, avec sa proposition, tente de combler cette lacune, le pays ayant l'intention d'utiliser sa prochaine présidence de l'UE pour faire avancer la question à Bruxelles. Engel-Schmidt a déjà fait part de son intention de soulever la question à la table européenne et de plaider en faveur d'un cadre commun qui obligerait même les grandes plateformes à se conformer, sous peine de lourdes amendes en cas de non-conformité. Le Danemark devient ainsi un petit laboratoire pour une intervention qui pourrait façonner les règles européennes en matière de protection de l'identité numérique à l'ère des algorithmes génétiques.

Le point de vue européen : Homo Digitalis

La proposition danoise a été perçue comme novatrice et ambitieuse, suscitant à la fois enthousiasme et scepticisme. Comme l'explique Lefteris Helioudakis, avocat spécialisé dans les nouvelles technologies et directeur exécutif de Homo Digitalis : « À première vue, la proposition semble être un contournement discutable. Le droit d'auteur fonctionne comme un contrat social : le créateur d'une œuvre originale apporte une contribution à la société, et en retour, celle-ci lui accorde des droits exclusifs. Étendre cette logique aux données biométriques est contraire aux principes fondamentaux du droit de la propriété intellectuelle. » Par conséquent, la nouvelle loi danoise, ambitieuse, crée un précédent inédit, fondé sur la notion d'identité plutôt que sur celle de création.

Homo Digitalis souligne également que le cadre juridique européen existait déjà avec la directive 1385/2024, qui criminalise l'utilisation de deepfakes dans des contextes sensibles, et la loi sur les services numériques (DSA), qui encadre les contenus illégaux et la responsabilité des plateformes. « Ces règles de légalité relèvent en réalité des parlements nationaux des États membres de l'UE. Le Danemark aurait donc pu s'appuyer sur d'autres dispositions relatives aux données personnelles, à la désinformation et à la diffamation pour lutter contre ce type d'utilisation, mais il ne l'a pas fait. » Critiquant le caractère « innovant » de l'action danoise, Homo Digitalis estime que de telles initiatives nationales unilatérales, bien qu'elles attirent l'attention des médias, ne s'attaquent pas au fond du problème.

« À première vue, la proposition semble être un contournement discutable. Le droit d'auteur fonctionne comme un contrat social : le créateur d'une œuvre originale apporte une contribution à la société, et en retour, la société lui accorde des droits exclusifs. Étendre cette logique aux données biométriques est contraire aux principes fondamentaux du droit de la propriété intellectuelle. »

Parallèlement, concernant la liberté d'expression, Homo Digitalis est catégorique : « Les exceptions pour la parodie, la satire et la critique politique sont déjà bien établies dans le droit d'auteur de l'UE… Ensemble, ces mécanismes offrent à la fois les garanties juridiques nécessaires à la liberté d'expression et les outils procéduraux pour lutter contre les deepfakes nuisibles, sans pour autant bouleverser l'équilibre existant. » Autrement dit, le cadre de protection de la satire et de la critique politique existe déjà, et il n'est pas nécessaire de créer un nouvel équilibre ; il suffit d'appliquer les règles existantes, qui sont bien fondées.

Leur observation sur la responsabilité des plateformes, avec la DSA, remet au premier plan l'obligation pour les grandes plateformes de mener des évaluations systématiques des risques, non seulement pour les contenus illégaux, mais aussi pour les contenus « susceptibles de nuire au débat public ». Cela signifie que des dispositions existent déjà concernant les deepfakes, qui relèvent donc de mesures d'atténuation obligatoires, y compris par le biais du mécanisme de réponse aux crises prévu par la loi. L'intervention du Danemark semble davantage relever d'un acte politique que d'une nécessité juridique, s'inscrivant peut-être dans la tendance plus large de l'UE en matière de sécurité, qui s'étend à l'espace numérique.

Enfin, selon Lefteris Helioudakis, directeur exécutif de Homo Digitalis, le danger réside dans le fait que la réglementation soit perçue comme une solution miracle, alors que le véritable défi est systémique. Comme le souligne M. Helioudakis : « Trop souvent, les intérêts commerciaux dictent les priorités, imposant une adoption rapide malgré des préoccupations éthiques, juridiques et sociétales non résolues. Ce manque de préparation et d’examen critique accroît la probabilité que l’IA porte atteinte aux droits individuels et aux processus démocratiques. » Le combat ne se limite pas aux deepfakes ; il concerne la manière dont l’intelligence artificielle envahit tous les aspects de nos vies sans débat public suffisant. En bref, Homo Digitalis ne rejette pas l’initiative danoise, mais y voit une opportunité pour une approche plus globale. L’organisation l’affirme clairement : « Il est désormais nécessaire de mener une réflexion critique sur les règles existantes et d’expérimenter activement les solutions qu’elles offrent. Cela requiert une plus grande implication citoyenne… Nous avons besoin de toute urgence de davantage de voix et de participation pour garantir un contrôle efficace et une résilience démocratique. » Le défi consiste donc non seulement à établir juridiquement notre identité, mais aussi à la protéger politiquement, par l’action collective et le contrôle démocratique.

« Trop souvent, les intérêts commerciaux dictent les priorités, imposant une adoption rapide malgré des préoccupations éthiques, juridiques et sociétales non résolues. Ce manque de préparation et d'examen critique accroît la probabilité que l'IA porte atteinte aux droits individuels et aux processus démocratiques. »

Miroir noir philosophant

L'idée de droit d'auteur sur le corps est essentiellement une tentative de formaliser juridiquement une évidence, à savoir que notre corps nous appartient – ​​en général – transformant ainsi l'initiative législative danoise en un principe que nous considérions jusqu'ici comme allant de soi : notre corps nous appartient. Cependant, l'acte même de protection juridique révèle que cette vérité, qui semblait aller de soi, s'est effondrée, a été bouleversée, et que la technologie nous oblige à redéfinir la notion d'« ego » lorsque notre voix, notre image, et même nos pensées peuvent être copiées indéfiniment, dans le but de nous réaffirmer comme propriétaires de nous-mêmes grâce à des tiers.

Le problème, puisqu'il nous concerne sur un plan matériel, ne peut être qu'ontologique. Le corps est le point de référence de l'identité, une frontière matérielle qui distingue le soi de l'autre. Lorsque ce corps peut être parfaitement reproduit, cette frontière s'effondre, surtout lorsque mon « clone » numérique n'est plus un étranger, mais pas exactement moi non plus. C'est un hybride qui porte ma voix et mes mouvements, mais qui n'obéit pas à ma volonté. Et c'est là que réside le défi : non pas la question de la propriété intellectuelle, mais celle de la préservation de la subjectivité, du soi, dans un monde où le soi s'est multiplié. Le droit d'auteur sur le corps est actuellement abordé sous l'angle du marché, en termes d'enregistrement, de licences et de compensation. L'idée est, d'une part, qu'il doit protéger, mais d'autre part, qu'il transforme l'identité en capital. Or, ce n'est pas un problème inhérent à la solution, mais bien une partie du problème que nous sommes appelés à résoudre. Si mon corps est un actif, je peux le louer, le vendre, le céder – ou le perdre si je ne peux pas payer pour sa protection. La liberté devient un privilège, le problème n'étant plus l'émancipation, mais une nouvelle forme de dépendance. La souveraineté individuelle que le droit d'auteur est censé défendre devient alors une condition préalable à la participation sociale. Ainsi, la menace engendre un problème supplémentaire : le corps se transforme d'un lieu d'expérience en un objet de gestion, la société fonctionnant non plus selon la reconnaissance, mais selon la conformité. Une conformité qui implique une sorte de licence : si l'on ne se « protège », on devient invisible ou vulnérable. Dès lors, l'identité individuelle n'est plus une relation, mais un contrat.

La véritable réponse à cette situation ne peut se limiter à l'octroi de davantage de droits ; il nous faut une conception de la « propriété » qui ne définisse pas le corps comme une marchandise, mais comme un prolongement de la dignité humaine, un retour aux sources des droits humains. Une politique qui ne se limite pas à une compensation financière, mais qui garantit qu'aucune utilisation de l'image ou d'un « clone » ne puisse porter atteinte à l'autonomie de la personne. Le défi philosophique du droit d'auteur sur le corps n'est pas de trouver un prix équitable pour notre visage, ni une sanction juste pour son utilisation abusive, mais de garantir que notre visage ne devienne jamais une marchandise. C'est la seule façon pour la technologie d'accroître, et non d'anéantir, la liberté humaine.

Façonner la conversation

Avez-vous quelque chose à ajouter à cette histoire ? Des idées d'interviews ou d'angles à explorer ? Faites-nous savoir si vous souhaitez écrire une suite, un contrepoint ou partager une histoire similaire.