Iskra

Dánsko nebude hrať v ďalšej sezóne seriálu Black Mirror.

Predstavte si, že sa jedného rána zobudíte a zistíte, že ste mali tlačovú konferenciu, na ktorej ste povedali veci, ktoré ste si nikdy nepredstavovali, a pritom si na ňu ani nepamätáte. Vo svete seriálu Black Mirror je dnes jednoducho utorok. Váš obraz, váš hlas, dokonca ani vaše výrazy tváre vám už nepatria; stali sa duševným vlastníctvom niekoho iného, ​​materiálom na reprodukciu, zábavu alebo dokonca mučenie. Pretože v tomto vesmíre nie je otázkou, či vás technológia zradí, ale kedy. Od lode „USS Callister“, kde sú postavy uväznené v digitálnych klonoch bez ich súhlasu, až po „Joan Is Awful“, kde sa život ženy stáva majetkom streamovacej platformy, sa seriál stále dookola pohráva s tou istou myšlienkou: že váš obraz, váš hlas, dokonca aj vaša osobnosť sa môžu stať produktom bez toho, aby ste do toho mali slovo.

V nie až tak vzdialenom svete, v apríli 2024, dánska premiérka Mette Frederiksenová zrušila Veľkú noc, Vianoce a niekoľko ďalších sviatkov, uviedol predseda Dánskej ľudovej strany Morten Messerschmidt, ktorý zverejnil video premiérky pri jej vyhlásení. Morten Messerschmidt, ktorý zverejnil video premiérky pri jej vyhlásení. Je zrejmé, že video bolo deepfake a bolo takto označené, ale stalo sa virálnym a okamžite nasledovala politická búrka. Takmer všetky strany tento čin odsúdili a vyzvali vládu, aby prijala legislatívu.

Tu si môžete pozrieť obrázok z videa, ktorý zobrazuje falošnú Mette Frederiksenovú. Obrázok je vygenerovaný umelou inteligenciou. (Foto: © Snímka obrazovky z X)

O rok neskôr minister kultúry Jakob Engel-Schmidt predložil radikálny návrh, aby všetci Dáni automaticky získali autorské práva na svoje vlastné prvky. Tento návrh získal širokú podporu, pričom deväť z jedenástich strán v parlamente súhlasilo s poskytnutím potrebného konsenzu, ktorý by umožnil každému občanovi požadovať odstránenie deepfakov, ktoré sa ho týkajú, z akejkoľvek platformy, a to aj v prípade, že neboli komerčne využité. Návrh tiež ustanovuje kompenzáciu, pričom zachováva výnimku pre paródiu a satiru.

Jadrom debaty o etike tejto záležitosti bola diskusia o tom, čo by sa stalo, keby sa tá istá technológia použila v období krízy, napríklad keby sa ukázalo, ako premiér vyhlasuje núdzový stav alebo oznamuje reštriktívne opatrenia v dôsledku krízy. Obava spočívala v tom, že deepfake nie sú len vtipné alebo nebezpečné videá, ale nástroje schopné podkopať dôveru v samotné inštitucionálne hlasy. Inováciou, ktorú tento dánsky model zavádza, je proaktívnosť, t. j. dôkaz o ujme obete nie je potrebný, v podstate sa menia údaje, čím sa automatickým a univerzálnym aktom obnovuje čistá zvrchovanosť vzhľadu a identity.

Schopnosť umelej inteligencie vytvárať realistický obsah premenila samotný koncept dôkazu na bojisko, kde sa deepfakey môžu použiť na obídenie systémov rozpoznávania tváre a hlasu, až do bodu, kedy sa získa nelegálny prístup k citlivým údajom. Problém sa samozrejme nekončí len kybernetickou bezpečnosťou, pričom sociálne a psychologické dôsledky sú obrovské. 95 % deepfakeov je pornografických, neúmerne postihujúcich ženy a maloletých, zatiaľ čo schopnosť odmietnuť vierohodný materiál ako falošný, takzvaná dividenda klamára, podkopáva dôveru vo verejnú diskusiu. V politickej scéne boli pozoruhodným príkladom deepfake audiohovory s „hlasom Joea Bidena“, ktoré zabránili voličom ísť k volebným urnám v New Hampshire, čo ukazuje, ako takéto nástroje môžu destabilizovať aj voľby. Nová realita nemá nič spoločné so súkromím ako takým, ale s jeho rozšírením ako otázkou demokratickej bezpečnosti.

Dánsko sa svojím návrhom snaží túto medzeru preklenúť. Krajina má v úmysle využiť svoje nadchádzajúce predsedníctvo EÚ na presadzovanie tejto otázky v Bruseli. Engel-Schmidt už vyjadril svoj zámer nastoliť túto otázku na európskej úrovni a presadzovať spoločný rámec, ktorý by zaviazal aj veľké platformy k dodržiavaniu predpisov, pričom hrozia vysoké pokuty za nedodržiavanie predpisov. Dánsko sa tak stáva malým laboratóriom pre intervenciu, ktorá by mohla formovať európske pravidlá na ochranu digitálnej identity v dobe genetických algoritmov.

Európska perspektíva: Homo Digitalis

Dánsky návrh bol vnímaný ako inovatívny a ambiciózny, vyvolal nadšenie aj skepticizmus. Ako vysvetlil Lefteris Helioudakis, právnik špecializujúci sa na nové technológie a výkonný riaditeľ organizácie Homo Digitalis : „Na prvý pohľad sa návrh javí ako pochybné riešenie. Autorské práva fungujú ako spoločenská zmluva: tvorca originálneho diela prispieva niečím spoločnosti a na oplátku spoločnosť udeľuje tomuto tvorcovi výhradné práva. Rozšírenie tejto logiky na biometrické informácie nie je v súlade so základnými princípmi práva duševného vlastníctva.“ V dôsledku toho ambiciózny nový dánsky zákon vytvára nový precedens založený na koncepte identity, a nie tvorby, čo je niečo, čo nemá žiadny precedens.

Homo Digitalis tiež poukazuje na to, že právny rámec na európskej úrovni už existoval v smernici 1385/2024, ktorá kriminalizuje používanie deepfakeov v citlivých kontextoch, až po zákon o digitálnych službách (DSA), ktorý stanovuje pravidlá týkajúce sa nelegálneho obsahu a zodpovednosti platformy. „Takéto pravidlá zákonnosti v skutočnosti vytvárajú národné parlamenty členských štátov EÚ. Dánsko by teda mohlo preskúmať ďalšie ustanovenia o osobných údajoch, dezinformáciách a ohováraní, aby sa vysporiadalo s takýmto používaním deepfakeov, ale neurobilo to.“ V kritike „inovácie“ dánskeho konania ideme ešte o krok ďalej a takéto jednostranné národné iniciatívy môžu prilákať pozornosť médií, ale neriešia koreň problému.

„Na prvý pohľad sa návrh javí ako pochybné riešenie. Autorské práva fungujú ako spoločenská zmluva: tvorca originálneho diela prispieva niečím spoločnosti a na oplátku spoločnosť udeľuje tomuto tvorcovi výhradné práva. Rozšírenie tejto logiky na biometrické informácie nie je v súlade so základnými princípmi práva duševného vlastníctva.“

Zároveň, pokiaľ ide o slobodu prejavu, Homo Digitalis je kategorický: „Výnimky pre paródiu, satiru a politickú kritiku sú už dobre zavedené v rámci autorského práva EÚ… Tieto mechanizmy spolu poskytujú právne záruky slobody prejavu aj procedurálne nástroje na boj proti škodlivým deepfakes bez toho, aby sa nanovo vynášla základná rovnováha.“ Inými slovami, rámec na ochranu satiry a politickej kritiky už existuje a nie je potrebná nová rovnováha; potrebné je uplatňovanie existujúcich, dobre podložených pravidiel.

Ich postreh k zodpovednosti platforiem v spolupráci s DSA opäť vracia do popredia povinnosti veľkých platforiem vykonávať systematické hodnotenia rizík, a to nielen v prípade nelegálneho obsahu, ale aj v prípade materiálu, ktorý „môže narušiť verejnú diskusiu“. To znamená, že už existuje ustanovenie o deepfakes, a preto spadajú pod povinné zmierňujúce opatrenia, a to aj prostredníctvom mechanizmu reakcie na krízu stanoveného zákonom. Zásah Dánska sa javí skôr ako politický akt než právna nevyhnutnosť, pravdepodobne v súlade so širším trendom bezpečnosti EÚ, ktorý sa rozširuje do digitálneho priestoru.

Podľa Lefterisa Helioudakisa, výkonného riaditeľa organizácie Homo Digitalis, hrozí nebezpečenstvo, že regulácia bude vnímaná ako všeliek, zatiaľ čo skutočná výzva je systémová. Ako varuje pán Helioudakis: „Príliš často komerčné záujmy formujú agendu a presadzujú rýchle prijatie napriek nevyriešeným etickým, právnym a spoločenským obavám. Táto nedostatočná pripravenosť a kritické skúmanie zvyšuje pravdepodobnosť, že umelá inteligencia podkope individuálne práva a demokratické procesy.“ Boj sa nevedie len proti deepfake; ide o spôsob, akým umelá inteligencia napáda každú oblasť nášho života bez dostatočnej verejnej diskusie. Stručne povedané, Homo Digitalis neodmieta iniciatívu Dánska, ale vníma ju ako príležitosť na niečo širšie a jasne nám dáva najavo, že „teraz je potrebná kritická reflexia existujúcich pravidiel a aktívne experimentovanie s nápravnými opatreniami, ktoré poskytujú. To si vyžaduje širšie zapojenie občanov… Naliehavo potrebujeme viac hlasov a väčšiu účasť, aby sme zabezpečili zmysluplný dohľad a demokratickú odolnosť.“ Výzvou teda nie je len právne ustanoviť našu identitu, ale aj politicky ju chrániť prostredníctvom kolektívnej akcie a demokratickej kontroly.

Príliš často komerčné záujmy formujú agendu a presadzujú rýchle prijatie napriek nevyriešeným etickým, právnym a spoločenským obavám. Táto nedostatočná pripravenosť a kritické skúmanie zvyšuje pravdepodobnosť, že umelá inteligencia podkope individuálne práva a demokratické procesy.

Filozofovanie čierneho zrkadla

Myšlienka autorských práv na telo je v podstate pokusom o právne zakotvenie niečoho, čo je inak samozrejmé, a to, že naše telá patria nám – vo všeobecnosti – čím sa dánska legislatívna iniciatíva mení na niečo, čo sme doteraz považovali za samozrejmosť, a to, že naše telá patria nám. Samotný akt právnej ochrany však odhaľuje, že táto samozrejmá pravda sa zrútila, bola narušená a že technológia nás núti definovať, čo znamená „ego“, keď sa náš hlas, obraz a dokonca aj naše myšlienky dajú donekonečna kopírovať v snahe znovu sa etablovať ako vlastníci nášho vlastného ja prostredníctvom tretích parametrov.

Problém, keďže sa nás týka na materiálnej úrovni, nemôže byť nič iné ako ontologický. Telo je referenčným bodom pre identitu, materiálnou hranicou, ktorá odlišuje ja od druhého. Keď sa toto telo dá dokonale reprodukovať, hranica sa zrúti, najmä keď môj digitálny „klon“ už nie je cudzinec, ale ani nie som úplne ja. Je to hybrid, ktorý nesie môj hlas a moje pohyby, ale neposlúcha moju vôľu. A tu spočíva výzva, nie v tom, kto vlastní práva duševného vlastníctva, ale v tom, ako si zachovávame koncept subjektivity, ja, vo svete, kde sa ja znásobilo. Autorské práva k telu sa v súčasnosti diskutujú z hľadiska trhu, z hľadiska registrácie, licencovania a kompenzácie – s logikou, že na jednej strane by mali byť ochranné, ale na druhej strane, že transformujú identitu na kapitál, a to nie je problém riešenia, ale súčasť problému, ktorý máme riešiť. Ak je moje telo aktívom, môžem si ho prenajať, predať, prideliť – alebo ho stratiť, ak si nemôžem zaplatiť za jeho ochranu. Sloboda sa stáva privilégiom, pričom problémom nie je posilnenie postavenia, ale nová forma závislosti, kde sa individuálna suverenita, ktorú má autorské právo chrániť, stáva predpokladom účasti v spoločnosti. Hrozba tak vedie k ďalšiemu problému, kde sa telo transformuje z miesta skúseností na objekt riadenia, pričom spoločnosť nefunguje na základe uznania, ale na základe podriadenosti. Podriadenosti, ktorá zahŕňa akýsi druh licencie, kde ak sa „nechránite“, stanete sa buď neviditeľnými, alebo zraniteľnými. V dôsledku toho individuálna identita už nie je vzťahom, ale zmluvou.

Skutočnou odpoveďou na to nemôže byť jednoducho viac práv; potrebujeme koncept „vlastníctva“, ktorý nedefinuje telo ako komoditu, ale ako rozšírenie ľudskej dôstojnosti, návrat ku koreňom ľudských práv. Politiku, ktorá sa neobmedzuje len na finančnú kompenzáciu, ale zabezpečuje, aby žiadne použitie obrazu alebo „klonu“ nemohlo odobrať autonómiu osoby. Filozofickou výzvou autorských práv na telo nie je nájsť spravodlivú cenu za našu tvár alebo spravodlivý trest za jej zneužitie, ale zabezpečiť, aby sa naša tvár nikdy nestala predajnou. Iba týmto spôsobom môže technológia rozšíriť, a nie zrušiť, ľudskú slobodu.

Formujte konverzáciu

Chcete k tomuto príbehu niečo dodať? Máte nejaké nápady na rozhovory alebo uhly pohľadu, ktoré by sme mali preskúmať? Dajte nám vedieť, ak by ste chceli napísať pokračovanie, protipól alebo sa podeliť o podobný príbeh.