af Darnell Howard Boddie

Du har sikkert set nogle af de her videoer, som til forveksling ligner optagelser af virkeligheden – som for eksempel en falsk Tom Cruise, der gøgler rundt på TikTok eller en Mette Frederiksen-kopi, der er træt af at lave Instagram-videoer i satireprogrammet Tæt på Sandheden på DR.

Deepfake er et udtryk for en teknologi som ved hjælp af kunstig intelligens kan lave utroligt realistiske falske eller syntetiske videoer, billeder, stemmer eller tekst. Det kræver ikke længere gigantiske og dyre computere at lave deepfakes. Teknologien er stort set tilgængelig for enhver med en computer.

Teknologien har vist sig at have en stor mængde af mulige anvendelser. Dog indeholder 96% af alle deepfakes fortsat brug af ufrivillige personer – og her taler vi mest kendte kvinders – ansigter indsat i pornografisk materiale.

Med deepfakes ændres virkeligheden på video. Det er uden tvivl mest overbevisende, når det ikke er live video, der ændres, samtidig med at det udsendes. Men når teknologien bliver bedre, kan selv direkte udsendelser forfalskes i overbevisende grad.

Tilføj digitale elementer til virkeligheden - eller fjern virkelige elementer digitalt

Med virtual reality (VR) og augmented reality (AR) kan man bevæge sig rundt i henholdsvist fuldstændige eller delvist digitale virkeligheder, hvor der er et digitalt lag på det, vi ser omkring os. Det kan være alt fra et computerspil, der spilles i en digital verden i et VR-headset, eller tilføjelsen af hundeører på et Snapchat-filter. Fælles for teknologien er, at de manipulerer og tilføjer digitale, syntetiske elementer til virkeligheden. Det modsatte af at tilføje et digitalt element til virkeligheden er digitalt at fjerne et virkeligt element fra virkeligheden. Denne teknologi hedder Diminished Reality (DR).

Sune Holm Thøgersen, direktør for Insight & Strategy på Advice mener, at 2020’erne vil kendetegnes som det syntetiske årti. I år har han virtuelt været til techfestivalen South By SouthWest (SXSW), hvor der bl.a. blev talt meget om den syntetiske virkelighed - og hvordan deepfakes og diminished reality ændrer på vores oplevelse af verden. Ifølge eksperterne i techverden bliver det definerende træk ved det syntetiske årti, at teknologien nu gør det nemmere at filtrere virkeligheden, som det passer os. Sune Holm Thøgersen fortæller om dette til ENIGMAs podcast, Vi Er Data:

”Virkeligheden har vi altid oplevet gennem vores sanser, men nu gør teknologien, at man kan ”hacke” virkeligheden på forskellig vis. Hvor AR-briller vil kunne lægge et bestemt filter over den oplevelse, vi har af verden, ved at præsentere os med ekstra information, så er DR det modsatte. Med DR kan man fjerne elementer af ens virkelighedsoplevelse såsom; syn lyde og lugte.”

Som altid har teknologi både et positivt og negativt potentiale. Thøgersen påpeger, at der er mange eksempler på måder, DR kan forbedre livskvalitet. Det kan for eksempel bruges i behandling af folk, der lider af PTSD. Her ville det være ideelt at kunne bortfiltrere høje lyde, billeder og hændelser, der ville kunne trigge personen. Teknologien bliver også udforsket i forbindelse med ’Sleep tech’ – teknologi, som skal kunne hjælpe med en bedre nattesøvn. Derudover eksperimenteres der også med DR i forbindelse med byggeprojekter, der skal komme larmen fra den evigt voksende storby til livs.

Der er altså mange områder, hvor det ville være gavnligt for menneskeheden at kunne fjerne forstyrrende fænomener. Dog advarer Thøgersen: ”Man kunne lige så godt bruge DR til at fjerne alle de ting, man ikke gider se. Det kunne være skrald fra gaden i en storby eller endda hjemløse. Så behøver man ikke kigge på ulækre, beskidte mennesker, som ødelægger ens tur til Paris.”

Fænomenet DR tilbyder en fristende mulighed; en hurtig løsning til grimme problemer. Anton Gade-Nielsen stiller spørgsmålet i slutningen af Vi Er Data: ”Hvad har vi brug for at fjerne fra virkeligheden, som vi ikke kan fjerne i virkeligheden?” Og Marie Høst tilføjer: ”Hvor længe mon, det vil tage, før man glemmer, at man har sat et DR-filter til?”

En hver forestilling om utopi kan visne i praksis, når man medregner menneskelig natur. Når det gælder DR, er der mange etiske overvejelser at tage op, hvis man skal undgå det dystopiske minefelt, som teknologien præsenterer. Dét er et stort takeaway som Thøgersen har med sig fra SXSW.

Hvert år udgiver Amy Webb en rapport på SXSW. Hun er en fremtrædende futurist og tech-trend forsker og rapporten hun udgiver afsluttes normalt med to fremtidsscenarier, et utopisk og dystopisk, men i år blev den kun afsluttet med ét fremtidsscenarie – det dystopiske. Ved at varsle om en mørk fremtid forsøgte Webb ikke at erklære håbløshed eller erkende nederlag, nærmere var hensigten at fremprovokere beslutsomhed, besindighed og ansvar.

”Hun siger, at det er op til os i fællesskab at skulle sørge for, at vi får brugt det på den rigtige måde – at vi tager ansvar for, hvordan vi bruger teknologien. Den syntetiske virkelighed bliver fed for alle os, der har resurserne. Det vil kunne hjælpe os med at fokusere, arbejde effektivt, slappe af og optimere vores liv på alle mulige måder. Men for de fattige og udsatte kan det bruges til at kontrollere, erstatte dem med avatarer og stjæle deres ansigter. Det kunne blive et rent ’Black Mirror’-scenarie for de fattige,” siger Thøgersen.

"Det er ligesom i Black Mirror"

Når det gælder dystopiske fremtidsscenarier, er ’Black Mirror’ en glimrende kilde. Den britiske science fiction- og thrillerserie til Netflix undersøger netop de uventede og mørke konsekvenser, der fødes af nye teknologier. Black Mirror har følgende tre bud på hvordan DR kan bruges i fremtiden: Blokering, censur og manipulation.

I episoden ”White Christmas” bruges DR til at blokere uønskede personer. Ved et tryk på en knap kan man via sine øjne reducere blokerede mennesker til en pixeleret og lydløs masse. Denne funktion bruges også af retssystemet, som kan tilgå folks øjne, blokere dem for alle andre borgere og visa versa, hvilket markerer individet som farligt for alle, det møder. Det forhindrer offeret at kommunikere med andre, hvilket udstøder og isolerer dem for altid.

I episoden ”Arkangel” implanterer en mor et sikkerhedssystem i sin datter, der bl.a. kan overvåge, alt hun gør, men som også kan censurere og fjerne farlige ting fra datterens virkelighed – skræmmende hunde, bandeord og halshugningsvideoer på internettet bliver alle censureret i real time. Den digitale overbeskyttelse ender dog med reelle konsekvenser.

Og så er der ”Men Against Fire,” hvis handling foregår i nær-fremtidens Danmark, som i episoden er kriseramt og krigshærget, besat af FN-lignende tropper. Her bruger de besættende styrker DR til at fjerne alle de skræmmende lyde, syn og lugte, der ellers ville kunne traumatisere soldaterne. En form for augmented reality bruges også til at få ’fjenden,’ som her kaldes ”Roaches” (’kakerlakker’) til at fremstå som umenneskelige mutanter. Skulle ulydighed forekomme, kan der også slukkes for soldaternes sanser, som nemt kan gøre dem hjælpeløse og ukampdygtige.

Forhåbentlig forbliver disse dystopiske fremtidsscenarier i fiktionen. Men når både tech-trend eksperter og ’Black Mirror’ varsler om en dystopisk fremtid med Diminished Reality, så virker det altafgørende, at vi først må kunne forestille os- og forvente det værste, og se den mulige, grimme fremtid i øjnene med et ufiltreret blik, hvis vi skal være i stand til reelt at forhindre den.

Du kan lytte til ENIGMAs podcast Vi Er Data om emnet ved at klikke her: