Deepfake teknologi vækker de døde til live. Men er det etisk forsvarligt?

Klummeskribent Nicolai Franck zoomer denne gang ind på deepfake-teknologien. Nicolai tror, at den falske virkelighed er en, vi i stigende grad kommer til at leve med - hvis vi da altså kan få øje på den. Hvorfor? Læs med og få forklaringen.

KLUMME: Kan vi overhovedet stole på, hvad vi ser?

Det spørgsmål er blevet tiltagende relevant, i takt med at deepfake-videoer har gjort sit indtog på internettet, hvor kendte personer siger ting, de aldrig har sagt, og gør ting de aldrig har gjort.

Senest har falske videoer med Tom Cruise spredt sig hastigt — videoer der vel at mærke ikke er til at skelne fra virkeligeheden.

Deepfakes skabes ved, at timevis af video fodres til en computer, som afkoder personens ansigtstræk og mimik.

Når computeren først har "lært personen at kende", er det efterfølgende relativt simpelt at få en falsk Tom Cruise til at spille golf eller fortælle om et møde med den tidligere russiske præsident Mikhail Gorbatjov, som aldrig har fundet sted.   

Se den falske Tom Cruise her

 Samme teknologi vækker døde mennesker til live
Den samme teknologi — altså computerens evne til at animere et ansigt — kan nu også bruges til at vække døde familiemedlemmer til live.

En ny “nostalgi-feature” fra det israelske firma MyHeritage tog for nylig sociale medier med storm.
Her har brugere delt videoer, hvor gamle fotos af typisk bedste- eller oldeforældre er blevet bragt til live ved hjælp af teknologien.

Kort fortalt bruges algoritmer, i stil med hvordan man laver deepfake-videoer, til at animere fotografierne, så ansigtet på et still-billede pludselig både smiler, blinker og drejer hovedet.

Se eksempel her.   

TV-station har lavet falske udgaver af værterne
Uagtet hvad man synes om deepfake-teknologien, så er den med sikkerhed kun i sin spæde start.
Senest har en sydkoreansk TV-station eksperimenteret med deepfake-udgaver af deres egne nyhedsværter. De har ganske enkelt brugt falske computergenererede kopi-værter til at læse rigtige nyheder op på TV. TV-kanalen MBN siger, at de foreløbigt vil fortsætte med at bruge teknologien, blandt andet til at levere breaking news når værterne ikke er på arbejde.

Er det etisk forsvarligt?
Spørgsmålet er, om det er etisk forsvarligt?
Lig nu er det i hvert fald mere end svært at forestille sig en falsk udgave af Kåre Quist tone frem på de danske TV-skærme, ganske enkelt fordi troværdigheden forsvinder.

Jeg er personligt mere i tvivl om, hvorvidt man kan tillade sig at vække døde familiemed-lemmer til live. For uagtet at det kan virke harmløst, så stopper teknologien jo ikke her.
Problemet opstår først for alvor, når der kommer lyd på den slags falske videoer, og folk pludselig siger ting, de aldrig har sagt.

Etisk er det virkelig kompliceret, og umiddelbart er deepfake-teknologien ikke en, der bringer meget positivt med sig. Mit bedste bud er dog, at den falske virkelighed er en, vi i stigende grad kommer til at leve med — hvis vi altså kan få øje på den.

Om klummeskribenten: Nicolai Franck er ansvarshavende redaktør på teknologimediet Techliv og vært på podcasten af samme navn.