Forestil dig, at du ser en video af den ukrainske præsident Volodymyr Zelenskyj, hvor han siger, at soldaterne skal lægge våbnene. Videoen bliver delt overalt på sociale medier og ender hurtigt i nyhederne. Men kort efter viser det sig, at videoen slet ikke er ægte. Den er lavet med kunstig intelligens, som har fået Zelenskyj til at sige noget, han aldrig har sagt i virkeligheden. Det er et klassisk eksempel på en såkaldt deepfake.
Begrebet deepfake dækker over både AI genererede nyheder og AI genererede billeder, der skal tjene penge på at scamme og sprede misinformation.
Flere kendte ansigter i mediebranchen har oplevet, at deres ansigter og stemmer bruges i deepfake-videoer, der lokker folk til falske investeringer eller klik på svindel-links. Det har blandt andet ramt flere markante personligheder hos TV2, Lau Pedersen og nyhedsværten Ditte Haue, der pludselig opdager sig selv “anbefale” forskellige falske investerings-apps i videoer, de aldrig har lavet. Det har fået TV 2 til at reagere direkte mod Facebook. TV 2 har i samarbejde med DR produceret en video, der er rettet direkte mod Facebook. De skriver følgende på deres profil: “Kære Facebook. Vi vil ikke lægge ansigt til mere fake news.” De kræver, at platformen modererer manipuleret indhold langt hurtigere og mere konsekvent.
For hvis der florerer deepfakes af mediepersonligheder, kan det gå udover branchens troværdighed, og hvis befolkningen bliver mistroiske over for medierne, så udfordrer det demokratiet.
Mistillid underminerer
En undersøgelse fra 2023 foretaget af IT-universitetet viser, at de her deepfakes påvirker holdninger og adfærd, især blandt unge på TikTok. Det kan rykke ved unges demokratiske opfattelse, hvis de ikke længere stoler på medierne, og det er et problem der kan splitte samfundet.
Deepfakes udfordrer demokratiet. Uden tillid til, hvad vi ser og læser i medierne, så forsvinder lysten til at se, læse eller lytte til journalistikken. Og hvis vi ikke følger nyhederne, så kan det skabe et samfund, hvor nogen ved meget og andre ved meget lidt om demokratiet. Og hvis man ikke forstår demokratiet, forstår man så hvorfor der er behov for demokratiet?
Men det er ikke længere kun scammere eller trolls, der anvender deepfakes. Morten Messerschmidt delte i maj måned en deepfake-video af statsminister Mette Frederiksen. Videoen viste Mette Frederiksen annoncere at regeringen ville afskaffe endnu flere fridage. Samtidigt har vi set Trump bruge AI som middel på X, hvor han blandt andet har delt et billede af Grønland med et Amerikansk flag over.
Manipuleret indhold truer tilliden til medierne, til politikkerne og til demokratiet. Sandheden er grundlaget for debatter, der skaber rammerne for det demokrati vi kender.