På Elon Musks AI-værktøj, Grok, er kvinder i stigende grad blevet ofre for det såkaldte ”spicy mode”. Digitaliseringsministeren kalder på handling fra EU.
Af Anja Corp Dyrendal og Lærke Poulsen
Elon Musks AI Grok. Foto: Anja Corp
På Elon Musks chatbot, Grok, kan man bede den om at afklæde andre mennesker. Det er appen i den seneste tid blevet kritiseret for, især i de internationale medier. Det betyder, at risikoen for at være offer for deepfakes eller falske nøgenbilleder, er blevet større. Generalsekretær i Red Barnet og tidligere folketingsmedlem Johanne Schmidt-Nielsen kæmper imod sådanne krænkelser og har selv hele tre gange været udsat for lignende deepfakes:
”Det er ubehageligt at tænke på, at en person har siddet og brugt tid på at lave intime billeder med mit ansigt,” siger hun.
For Schmidt-Nielsen er det en vigtig kamp at tage – ikke mindst nu, hvor Grok stiller denne teknologi til rådighed for dets brugere.
Ofrene er typisk kvinder
Ud af de over 20.000 genererede billeder på Grok, viser 53% af billederne letpåklædte personer. Heraf var 81% kvinder, viser en analyse foretaget af virksomheden AI Forensics. Det er et stort problem, påpeger Dansk Kvindesamfund.
”Jo mere kvinder er nøgne, jo mere udsatte, er de. Det er derfor, det er så dragende at se, om man kan generere nøgenbilleder af kvinder”, siger Louise Vinther Alis, som er forkvinden for bestyrelsen i Dansk Kvindesamfund.
Vinther Alis understreger, at der ikke noget nyt i, at kvinders kroppe bliver objektiviseret:
”Historisk set har det været sådan, at kvinders kroppe i modsætning til mænds, helst er noget, vi skal nyde at se på. Det skal være det her æstetiske objekt, der er til for beskuerens nydelse, hvor manden ses som et handlende subjekt er kvinden et objekt for ”the male gaze”, og det her nye værktøj er så bare med til at cementere og understøtte det”, siger hun.
For Johanne Schmidt-Nielsen har det været en traumatisk oplevelse at se sig selv gengivet nøgen, men hun har alligevel valgt at stå frem offentligt:
”Jeg valgte at gøre det, fordi der er så mange, der udsættes for det. Og det er der brug for, at vi taler om. Så folk, der udsættes for det her, ikke skammer sig. Og så alle ved, det er ulovligt og skal meldes”, siger hun.
Minister er rystet
Digitaliseringsministeren, Caroline Stage, er også gået ind i sagen og mener, at EU både nu og fremover skal spille en central rolle i løsningen af problemet:
”Jeg er oprigtig rystet over de sager, vi ser med Grok på X. Det er helt afgørende, at EU-Kommissionen fortsætter den effektive og konsekvente håndhævelse af den digitale lovgivning på dette område”, siger hun og fortsætter: ”Vi må forvente, at der på EU-plan bliver sat en klar stopper for denne form for uansvarlig brug af digitale værktøjer”.
Torsdag den 15. januar lukkede X ned for funktionen på Grok. Det vides endnu ikke, hvor mange mennesker i Danmark, der har været ofre for Groks ”spicy mode”.
Vi har forsøgt at kontakte Grok, men de er ikke vendt tilbage på vores henvendelse.