Dypfalske bilder av Trumps arrestasjon fikk folk til å tro at det faktisk skjedde.
Hvis du er aktiv på Twitter, har du kanskje sett noen sjokkerende bilder av den tidligere amerikanske presidenten Donald Trump som ble arrestert av politifolk, sliter med dem og til og med løper fra dem. Det viste seg at ingenting av dette var ekte. Men hvordan skjedde alt dette?
Arrestasjonen av Donald Trump som aldri skjedde
Den tidligere amerikanske presidenten delte en antatt lekkasje gjennom sin tjenestemann Sannhet Sosialt håndtak den 18. mars. Innlegget opplyste at han ventet en arrestasjon tirsdag i uken etter for "gamle og fullstendig avkreftede" anklager mot ham. Det tok ikke lang tid før bilder av Trumps arrestasjon begynte å dukke opp over hele internett.
Bildene viste det som så ut til å være opptak av Trumps arrestasjon av en gruppe politifolk.
Bildene var AI-generert
Bildene var imidlertid ikke autentiske. De var deepfakes laget med Midjourney, en AI-bildegenerator. Midjourney bruker en dyp læringsalgoritme for å generere bilder fra bunnen av ved hjelp av tekstmeldinger. I dette tilfellet var tekstmeldingene varianter av at Trump ble arrestert.
Deepfake-teknologi har eksistert en stund, og det blir stadig mer sofistikert. AI-genererte bilder pleide å være lett identifiserbare: de manglet detaljer og realisme. Derimot, Midjourneys siste utgivelse (v5) løste de fleste av disse problemene og var faktisk versjonen som ble brukt til å generere Trumps arrestasjonsdeepfakes.
Hvordan bildene ble virale
Eliot Higgins, en undersøkende journalist, skapte de første versjonene av Trump-arrestasjonsdeepfakes for å visualisere hvordan en Trump-arrestering ville se ut. Han la dem ut på Twitter-kontoen sin. Mens bildeteksten hans var tydelig fra starten av at bildene var falske, tok det ikke lang tid før innlegget ble viralt.
Etter hvert som bildene spredte seg over sosiale medier, trodde mange at det var ekte. Trumps innlegg på Truth Social hadde allerede mistenksomt folk, og de realistiske bildene satte bare fart på brannen. Det tok en stund før det ble klart at bildene var falske og arrestasjonshistorien hadde vært en bløff.
Sosiale medier-innlegg som «rapporterer» den falske arrestasjonen er slettet eller har feilinformasjonsetiketten på seg. Som en straff utestengt Midjourney også Higgins fra serveren deres i en måned, pr Washington Post.
The Era of Deepfakes krever årvåkenhet
Deepfakes-arresteringen av Trump fremhever de alarmerende fremskrittene innen AI-teknologi. Falske bilder kan nå lages med utrolig letthet og ser så realistiske ut at det er vanskelig å skille hva som er ekte fra hva som ikke er det. Årvåkenhet er nå mer kritisk enn noen gang når det gjelder innhold på nettet.
