Kan Deepfake Fool ansiktsgjenkjenning? En ny studie sier ja!

Deepfakes og AI-genererte videoer er kommet for å bli. Men de siste årene har de vokst i kvalitet og kvantitet, noe som har fått mange til å bekymre seg for nasjonal sikkerhet og personlig personvern.

Likevel, uansett hvor hardt anonyme nettbrukere prøvde å gjøre den falske videoen realistisk, kunne de aldri komme forbi avansert programvare for ansiktsgjenkjenning. Inntil nå.

Lure ansiktsgjenkjenning -APIer

Forskere ved Sungkyunkwan University i Suwon, Sør -Korea, testet kvaliteten den nåværende deepfake -teknologien. De testet både Amazon og Microsoft API-er ved å bruke åpen kildekode og vanlig deepfake videogenererende programvare for å se hvor godt de fungerer.

Forskerne brukte ansiktene til Hollywood -kjendiser. For å lage solide deepfakes trenger programvaren mange bilder av høy kvalitet fra forskjellige vinkler på de samme personene, som er mye lettere å skaffe seg kjendiser i stedet for vanlige mennesker.

Forskerne bestemte seg også for å bruke Microsoft og Amazons API som målestokk for studien, ettersom begge selskapene tilbyr kjendis ansiktsgjenkjenningstjenester. De brukte offentlig tilgjengelige datasett og opprettet drøyt 8000 deepfakes. Fra hver deepfake -video hentet de ut flere ansiktsbilder og sendte det til API -ene det er spørsmål om.

Med Microsofts Azure Cognitive Services klarte forskerne å lure systemet 78 prosent av tiden ved å bruke deepfakes. Amazons resultater var litt bedre, og 68 prosent av innsendte ansikter ble identifisert som ekte.

Hva med Deepfake -detektorer?

Deepfake -detektorer fungerer omtrent på samme måte som deepfake. Detektorene er programvare som ble opplært ved hjelp av maskinlæringsmodeller om hvordan man oppdager deepfake -videoer.

Men i stedet for å fokusere på å lage en hyperrealistisk video for å lure detektorene, kan deepfakes nå inkludere motstridende eksempler i hver ramme for å forvirre AI-systemet. Faktisk har deepfake -angrep av denne typen suksessrater fra 78 til 99 prosent.

Det blir verre

Deepfakes er et maskinlæringsprogram. For å lage en som er eksternt overbevisende, trenger du hundrevis av bilder av den samme personens ansikt fra forskjellige vinkler og som viser forskjellige følelser.

På grunn av behovet for enorme mengder data, skulle man tro at bare mennesker med stor tilstedeværelse online er i fare, som kjendiser og politikere. Men det er ikke lenger tilfelle.

I følge Deeptrace økte antallet deepfakes online med 330 prosent på under et år - fra oktober 2019 til juni 2020. For ikke å nevne, programvaren og algoritmene deepfake -skaperne bruker, blir sterkere og lettere tilgjengelig og tilgjengelig.

Hvem er i fare for Deepfakes?

Da deepfakes først ble mainstream, det primære bekymringer var for personvern og nasjonal sikkerhet. Folk fryktet at videoopptak av politikere og offisielle regjeringsarbeidere ikke lenger kunne stole på.

Men selv om det ville være uansvarlig å se bort fra sikkerhetsrisikoen for deepfake, fant flere undersøkelser at deepfake -beslutningstakere ikke er så interessert i å forstyrre politikken ennå. Flertallet av deepfakes -videoer på nettet kan deles inn i to kategorier: morsomme videoer av kjendisintervjuer og filmer og pornografisk materiale.

Selv om den siste studien ble utført med kjendisansikter for å sikre at deepfakes var av høy kvalitet for å lure API -ene, betyr det ikke at du ikke kan lage deepfakes med mindre data. Visst, de har kanskje ikke en sjanse til å lure avanserte ansiktsgjenkjenningssystemer, men de kan være overbevisende nok til å lure andre mennesker.

I dag kan dype forfalskninger av alle med sosial tilstedeværelse gjøres overbevisende. Alt de trenger er noen få bilder av deg og kanskje en video du vises i. Den resulterende deepfake kan ha lav kvalitet, men det er fortsatt gjennomførbart og kan være skadelig.

Fremtiden er fremdeles ukjent

Det er mange motstridende spådommer angående tilstanden til deepfakes, ettersom de ikke forsvinner når som helst.

Noen forventer en apokalyptisk cyber -fremtid der du ikke kan stole på noen opptak du kommer over på nettet. Andre er mer optimistiske, sammenligner deepfakes med animasjon og sier at det kan ha en fremtid innen innholdsproduksjon.

Slik beskytter du deg selv mot Deepfake -videoer

Deepfakes blir stadig mer utbredt. Slik kan de true personvernet ditt på nettet og hvordan du kan unngå å bli tatt inn.

Les neste

Om forfatteren