Microsoft distribuerer et Deepfake Detection Tool

Gitt hvor deepfakes begge er potensielt ødeleggende for andres omdømme og veldig vanskelig å få øye på når de gjøres riktig, er de et stort sikkerhetsproblem. Nå har Microsoft som mål å bidra til å stoppe dype forfalskninger ved å gi ut et verktøy som kan oppdage dem.

Trusselen fra deepfakes er så betydelig at den forårsaket Facebook for å forby alt deepfake innhold. Imidlertid er det største hinderet hvordan deepfakes får seg til å se overbevisende ut; som sådan er det veldig vanskelig å finne og bekrefte en dyp forfalskning.

Facebook forbyr Deepfakes og Photoshops

Facebook forbyr deepfakes og Photoshoppede bilder. Tanken er å fjerne manipulerte medier designet for å lure brukere.

Som rapportert om Microsoft om problemene, ønsker selskapet å endre det med sitt nye verktøy. Det kalles Microsoft Video Authenticator, og det analyserer videoer for å se etter "sømmene" som er igjen fra deepfake-opprettelsen. Disse sømmene er usynlige for menneskers øyne, men en datamaskin kan få øye på dem ved hjelp av ramme-for-ramme-analyse.

For å forhindre at ondsinnede agenter reverserer teknologien, vil ikke Microsoft Video Authenticator være en offentlig utgivelse. I stedet distribuerer Microsoft systemet til nyheter og politiske organisasjoner. På den måten kan disse organisasjonene bruke verktøyet til å skille det virkelige fra det falske.

Imidlertid har Microsoft kunngjort en ny teknologi for å identifisere deepfakes. Selskapet foreslår et system der en innholdsskaper kan merke videoene sine med en unik "signatur". Hvis videoen er redigert, vil den generere en annen signatur enn originalen, og dermed identifisere en dypfake.

Forfatteren av Deep Fakes and the Infocalypse, Nina Schick, sa følgende:

Den eneste virkelig utbredte bruken vi har sett så langt er i ikke-samtykkende pornografi mot kvinner. Men det forventes at syntetiske medier blir allestedsnærværende om tre til fem år, så vi må utvikle disse verktøyene fremover. Imidlertid, ettersom deteksjonsfunksjonene blir bedre, vil også generasjonsevnen bli - den er aldri kommer til å være tilfelle at Microsoft kan gi ut et verktøy som kan oppdage alle slags videoer manipulasjon.

Deepfakes er et betydelig problem for medie troverdighet, og bedrifter trenger en måte å fortell hva som er ekte fra hva som er fiksjon. Microsoft har gitt ut et verktøy for å få øye på redigerte videoer. Hvorvidt verktøyet vil være nok til å holde tritt med deepfake-utviklere eller ikke, er imidlertid ennå ikke sett.

Hvis du er usikker på hva deepfakes er og hvorfor de betyr noe, er det absolutt verdt å ta deg litt tid til å lære om dem. Deepfakes er klar til å bli dette tiårets ekvivalent med "Photoshopping" -bilder og kan forårsake alvorlig skade hvis de brukes skadelig.

Deepfakes Explained: AI som gjør falske videoer for overbevisende

AI-genererte falske videoer undergraver vår forståelse av verdensbegivenheter fullstendig. Slik forklarer deepfakes alt.

Om forfatteren