Hva er PhotoDNA og hvordan fungerer det?

Internett har gjort mange ting enklere, fra å holde kontakten med venner og familie til å få jobb og til og med jobbe eksternt. Fordelene med dette tilkoblede datamaskinsystemet er enorme, men det er også en ulempe.

I motsetning til nasjonalstater er internett et globalt nettverk som ingen enkelt regjering eller myndighet kan kontrollere. Følgelig havner ulovlig materiale online, og det er utrolig vanskelig å forhindre at barn lider og fange de ansvarlige.

Imidlertid er en teknologi som er utviklet av Microsoft kalt PhotoDNA et skritt mot å skape et tryggere nettrom for både barn og voksne.

Hva er PhotoDNA?

PhotoDNA er et bilde-identifikasjonsverktøy, først utviklet i 2009. Selv om den først og fremst var en Microsoft-støttet tjeneste, ble den utviklet av professor Hany Farid fra Dartmouth College, en ekspert på digital fotoanalyse. Formålet med PhotoDNA er å identifisere ulovlige bilder, inkludert materiale om seksuelt misbruk av barn, ofte kjent som CSAM.

Etter hvert som smarttelefoner, digitale kameraer og høyhastighetsinternett har blitt mer vanlig, har også mengden CSAM funnet på nettet. I et forsøk på å identifisere og fjerne disse bildene, sammen med annet ulovlig materiale, inneholder PhotoDNA -databasen millioner av oppføringer for kjente bilder av misbruk.

Microsoft driver systemet, og databasen vedlikeholdes av det amerikanske baserte National Center for Missing & Exploited Children (NCMEC), en organisasjon dedikert til å forhindre overgrep mot barn. Bilder kommer til databasen når de har blitt rapportert til NCMEC.

Selv om det ikke er den eneste tjenesten som søker etter kjent CSAM, er PhotoDNA en av de vanligste metodene, inkludert mange digitale tjenester som Reddit, Twitter og de fleste Google-eide produkter.

PhotoDNA måtte fysisk settes opp på stedet i de tidlige dagene, men Microsoft driver nå den skybaserte PhotoDNA Cloud-tjenesten. Dette gjør at mindre organisasjoner uten en omfattende infrastruktur kan gjennomføre CSAM -deteksjon.

Hvordan fungerer PhotoDNA?

Når internettbrukere eller rettshåndhevelsesbyråer støter på misbruksbilder, blir de rapportert til NCMEC via CyberTipline. Disse er katalogisert, og informasjonen deles med rettshåndhevelse hvis den ikke allerede var det. Bildene lastes opp til PhotoDNA, som deretter setter i gang med å lage en hash, eller digital signatur, for hvert enkelt bilde.

For å komme til denne unike verdien, blir bildet konvertert til svart -hvitt, delt i firkanter, og programvaren analyserer den resulterende skyggen. Den unike hashen legges til PhotoDNAs database, delt mellom fysiske installasjoner og PhotoDNA Cloud.

Programvareleverandører, rettshåndhevelsesbyråer og andre pålitelige organisasjoner kan implementere PhotoDNA -skanning i sine produkter, skyprogramvare eller andre lagringsmedier. Systemet skanner hvert bilde, konverterer det til en hash -verdi og sammenligner det med CSAM -databasen.

Hvis det blir funnet et treff, blir den ansvarlige organisasjonen varslet, og detaljene blir overført til rettshåndhevelse for påtale. Bildene fjernes fra tjenesten, og brukerens konto avsluttes.

Det er viktig at ingen informasjon om bildene dine lagres, tjenesten er fullt automatisert uten menneskelig involvering, og du kan ikke gjenskape et bilde fra en hash -verdi.

Siden 2015 har organisasjoner også vært i stand til å bruke PhotoDNA til å analysere videoer.

I august 2021 brøt Apple trinnet med de fleste andre Big Tech -firmaer og kunngjorde at de ville bruke sine egne tjeneste for å skanne brukerens iPhones etter CSAM.

Forståelig nok fikk disse planene betydelig tilbakeslag for å se ut til å bryte selskapets personvernvennlige holdning, og mange var bekymret for at skanningen gradvis ville inkludere ikke-CSAM, og til slutt føre til en bakdør for lov håndhevelse.

Bruker PhotoDNA ansiktsgjenkjenning?

I disse dager er vi kjent nok med algoritmer. Disse kodede instruksjonene viser oss relevante, interessante innlegg på våre sosiale medier, støtter ansiktsgjenkjenningssystemer og bestemmer selv om vi får tilbud om et jobbintervju eller kommer på college.

Du tror kanskje at algoritmer ville være kjernen i PhotoDNA, men automatisering av bildedeteksjon på denne måten ville være svært problematisk. For eksempel ville det være utrolig invasivt, ville krenke personvernet vårt, og det er ikke å nevne at algoritmer ikke alltid er riktige.

Google, for eksempel, har hatt veldokumenterte problemer med ansiktsgjenkjenningsprogramvaren. Da Google Foto først ble lansert, kategoriserte det offensivt svarte mennesker som gorillaer. I mars 2017 hørte en huskontrollkomité at noen ansiktsgjenkjenningsalgoritmer tok feil 15 prosent av tiden og mer sannsynlig ville feilidentifisere svarte mennesker.

Disse typer maskinlæringsalgoritmer blir stadig mer vanlig, men kan være utfordrende å overvåke på riktig måte. Programvaren tar effektivt sine egne beslutninger, og du må ombygge hvordan den kom til et bestemt resultat.

Gitt forståelsen av typen innhold PhotoDNA ser etter, kan effekten av feilidentifikasjon være katastrofal. Heldigvis er systemet ikke avhengig av ansiktsgjenkjenning og kan bare finne forhåndsidentifiserte bilder med en kjent hash.

Bruker Facebook PhotoDNA?

Som eier og operatør av verdens største og mest populære sosiale nettverk, håndterer Facebook mye brukergenerert innhold hver dag. Selv om det er vanskelig å finne pålitelige, nåværende estimater, analyse i 2013 antydet at rundt 350 millioner bilder lastes opp til Facebook hver dag.

Dette vil sannsynligvis være mye høyere nå ettersom flere har sluttet seg til tjenesten, driver selskapet flere nettverk (inkludert Instagram og WhatsApp), og vi har lettere tilgang til smarttelefonkameraer og pålitelige Internett. Gitt sin rolle i samfunnet, må Facebook redusere og fjerne CSAM og annet ulovlig materiale.

Heldigvis tok selskapet tak i dette tidlig og valgte Microsofts PhotoDNA -tjeneste i 2011. Siden kunngjøringen for over ti år siden har det vært lite data om hvor effektivt dette har vært. Derimot, 91 prosent av alle rapportene om CSAM i 2018 var fra Facebook og Facebook Messenger.

Gjør PhotoDNA Internett tryggere?

Den Microsoft-utviklede tjenesten er utvilsomt et viktig verktøy. PhotoDNA spiller en avgjørende rolle i å forhindre at disse bildene sprer seg, og kan til og med hjelpe barn i fare.

Imidlertid er hovedfeilen i systemet at det bare kan se etter forhåndsidentifiserte bilder. Hvis PhotoDNA ikke har en hash lagret, kan den ikke identifisere krenkende bilder.

Det er enklere enn noen gang å ta og laste opp bilder med høy oppløsning på nettet, og det er misbrukerne stadig mer tar til sikrere plattformer som Dark Web og krypterte meldingsapper for å dele ulovlig materiale. Hvis du ikke har kommet over Dark Web før, er det verdt å lese om risikoen forbundet med den skjulte siden av internett.

Er Dark Web ulovlig?

Kriminelle aktiviteter kan bli funnet via darknets, men er det faktisk ulovlig å gå på det mørke nettet?

Les neste

Om forfatteren