Twitter avslører det grønt AI-beskjæring på grunn av rase og kjønnsforskjell

Første gang vi hørte ideen om at Twitters algoritme for beskjæring av bilder kan ha noen skjevheter, var i september 2020. Kryptografiingeniør Tony Arcieri lastet opp to bilder med flertallsleder i senatet Mitch McConnell og tidligere president Barack Obama, og AI ble beskåret til McConnells ansikt begge ganger.

Da kontroversen til slutt nådde folket på Twitter, lovet selskapet å analysere modellen. Til slutt får vi lese gjennom disse funnene.

Twitter deler resultatene av algoritmeanalysen

I begynnelsen av mai Twitter endelig rullet ut forhåndsvisning av bilder i full størrelse på sine mobile tidslinjer. Et innlegg til Twitter-bloggen har avslørt at appen aksepterte algoritmen for bildebeskjæring etter at en analyse viste at den hadde rase og kjønnsbaserte skjevheter.

Plattformen begynte å bruke en salginitetsalgoritme i 2018 for å beskjære bildene. Twitter sier at modeller for viktighet er trent på menneskelig øye-sporing av data, som deretter brukes av algoritme for å estimere hvilke fag / elementer i bildet den mener er mest sannsynlig å være viktig for de fleste mennesker.

Algoritmen vil da komme opp med en skånsomhetspoeng for alle deler av bildet før han velger det punktet med høyest poengsum som sentrum for avlingen.

Etter å ha kjørt en kvantitativ test for å sjekke om potensielle skjevheter, fant teamet at algoritmen for fremtredende virkning syntes å favorisere kvinner fremfor menn, og hvite personer fremfor svarte individer.

Twitter testet også algoritmen for "mannlig blikk", men det ble ikke funnet bevis for objektivisering.

Selv om salginitetsalgoritmen ble justert for å gjenspeile perfekt likestilling mellom rase- og kjønnsundergrupper, er vi [Twitter] bekymret av representasjonsskaden til den automatiserte algoritmen når folk ikke får representere seg selv slik de ønsker på plattform. Salience har også andre potensielle skader utenfor omfanget av denne analysen, inkludert ufølsomhet for kulturelle nyanser.

Når vi vurderer kompromissene mellom hastigheten og konsistensen av automatisk beskjæring og risikoen, Twitter sier at teamet deres innså at hvordan man kan beskjære et bilde, er en beslutning som best blir tatt av mennesker - ikke algoritmer.

I slekt: Teknologitrender som allerede forandrer fremtiden

Twitter blir kvitt automatisk bildebeskjæring

Twitter bruker ikke lenger salginitetsalgoritmen, og viser nå standard bildeforholdsbilder i sin helhet på både iOS og Android. Når du lager en tweet, vil du oppdage at den nye oppdateringen også inneholder en ekte forhåndsvisning av opplastede bilder, slik at du vet hvordan alt vil se ut når det er publisert.

Hvis du er interessert i å lese studiens akademiske papir, kan du finne den på arXiv.org. Du kan også finne Twitters kode for analysen på GitHub.

Slik laster du opp og viser 4K-bilder på Twitter

Twitter-appen lar deg nå laste opp og se bilder i 4K. Slik endrer du innstillingene dine.

Les Neste

Om forfatteren