Twitter prøver å finne ut hvorfor funksjonen for forhåndsvisning av bilder viser tegn på rasemessig skjevhet. Flere brukere fant at svarte ansikter var mer sannsynlig å bli beskåret av forhåndsvisninger av bilder i forhold til hvite ansikter.
En feil i Twitters algoritme
Når du ser et bilde på Twitter, er det bare en forhåndsvisning du må klikke på det for å se hele bildet. Twitter bruker en algoritme for å beskjære bilder, og diktere hva du vil se i forhåndsvisninger av bilder.
I 2018 kunngjorde Twitter sin smarte funksjon for automatisk beskjæring i et innlegg på Twitter-blogg. Denne funksjonen bruker "fremtredende" for å finpusse på de mest fremtredende delene av bilder, og beskjærer deretter forhåndsvisning av bilder deretter.
Twitter-brukere oppdaget at plattformens nevrale nettverk kan ha en rasistisk skjevhet. En bruker la ut et bilde av den amerikanske senatoren Mitch McConnell sammen med tidligere president Barack Obama.
Prøver et fryktelig eksperiment ...
- Tony “Abolish ICE” Arcieri 🦀 (@bascule) 19. september 2020
Hvilken vil Twitter-algoritmen velge: Mitch McConnell eller Barack Obama? pic.twitter.com/bR1GRyCkia
Bildeforhåndsvisning beskjærer Obamas ansikt blatant, selv når ansiktet hans er plassert øverst på bildet. Da den samme brukeren prøvde å snu bildets farger, dukket endelig Obamas ansikt opp i forhåndsvisningen av bildet.
Andre brukere begynte å gjennomføre egne eksperimenter. Gang på gang fant brukerne ut at algoritmen konsekvent foretrakk hvite ansikter fremfor svarte ansikter.
Liz Kelley, et Twitter-kommunikasjonsteammedlem, sendte ut en Tweet som svar på Twitter-brukernes funn. Hun bemerket at mens Twitter-teamet allerede testet algoritmen for skjevhet, måtte det undersøke nærmere.
takk til alle som reiste dette. vi testet for skjevhet før vi sendte modellen og fant ikke bevis på rasemessig eller kjønnsskjevhet i testingen, men det er tydelig at vi har fått flere analyser å gjøre. vi åpner kildene våre, slik at andre kan se gjennom og replikere. https://t.co/E6sZV3xboH
- liz kelley (@lizkelley) 20. september 2020
Alle disse oppdagelsene stammer fra en brukers Tweet om en Problemer med zoomanrop. Zoom kunne kontinuerlig ikke oppdage ansiktet til den svarte vennen hans da han prøvde å bruke en virtuell bakgrunn. Da brukeren vendte seg til Twitter for å legge ut skjermbilder av problemet, beskjærte Twitter sin svarte venn ut av forhåndsvisningen av bildet.
Tar Bias ut av Twitter
Selv om alle disse eksperimentene er uformelle, ser de ut til å fremheve et reelt problem. Twitter må definitivt se nærmere på funksjonen for automatisk beskjæring, og se om den har en inngrodd rasemessig skjevhet.
Når det er sagt, er ikke Twitter-algoritmen for automatisk beskjæring den eneste Twitter-funksjonen som har blitt kritisert. Tross alt er mange brukere heller ikke fans av plattformens algoritme som automatisk arrangerer feeden din.
Algoritmiske strømmer tjener bare sosiale nettverk. Slik bytter du til kronologiske strømmer på Twitter, Instagram og Facebook.
- Sosiale medier
- Tekniske nyheter
Emma er Senior Writer og Junior Editor for seksjonene Internet og Creative. Hun ble uteksaminert med en bachelorgrad i engelsk, og kombinerer sin kjærlighet til teknologi med skriving.
Abonner på vårt nyhetsbrev
Bli med på nyhetsbrevet vårt for tekniske tips, anmeldelser, gratis e-bøker og eksklusive tilbud!
Ett steg til…!
Bekreft e-postadressen din i e-posten vi nettopp sendte deg.