Det føles som om vi altfor ofte ser nyheter om at en eller annen grov lovbrudd ble begått på den ene eller den andre sosiale mediesiden, inkludert ulovlige innlegg eller direktestrømming av voldelig innhold. Det kan være lett å lure på hvordan slike ting i denne teknologisk avanserte alderen kan skli gjennom nålene.
Men faktum er at det er praktisk talt umulig å moderere sosiale medier effektivt. Hvorfor? Det er noen få grunner.
Noen sosiale mediesider er fortsatt under utvikling eller er mer nisjefylte. Store sosiale medier har imidlertid enorme brukerbaser. De største nettstedene har mellom hundrevis av millioner til milliarder av brukere. Naturligvis er enhver så stor plattform vanskelig å overvåke.
De fleste store sosiale nettverk klarer dette gjennom en kombinasjon av fellesskapsrapportering, algoritmer (ufullkommen) opplært til å oppdage skadelig innhold, og noen få menneskelige moderatorer. Mens et fellesskapsmedlem eller AI kan oppdage og rapportere skadelig informasjon, er det et menneske (eller en gruppe mennesker) som har det siste ordet. Og mange nettsteder tilbyr en ankeprosess.
Sosiale medier er ikke bare store når det gjelder brukerbasen. Ulike stater og forskjellige land har ulike lover knyttet til hva slags innhold som må rapporteres og hvordan.
Så sosiale medieselskaper som er aktive i forskjellige geografiske områder, må ofte ha forskjellige retningslinjer for forskjellige brukere. Dette inkluderer ulike retningslinjer for feilinformasjon og personvern. Faktisk, Twitter måtte godta spesifikke vilkår for å bli utestengt i Nigeria.
Enda mer enn det, sosiale medier er et globalt fenomen, men det skjer ikke alltid på de "globale" språkene. Dette kan la sosiale medieselskaper streve etter innholdsmoderatorer som snakker regionale språk for å kunne tilby tjenester globalt uten å gjøre disse brukerne sårbare for dårlige aktører.
Et godt eksempel er Facebook-eieren Meta. Selskapet ble nylig saksøkt av en tidligere innholdsmoderator i Nairobi som hevder at innholdsmoderatorer i området blir villedet til å ta rollen.
3. Moderatorer går på stramtråd
De fleste brukere av sosiale medier ønsker to ting: de vil føle seg trygge og de vil føle seg frie. Å finne en balanse mellom disse to ønskene er innholdsmoderatorens vanskelige oppgave.
Gå for langt til siden, og brukerne vil føle seg overvåket. Gå for langt til den andre siden, og brukerne vil føle seg forlatt. En måte noen sosiale medier kan omgå dette på er gjennom fellesskapsmoderatorer.
Samfunnsmoderatorer hjelper til med å uttrykke at moderering er noe som gjøres av lidenskap for å promotere konstruktiv diskurs uten å tillate skadelig innhold snarere enn ut fra noe ønske om å kontrollere eller undertrykke brukere. Denne modellen er utfordrende i skala, selv om forskjellige plattformer gjør at den fungerer på forskjellige måter.
Parler kom tilbake på nett etter å ha justert sin moderasjonspolicy for å overholde tredjeparts retningslinjer. De har noe av et samfunnsjurysystem som mer eller mindre bare kommer inn etter at et potensielt problematisk innlegg allerede er rapportert. Å prioritere brukerrapporter er en annen måte Parler bidrar til å lette belastningen på moderatorene.
4. Moderatorer må ta en dynamisk linje
Innholdsmoderatorer opererer også i noe som kan føles som en moralsk gråsone. Selv plattformer med et mer ytringsfritt syn på moderering har regler mot potensielt skadelig eller voldelig innhold. Noen innlegg er åpenbart skadelige eller voldelige, mens andre kan virke skadelige eller farlige for noen brukere (eller moderatorer), men ikke andre.
Mange plattformer har også regler mot andre aktiviteter som å selge produkter eller tjenester. Dette kan være et enda vanskeligere område å navigere, spesielt gitt størrelsen og omfanget av enkelte nettsteder.
Ta i betraktning hva Reddit fellesskapsmoderatorer gjør. Når brukere blir med i et nytt fellesskap, får de umiddelbart tilsendt reglene for det fellesskapet. Disse reglene er også lagt ut på siden av hver fellesskapsside. Dette gjør at hvert fellesskap kan ha et undersett av regler skreddersydd for det i stedet for generelle regler for hele nettstedet.
Ideen om subreddits hjelper også Reddit å bruke fellesskapsmoderatorer i stor skala. Moderatorer har i oppgave å moderere subredditen deres i stedet for å prøve å patruljere hele nettstedet.
Endelig beveger sosiale medier seg veldig raskt. Når du hører om et problematisk innlegg, kan det være i god tid etter at den opprinnelige plakaten har tatt det ned. I tilfelle innlegget ikke ble rapportert mens det var live, kan det være vanskelig å svare på det i ettertid.
I ett tilfelle i 2015 ble et innlegg på det sosiale mediesiden YikYak politianmeldt ved å bruke en endret versjon av det opprinnelige innlegget, som allerede var fjernet. Det som kan ha blitt løst internt av nettinnholdsmoderatorer ble et langvarig juridisk drama som opprørte et helt fellesskap.
Mange sosiale medier, inkludert Facebook, har retningslinjer for oppbevaring av mistenkelige innlegg i tilfelle de trenger å bli referert i utviklingssituasjoner, inkludert av rettshåndhevelse.
Men funksjoner som livestreaming betyr at innholdet går opp etter hvert, som algoritmer kan gå glipp av til det er for sent.
Kast en mynt til moderatoren din
Hvis du ser noe på nettet som bekymrer deg, kan du gå gjennom de oppgitte kanalene for å rapportere det. Prøv å unngå å bli opprørt eller mistenksom fordi det er vanskelig å moderere sosiale medier. Det samme gjelder hvis du eller et innlegg blir rapportert. Det er sannsynligvis et velment grep for å holde brukere av sosiale medier trygge.