Når det kommer til sosiale medier, vet vi alle at i tillegg til de mange fordelene det gir ved å knytte forbindelser enklere kan det også være visse risikoer og farer som følger med samhandling på nettet, spesielt for unge mennesker. Heldigvis er det apper der ute som er proaktive og prøver å begrense disse skadene som kan komme til unge mennesker ved å implementere riktige moderasjonsteknologier.
Yubo, den live sosiale oppdagelsesappen som er mest brukt av Gen Z, har annonsert at dens live-stream lydmoderering teknologien ekspanderer til sine største markeder, nemlig USA, Storbritannia, Australia og Canada.
Dette kommer etter flere måneder med testing av funksjonen i enkelte områder av USA, ettersom selskapet lærte hvordan man takler problemene som følger med å analysere lyd i sanntid.
Viktigheten av innholdsmoderering
Å moderere innhold på nettet er en vanskelig jobb å gjøre. Vi har sett dette med Facebook og Twitter og Instagram og så videre. Mellom fornærmelser, hatefulle kommentarer, eller til og med noen ganger vold eller selvskading, er moderering enormt viktig for å holde disse plattformene trygge og deres brukere beskyttet. Det er noe med å kunne gjemme seg bak den antatte anonymiteten som tilbys av internett som kan få frem det verste i noen mennesker.
Vel, Yubo fortsetter å vise at den gjør alt den kan for å forhindre dette, spesielt siden brukerbasen er mye yngre. Ifølge Yubo er 99% av brukerbasen deres Gen Z i alderen 13-25. Selv om trakassering på nettet ikke er hyggelig for noen å tåle, kan det være spesielt skadelig for tenåringer.
Bilde- og videomodereringsteknologi har eksistert en stund og har blitt implementert med ulike stadier av suksess. Moderering av lyd, har imidlertid vært en stor utfordring, spesielt med direktesendinger. Enten det er en direktesending tatt mens du går nedover gaten eller en der noen spiller et videospill, det spiller ingen rolle.
Hvordan Yubos lydmoderering fungerer
Fra mai 2022 begynte Yubo en prøvefase for sin lydmodereringsteknologi i forskjellige områder over hele USA. Nå inkluderer neste fase de fleste engelsktalende regioner hvor Yubo har en stor brukerbase for å la selskapet få bedre innsikt i deres nye sikkerhetsverktøy.
Selv om det fortsatt er nytt, er dette en teknologi som kan ende opp mye brukt for å oppdage vold eller selvskading i fremtiden.
Yubo gjør ikke alt dette på egen hånd, men i samarbeid med Hive. Hive, hvis du ikke har hørt om dem, er et selskap som lager og leverer API-er for innholdsmoderering for å behandle bilder og videoer i nesten sanntid.
Teknologien som Yubo implementerte fungerer ved å ta opp og transkribere 10-sekunders lydbiter i livestreams av 10 eller flere personer. Teksten blir umiddelbart analysert av kunstig intelligens for å oppdage ord eller uttrykk som bryter med appens Retningslinjer for fellesskapet.
Vent, det stopper ikke her. Selv om kunstig intelligens kan være gode til å oppdage slike ting, er det fortsatt langt fra det punktet hvor den kan skille mellom faktisk problematisk bruk og falske flagg.
Falske flagg kan for eksempel være sanger som spilles i bakgrunnen, eller lekent språk som ikke er utilsiktet.
Så det er her Yubos sikkerhetsspesialister kommer inn i bildet, ettersom de blir hentet inn for å undersøke de flaggede hendelsene. Mennesker er de som får bestemme om en situasjon krever eskalering eller ikke hvis det er handlinger som bør tas mot folk som bruker dårlig språk, eller selv om rettshåndhevelse må bringes inn i.
Hvis direktesendingen er helt ok, blir ingen transkripsjoner gjennomgått eller holdt forbi en 24-timers grense, så det hele forblir privat; eller så privat som en direktesending med over 10 personer kan være.
Men hvis algoritmene oppdager voldelige trusler, hatytringer eller selvskading, for eksempel, lagres transkripsjonene i opptil ett år. Dette er selvfølgelig et sikkerhetstiltak for selskapet i tilfelle rettshåndhevelse krever informasjonen eller selskapet selv trenger detaljene for videre interne undersøkelser.
Yubos Chief Operating Officer, Marc-Antoine Durand, ser utvidelsen av lydmoderering teknologi som et nøkkelelement i utviklingen av nettsikkerhet i hele bransjen.
"Det er fortsatt mye fremskritt å gjøre innen stemmedeteksjon, men vi er stolte av å være på vei for våre jevnaldrende ved å være den første til å lansere lydmoderering med Hive og bidra til å gjøre dette verktøyet mer pålitelig og effektivt gjennom denne prøveversjonen,» Durand sa.
Det er klart at sosiale plattformer ikke vil ha utbredt mobbing, hatefulle ytringer og voldsoppfordrende kommentarer siden det ville skyve andre brukere bort. Implementering av slik modereringsteknologi er et flott verktøy for å holde brukere trygge, og også for å garantere Yubos vekst og suksess i det lange løp.
