Den raske fremveksten av AI-chatbots har skapt etiske bekymringer, begeistring og sysselsettingsbekymringer i nesten like mål. Men er innsatsen i ferd med å økes igjen?

Hvis det er en akilleshæl til disse verktøyene, er det manglende evne til å faktorisere menneskelige følelser i svar. Men med fremskritt innen "emosjonell AI" er det mulig at vi er i ferd med å se et nytt stort sprang fremover innen AI-teknologi.

Et følelsesmessig problem

Å forstå menneskelige følelser kan være komplisert, selv for mennesker. Til tross for at det er noe vi begynner å lære ved fødselen, kan vi fortsatt ofte feillese andres følelser. Å trene maskiner i en ferdighet som mennesker ikke har mestret er en enorm utfordring.

Imidlertid gjør feltet for følelses-AI, også kjent som affektiv databehandling, bemerkelsesverdige fremskritt. For å forstå hvordan emosjonell AI fungerer, er det viktig å sammenligne det med hvordan mennesker tolker andres følelser. Prosessen kan deles inn i tre hovedområder:

  • Ansiktsuttrykk/manerismer
    instagram viewer
    : Noen som stråler som en Cheshire-katt er åpenbart. Men hva med tårer? De kan være tårer av glede eller tristhet. Så er det finessene og flyktige uttrykkene som vi knapt legger merke til, men som gir deg underbevisste ledetråder om andres følelser.
  • Kroppsspråk: Igjen, det er mange ledetråder her som mennesker bruker nesten subliminalt for å bestemme følelsesmessige tilstander.
  • Stemmebøyning: Tonen og bøyningen til en stemme kan være en sterk indikator på en følelsesmessig tilstand. For eksempel, erkjennelsen av forskjellen mellom glede og sinne ligger ofte i nyansene i hvordan noe sies.

Nyansene i menneskelige følelser er der utfordringene oppstår. For å takle disse utfordringene bruker emotion AI en rekke teknikker.

Hvordan fungerer Emotion AI?

I likhet med hvordan AI chatbots er avhengige av enorme databaser kalt store språkmodeller (LLMs) for å generere svar, er emosjonell AI også avhengig av et massivt datasett. Hovedforskjellen er formen på dataene.

Trinn 1: Innsamling av data

Emosjonelle AI-"modeller" samler data fra en rekke kilder. I likhet med LLM-er utgjør tekst en del av modellen. Men emosjonelle AI-modeller bruker også andre former for data, disse inkluderer:

  • Stemmedata: Dette kan blant annet være fra innspilte kundeserviceanrop eller videoer.
  • Ansiktsuttrykk: Disse dataene kan samles inn fra en rekke kilder. En vanlig måte er å registrere frivilliges uttrykk gjennom fanget telefonvideo.
  • Fysiologiske data: Målinger som hjertefrekvens og kroppstemperatur kan måles for å bestemme den følelsesmessige tilstanden til frivillige deltakere.

De innsamlede dataene kan deretter brukes til å bestemme menneskelige følelsesmessige tilstander. Det er verdt å merke seg at ikke alle emosjonelle AI-modeller vil bruke samme type data. For eksempel vil et kundesenter ha liten bruk for visuelle og fysiologiske data. Mens i helsevesenet er inkludering av fysiologiske data utrolig nyttig.

Trinn 2: Emosjonell gjenkjennelse

Hvordan data brukes til å forstå følelsesmessige tilstander varierer avhengig av typen:

  • Tekstanalyse: Teknikker som sentimentanalyse eller naturlig språkbehandling brukes til å tolke skrevet tekst. Disse kan identifisere nøkkelord, setninger eller mønstre som indikerer følelsesmessige tilstander.
  • Stemmeanalyse: Maskinlæringsalgoritmer analyserer aspekter ved en persons stemme, for eksempel tonehøyde, volum, hastighet og tone, for å utlede emosjonelle tilstander.
  • Ansiktsuttrykksanalyse: Datasyn og dyplæringsteknikker brukes til å analysere ansiktsuttrykk. Dette kan innebære å gjenkjenne grunnleggende uttrykk (lykke, tristhet, sinne, overraskelse, etc.) eller mer subtile «mikro-uttrykk».
  • Fysiologisk analyse: Noen emosjonelle AI-systemer kan analysere fysiologiske data som hjertefrekvens og temperatur for å bestemme emosjonelle tilstander. Dette krever spesialiserte sensorer og brukes vanligvis i forskning eller helsetjenester.

Spesifikasjonene for hvordan emosjonell AI fungerer varierer avhengig av formålet med applikasjonen. Imidlertid vil de fleste emosjonelle AI-modeller stole på minst én av de listede teknikkene.

Trinn 3: Generer et svar

Det siste trinnet er at AI-modellen reagerer riktig på sin bestemte følelsesmessige tilstand. Hvordan denne responsen manifesterer seg avhenger av formålet med AI. Det kan være i form av å advare en kundesenteroperatør om at deres neste oppringer er opprørt, eller det kan være å tilpasse innholdet i en app.

Hele spekteret av bruksområder for denne teknologien vil være massivt, og organisasjoner bruker den allerede på ulike måter.

Hva er bruken av emosjonell AI?

AI, generelt, er litt av et teknologisk multiverktøy, og emosjonell AI er ikke annerledes. Etter hvert som teknologien utvikler seg, vil spredningen av bruksområder utvides betraktelig, noe som er vitne til variasjonen av oppgaver den allerede utfører:

  • Call sentre: Emotion AI blir integrert i kundesentre for å hjelpe agenter med å identifisere den følelsesmessige tilstanden til kundene.
  • Reklame: Markedsføringsbyråer overvåker team av frivillige for å vurdere deres følelsesmessige respons når de ser på en bestemt annonse. Dette lar dem justere innholdet for å tilpasse seg ønsket følelsesmessig respons nærmere.
  • Helsevesen: AI hjelper allerede til med å behandle psykiske lidelser. Dette feltet av medisin er et der emosjonell AI kan være til stor fordel.
  • utdanning: Utdanningsapper kan trenes til å justere kursarbeidet og den generelle "læringsopplevelsen" avhengig av den følelsesmessige tilstanden til studenten.
  • Bilindustri: Denne er i pipelinen, men emosjonell AI kan vise seg å være en uvurderlig kjørehjelp. Nåværende forskning fokuserer på å utvikle systemer som kan oppdage førerens følelsesmessige tilstand. Det kan da ta en form for avhjelpende handling hvis sjåføren er overtrøtt, stresset, sint eller bare er borte i en dagdrøm.

Alt dette høres bra ut, men som med alt AI, er det aldri så enkelt. De etiske og personvernbetingelsene rundt generativ AI er like aktuelt, men nå har vi menneskelige følelser kastet inn i blandingen.

Etiske og personvernmessige bekymringer ved emosjonell AI

For hver fordel som AI gir oss – og det er mange – ser det ut til å være en tilsvarende etisk eller personvernmessig bekymring. Denne innovative teknologien opererer på kanten av teknologisk kunnskap. Den opererer også på kanten av samfunnskunnskap.

Skjæringspunktet mellom følelser og teknologi er fulle av komplekse utfordringer som må løses hvis AI skal være en velsignelse og ikke en byrde. Noen av bekymringene som er umiddelbart tydelige inkluderer:

  • Bekymringer om personvern: Allerede et grått område i AI, inkludering av sensitive følelsesmessige data har hevet listen.
  • Nøyaktighet: AI chatbots er mange ting, men svarene deres er ofte langt fra målet. De samme feilene som gjøres av emosjonelle AI-modeller kan få alvorlige konsekvenser hvis de oppstår i applikasjoner som helsetjenester.
  • Emosjonell manipulasjon: Svindlere kan bruke emosjonell AI for å spille på folks følelser med ondsinnet hensikt.

Disse bekymringene er ekte, og en samlet innsats for å løse dem er nøkkelen til å frigjøre de fulle fordelene med emosjonell AI.

Vet ikke om jeg skal le eller gråte

Dette er en lovende teknologi med enorme potensielle fordeler. Imidlertid bærer den litt "emosjonell bagasje" med seg i slipstrømmen. Oppsiden er det store utvalget av potensielle applikasjoner hvor dette kan utgjøre en stor forskjell. Alt fra helsetjenester til mer oppslukende spillopplevelser kan dra nytte av emosjonell AI.

Men det er noen heftige problemer som må håndteres hvis vi skal bruke dette til å tjene og ikke hindre menneskeheten.