Innen AI gjøres fremskritt på enestående nivåer, med nye utviklinger nesten ukentlig. Generative AI-verktøy som ChatGPT er nå så populære at de blir integrert overalt.
Men burde vi det? Å bruke AI-teknologi for produktivitet, utdanning og underholdning er fornuftig. Imidlertid tenker bedrifter nå på å legge det direkte i meldingsappene våre, og dette kan vise seg å være ødeleggende. Her er syv grunner.
1. AI Chatbots har en tendens til å hallusinerer
Hvis du har brukt ChatGPT, Bing eller Bard, du vet at generative AI-chatbots har en tendens til å "hallusinere". AI-hallusinasjon er når disse chatbotene finner opp ting på grunn av mangel på tilstrekkelig treningsdata på spørringen brukeren ber om.
Med andre ord, de leverer feilinformasjon, men virker trygge på det, som om det er et faktum. Dette er et stort problem fordi mange mennesker ikke faktasjekker når de bruker en chatbot og tror at den er nøyaktig som standard. Det er en av de største feil å unngå når du bruker AI-verktøy.
Når den settes inn i meldingsapper, er mengden skade den kan gjøre enda større siden folk kan bruke den til å (med vilje eller utilsiktet) sprer feilinformasjon blant kontaktene deres og på sosiale medier, sprer propaganda og fremmer ekko kamre.
2. Folk liker ikke å snakke med roboter
Tenk på hvor irriterende det er når du prøver å kontakte et selskaps kundestøtte, og du blir tvunget til å snakke med en chatbot i stedet for en ekte menneskelig leder som faktisk kan forstå nyansene i problemet ditt og tilby passende veiledning.
Det samme gjelder personlige samtaler. Tenk deg å snakke med vennen din, og halvveis innser du at de har brukt AI til svare på meldingene dine hele denne tiden i stedet for å gjøre det på egen hånd basert på deres tanker og meninger.
Hvis du er som folk flest, vil du umiddelbart føle deg fornærmet og oppfatte bruken av AI i en privat samtale som ufølsom, skummel og til og med passiv-aggressiv, som om den andre personen ikke anser deg som verdt sin tid, oppmerksomhet og empati.
Å bruke AI til å skrive e-poster, for eksempel, er forståelig siden det er en profesjonell interaksjon, men å bruke det i personlige samtaler vil ikke være noe noen ønsker å oppmuntre. Når nyheten til teknologien forsvinner, vil det bli frekt å bruke den i denne sammenhengen.
3. AI kan ikke kopiere din unike tonalitet
Generative AI-verktøy i dag lar deg allerede endre tonaliteten til budskapet ditt, for eksempel formell, munter eller nøytral avhengig av hvem du skriver til og hvordan du vil komme over. Magic Compose i Google Messages, for eksempel lar deg gjøre det samme.
Selv om det er bra, vær oppmerksom på at disse tonalitetene trenes basert på angitte treningsdata og ikke din personlige chat-historikk, så den kan ikke gjenskape din unike tonalitet eller emojiene du vanligvis bruker.
Du bryr deg kanskje ikke så mye om dette, spesielt hvis du bruker AI til å skrive enkle jobbe-poster som alle mer eller mindre bruker samme formelle tonalitet for. Men det betyr mye mer enn du kanskje er klar over når du bruker det til å snakke med venner og familie på en meldingsapp.
Inntil AI-verktøy gir deg muligheten til å trene språkmodellen deres basert på chat-historikken din, vil de ikke være i stand til å gjenskape din unike dialekt og eksentrisiteter. Når det er sagt, er denne utfordringen ikke så vanskelig å løse, så vi kan se at den implementeres snart.
4. Å skrive gode spørsmål tar tid
Å få ønskede resultater fra en AI-chatbot avhenger sterkt av kvaliteten på forespørselen din. Hvis du skriver en dårlig forespørsel, vil du få et dårlig svar og må avgrense forespørselen til du får et tilfredsstillende resultat.
Denne prosessen er fornuftig når du vil skrive innhold i lang form, men er ekstremt ineffektiv når du skriver flere, korte svar i en uformell samtale.
Tiden det kan ta å avgrense forespørslene dine og få brukbare svar vil i de fleste tilfeller være mer enn tiden det ville tatt deg hvis du bare skrev meldingene selv.
5. AI kan gi støtende resultater
Bortsett fra nøyaktighet, er skjevhet en av de største problemene med generativ AI. Noen mennesker oppfatter AI som objektiv siden den ikke har sine egne motiver. Imidlertid er menneskene bak disse AI-verktøyene til syvende og sist mennesker med sine egne skjevheter.
Bias er med andre ord bakt inn i systemet. AI forstår ikke iboende hva som anses som støtende og hva som ikke er det, så det kan for eksempel trenes opp å være partisk mot visse grupper av mennesker eller visse kulturer – og dermed produsere støtende resultater i prosessen.
6. AI forstår kanskje ikke sarkasme eller humor
AIs forståelse av talefigurer, som ironi og metaforer, blir bedre over tid, men det er fortsatt langt fra å være på et punkt hvor det kan brukes i en samtale for å gjenkjenne humor. Når du ba Googles Bard om å være sarkastisk, for eksempel, var resultatene treff-eller-glipp.
I noen tilfeller var det genuint morsomt og spilte sammen med min sarkasme. Men i andre tilfeller falt den enten tilbake til et lite morsomt cookie-cutter-svar eller nektet rett og slett å delta i samtalen helt, og si at siden det bare er en LLM, kan det ikke hjelpe meg med min spørsmål.
7. Å stole på AI kan føre til dårlig kommunikasjon
Et annet subtilt, men betydelig problem med å integrere generativ AI i meldingsapper, er hvordan det kan påvirke vår evne til å kommunisere. Hvis vi i økende grad stoler på AI for å snakke med hverandre, kan det hindre vår evne til det trene vår emosjonelle intelligens og sosiale ferdigheter.
Poenget her er at jo mer vi outsourcer våre sosiale behov til AI, jo dårligere vil vi bli til å kommunisere ideer gjennom organiske midler. Med andre ord, jo mer du bruker AI for å snakke med kontaktene dine, jo mer sannsynlig kan det være at du forringer kvaliteten på relasjonene dine.
Ikke alt trenger å ha AI
Ofte, med bruk av ny teknologi, er vi så opptatt av å finne ut hvordan vi skal bruke den at vi ikke klarer å argumentere for om vi bør bruke den i utgangspunktet.
Selv om det er fornuftig å bruke generativ AI for å skrive e-poster, idédugnad eller lage bilder for presentasjoner, inviterer integreringen til meldingsapper til mye kritikk.
