ChatGPT er en kraftig ny AI-chatbot som er rask til å imponere, men mange mennesker har påpekt at den har noen alvorlige fallgruver. Spør det hva du vil, og du vil motta et svar som høres ut som om det er skrevet av et menneske, etter å ha lært sin kunnskap og skriveferdigheter fra store mengder informasjon over internett.
Akkurat som internett er imidlertid sannhet og fakta ikke alltid gitt, og ChatGPT er skyldig i å ta feil. Med ChatGPT satt til å endre fremtiden vår, her er noen av de største bekymringene.
Hva er ChatGPT?
ChatGPT er en stor språklæringsmodell som ble designet for å imitere menneskelig samtale. Den kan huske ting du har sagt til den tidligere og er i stand til å korrigere seg selv når den er feil.
Den skriver på en menneskelignende måte og har et vell av kunnskap fordi den ble trent på all slags tekst fra internett, som Wikipedia, blogginnlegg, bøker og akademiske artikler.
Det er lett å lære hvordan du bruker ChatGPT, men det som er mer utfordrende er å finne ut hva de største problemene er. Her er noen som er verdt å vite om.
1. ChatGPT er ikke alltid riktig
Den mislykkes i grunnleggende matematikk, kan ikke se ut til å svare på enkle logiske spørsmål, og vil til og med gå så langt som å argumentere for fullstendig uriktige fakta. Som brukere av sosiale medier kan bekrefte, kan ChatGPT ta feil ved mer enn én anledning.
OpenAI vet om denne begrensningen, og skriver at: "ChatGPT skriver noen ganger plausible, men feilaktige eller meningsløse svar." Dette "hallusinering" av fakta og fiksjon, som noen forskere kaller det, er spesielt farlig når det kommer til noe som medisinsk råd.
I motsetning til andre AI-assistenter som Siri eller Alexa, bruker ikke Chat GPT internett for å finne svar. I stedet konstruerer den en setning ord for ord, og velger den mest sannsynlige "token" som bør komme neste, basert på opplæringen.
Med andre ord, ChatGPT kommer frem til et svar ved å gjøre en rekke gjetninger, noe som er en del av grunnen til at det kan argumentere for feil svar som om de var helt sanne.
Selv om den er flott til å forklare komplekse konsepter, og gjør den til et kraftig verktøy for læring, er det viktig å ikke tro på alt det står. ChatGPT er ikke alltid riktig – i hvert fall ikke ennå.
2. Bias er bakt inn i systemet
ChatGPT ble trent på kollektiv skriving av mennesker over hele verden, fortid og nåtid. Dette betyr at de samme skjevhetene som finnes i dataene, også kan vises i modellen.
Faktisk har brukere vist hvordan ChatGPT kan gi noen forferdelige svar, noen som for eksempel diskriminerer kvinner. Men det er bare toppen av isfjellet; det kan gi svar som er ekstremt skadelige for en rekke minoritetsgrupper.
Skylden ligger heller ikke bare i dataene. OpenAI-forskere og utviklere velger dataene som brukes til å trene ChatGPT. For å hjelpe til med å adressere det OpenAI kaller «partisk oppførsel», ber den brukere gi tilbakemelding på dårlige resultater.
Med potensialet til å skade folk, kan du argumentere for at ChatGPT ikke burde vært utgitt til offentligheten før disse problemene er studert og løst.
En lignende AI-chatbot kalt Sparrow (eid av Googles morselskap, Alphabet) ble utgitt i september 2022. Den ble imidlertid holdt bak lukkede dører på grunn av lignende bekymringer om at den kunne forårsake skade.
Kanskje Meta burde ha ledet advarselen også. Da den ga ut Galactica, en AI-språkmodell trent på akademiske artikler, ble den raskt tilbakekalt etter at mange mennesker kritiserte den for å gi feil og partiske resultater.
3. En utfordring til engelsk på videregående
Du kan be ChatGPT om å korrekturlese det du skriver eller påpeke hvordan du kan forbedre et avsnitt. Alternativt kan du fjerne deg selv fra ligningen helt og be ChatGPT om å skrive noe for deg.
Lærere har eksperimentert med å mate engelske oppgaver til ChatGPT og har fått svar som er bedre enn hva mange av elevene deres kunne gjøre. Fra å skrive følgebrev til å beskrive hovedtemaer i et kjent litteraturverk, ChatGPT kan gjøre det uten å nøle.
Det reiser spørsmålet: Hvis ChatGPT kan skrive for oss, må elevene lære å skrive i fremtiden? Det kan virke som et eksistensielt spørsmål, men når elevene begynner å bruke ChatGPT for å hjelpe med å skrive essayene sine, må skolene raskt finne et svar. Den raske utrullingen av kunstig intelligens de siste årene kommer til å sjokkere mange bransjer, og utdanning er bare en av dem.
4. Det kan forårsake skade i den virkelige verden
Tidligere nevnte vi hvordan feil informasjon fra ChatGPT kan forårsake skade i den virkelige verden, med det mest åpenbare eksempelet feil medisinsk råd.
Det er også andre bekymringer. Falske kontoer på sosiale medier utgjør et stort problem på internett, og med introduksjonen av AI-chatboter ville internettsvindel bli enklere å utføre. Spredningen av falsk informasjon er en annen bekymring, spesielt når ChatGPT får til og med feil svar til å høres overbevisende riktige ut.
Hastigheten der ChatGPT kan produsere svar som ikke alltid er riktige, har allerede skapt problemer for Stack Exchange, et nettsted hvor brukere kan legge ut spørsmål og få svar.
Rett etter utgivelsen ble svar fra ChatGPT utestengt fra nettstedet på grunn av at et stort antall av dem var feil. Uten nok menneskelige frivillige til å sortere i etterslepet, ville det være umulig å opprettholde et høyt nivå av kvalitetssvar, noe som forårsaker skade på nettstedet.
5. OpenAI har all makt
Med stor makt følger stort ansvar, og OpenAI har mye makt. Det er et av de første AI-selskapene som virkelig rystet verden med ikke én, men flere AI-modeller, inkludert Dall-E 2, GPT-3 og nå ChatGPT.
OpenAI velger hvilke data som brukes til å trene ChatGPT og hvordan de håndterer de negative konsekvensene. Enten vi er enige i metodene eller ikke, vil den fortsette å utvikle denne teknologien i henhold til sine egne mål.
Mens OpenAI anser sikkerhet som en høy prioritet, er det mye vi ikke vet om hvordan modellene er laget. Enten du mener at koden bør gjøres åpen kildekode, eller er enig i at den skal holde deler av den hemmelig, er det ikke mye vi kan gjøre med det.
På slutten av dagen er alt vi kan gjøre å stole på at OpenAI vil forske på, utvikle og bruke ChatGPT på en ansvarlig måte. Alternativt kan vi gå inn for at flere mennesker skal ha en mening i hvilken retning AI bør gå, og dele kraften til AI med menneskene som skal bruke den.
Hvis du er interessert i hva annet OpenAI har utviklet, sjekk ut artiklene våre om hvordan du bruker Dall-E 2 og hvordan du bruker GPT-3.
Å takle AIs største problemer
Det er mye å være begeistret for med ChatGPT, OpenAIs siste utvikling. Men utover dens umiddelbare bruk, er det noen alvorlige problemer som er verdt å forstå.
OpenAI innrømmer at ChatGPT kan produsere skadelige og partiske svar, for ikke å snakke om evnen til å blande fakta med fiksjon. Med en slik ny teknologi er det vanskelig å forutsi hvilke andre problemer som vil oppstå. Så inntil da, nyt å utforske ChatGPT og vær forsiktig så du ikke tror på alt det står.
