I dag stoler millioner på ChatGPT som en nyttig ressurs, enten det er for jobb, moro eller utdanning. Men kan du stole på at denne AI-chatboten alltid kommer med fakta? Lyver ChatGPT noen gang, eller vil det bare gi deg faktainformasjon?
Hvor får ChatGPT informasjonen fra?
I treningsperioden ble ChatGPT matet med data fra kilder på nettet, for eksempel nettsteder for myndigheter og byråer, vitenskapelige tidsskrifter, studier, nyhetsartikler, podcaster, nettfora, bøker, databaser, filmer, dokumentarer og sosiale medier media.
Spesifikt ble ChatGPT-3 trent ved hjelp av en omfattende database med informasjon som utgjorde 570 GB med data. Som det står i en artikkel fra Vitenskapsfokus300 milliarder ord med informasjon ble matet inn i GPT-3-systemet under utviklingen.
Noe som er verdt å merke seg her er at ChatGPT bare har blitt matet med data som eksisterte før 2021. Dette betyr at chatboten ikke kan svare på spørsmål knyttet til nylige hendelser. ChatGPT har heller ikke tilgang til internett. Dataene den ble matet i opplæringen er den eneste typen den bruker for å oppfylle brukerforespørsler.
Men gir ChatGPT deg bare fakta, eller er noe mer tvetydig informasjon blandet inn i svarene? I tillegg, kan ChatGPT lyve for deg?
Lyver ChatGPT?
Mens ChatGPT ofte gir sannferdig informasjon til brukere, har den muligheten til å "lyve". ChatGPT bestemmer seg selvfølgelig ikke for å lyve ondsinnet for brukere, siden det rett og slett ikke kan gjøre det. Tross alt er ChatGPT et språkbehandlingsverktøy, ikke en etterligning av en ekte, sansende person.
Imidlertid kan ChatGPT teknisk sett fortsatt lyve gjennom et fenomen kjent som AI-hallusinasjon.
AI hallusinasjon involverer et AI-system som gir informasjon som virker rimelig eller plausibel, men som i virkeligheten ikke er sann i det hele tatt. Faktisk kan AI-hallusinasjon gi informasjon om at den aldri ble matet i løpet av treningsperioden. Alternativt kan det oppstå når et AI-system gir informasjon som ikke er relatert til forespørselen eller forespørselen. Et AI-system kan til og med hevde å være menneske i en hallusinasjonshendelse.
AI-systemer, som chatbots, faller i hallusinasjonsfellen av flere grunner: deres mangel på virkelighetsforståelse, programvarefeil og begrensninger på dataene som leveres.
Som tidligere nevnt, kan ChatGPT bare gi informasjon ved å bruke data publisert frem til 2021, noe som absolutt begrenser hva slags forespørsler den kan oppfylle.
En av ChatGPTs store problemer er at den også kan bli utsatt for skjevhet når den gir brukere informasjon. Til og med ChatGPTs skapere har uttalt at AI-systemet har vært "politisk partisk, støtende" og "ellers støtende" tidligere. Som rapportert av Den uavhengige, ChatGPTs utviklere er forpliktet til å takle dette problemet, men det betyr ikke at det ikke lenger utgjør en risiko.
På spørsmål opplyste ChatGPT at årsakene til at det kan gi unøyaktig informasjon inkluderer følgende:
- Tvetydighet i spørsmålet (vage, uklare spørsmål);
- Ufullstendig informasjon gitt;
- Forutinntatt eller uriktig informasjon gitt; eller,
- Tekniske begrensninger (hovedsakelig på grunn av manglende tilgang til aktuelle data).
Så, ChatGPT selv uttalte at det er scenarier der det ikke vil gi nøyaktig informasjon til brukere.
I et annet svar i samme samtale uttalte ChatGPT at "det er alltid en god idé å verifisere all informasjon [den gir] med andre kilder."
Kan du stole på ChatGPT?
Fordi det kan gi falsk informasjon, du klart kan ikke stole på ChatGPT 100 % av tiden.
Du kan redusere risikoen for at en AI-chatbot hallusinerer ved å angi spesifikke parametere for hvordan den kan svare deg. Det er imidlertid fortsatt ingen garanti for at noe falsk informasjon ikke vil slippe gjennom sprekkene.
På grunn av dette er det best å sjekke all informasjon som ChatGPT gir deg, spesielt hvis du ber om informasjon om nylige hendelser. Dobbeltsjekking av disse dataene ved å referere til andre kilder kan hjelpe deg med å finne ut om ChatGPT har rett i det den sier, og kan hindre deg i å ta dårlige avgjørelser.
ChatGPT er nyttig, men ikke alltid sannferdig
Dessverre kan du ikke stole på at ChatGPT gir sannferdig, objektiv informasjon 100 % av tiden. Denne AI-drevne chatboten er unektelig nyttig og kan hjelpe deg på ulike måter, men det er alltid verdt å verifisere om informasjonen den gir er faktisk.
