Hvem har ikke brukt ChatGPT på dette tidspunktet? Det er morsomt, helt fascinerende hvis du har noen interesse for kunstig intelligens, og gratis (foreløpig).
Selv om det vanligvis beskrives som en chatbot, er ChatGPT mye mer enn det. Den kan generere kopi, forklare komplekse emner, fungere som oversetter, komme med vitser og skrive kode. Men det kan også være bevæpnet av trusselaktører.
Hvordan ChatGPT fungerer og hvorfor det er attraktivt for nettkriminelle
ChatGPT (Generative Pre-trained Transformer) ble utviklet av forskningslaboratoriet for kunstig intelligens OpenAI, og ble lansert i november 2022. Det er en stor språkmodell som bruker en kombinasjon av veiledet og forsterkende maskinlæringsteknikker.
Kanskje enda viktigere er at ChatGPT hele tiden finjusteres og trenes opp av brukere, som enten kan stemme opp eller nedstem svarene, noe som gjør den enda mer nøyaktig og kraftig, ettersom den samler inn data på egen hånd.
Det er det som skiller ChatGPT fra andre chatbots. Og hvis du noen gang har brukt den, vet du at forskjellen er merkbar umiddelbart: i motsetning til andre lignende produkter, er den i stand til å delta aktivt i en samtale og fullføre komplekse oppgaver med forbløffende nøyaktighet, samtidig som du leverer sammenhengende og menneskelignende svar.
Hvis du ble vist et kort essay skrevet av et menneske, og et skrevet av ChatGPT, ville du sannsynligvis slitt med å finne ut hvilken som er hvilken. Som et eksempel, her er en del av teksten ChatGPT genererte når han ble bedt om å skrive et kort essay om The Catcher in the Rye.
Dette er ikke å si at ChatGPT ikke har sine begrensninger – det har den absolutt. Jo mer du bruker det, jo mer vil du merke at dette er tilfelle. Så kraftig som den er, kan den fortsatt slite med elementær logikk, gjøre feil, dele falske og villedende informasjon, feiltolke instruksjoner på en komisk måte, og bli manipulert til å tegne feil konklusjon.
Men ChatGPTs kraft ligger ikke i evnen til å snakke. Snarere ligger det i sin nesten ubegrensede kapasitet til å fullføre oppgaver i massevis, mer effektivt og mye raskere enn et menneske kunne. Med de riktige inngangene og kommandoene, og noen få kreative løsninger, kan ChatGPT gjøres om til et urovekkende kraftig automatiseringsverktøy.
Med det i tankene er det ikke vanskelig å forestille seg hvordan en nettkriminell kan bevæpne ChatGPT. Det handler om å finne riktig metode, skalere den og få AI til å fullføre så mange oppgaver som mulig samtidig, med flere kontoer og på flere enheter om nødvendig.
5 ting trusselskuespillere kunne gjøre med ChatGPT
Det er allerede noen få virkelige eksempler på at ChatGPT brukes av trusselaktører, men det er flere sannsynligvis blir den våpen på en rekke forskjellige måter, eller vil bli det på et tidspunkt i framtid. Her er fem ting hackere kan gjøre (og sannsynligvis gjør) med ChatGPT.
1. Skriv skadelig programvare
Hvis ChatGPT kan skrive kode, kan den skrive skadelig programvare. Ingen overraskelse der. Men dette er ikke bare en teoretisk mulighet. I januar 2023 oppdaget cybersikkerhetsfirmaet Check Point Research at cyberkriminelle allerede er bruker ChatGPT for å skrive skadelig programvare-og skryter av det på undergrunnsfora.
Trusselaktøren Check Point Research oppdaget brukte den avanserte chatboten ganske kreativt, for å gjenskape Python-basert skadelig programvare beskrevet i visse forskningspublikasjoner. Da forskere testet det ondsinnede programmet, fortalte nettkriminelle sannheten: hans ChatGPT-genererte skadevare gjorde akkurat det den var designet for å gjøre.
2. Generer phishing-e-poster
Så kraftig som spamfiltre har blitt, farlige phishing-e-poster sklir fortsatt gjennom sprekkene, og det er ikke mye en gjennomsnittsperson kan gjøre annet enn å rapportere avsenderen til leverandøren sin. Men det er mye en dyktig trusselaktør kan gjøre med en e-postliste og tilgang til ChatGPT.
Med de riktige kommandoene og forslagene kan ChatGPT generere overbevisende phishing-e-poster, potensielt automatisere prosessen for trusselaktøren og tillate dem å skalere sine operasjoner.
3. Bygg svindelnettsteder
Hvis du bare Googler begrepet «bygg et nettsted med ChatGPT», vil du finne en haug med opplæringsprogrammer som forklarer i detalj hvordan du gjør nettopp det. Selv om dette er gode nyheter for alle som ønsker å lage et nettsted fra bunnen av, er det også gode nyheter for nettkriminelle. Hva hindrer dem i å bruke ChatGPT til å bygge en haug med svindelsider eller phishing-landingssider?
Mulighetene er nesten uendelige. En trusselaktør kan klone et eksisterende nettsted med ChatGPT og deretter endre det, bygge falske e-handelsnettsteder, kjøre en nettsted med scareware-svindel, og så videre.
4. Lag spaminnhold
For å sette opp et falskt nettsted, kjøre en svindelside på sosiale medier eller bygge en kopiside, trenger du innhold – mye av det. Og det må se så legitimt ut som mulig for at svindelen skal fungere. Hvorfor skulle en trusselaktør ansette innholdsforfattere, eller skrive blogginnlegg på egen hånd, når de bare kan få ChatGPT til å gjøre det for dem?
Riktignok vil et nettsted med AI-generert innhold sannsynligvis bli straffet av Google ganske raskt og ikke vises i søkeresultatene, men det er mange forskjellige måter en hacker kan markedsføre et nettsted på, sende trafikk til det og lure folk ut av pengene deres eller stjele deres personlige opplysninger.
5. Spre desinformasjon og falske nyheter
Desinformasjon på nett har blitt et stort problem de siste årene. Falske nyheter spredte seg som ild i tørt gress på sosiale medier, og folk som ikke vet bedre, faller ofte for villedende – og noen ganger bokstavelig talt oppdiktede – historier. Dette kan få alvorlige konsekvenser i det virkelige liv, og det virker som om ingen har noen anelse om hvordan de skal stoppe spredningen av falske nyheter uten å bryte lover om ytringsfrihet.
Verktøy som ChatGPT kan forverre dette problemet. Trusselaktører som har tilgang til programvare som er i stand til å generere tusenvis av falske nyheter og innlegg på sosiale medier hver dag virker som en oppskrift på katastrofe.
Ikke ta vårt ord for det
Hvis du ikke er overbevist, spurte vi ChatGPT hvordan en nettkriminell ville bruke den. Det ser ut til å stemme overens med kjernen i denne artikkelen.
I feil hender blir ChatGPT farlig
Man kan bare forestille seg hva kunstig intelligens vil være i stand til om fem eller 10 år fra nå. Foreløpig er det best å ignorere hypen og panikken, og vurdere ChatGPT rasjonelt.
Som all teknologi er ChatGPT verken iboende nyttig eller skadelig. Til tross for noen mangler, er det den desidert mest dyktige chatboten som noen gang er utgitt for offentligheten.
