OpenAIs nye ChatGPT AI-drevne chatbot blir brukt av nettkriminelle til å skrive skadevare og forbedre driften.
Ny AI-drevet ChatBot brukes til å skrive skadelig programvare
Eksperter på nettsikkerhet fra Check Point Research har funnet hackere som bruker ChatGPT-chatboten til å skrive ondsinnet kode og forbedre nettkriminalitet.
30. november 2022 lanserte OpenAI sin egen chatbot kjent som ChatGPT. Denne chatboten kan delta i samtale med brukere, men det tok ikke lang tid etter lanseringsdatoen før nettkriminelle begynte å misbruke denne boten.
I en Check Point Research-innlegg, ble det skrevet at forskere hadde funnet en tråd med navnet "'ChatGPT – Benefits of Malware'" på et hackingforum. Forfatteren så ut til å "eksperimentere med ChatGPT for å gjenskape malware-stammer og -teknikker beskrevet i forskningspublikasjoner og artikler om vanlig malware", og delte et eksempel på deres arbeid; en Python-basert stjeler som "søker etter vanlige filtyper, kopierer dem til en tilfeldig mappe inne i Temp-mappen, zipper dem og laster dem opp til en hardkodet FTP-server."
Check Point Research varslet publikum på Twitter og uttalte at "Misbruket av #ChatGPT er ikke lenger teoretisk".
Check Point Research har bekreftet forfatterens påstander
Etter å ha vurdert skripteksemplet for skadelig programvare i hackingforuminnlegget, slo Check Point Research ut at det var legitimt.
Det ble funnet at denne spesifikke stammen av skadelig programvare kan søke etter tolv vanlige filtyper, inkludert PDF-er, Microsoft Office-dokumenter og bilder. Hvis skadelig programvare oppdager potensielt verdifulle filer, blir de kopiert og zippet. Skadevareoperatøren får deretter tilsendt de kopierte filene via en nettforbindelse.
Check Point Research bemerket også at skadevareoperatøren ikke krypterte de kopierte filene eller sendte dem sikkert, noe som betyr at de kan falle i hendene på tredjeparter.
ChatDPT blir brukt til ytterligere ulovlige aktiviteter
Check Point Research uttalte også i det nevnte innlegget at trusselaktører kan bruke ChatGPT til andre kriminelle aktiviteter. En ekstra diskusjon, med tittelen "Abusing ChatGPT to create Dark Web Marketplaces-scripts.", ble funnet av Check Point Research, der forfatteren viste hvor enkelt det er å lage en Dark Web-markedsplass ved å bruke ChatGPT."
I tråden publiserte forfatteren kode som kan motta live kryptovalutapriser ved hjelp av en tredjeparts API. Dette bidro da til kryptobaserte betalingssystemer ofte brukt på det mørke nettet.
Check Point Research konkluderte med at "Det er fortsatt for tidlig å bestemme seg for om ChatGPT-funksjoner skal bli det nye favorittverktøyet eller ikke for deltakere i Dark Web." Selskapet vil fortsette å overvåke den ulovlige bruken av ChatGPT gjennom 2023 for å se hvordan ting spiller ute.
Kunstig intelligens kan fortsette å bli utnyttet av nettkriminelle
Ettersom kunstig intelligens fortsetter å utvikle seg, er det sannsynlig at trusselaktører vil fortsette å søke nye måter å misbruke den på. Tiden vil vise om ChatGPT blir populært blant nettkriminelle, eller om et annet AI-basert verktøy vil ta kaken.