OpenAIs automatiserte AI-drevne chatbot, ChatGPT, har tatt internett med storm, men ikke uten å skape noen problemer på veien. Med skribenter, kodere, markedsførere og tilsynelatende alle andre innimellom bruker ChatGPT for å generere innhold, stirrer selskaper over hele verden ned en tsunami av AI-generert innhold.
Med problemer med plagiering og stjålet innhold som stadig virvler rundt ChatGPT og dets produksjon, har OpenAI nå gitt ut en ny GPT-Classifier, et verktøy utviklet for å oppdage og avsløre om teksten du leser var et verk av ChatGPT eller en av dens andre GPT-verktøy.
OpenAI lanserer GPT-klassifisering for å hjelpe til med å sjekke AI-skrevet tekst
OpenAIs kunngjøring kommer som gransking av AI-skriving og AI-generert tekst trapper opp og selskaper integrerer ChatGPT-utdata.
Den nye GPT-klassifiseringen forsøker å finne ut om et gitt stykke tekst var menneskeskrevet eller arbeidet til en AI-generator. Mens ChatGPT og andre GPT-modeller er mye trent på alle slags tekstinntasting GPT-klassifiseringsverktøyet er "finjustert på et datasett med par av menneskeskrevet tekst og AI-skrevet tekst på samme emne."
Så i stedet for å samle opp informasjon og gjenskape sin beste tilnærming, prøver GPT-klassifiseringen å sammenligne likheter mellom kjent menneskelig tekst og kjent AI-tekst for å finne avvik som avslører kilden forfatter.
GPT-klassifiseringsdeteksjonen er for øyeblikket begrenset
Mens ideen om å enkelt oppdage AI-generert tekst vil være musikk i ørene til redaktører og lærere, har OpenAI advart om at "klassifiseringen ikke er helt pålitelig."
For øyeblikket identifiserer GPT-Classifier "riktig 26% av AI-skrevet tekst" mens 9% av menneskelig tekst merkes som AI-skrevet. OpenAI bemerker også at verktøyets nøyaktighet "typisk forbedres ettersom lengden på inndatateksten øker."
En overfladisk test av GPT-klassifiseringen oppdaget et menneskeskapt eksempel og merket at det er "meget usannsynlig å være AI-generert," og indikerte også korrekt at en ChatGPT-generert kodebit om USB-problemer var "muligens AI generert."
Etterspørselen etter ChatGPT-deteksjon er stor
Selv med GPT-klassifiseringens begrensninger, vil etterspørselen etter pålitelig ChatGPT-deteksjon sannsynligvis se at mange vender seg til dette verktøyet. OpenAIs forpliktelse til å bygge og gi ut et gratis GPT-deteksjonsverktøy er viktig fordi etter hvert som flere studenter, skribenter, programmerere og andre bruker verktøy for generering av AI-tekst, og forståelse og gjenkjenning av denne inngangen vil bli livsviktig.
For nå, selv om GPT-Classifier er oppe og går og tilgjengelig for testing, er det best å ta merkingen med en klype salt.
