Hvor lang tid kan en ChatGPT-respons ta før den generative AI slutter å svare på deg?

ChatGPT er store nyheter. Men hvor store er svarene du får fra denne allsidige chatboten?

Å etablere dette er ikke så enkelt som du kanskje tror. For det første, still dette spørsmålet til ChatGPT, og du vil være trygg på at det ikke er noen fastsatte grenser for lengden på svarene.

Men som vi avdekker her, er det ikke så enkelt. Det er skjulte grenser for lengden på et ChatGPT-svar, men det er også noen smarte og enkle løsninger for å hjelpe deg med å få lengre svar.

Hvordan bestemmer ChatGPT lengden på et svar?

Hvordan ChatGPT fungerer er komplekst, og svarlengden varierer avhengig av hva som blir spurt og detaljnivået som etterspørres. Som det neste skjermbildet viser, hevder ChatGPT at det ikke er noen strenge grenser.

Dette er ikke det vi fant. Eksemplet nedenfor viser ChatGPT som plutselig stopper et svar midt i setningen. Vi ba den utarbeide et essay på tusen ord om fordelene med en sirkulær økonomi. ChatGPT sluttet å svare da det ble 677 ord.

Vi gjentok testen flere ganger med forskjellige spørsmål, og hver gang stoppet den midt i setningen; noen ganger ble dette ledsaget av en nettverksfeil. Dette er en vanlig feil, og det er det ulike måter å fikse nettverksfeil i ChatGPT.

En del av svaret på hvorfor dette skjer ligger i noe som kalles token-systemet.

Hva bruker Token System ChatGPT?

I stedet for en enkel ordtelling for å bestemme lengden på både spørsmål og svar, bruker ChatGPT et tokensystem. Dette bryter ned hver inngang og utgang i en serie tokens som brukes til å klassifisere forespørselen og svarstørrelsen.

Mens ordtelling spiller en rolle i dette, er det ikke hele historien. Eksempelet nedenfor ble for eksempel inngått OpenAis Tokenizer-verktøy.

Setningen og svaret ble "tokenisert" til en verdi av ni tokens. Dette samsvarer med OpenAIs «tommelfingerregel» om at ett symbol tilsvarer tre fjerdedeler av et ord.

GPT 3.5-modellen begrenser brukerspørsmål og data til 4097 tokens. Etter OpenAIs regning tilsvarer dette omtrent 3000 ord. Det er imidlertid viktig å merke seg at denne grensen gjelder både for svaret og spørsmålet.

Selv om alt dette er bra i teorien, nærmet resultatene vi møtte aldri disse grensene. Det ufullstendige svaret som ChatGPT returnerte i vår tidligere test veide bare inn 798 tokens.

Hvorfor er ChatGPTs svar begrenset?

Denne nystartede teknologien har raskt blitt den mest omtalte teknologiske utviklingen dette århundret. Dette har skapt stor etterspørsel etter ChatGPT. Til syvende og sist har denne etterspørselen effektivt redusert svarene til langt under de angitte grensene.

Selv om det ikke er noen offisiell bekreftelse på dette, ser det ut til å være en de facto-grense på rundt fem hundre ord eller 4000 tegn.

For å understreke, dette er ikke en fast regel – vi genererte utdata som overskred dette med nesten to hundre ord. Dette kan imidlertid betraktes som en sikker øvre grense for å oppnå fullstendige svar.

Hvordan få lengre svar fra ChatGPT

Når du forstår at det er en "skjult grense" for ChatGPTs svar, er det noen enkle måter å hjelpe deg med å få mer fullstendige svar.

  1. Be ChatGPT om å fortsette: Hvis ChatGPT stopper halvveis i et svar, er ett alternativ å ganske enkelt be det om å fortsette. I eksemplet nedenfor skrev vi "Fortsett", og det la til ytterligere to hundre ord til svaret.
  2. Del opp spørsmålet ditt i mindre deler: For eksempel ba vi den flere ganger om å skrive et essay om virkningen av AI på samfunnet. Hver gang stoppet svaret. Ett alternativ her er å be den om å punktmerke noen emner for et essay om AI, og deretter bruke de medfølgende punktpunktene som individuelle spørsmål.
  3. Bruk alternativet Regenerer: Selv om dette kan gi den samme feilen, uten noe å tape, er det alltid verdt et forsøk.
  4. Angi en øvre grense for antall ord i ledeteksten: Bildet nedenfor illustrerer hvordan dette kan brukes til å manipulere maksimalt antall ord i et svar.

Disse tipsene vil hjelpe deg med å få mer fullstendige svar fra ChatGPT og omgå den uoffisielle grensen for lengden på svarene.

ChatGPT: Kvalitet fremfor kvantitet

Selv om det ikke er noen fastsatte grenser for lengden på ChatGPTs svar, ser det ut til at plattformen pålegger en grense på rundt fem hundre ord eller 4000 tegn.

Dette kan hovedsakelig tilskrives den enorme etterspørselen etter ChatGPT. Dette har ført til ufullstendige svar og stoppet svar midt i setningen, men det er enkle løsninger for å hjelpe deg med å få lengre svar.

Til tross for sine begrensninger, er ChatGPT fortsatt en bemerkelsesverdig teknologisk utvikling som vil fortsette å utvikle og utvide kvalitets- og kvantitetsgrensene for produksjonen.