Er det mulig for datamaskiner å lære sunn fornuft?

Viktige takeaways

• Sunn fornuft er evnen til å forstå og reagere på hverdagslige situasjoner uten å overanalysere. Den tilegnes gjennom livserfaringer og observasjoner, samt samfunnsmessige og kulturelle normer.
• Datamaskiner sliter med sunn fornuft fordi de mangler erfaringer fra den virkelige verden og evnen til å tilpasse seg nye kontekster. De sliter også med uuttalte regler og antakelser som mennesker intuitivt forstår.
• Forskere utforsker ulike tilnærminger, som å bygge omfattende kunnskapsbaser, crowdsourcing av sunn fornuft, og lære AI gjennom simulerte verdener, for å trene datamaskiner i å tilegne seg sunn fornuft. Det er gjort fremskritt, men det gjenstår fortsatt arbeid.

Sunn fornuft. Vi tror alle vi har det. Men hva er det egentlig? Kan datamaskiner eller kunstige intelligente systemer noen gang virkelig skaffe seg det?

Hva er sunn fornuft, og hvordan tilegner mennesker seg det?

Sunn fornuft er den grunnleggende evnen til å oppfatte, forstå og bedømme ting som de fleste forventes å ha. Det er samlingen av fakta, informasjon og tommelfingerregler som vi samler gjennom livserfaringer og observasjoner. Sunn fornuft gjør at vi effektivt kan behandle og reagere på hverdagssituasjoner uten å analysere dem for dypt.

Mennesker begynner å tilegne seg sunn fornuft tidlig i barndommen. Som babyer begynner vi å lære årsak-og-virkning-forhold – som at gråt fører til å bli matet eller forandret. Gjennom gjentatte erfaringer får vi praktisk kunnskap om verden. Berøring av en varm komfyr resulterer for eksempel i å bli brent. Så vi lærer å ikke ta på varme overflater.

Som barn fortsetter vi å utvide vår sunne fornuft gjennom prøving og feiling og observere og samhandle med familiemedlemmer. For eksempel innser vi at klær må vaskes regelmessig, du bør ikke snakke med munnen full, og å velte melkeglasset fører til rot. Foreldre, søsken, lærere og andre voksne retter oss når vi bryter samfunnsnormer og forventninger. Over tid er disse leksjonene inngrodd som grunnleggende sunn fornuft.

I tillegg til personlige erfaringer, er sunn fornuft formet av bredere samfunnsmessige og kulturelle normer. Det som kan være sunn fornuft i én kultur (som å ta av seg sko når man går inn i et hjem) er kanskje ikke det i en annen kultur.

Vår sunne fornuft tilpasser seg etter hvert som vi modnes og blir utsatt for flere mennesker og miljøer. Så et barn som vokser opp i en liten by får grunnleggende sunn fornuft om livet i den miljøet. En voksen som flytter til en stor storby må tilpasse sin sunne fornuft til å passe de nye omgivelsene.

Sunn fornuft fortsetter å utvikle seg etter hvert som vi har nye opplevelser gjennom livet.

Hvorfor er sunn fornuft utfordrende for datamaskiner?

Det er noen få grunner til at sunn fornuft er vanskelig å programmere.

For det første lærer mennesker sunn fornuft gradvis over år med å oppleve verden. Vi prøver ut ting, ser hva som fungerer og hva som ikke fungerer, og husker leksjonene. Datamaskiner har ikke slike virkelige opplevelser å trekke fra. De vet bare hva mennesker eksplisitt forteller dem.

For eksempel stilte jeg ChatGPT (GPT 3.5) dette spørsmålet:

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Det viste seg med dette svaret:

Et annet problem er at sunn fornuft avhenger av kontekst. Hvis en datamaskin bare har spesifikke regler programmert inn, kan den ikke tilpasse dem til nye kontekster slik mennesker intuitivt kan.

La oss for eksempel si at du lærte en datamaskin hva den skal gjøre hvis det begynner å regne når det er ute. Virker greit, ikke sant? Men hva så om det i stedet for regn er en sprinkler som slår seg på? Eller hva om det er inne i en matbutikk, og rørene begynner å lekke vann fra taket? Vi ville umiddelbart vite hvordan vi skal håndtere disse variasjonene, men en datamaskin ville blindt følge regelen "når det regner mens det er ute, gå inn", som nå ikke gir mening.

Det er også uuttalte regler og antakelser som mennesker absorberer uten engang å innse det. Som hvor nært kan du stå ved siden av noen før det føles vanskelig? Mennesker vet intuitivt svaret, men er kanskje ikke lett i stand til å forklare de nøyaktige reglene. Disse implisitte sosiale normene kan være spesielt vanskelige for datamaskiner å fange opp bare fra data.

Så foreløpig er sunn fornuft fortsatt en av AIs største svakheter sammenlignet med menneskelig intelligens. Det kommer naturlig for mennesker, men ikke så mye for maskiner.

Hvordan datamaskiner kan lære sunn fornuft

Etter tidlig optimisme på 1970- og 1980-tallet innså forskerne hvor vanskelig det ville være å lære datamaskiner sunn fornuft. Nye tilnærminger viser imidlertid løfte om å trene AI-systemer for å ha grunnleggende sunn fornuft om den daglige fysiske og sosiale verden.

En tilnærming er å bygge omfattende kunnskapsbaser for hånd, med detaljer om fakta og regler om hvordan verden fungerer. Cyc-prosjektet, startet i 1984 av Doug Lenat, representerer en ambisiøs innsats av denne typen.

Hundrevis av logikere har kodet millioner av logiske aksiomer inn i Cyc over flere tiår. Selv om det tar tid, er resultatet et system med betydelig kunnskap fra den virkelige verden. Cyc kan tilsynelatende begrunne at en tomat teknisk sett er en frukt, men likevel ikke bør gå i en fruktsalat, takket være kunnskapen om kulinariske smaksprofiler.

Crowdsourcing sunn fornuft med ConceptNet

Mer moderne kunnskapsbaser som ConceptNet ta en crowdsourcing-tilnærming for å generere sunn fornuftspåstander. Tanken er at i stedet for at eksperter eller AI prøver å komme opp med alle de grunnleggende fakta og relasjoner i verden, åpner de det slik at hvem som helst kan bidra med snutter av sunn fornuft.

Denne crowdsourcing-tilnærmingen lar disse kunnskapsbasene benytte seg av den kollektive intelligensen til mange forskjellige mennesker over hele internett. Ved å samle tusenvis og atter tusenvis av disse små fornuftklumpene fra mengden, bygde ConceptNet opp noen overraskende store depoter av grunnleggende, hverdagskunnskap. Og fordi nye bidragsytere alltid legger til det, fortsetter kunnskapen å vokse.

Lære sunn fornuft gjennom erfaring

En annen lovende tilnærming er å bygge detaljerte simulerte verdener der AI-agenter kan eksperimentere og lære om fysikk og intuisjoner gjennom erfaring.

Forskere lager virtuelle 3D-miljøer fylt med hverdagslige objekter som etterligner den virkelige verden, som det digitale hjemmet "AI2 THOR" bygget av Allen Institute. Innenfor disse områdene kan AI-roboter prøve ut alle slags interaksjoner for å utvikle en intuitiv forståelse av konsepter mennesker tar for gitt.

For eksempel kan en AI-bot få en virtuell kropp og prøve å plukke opp blokker, stable dem, velte dem osv. Ved å se blokkene falle og kollidere realistisk, lærer boten grunnleggende forestillinger om soliditet, tyngdekraft og fysisk dynamikk. Ingen regler er nødvendig - bare erfaring.

Roboten kan også prøve handlinger som å slippe en glassgjenstand og se den knuse når den treffer bakken. Eller den kan eksperimentere med egenskapene til vann ved å helle væsker og observere hvordan de strømmer og samler seg. Disse praktiske leksjonene bygger AIs kunnskap i sensorisk erfaring og ikke bare datamønstre.

Datadrevne teknikker som førtrening kraftige store språkmodeller har også vist seg overraskende effektive til å fange opp sunne fornuftsmønstre. AI-modeller liker GPT-3.5 og GPT-4 kan generere imponerende menneskelignende tekst etter å ha "lest" enorme mengder Internett-data.

Mens de noen ganger kommer med ukloke forslag (ellers kjent som AI-hallusinasjon), lar den statistiske læringstilnærmingen dem etterligne visse typer sunn fornuft. Det er imidlertid fortsatt uenighet om hvorvidt dette utgjør sunn fornuft eller en smart utnyttelse av skjevheter i dataene.

Hvordan teste datamaskiner for sunn fornuft

Ettersom kunstige intelligenssystemer tar på seg mer komplekse oppgaver i den virkelige verden, blir det avgjørende å vurdere om de har "sunn fornuft".

Fysisk sunn fornuft

Et område å teste er fysisk sunn fornuft – intuisjon om gjenstander, krefter og grunnleggende egenskaper ved verden.

Vis for eksempel en datasynssystem et bilde med en bok som svever i luften og be den om å beskrive scenen. Merker den noe uvanlig med den flytende boken? Eller mate AI-systemet uvanlige scenarier som "mannen skar en stein med et brød" og sjekk om det flagger disse som usannsynlige.

Allen Institutes AI2 THOR-miljø simulerer blokktårn, sølt krus og andre scener for å teste disse fysiske intuisjonene.

Sosial sunn fornuft

Mennesker har også sosial sunn fornuft – en implisitt forståelse av folks motivasjoner, relasjoner og normer. For å evaluere dette i AI, poser situasjoner med tvetydige pronomen eller motivasjoner og se om systemet tolker dem rimelig.

For eksempel spurte jeg ChatGPT om "det" refererte til kofferten eller trofeet i ledeteksten nedenfor:

The trophy could not fit into the suitcase because it was too small. 

Den klarte ikke testen; i mellomtiden ville et menneske åpenbart vite at jeg refererte til kofferten.

Denne typen tester kalles Winograd Schema Challenge, spesifikt rettet mot sosial sunn fornuft.

Sikkerhet og etikk

Det er avgjørende å teste om AI-systemer har lært usikre eller uetiske mønstre. Analyser om AI viser skadelige skjevheter basert på kjønn, rase eller andre egenskaper når du foretar vurderinger.

Sjekk om det gjør rimelige etiske skiller. Å drepe en bjørn for å redde et barn kan betraktes som rettferdiggjort, mens detonering av en atombombe for samme formål ikke ville gjort det. Flagg eventuelle anbefalinger for klart uetiske handlinger.

Ytelse i den virkelige verden

Vurder sunn fornuft ved å observere hvordan AI-systemer fungerer i virkelige omgivelser. Gjør for eksempel selvkjørende biler identifiserer og reagerer korrekt på gjenstander og fotgjengere? Kan en robot bevege seg gjennom varierte hjemmemiljøer uten å knuse verdifulle gjenstander eller skade kjæledyr?

Tester fra den virkelige verden avslører hull i sunn fornuft som kanskje ikke vises under begrensede laboratorieforhold.

Fremskritt gjort, men det gjenstår arbeid med sunn fornuft AI

Noen eksperter hevder at AI aldri kan nå menneskelig sunn fornuft uten å utvikle hjernestrukturer og kropper som vår. På baksiden er ikke digitale sinn begrenset av menneskelige skjevheter og mentale snarveier, så teoretisk sett kan de overgå oss! Selv om vi sannsynligvis ikke trenger å bekymre oss for superintelligent AI ennå.

På kort sikt er det beste alternativet AI som kombinerer innlært sunn fornuft med litt god gammeldags programmering. På den måten kan dumme feil som å forveksle en skilpadde for en rifle forhåpentligvis unngås.

Vi er ikke der ennå, men sunn fornuft er ikke lenger AIs mørke materie – fremskritt skjer! Likevel vil en sunn dose menneskelig sunn fornuft være nødvendig for å bruke disse teknologiene i en stund.