Viktiga Slutsatser
- Ett sunt förnuft karaktäriseras av förmågan att hantera och reagera på dagliga händelser utan överanalys. Det utvecklas genom livserfarenheter och iakttagelser, såväl som sociala och kulturella normer.
- Datorer har svårigheter med sunt förnuft eftersom de saknar faktiska erfarenheter och förmågan att anpassa sig till varierande situationer. De kämpar också med implicita regler och antaganden som människor intuitivt förstår.
- Forskare undersöker olika metoder, som att skapa omfattande kunskapsdatabaser, samla in sunt förnuft genom crowdsourcing och utbilda AI genom simulerade miljöer, för att lära datorer sunt förnuft. Det har gjorts framsteg, men det finns fortfarande mycket arbete kvar.
Sunt förnuft. Vi anser att vi alla har det. Men vad är det egentligen? Kan datorer eller artificiella intelligenta system någonsin på riktigt utveckla det?
Vad är sunt förnuft och hur utvecklas det hos människor?
Sunt förnuft är den basala kapaciteten att tolka, förstå och bedöma saker på det sätt som de flesta förväntas göra. Det representerar summan av kunskaper, information och praktiska principer som vi ansamlar genom livserfarenheter och observationer. Sunt förnuft gör det möjligt för oss att effektivt hantera och reagera på vardagliga situationer utan djupgående analys.
Människor börjar utveckla sunt förnuft tidigt i livet. Som spädbarn börjar vi lära oss om orsakssamband – till exempel att gråt leder till att vi får mat eller blir blöjbytta. Genom återkommande erfarenheter skaffar vi praktisk kunskap om världen. Att exempelvis röra vid en varm spis resulterar i brännskador, vilket lär oss att undvika heta ytor.
Under barndomen utvidgar vi vårt sunda förnuft genom att experimentera och lära av våra misstag samt genom att iaktta och interagera med familjemedlemmar. Vi lär oss till exempel att kläder måste tvättas regelbundet, att man inte ska prata med full mun och att välta ett glas mjölk skapar oreda. Föräldrar, syskon, lärare och andra vuxna korrigerar oss när vi bryter mot samhällets normer och förväntningar. Med tiden etableras dessa lärdomar som grundläggande sunt förnuft.
Utöver personliga erfarenheter formas sunt förnuft även av större sociala och kulturella normer. Det som betraktas som sunt förnuft i en kultur (som att ta av sig skorna när man går in i ett hem) kanske inte är det i en annan.
Vårt sunda förnuft anpassas när vi mognar och möter nya människor och miljöer. Ett barn som växer upp i en liten stad utvecklar ett grundläggande sunt förnuft om livet i den miljön. En vuxen som flyttar till en storstad måste anpassa sitt sunda förnuft för att passa den nya omgivningen.
Sunt förnuft fortsätter att utvecklas när vi får nya erfarenheter under hela livet.
Varför är sunt förnuft svårt för datorer?
Det finns flera orsaker till varför sunt förnuft är svårt att programmera.
För det första utvecklar människor sunt förnuft gradvis under flera år genom att uppleva världen. Vi provar saker, ser vad som fungerar och vad som inte fungerar och kommer ihåg det vi lärt oss. Datorer saknar den typen av faktiska erfarenheter att utgå ifrån. De vet endast vad människor uttryckligen säger till dem.
Till exempel ställde jag ChatGPT (GPT 3.5) följande fråga:
Janet driver ett tvätteri. Hon tvättar kläder åt kunder och hänger dem utomhus på tvättlinor för att torka i solen. En dag tvättade Janet fem skjortor och hängde dem på tvättlinorna på morgonen. Det tog skjortorna fem timmar att torka. Hur lång tid tar det att torka 30 skjortor?
Svaret blev:
Denna fråga kan vara lite klurig eftersom den inte innehåller alla detaljer som behövs för att beräkna tiden. Det tar fem timmar att torka fem skjortor, och man kan anta att det inte beror på hur många skjortor man hänger upp, utan mer på solen.
En annan faktor är att sunt förnuft är kontextberoende. Om en dator bara har specifika regler inprogrammerade kan den inte anpassa dem till nya situationer på det sätt som människor intuitivt kan.
Tänk dig till exempel att du har lärt en dator vad den ska göra om det börjar regna när den är utomhus. Verkar enkelt, eller hur? Men vad händer om det istället för regn är en vattenspridare som sätts på? Eller om det är inne i en matvarubutik och vatten börjar läcka från taket? Vi skulle direkt veta hur vi ska hantera dessa variationer, men en dator skulle enbart följa regeln ”när det regnar utomhus, gå in”, vilket nu är irrelevant.
Det finns även outtalade regler och antaganden som människor anpassar sig till utan att ens vara medvetna om det. Till exempel hur nära kan man stå en annan person innan det känns obekvämt? Människor vet intuitivt svaret men kan ha svårt att förklara de exakta reglerna. Dessa implicita sociala normer kan vara speciellt svåra för datorer att förstå enbart baserat på data.
Därför är sunt förnuft fortfarande en av AI:s största svagheter jämfört med mänsklig intelligens. Det är naturligt för människor, men inte för maskiner.
Hur datorer kan lära sig sunt förnuft
Efter tidig optimism under 1970- och 1980-talen insåg forskare hur svårt det faktiskt skulle vara att lära datorer sunt förnuft. Men nya metoder visar lovande resultat när det gäller att träna AI-system att utveckla grundläggande sunt förnuft om den vardagliga fysiska och sociala världen.
En metod är att skapa omfattande kunskapsdatabaser manuellt, med detaljerad information och regler om hur världen fungerar. Cyc-projektet, som startade 1984 av Doug Lenat, är ett ambitiöst exempel på detta.
Hundratals logiker har under flera årtionden kodat in miljontals logiska axiom i Cyc. Även om det är tidskrävande resulterar det i ett system med betydande faktisk kunskap. Cyc kan tydligen resonera att en tomat tekniskt sett är en frukt men ändå inte borde ingå i en fruktsallad, tack vare dess kunskap om kulinariska smakprofiler.
Crowdsourcing sunt förnuft med ConceptNet
Mer moderna kunskapsdatabaser som ConceptNet använder en crowdsourcing-strategi för att generera sunt förnuft. Tanken är att istället för att låta experter eller AI försöka komma på alla grundläggande fakta och relationer i världen, öppnar de upp det så att vem som helst kan bidra med små bitar av sunt förnuft.
Denna crowdsourcing-metod gör att dessa kunskapsdatabaser kan dra nytta av kollektiv intelligens från många olika människor över hela internet. Genom att samla tusentals och åter tusentals av dessa små sunt förnuftsbitar från mängden, har ConceptNet byggt upp en stor samling av grundläggande, vardaglig kunskap. Och eftersom nya bidragsgivare ständigt lägger till information, fortsätter kunskapen att öka.
Lära sunt förnuft genom erfarenhet
Ett annat lovande tillvägagångssätt är att skapa detaljerade simulerade världar där AI-agenter kan experimentera och lära sig om fysik och intuitioner genom erfarenhet.
Forskare skapar virtuella 3D-miljöer fyllda med vardagliga föremål som efterliknar den verkliga världen, som det digitala hemmet ”AI2 THOR” som byggts av Allen Institute. I dessa miljöer kan AI-robotar prova olika typer av interaktioner för att utveckla en intuitiv förståelse för koncept som människor tar för givet.
Till exempel kan en AI-robot få en virtuell kropp och försöka plocka upp block, stapla dem, välta dem, etc. Genom att se blocken falla och kollidera på ett realistiskt sätt lär sig roboten grundläggande begrepp om soliditet, gravitation och fysikens dynamik. Inga regler behövs – bara erfarenhet.
Roboten kan också utföra handlingar som att tappa ett glasföremål och se det gå sönder när det träffar marken. Eller så kan den experimentera med vattnets egenskaper genom att hälla vätskor och observera hur de rinner och samlas. Dessa praktiska lektioner förankrar AI:s kunskap i sensoriska upplevelser och inte bara i datamönster.
Datadrivna metoder som förträning av kraftfulla stora språkmodeller har också visat sig vara överraskande effektiva för att fånga upp mönster av sunt förnuft. AI-modeller som GPT-3.5 och GPT-4 kan generera imponerande mänsklig text efter att ha ”läst” stora mängder data från internet.
Även om de ibland kommer med felaktiga förslag (annars känt som AI-hallucinationer), gör den statistiska inlärningsmetoden det möjligt för dem att efterlikna vissa typer av sunt förnuft. Det råder dock fortfarande oenighet om huruvida detta utgör sunt förnuft eller bara ett smart utnyttjande av fördomar i data.
Hur man testar datorer för sunt förnuft
Bildkälla: freepik/freepik
När artificiella intelligenssystem tar sig an mer komplexa verkliga uppgifter blir det avgörande att utvärdera om de har ”sunt förnuft”.
Fysiskt sunt förnuft
Ett område att testa är fysiskt sunt förnuft – intuition om föremål, krafter och de grundläggande egenskaperna i världen.
Till exempel kan man visa ett datorseendesystem ett foto med en bok som svävar i luften och be systemet beskriva scenen. Noterar systemet något ovanligt med den svävande boken? Eller ge AI-systemet ovanliga scenarier som ”mannen delade en sten med en brödlimpa” och kontrollera om systemet flaggar dem som osannolika.
Allen Institutes AI2 THOR-miljö simulerar blocktorn, utspillda muggar och andra scener för att testa dessa fysiska intuitioner.
Socialt sunt förnuft
Människor har även socialt sunt förnuft – en implicit förståelse av människors motivationer, relationer och normer. För att utvärdera detta hos AI kan man ge dem situationer med tvetydiga pronomen eller motiveringar och se om systemet tolkar dem på ett rimligt sätt.
Till exempel frågade jag ChatGPT om ”det” syftade på resväskan eller trofén i följande formulering:
Trofén fick inte plats i resväskan eftersom den var för liten.
Den klarade testet; en människa skulle självklart veta att jag syftade på resväskan.
Denna typ av test kallas Winograd Schema Challenge, som specifikt fokuserar på socialt sunt förnuft.
Säkerhet och etik
Att testa om AI-system har lärt sig osäkra eller oetiska mönster är viktigt. Analysera om AI:n uppvisar skadliga fördomar baserat på kön, ras eller andra attribut när den gör bedömningar.
Kontrollera om systemet gör rimliga etiska skillnader. Att döda en björn för att rädda ett barn kan anses vara motiverat, medan det inte skulle vara att detonera en atombomb i samma syfte. Flagga alla rekommendationer om oetiska handlingar.
Verklig prestanda
Utvärdera sunt förnuft genom att observera hur AI-system fungerar i verkliga miljöer. Identifierar och reagerar till exempel självkörande bilar korrekt på föremål och fotgängare? Kan en robot röra sig genom olika hemmiljöer utan att förstöra värdefulla föremål eller skada husdjur?
Tester i verkliga situationer avslöjar brister i sunt förnuft som kanske inte framkommer under begränsade laboratorieförhållanden.
Framsteg har gjorts, men det återstår arbete med AI och sunt förnuft
Vissa experter menar att AI aldrig kan nå mänskligt sunt förnuft utan att utveckla hjärnstrukturer och kroppar som våra. Å andra sidan är digitala sinnen inte begränsade av mänskliga fördomar och mentala genvägar, så teoretiskt sett kan de överträffa oss! Men vi behöver förmodligen inte oroa oss för superintelligent AI än.
På kort sikt är det bästa alternativet AI som kombinerar inlärda principer av sunt förnuft med lite traditionell programmering. På så sätt kan dumma misstag, som att förväxla en sköldpadda med ett gevär, förhoppningsvis undvikas.
Vi är inte framme än, men sunt förnuft är inte längre AI:s mörka materia – framsteg sker! Ändå kommer en sund dos av mänskligt sunt förnuft att behövas för att tillämpa dessa tekniker under en tid framöver.