Sterk og svak KI

Hva er svak og sterk KI?

Svak KI er spesialisert: et system bygget for én type oppgave. KI som spiller sjakk, bildemodeller som gjenkjenner biler, algoritmer som anbefaler. Oppgavene er spesialiserte og smale. Systemet fungerer ikke i det hele tatt utenfor domenet.

Sterk KI er generell: ett system som løser oppgaver på tvers av domener, også oppgaver det ikke ble bygget for. Det er dette som ofte kalles AGI, artificial general intelligence. Skillet handler altså ikke om hvor imponerende systemet er, men om bredden: spesialisert mot generell.

AGI har kommet

Dagens språkmodeller er generelle. Samme modell skriver kode, oversetter juridisk tekst, analyserer bilder og resonnerer om fagfelt den aldri ble spesialbygget for. Etter de fleste eldre definisjonene av sterk KI er vi der allerede.

Når det likevel ikke omtales slik, handler det mindre om teknologi enn om jus og penger. Avtalen mellom Microsoft og OpenAI gir AGI-begrepet kontraktsfestede konsekvenser: den dagen noe erklæres som AGI, endres rettighetene mellom partene. Da er det tryggere for alle aktørene å la være å bruke ordet.

Den taggete grensen

Generell betyr ikke jevnt god. Modellen er ikke like god på alt: den kan være et geni på én oppgave og en idiot på en annen. Hva språkmodeller er gode på er ikke åpenbart, og det endrer seg stadig. Den skriver feilfri SQL, men bommer på å telle bokstaver. Den resonnerer om arkitektur, men går seg vill i en enkel kalender. Dette kalles «the jagged frontier». Modellen er ikke smart på samme måte som et menneske, men en annen, litt fremmed form for intelligens.

Du vet allerede hvorfor grensen er tagget: modellen ser verden i tokens, den er trent på fordelingen av internett, og det uvanlige ligger utenfor. Og grensen flytter seg med hver modellgenerasjon, så hullene du fant i fjor er ikke nødvendigvis der i år.

Et kart der en tagget kystlinje skiller «Modellen mestrer» fra «Modellen bommer». Innenfor: skrive SQL og resonnere om arkitektur. Utenfor: telle bokstaver og lese analog klokke. En stiplet linje lenger inn viser fjorårets grense, med piler som viser at grensen flytter seg. Grensen for hva modellen får til er ujevn, og den flytter seg for hver generasjon.

Hva betyr dette for deg?

Ikke anta at en modell som er god på én oppgave er god på alt. Test på akkurat din oppgave, og bygg erfaring med hva som fungerer og ikke. Det er slik du lærer hvor grensen går i ditt terreng. Og siden grensen flytter seg, går erfaringen ut på dato. Derfor kan det lønne seg å prøve på nytt det som ikke fungerte i fjor, kanskje det fungerer nå?

Hva skiller svak og sterk KI?

Svak KI er spesialisert på én type oppgave, sterk KI er generell på tvers av domenerSvak KI er gammel, sterk KI er nySvak KI er billig, sterk KI er dyrSvak KI gjør feil, sterk KI gjør aldri feil

Hva betyr «the jagged frontier»?

At modellene blir jevnt bedre for hvert årAt modellen kan være genial på én oppgave og idiotisk på naboen, med hull som ikke er åpenbareAt modellene er best på engelskAt det finnes en grense for hvor store modeller kan bli

Modellen løste forrige oppgave glimrende. Hva sier det om neste oppgave?

At den vil løse den like godtLite. Test på din oppgave, og bygg erfaring med hva som fungerer og ikkeAt den bør få en vanskeligere oppgaveAt du kan skru av testene