På et lite semäster til Sverige i sommer, plukket jeg med meg et nummer av "Lesmagasinet för nyfikna" - Filter, nærmere bestemt et temanummer om Framtiden. (Morsomt nok illustrert på forsiden av en mammut på toppen av noen 1920-tallsfuturistiske blokker.)

En av artiklene i tidsskriftet var et intervju med Olle Häggstrøm, professor i matematisk statistikk om Singulariteten - her i betydningen situasjonen hvor vi har utviklet datamaskiner som har en intelligens som overgår vår egen - og som vi dermed kan risikere at etter hvert rett og slett tar over samfunnsmakten.

Dette er et tema som har vært gjenstand for mange spekulasjoner innen Science Fiction-sjangeren. Terminator-filmenes Skynet, 2001s HAL, eller vår mer hjemlige Blindpassasjer (Bing&Bringsværd) er nærliggende eksempler. Häggström har nok rett i at dette har bidratt til at temaet ikke har blitt behandlet med den seriøsitet det burde i forskerkretser, i tillegg til at det - som han sier "är en alldeles för radikal tanke".

Häggström tar opp mange dårlige argument som er blitt fremmet mot denne ideen, men en, som jeg kanskje tenker er litt bedre, blir ikke nevnt. Kanskje fordi forskningsfeltet ennå er såpass ferskt (noen tiår).

Ideen om en maskin som på et eller annet plan oppnår "selvbevissthet" og gjør frie valg ut fra sine egne vurderinger, forutsetter at maskinen har det man innen deler av psykologien på nynorsk kaller "agency". Nyere forskning på menneskehjernen kan tyde på at det vi mennesker opplever som fri vilje, er en illusjon.

Benjamin Libet oppdaget i en serie banebrytende eksperimenter midt på 80-tallet at den bevisste delen av hjernen som tar avgjørelser i tid aktiveres etter den delen av hjernen som setter i gang den gjeldende handlingen. (Studien: http://selfpace.uconn.edu/class/ccs/Libet1985UcsCerebralInitiative.pdf)

Hjernen vår "narrer oss" altså til å tro at vi har tatt et bevisst valg om (i Libets opprinnelige eksperiment å bevege en arm), mens resultatet av "valget" allerede er blitt bestemt, og handlingen igangsatt før vår bevissthet har vært inne i bildet.

Det er selvsagt ingen monoman enighet om dette i fagfeltet (og spørsmål om hva "fri vilje", "selvbevissthet" etc. faktisk er om det finnes, er jo også en debatt). Men i spørsmålet om vi kan risikere å utvikle kunstig intelligens som opererer etter sin egen vilje heller enn etter vår, kan vi neppe se bort fra problemstillingen om "vilje" i det hele tatt eksisterer.

Om vi mennesker ikke har fri vilje, kommer vi vel neppe til å utvikle en kunstig intelligens som har det.

Men det er kanskje en alldeles för radikal tanke?