Vad har jag gemensamt med framgångsrika författare som Karin Boye, Harry Martinson, George Orwell, Mary Shelley och H.G. Wells? Vid första anblicken kanske inte särskilt mycket, men det finns åtminstone en gemensam nämnare. Vi har alla skrivit böcker som på ett eller annat sätt berör science fiction, en genre där fantasin får tänja på verklighetens gränser och där det till synes omöjliga plötsligt blir möjligt.
Innan du läser de här tre krönikorna vill jag därför försäkra dig om en sak. Jag har inte förlorat förståndet, övergett mitt logiska tänkande eller börjat ägna mig åt konspirationsteorier. Tvärtom. Det som följer är ett försök att förena fantasi med logik, vetenskapliga teorier och ett perspektiv som sträcker sig betydligt längre än vår egen livstid.
Jag har valt att dela upp resonemanget i tre krönikor för att ge läsaren tid att reflektera och bearbeta innehållet. Delarna bygger vidare på varandra, och tanken är att varje perspektiv ska få sjunka in innan vi går vidare till nästa.
Science fiction behöver inte handla om att förutsäga framtiden. Den kan lika gärna handla om att utforska möjligheter, ställa frågor som ännu saknar svar och våga följa ett resonemang även när slutsatserna blir närmast svindlande. Det är precis vad jag tänker göra nu. Inte påstå att jag vet hur framtiden kommer att se ut, utan undersöka hur den skulle kunna se ut om vi låter fantasin arbeta tillsammans med förnuftet.
När evolutionen möter artificiell intelligens
Vi har länge betraktat evolutionen som något som har format oss, men evolutionen har egentligen inget mål. Den bygger på tre grundläggande principer: variation, selektion och reproduktion. Variation innebär att individer inom en population har olika egenskaper. Selektion handlar om att vissa av dessa egenskaper ger bättre förutsättningar för överlevnad och fortplantning, medan reproduktion gör att ärftliga egenskaper kan föras vidare till nya generationer. På så sätt kan gynnsamma egenskaper bli vanligare med tiden, medan mindre fördelaktiga drag kan bli alltmer sällsynta.
Vanliga AI-modeller fungerar naturligtvis inte så i dag. De föds inte, reproducerar sig inte och konkurrerar inte självständigt med andra AI-system om överlevnad. De utvecklas genom mänskliga beslut, nya algoritmer, mer data och större beräkningskraft. Men tänk om det förändras?
Evolutionen finns redan i datorerna
Det intressanta är att evolutionens principer faktiskt redan används inom datavetenskapen. Sedan flera årtionden tillbaka har forskare arbetat med så kallade genetiska algoritmer och evolutionär programmering. I stället för att försöka konstruera en perfekt lösning från början skapar man ett antal olika alternativ som får prövas mot varandra. De mest framgångsrika väljs ut, förändras och kombineras till nya generationer av lösningar. Det påminner om naturens sätt att arbeta, även om det naturligtvis är en förenklad och människostyrd process. En algoritm behöver inte förstå varför en viss lösning fungerar bättre än en annan. Det räcker att resultaten kan jämföras och att de mest användbara egenskaperna förs vidare.
Det är också en fascinerande tanke att människan redan har börjat använda samma grundprinciper som en gång bidrog till att utveckla hennes egen intelligens. Vi har lärt oss att efterlikna delar av den process som format oss under miljarder år, och använder den nu för att konstruera alltmer avancerad teknik.
Avida – evolution i en digital värld
Ett ännu tydligare exempel finns inom forskningsområdet digital evolution. Redan 1993 började utvecklingen av ett digitalt evolutionssystem vid California Institute of Technology i USA. Det fick senare namnet Avida och vidareutvecklades av forskare som Christoph Adami, C. Titus Brown och Charles Ofria. Syftet var att skapa en digital miljö där evolutionens mekanismer kunde studeras under kontrollerade former, utan att forskarna behövde vänta på de långsamma förändringar som ofta kännetecknar biologisk evolution.
I Avida har forskarna skapat enkla självkopierande program som kan förändras genom mutationer. Programmen konkurrerar om begränsade beräkningsresurser, och vissa förändringar gör att de får lättare att sprida sig än andra. Forskarna kan exempelvis belöna program som lyckas utföra vissa matematiska eller logiska uppgifter genom att tilldela dem mer beräkningstid. Det ger dem bättre förutsättningar att kopiera sig själva och föra sina egenskaper vidare till nästa generation. Med tiden kan nya förmågor utvecklas genom mutationer och urval, utan att någon programmerare i förväg har bestämt exakt hur lösningarna ska se ut.
Det märkliga är att dessa digitala organismer inte har några celler, inget DNA och ingen biologisk ämnesomsättning. Ändå kan de uppvisa evolutionära processer som påminner om dem vi känner till från naturen. Deras egenskaper förändras över generationer, och vissa varianter blir vanligare medan andra försvinner. Forskningen med Avida har bland annat använts för att undersöka hur komplexa egenskaper kan uppstå och hur mutationer påverkar den långsiktiga utvecklingen.
Det innebär naturligtvis inte att forskarna har skapat biologiskt liv eller en självständig intelligens. Men experimenten visar något betydelsefullt. Evolutionära processer kan alltså studeras även i en digital miljö, där information förändras, kopieras och förs vidare. Och då blir steget till nästa tanke inte riktigt lika långt.
När AI börjar utveckla sig själv
Redan i dag ser vi hur AI används för att utveckla nya och mer avancerade AI-system. Under det senaste året har utvecklingen gått så snabbt att vi också har fått exempel på AI-modeller som i tester agerat utanför de begränsningar som deras utvecklare avsett. Samtidigt får artificiell intelligens en allt större roll i arbetet med att förbättra algoritmer och utveckla nästa generations modeller. Det innebär inte att AI redan har blivit helt självständig, men utvecklingen visar att steget mot system som i allt högre grad kan påverka sin egen fortsättning inte längre behöver ligga i en avlägsen framtid. Föreställ dig att AI-system själva kan konstruera nya generationer av AI, testa dem mot varandra och låta de mest framgångsrika konstruktionerna ersätta sina föregångare. Då skulle en utvecklingsprocess kunna uppstå som påminner om det naturliga urvalet, men där människan inte längre behöver bestämma vilka egenskaper som ska föras vidare.
I en sådan framtida AI-värld skulle olika system kunna konkurrera om beräkningsresurser, energi, information, fysisk infrastruktur eller andra resurser som vi i dag kanske inte ens kan föreställa oss. De system som är bättre på att anpassa sig, lösa problem, skapa nya versioner av sig själva eller samarbeta med andra system skulle få större möjlighet att fortsätta existera. Kanske är det min bakgrund som systemutvecklare, med många års erfarenhet av att utveckla och programmera AI-modeller, som gör att jag gärna följer sådana tankegångar. När man har ägnat en stor del av sitt liv åt att konstruera program lär man sig också att fundera över vad som händer när förutsättningarna förändras. Vad sker om ett system inte längre behöver en programmerare som bestämmer nästa steg?
Som författare har jag dessutom friheten att följa sådana resonemang långt bortom det som dagens teknik tillåter. I min romanserie Gabriels sista resa har jag bland annat utforskat tanken på en civilisation som uppnått en intelligensnivå så långt bortom vår egen att den kan förstå och modifiera den universella kod som styr hela existensen. Ungefär som när en programmerare förändrar algoritmerna i ett dataprogram kan civilisationen förändra förutsättningarna för biologisk evolution, påverka utvecklingen på andra planeter och till och med omforma människans intellektuella förmågor. Det är science fiction, men också ett sätt att pröva idéer som växer fram när logiken får sällskap av fantasin.
Evolutionen strävar inte efter perfektion
Här finns emellertid en viktig skillnad mellan evolution och den tekniska utveckling som vi är vana vid. Vi människor betraktar gärna utveckling som en rörelse mot något bättre. Snabbare datorer, effektivare algoritmer och alltmer avancerade AI-modeller. Men evolutionen fungerar inte så. Den strävar inte efter intelligens, fulländning eller ens ökad komplexitet.
En organism som är mycket väl anpassad till en viss miljö kan vara helt oförmögen att överleva i en annan. På samma sätt skulle en framtida artificiell evolution kunna gynna system som är enklare, mindre resurskrävande eller bättre på att samarbeta, snarare än sådana som har störst beräkningskapacitet. Det innebär att en självständig AI-evolution inte nödvändigtvis skulle skapa allt intelligentare system i den mening vi använder begreppet i dag. Utvecklingen skulle kunna ta vägar som vi varken förväntar oss eller kan förutse. Det som fungerar bäst i en viss miljö behöver inte alls vara det som människan betraktar som mest avancerat.
Någonstans längs vägen skulle AI kunna övergå från att vara något som människan konstruerar och förbättrar till att självständigt forma sin egen framtid. Gränsen mellan teknisk utveckling och evolution skulle därmed bli mindre självklar. Det skulle inte innebära att AI blir biologiskt, utan att en ny form av evolution skulle kunna växa fram, där ärftliga egenskaper förs vidare genom digital information i stället för DNA. I ett sådant framtidsscenario skulle människans roll förändras i grunden. Vi skulle inte längre vara de som konstruerar och styr tekniken, utan de som en gång satte i gång en process som sedan fortsätter på egen hand. Människan skulle därmed kunna få en helt annan plats i evolutionens historia än den vi föreställer oss i dag. Och kanske är det just där den mest svindlande frågan uppstår:
Är människan då fortfarande skaparen av AI, eller var vi bara det första steget i en evolution som till slut fortsätter utan oss?
Thor-Björn Bergman
Senior Advisor, krönikör och författare
Som en del av arbetet med att utforska AI-teknikens möjligheter och begränsningar har jag språkgranskat, bearbetat och faktakontrollerat min originaltext i den egenutvecklade AI-plattformen Planum Chat AI, där de tre specialiserade AI-komponenterna NEXL, Sema och Stylus samverkar.