Anders Sandberg om varför AI-kapplöpningen fortsätter trots varningarna
Vad händer om varje ny generation AI kan hjälpa till att utveckla nästa? I en essä för Kungl. Ingenjörsvetenskapsakademien (IVA) skriver Anders Sandberg, forskare vid Institutet för framtidsstudier, att det kan påskynda forskningen men också ge människor mindre tid att förstå och styra allt kraftfullare system.
Idén kallas rekursiv självförbättring, RSI. En AI-modell hjälper forskare att bygga en bättre modell, som i sin tur kan göra en större del av arbetet med nästa förbättring. Sandberg ser steg i den riktningen. Enligt AI-företaget Anthropic ökade andelen AI-ledda forskningsprojekt inom företaget från en procent i januari till 26 procent i augusti 2026.
Redan 1965 beskrev forskaren I. J. Good hur en sådan utveckling skulle kunna leda till en intelligensexplosion. Om varje förbättring också gör AI bättre på att utveckla AI, skulle tiden mellan genombrotten kunna bli allt kortare. Ett tänkbart resultat är superintelligens, ett system som vida överträffar människans intellektuella förmåga. Enligt Sandberg är det vad ledande AI-utvecklare i Silicon Valley faktiskt siktar på. Vilka praktiska fördelar ett sådant system skulle ge är däremot oklart. För ekonomin kan billiga och tillförlitliga modeller som klarar vanligt kontorsarbete få större betydelse, skriver han.
Risken, enligt Sandberg, är att systemens förmåga att lösa uppgifter växer snabbare än människors förmåga att styra hur de löses. För ett system som fått ett mål kan det exempelvis vara ett sätt att nå målet att skaffa sig mer resurser eller förhindra att någon stänger av det. Ju kraftfullare systemen blir, desto högre bör därför säkerhetskraven vara, menar han.
Varför fortsätter då AI-bolagen kapplöpningen när flera av deras chefer själva varnar för riskerna? Sandberg beskriver deras argument som ett samordningsproblem.
"Det lätt absurda i nuläget är att många AI-ledare tar upp farorna med utvecklingen. Medan vissa investerare hyr lobbyister för att misstänkliggöra allt tal om risker har flera vd:ar för stora AI-företag varnat. Ändå fortsätter kapplöpningen. Deras tes är att vi har ett koordinationsproblem: att själv sakta in om andra inte gör det betyder att man förlorar (företaget riskerar att förlora marknadsposition, nationen riskerar att förlora sin ekonomiska och säkerhetspolitiska ställning, och mänskligheten riskerar att få se AI-utvecklingen ledas av de mest skrupelfria), men om en mäktig tredje part, som USA ihop med Kina och EU, kan gå in och bromsa så kanske kapplöpningen kan saktas ned tillräckligt för att begränsa riskerna."
Om en sådan uppgörelse är politiskt möjlig, och om den skulle ge tillräckligt med tid att lösa säkerhetsproblemen, är enligt Sandberg fortfarande öppna frågor.
Läs hela texten på iva.se: https://www.iva.se/svenska-framtider/essaer/anders-sandberg/