AI-ideologin som avgör människans framtid
Ingen vill missa tåget – därför drar alla åt samma håll
Via lagliga men märkliga vägar, landade en PDF i min inbox. Långt innan release fick jag läsa ”The Optimist” – journalisten Keach Hageys välskrivna biografi om Open AI-VD:n Sam Altman. Personporträttet är intressant, men det som gör boken oumbärlig är skildringen av den största tech-ideologiska maktkampen sedan atombomben.
Vår besatthet av AI är begriplig; vi är mitt i en normförskjutning för information, kunskap och kreativitet. Allt fler använder chatbotar i stället för att googla, tänka eller skapa. Effekterna på demokrati, arbetsliv och mellanmänskliga relationer avgörs av vilket av två ideologiska läger som tillåts styra AI-utvecklingen.
På den ena sidan finns den försiktigare ”effektiva altruismen” (EA), på den andra en syskonideologi kallad ”effektiv accelerationism” (e/acc). Den förstnämnda, ibland kallad ”longtermism”, är teknikpositiv men vill gå metodiskt och selektivt fram i utvecklingen; riskerna för samhället kräver det.
Den effektiva accelerationismen vill dock framåt – till varje pris. De eventuella hot tekniken utgör kommer lösa sig med ännu mer teknisk utveckling. Samhället optimeras i en ”självorganiserad, kapitalistisk hierarki” för att citera Guillaume Verdon – en av rörelsens nutida portalfigurer (på X/Twitter under namnet @BasedBeffJezos).
De båda ideologiernas rötter går tillbaka till 90-talet. Ett småhemligt litet sällskap av futurister utbytte tankar över e-post. Mailinglistan kallades The Extropians och de tidiga accelerationisterna förenades i striden mot entropi – naturlagen om allt levandes slutliga sönderfall. Extropianerna menade att accelererad teknologisk utveckling skulle förlänga och förbättra livet.
Den 17-årige datavetaren Elizer Yudkowsky upptäckte extropianernas mailinglista, och snart blev han extropianernas fixstjärna. Åren slipade och förfinade Yudkowskys budskap, och under 2010-talet hittade fler och fler i Silicon Valley till hans blogg LessWrong. Från att på 1990-talet varit 101 procent techno-optimist, började han nu lägga in brasklappar. Artificiell intelligens kan inte bara släppas fri. Den måste regleras, annars kan den ha negativa konsekvenser för mänskligheten.
En av de som verkade inspireras av Yudkowsky var Elon Musk. Tillsammans med bland andra Sam Altman grundade han det icke-vinstdrivande Open AI. Open AI:s stadgar stipulerade att styrelsen skulle upplösa företaget om de riskerade att tappa kontrollen över deras AI:n. Precis som Google på 00-talet rekryterade de skarpaste hjärnorna med sitt ”Dont’t be evil”-motto, kunde Altman på så sätt locka till sig gräddan av AI-ingenjörer. Open AI:s utveckling gick i rasande takt. Deras bild- och video-AI blev allt bättre och fick allt fler användare. ChatGPT gick från kul grej till Google-utmanare.
Den tvåårige Sam ville inte leka i lekparken. ”Han sa att de andra barnen fattade för trögt”, berättar hans mamma i ”The Optimist”. Inte heller den vuxne Sam orkar vänta på de som inte förstår. I takt med att Open AI växte, blev han alltmer otålig och irriterad på de försiktiga altruisterna han byggt sitt företag med. Bakom ryggen på dem godkände Altman utvecklingen av kraftfulla AI-modeller utan hänsyn till de rigorösa kontrollfunktioner som Open AI hade i sina stadgar. I november 2023 ställde det styrelsen vid ett vägskäl och en konfrontation, i Silicon Valley kallad ”The Blip”. De sparkade Sam Altman.
Så när Donald Trump blev president, stod såklart även Altman bredvid alla andra techluminärer med plånbok och mössa i hand
Detaljerna om ”The Blip” finns att läsa i Keach Hageys bok. En kortversion: Dagen efter att Altman fick silkessnöret, hotade Microsoft att ta bort datorkraften och låta Altman ta över deras egen AI-avdelning. De anställda stod redo att följa honom; ett lukrativt optionsprogram på OpenAI såg nämligen ut att försvinna med VD:n. Styrelsen fick backa och avgå. OpenAI blev det vinstdrivande företag det är i dag.
Där och då förändrades kursen för den globala AI-utvecklingen. Globalistisk altruism gav vika för Kalicentrisk accelerationism. Sam Altman slutade oroa sig och lärde sig att älska den techno-kapitalistiska maskinen.
Tanken om AI som en evighetsmaskin för välstånd och tillväxt kommer från Nick Land – en speciell herre som på 90-talet levererade det tankegods som accelerationismen är byggd på. Han, och även samtida Ray Kurzweil, menar att maskinen matas med tidigare innovationer – PDF ersätter tryckkonst, e-post i stället för snigelpost, Resultatet blir enligt teorin en uppåtgående spiral – så länge bakåtsträvande fackförbund, långsam byråkrati och klåfingriga lagstiftare håller sig undan. Det tarvar politiskt inflytande.
Så när Donald Trump blev president, stod såklart även Altman bredvid alla andra techluminärer med plånbok och mössa i hand. Person eller parti vid makten spelar ingen roll för den i grunden progressive Altman. Han har tidigare hällt in pengar i demokraten och framtidslöftet Gavin Newsoms vinnande kandidatur att bli Kaliforniens guvernör. Newsom återgäldade tjänsten med att stoppa Kaliforniens AI-lagstiftning som skapats i samråd med altruisterna i techbranschen.
I ”The Optimist” avslöjas dessutom att Altman, innan han stöttade Newsom, övervägde att själv försöka ta över den kaliforniska guvernörsposten från Jerry Brown. Fullt logiskt. Sam Altmans gärning – före och efter OpenAI – kretsar kring Silicon Valleys industriella men också kulturella särart och dominans. Den är ”California first”. Eller kanske mer ”California Über Alles”, som Dead Kennedys en gång sjöng om pragmatikern Jerry Brown.
AI:ns attityder och värderingar är resultatet av hur modellerna tränas, balanseras och avgränsas. Detta kommer ske med utgångspunkt i de värderingar som råder på den plats där det görs. Någon väljer ut träningsdata, viktar och drar gränserna för vad AI:n får och inte får göra. Sam Altman tycker att det bästa för världen är att Kalifornien och hans företag utgör chatbotarnas kulturella mylla. Det kräver att man gasar – inte bromsar; konkurrenterna utanför delstaten och landet får inte hinna före.
Den här protektionistiska pragmatiken retar de riktigt rättrogna accelerationisterna. De förespråkar decentralisering – alla ska äga sin egen AI, ha ett helt eget ChatGPT. Språkmodeller ska vara öppna och gratis. Varken företag eller stat ska kunna kontrollera eller förtrycka oss med AI. Decentralisering och öppen källkod förenar höger och vänster-accelerationister.
Därför ska folk skaffa många barn, länder utvinna så mycket naturresurser som möjligt och företag ges fri lejd att göra precis som de vill
Japp, det finns accelerationister som inte är höger. Den hyllade filosofen Mark Fisher menade bland annat att marxismen inte kan existera utan accelerationismen. Om utvecklingen stannar upp, ansamlas produktionsmedel hos sådana som Sam Altman. Fisher dog tragiskt nog 2017, det hade varit oerhört intressant att höra hans take på AI-utvecklingen och e/acc-märkta riskkapitalister som Marc Andreessen.
Andreessens storvulna The Techno Optimist Manifesto har såklart inspirerat Hageys boktitel. Manifestet pollinerar även Trumpismen, eller ska vi säga Muskismen? Andreessens höger-accelerationism förespråkar, till skillnad från Fishers vänstervariant, ett direkt förakt för kulturella och samhälleliga kontrakt. Allt gott är ”nedströms från tillväxt”. Därför ska folk skaffa många barn, länder utvinna så mycket naturresurser som möjligt och företag ges fri lejd att göra precis som de vill.
Musk lämnade OpenAI 2018. Den officiella orsaken var meningsskiljaktigheter med Altman kring just riskfrågan. Nu har Musk ett eget, konkurrerande AI-företag – xAI. Nyligen flyttade företaget från Kalifornien till Texas. I delstatens snustorra södra del, bygger Musk ett lithium-raffinaderi som förbrukar 30 miljoner liter vatten – per dag. Hans tid i Vita huset präglas inte direkt av försiktig eller för den delen effektiv altruism.
Sam Altman får snart in 40 miljarder dollar av sina investerare. Microsoft, programmerings-AI:n Windsurf och den här tidningens moderbolag Schibsted väntar otåligt tillsammans med hundratals Open AI-partners.
De vill inte missa AI-tåget, kosta vad det kosta vill. AI–altruisterna lyser med sin frånvaro. Fältet ligger öppet för accelerationisterna.
