Pieter Libin and Tim Brys published this article in De Standaard.
Op zijn eerste persconferentie, dinsdag, kondigde president Donald Trump het ‘Stargate’-initiatief aan. Dat is een samenwerking tussen drie bedrijven: AI-reus OpenAI (bekend van onder andere ChatGPT), Oracle (gespecialiseerd in cloudcomputing) en Softbank (een Japanse investeringsmaatschappij). Die drie zouden 500 miljard dollar pompen in de ontwikkeling van Amerikaanse AI-infrastructuur: de datacenters en het energienetwerk die nodig zijn om krachtige AI-modellen te trainen en beschikbaar te stellen.
“It’s big money and high quality people,” loofde Trump. Hij noch zijn regering lijkt financieel iets met de deal te maken te hebben. Toch dankten de drie ceo’s de president om Stargate mogelijk te hebben gemaakt. De deal past dan ook volledig in Trumps America First-beleid, waarin de tech bro’s aan zijn hof een centrale rol spelen, en de nieuwe president strijkt dan ook graag de eer op. Het verschil kon niet groter zijn met voorganger Joe Biden, die onlangs nog bij de Verenigde Naties pleitte voor grote omzichtigheid omtrent AI.
Op de website van OpenAI is te lezen dat de Stargate-infrastructuur voor eigen gebruik zal dienen. OpenAI blijft namelijk vooruitgang boeken en onthulde in december nog zijn nieuwste model o3, met indrukwekkende redeneercapaciteiten. Het doel van de organisatie is nog altijd om artificial general intelligence (AGI) te ontwikkelen: AI met de cognitieve capaciteiten van een mens. Volgens Sam Altman, de ceo van OpenAI, zou dat doel al tijdens Trumps presidentschap gerealiseerd kunnen worden. De verwachtingen zijn alleszins hooggespannen: op de persconferentie gaf Oracle-ceo Larry Ellison het voorbeeld dat AGI gepersonaliseerde kankervaccins mogelijk zou maken. Een wonderbaarlijk vooruitzicht: wie kan er nu tegen de uitroeiing van kanker zijn?
Potentiële gevaren
Nochtans zijn veel vooraanstaande wetenschappers en ceo’s er niet helemaal gerust op. Geoffrey Hinton, een van de peetvaders van AI, schat dat er 10 tot 20 procent kans is dat AGI onze soort zal uitroeien. En zoals een recente enquête onder wetenschappers aangeeft, staat hij daarin zeker niet alleen. De potentiële gevaren van AGI worden dan ook op regelmatige basis vergeleken met die van nucleaire technologie.
Maar zelfs al komt het niet zover, dan nog heeft AGI het potentieel om de maatschappij te ontwrichten. Het Stargate-project belooft duizenden banen, maar het is niet duidelijk hoe de economie er zal uitzien zodra menselijke cognitie geautomatiseerd is. Daarnaast worstelen we momenteel met enorme uitdagingen omtrent het klimaat en het is verre van duidelijk hoe de toenemende vraag naar energie van AI-modellen in dat plaatje zal passen.
Het is opmerkelijk dat met dergelijke vooruitzichten de ontwikkeling van AGI volledig in handen lijkt te liggen van enkele Amerikaanse tech-ceo’s. Niemand zou tolereren dat bedrijven zonder enig toezicht nucleaire technologie ontwikkelen (het Manhattan-project was een overheidsproject).
Maar met de opkomende oligarchie in Amerika lijkt er helemaal geen rem meer te staan op de technologische vooruitgang. En hoewel we in de EU wetgeving hebben om ons daartegen te beschermen, is het twijfelachtig dat die zal volstaan voor technologieën die in de Verenigde Staten worden ontwikkeld.
Wapenwedloop
Dit begint alsmaar meer te lijken op een wapenwedloop tussen de VS en China, die op meerdere vlakken doet denken aan de nucleaire wapenwedloop tijdens de Koude Oorlog. Dat alles gebeurt zonder de Amerikaanse bevolking te consulteren, want 82 procent van de Amerikanen zou net voorstander zijn van een vertraging in de ontwikkeling van AI. Zo beslissen Amerikaanse tech bro’s dus over het lot van iedereen, want de rest van de wereld werd al helemaal niet geraadpleegd.
AI zal ongetwijfeld een belangrijke bijdrage leveren aan de oplossing van heel wat problemen: kanker, pandemieën, de klimaatcrisis … Of AGI daarvoor nodig is, is een andere zaak. Ons lijkt vooral veiligheid, niet snelheid, cruciaal in de ontwikkeling van AI. Daarin (stevig) investeren zou dan ook geen overbodige luxe zijn. Daarnaast moeten we investeren in bi- en multilaterale akkoorden met onder andere China, zodat AI-ontwikkeling het algemene belang kan dienen. Want de nulsomlogica van een wapenwedloop, gedreven door nationale veiligheidsbelangen, brengt de mondiale en dus ook de nationale veiligheid op termijn juist in gevaar. We hebben geen nood aan een nieuw Manhattan-project, laat staan aan een kapitalistische versie ervan, maar veeleer een nieuwe Cern: een AI-project opgezet via internationale samenwerking, om duurzame vooruitgang te bewerkstelligen.