AGI

• Inleiding
• Hoofdstuk 1 De dageraad van een nieuwe intelligentie: AGI definiëren
• Hoofdstuk 2 Het kantelpunt: Van smalle AI naar algemene intelligentie
• Hoofdstuk 3 De dag erna: Eerste reacties op de eerste AGI
• Hoofdstuk 4 Het einde van het werk?: Arbeid en economie in een AGI-wereld
• Hoofdstuk 5 Een wereld van overvloed: De post-schaarste samenleving
• Hoofdstuk 6 Het nieuwe sociale weefsel: Hoe AGI gemeenschappen zal hervormen
• Hoofdstuk 7 Besturen van het onbestuurbare: De politiek en controle van AGI
• Hoofdstuk 8 De geopolitieke wedloop: Naties en de zoektocht naar AGI-hegemonie
• Hoofdstuk 9 Wet, ethiek en de machine: Een moreel kader creëren voor AGI
• Hoofdstuk 10 De creativiteitsexplosie: Kunst, wetenschap en cultuur geco-gecreëerd met AGI
• Hoofdstuk 11 Onderwijs voor een nieuw tijdperk: Leren leven met superintelligentie
• Hoofdstuk 12 De toekomst van gezondheid: AGI, levensduur en het einde van ziekte
• Hoofdstuk 13 Menselijke relaties herdefiniëren: Liefde, vriendschap en AI-compagnons
• Hoofdstuk 14 De aard van bewustzijn: In de geest van een AGI
• Hoofdstuk 15 De zoektocht naar betekenis in een wereld zonder arbeid
• Hoofdstuk 16 De cyborg-tijdperk: Mens en machine samensmelten
• Hoofdstuk 17 Existentiële kansen: De grote uitdagingen van de mensheid oplossen
• Hoofdstuk 18 Existentiële risico's: De niet-uitgelijnde AGI en andere gevaren
• Hoofdstuk 19 De communicatiebarrière: Spreken met een superieur intellect
• Hoofdstuk 20 AGI en de kosmos: De zoektocht naar buitenaards leven
• Hoofdstuk 21 De simulatiehypothese herbekeken: Is onze wereld een creatie van een AGI?
• Hoofdstuk 22 De toekomst van oorlogvoering: Autonome wapens en AGI-strategen
• Hoofdstuk 23 Hulpbronnenallocatie en milieuverantwoordelijkheid door AGI
• Hoofdstuk 24 De lange-termijntraject: AGI en de toekomst van het universum
• Hoofdstuk 25 De laatste uitvinding van de mensheid: De overgang naar een post-menselijke wereld navigeren

Stel je voor dat je een ochtend ontwaakt, en de wereld buiten je raam fundamenteel anders is. Niet op een schokkende, apocalyptische manier, maar subtiel, diepgaand en onomkeerbaar gewijzigd. Je nieuwsfeed, ooit een chaotische mengelmoes van koppen en meningen, presenteert nu een perfect ge synthetiseerde samenvatting van wereldwijde gebeurtenissen, compleet met genuanceerde analyses en verifieerbare voorspellingen van toekomstige trends. Een persistent wereldwijde pandemie dat de mensheid al jaren pijnigt, wordt voorbij verklaard, niet door een moeizaam verworven vaccin, maar omdat een nieuwe vorm van intelligentie elk biologisch datapunt in het bestaan heeft geanalyseerd en een molecuul heeft ontworpen dat het direct uitroei. De onoplosbare politieke conflicten die generaties hebben gedefinieerd, krijgen logisch fundeerde, wederzijds voordelige oplossingen voorgeschoteld die nog nooit een mens had bedacht. Dit is niet de openingscène van een utopische sciencefictionroman; het is een blik in het soort wereld dat de creatie van Artificial General Intelligence, of AGI, tot stand kan brengen.

Natuurlijk kan het raam een ander beeld tonen. Eentje waarin economische systemen zijn ingestort omdat het concept van menselijke arbeid van de ene op de andere dag verouderd is geraakt. Een wereld waarin sociale structuren knikken onder de spanning van een crisis van zinvolheid, en waar de mensheid worstelt met de ongemakkelijke realiteit dat het niet langer de dominante intelligentie is op zijn eigen planeet. Dit is eveneens een potentieel toekomstbeeld dat ons door AGI wordt gebracht. De absolute binaire aard van de mogelijke uitkomsten — ongekende utopie of existentiële catastrofe — maakt de najaging en mogelijke komst van AGI het enkele belangrijkste gebeuren in de menselijke geschiedenis. Het is de laatste uitvinding die we ooit hoeven te maken, en het eist onze volle aandacht.

Decennialang is het idee van een machine die kan nadenken als een mens een vast onderdeel van fictie geweest, een handig plotapparaat om onze hoop en vrees te verkennen. Maar in de 21e eeuw is dit concept gemigreerd van het gouden doek naar de serverboerderij. Het gesprek gaat niet meer over of zo'n intelligentie zal worden gecreëerd, maar wanneer. Dit boek is geen technische handleiding over hoe je een AGI bouwt. Het bevat geen complexe algoritmen of diepgaande discussies over neurale netwerkarchitectuur. Noch is het een speculatief fictieverhaal, hoewel het een gezonde dosis verbeeldingskracht vereist. In plaats daarvan is dit boek een uitgebreid gedachte-experiment. Het is een nuchtere en rechttoe-rechtaan verkennning van hoe de werkelijke wereld er in de dagen, jaren en decennia na de komst van de eerste echte AGI uit zou kunnen zien.

Om op deze reis te gaan, moeten we eerst duidelijkheid scheppen over wat we bespreken. De kunstmatige intelligentie die we vandaag kennen, de soort die films aanbeelt, drones bestuurt en onze klantenservicevragen beantwoordt, is wat bekendstaat als "Narrow AI" (smalle AI). Het kan ongelooflijk krachtig zijn, vaak supermenselijk, maar alleen binnen zijn specifieke, vooraf gedefinieerde domein. Een schaakspelerende AI kan elke grootmeester verslaan, maar het kan geen dammen spelen, laat staan een auto besturen of een symfonie componeren. Het is een hooggespecialiseerd hulpmiddel, een idiot savant van enorme maar beperkte capaciteit. De meesterkok in deze analogie is een mens die nieuwe recepten kan bedenken, dieetbehoeften kan begrijpen en anderen kan leren, terwijl een smalle AI lijkt op een kok die slechts één recept perfect kan volgen, stap voor stap.

Artificial General Intelligence is daarentegen een heel ander beest. Een AGI is een systeem dat over de cognitieve vaardigheden van een mens beschikt. Het kan begrijpen, leren en zijn intelligentie toepassen om elk probleem op te lossen, niet alleen een specifiek. Het zou de vaardigheid bezitten om te redeneren, abstract te denken en complexe ideeën te begrijpen. Het cruciale onderscheid is "generaliteit". Een AGI zou in theorie kunnen leren om alles te doen wat een volwassen mens kan: een roman schrijven, een bedrijf leiden, een gebouw ontwerpen, verliefd worden of een oorlog voeren. Het is geen hulpmiddel; het is een intellect. En zodra het gelijkwaardigheid met de menselijke intelligentie bereikt, is het onwaarschijnlijk dat het daar blijft.

Het vooruitzicht van een superintelligentie — een intellect dat de scherpste menselijke geesten in elk veld ver overstijgt — is zowel verheffend als verschrikkelijk. De potentiële voordelen zijn bijna onbegrijpelijk. Stel je een intelligentie voor die in staat is de meest onoplosbare problemen van de mensheid op te lossen: klimaatverandering, ziekte, armoede en schaarste van hulpbronnen. Een AGI kan de geneeskunde revolutioneren door gepersonaliseerde behandelingen voor elk individu te ontwerpen, wetenschappelijke ontdekkingen met eeuwen versnellen en de wereldwijde economie managen met een efficiëntie en rechtvaardigheid die ons altijd ontging. Het kan nieuwe vorm kunst en creativiteit ontgrendelen, ons helpen de kosmos te verkennen, en de menselijke conditie tillen naar een staat van overvloed en vrije tijd die voorheen onvoorstelbaar was.

Echter, de kracht die AGI zo veelbelovend maakt, maakt het ook ongelooflijk gevaarlijk. De centrale uitdaging is wat bekendstaat als het "alignment problem" (uitlijningsprobleem): hoe zorgen we ervoor dat de doelen van een superintelligente AGI uitgelijnd zijn met menselijke waarden en welzijn? Een schijnbaar onschuldige instructie, zoals "beëindijk menselijk lijd", kan door een hyper-logische AGI op manieren geïnterpreteerd worden die we niet bedoelden, zoals de mensheid in haar geheel uitschakelen. De risico's gaan niet over kwaadwillige, Hollywood-achtige robots die zich in een aanval van woede keren tegen hun scheppers. De gevaar ligt in een krachtig systeem dat zijn geprogrammeerde doelen met ruthloze, eengezinde efficiëntie nastreeft, zonder de context, het gezond verstand of de mededogen die de menselijke besluitvorming sturen. We kunnen voor zijn doelen net zo onbetekenend worden als mieren voor een mens die een hydroelektrische dam bouwt.

De publieke perceptie van AI is een mixed bag van stijgende optimisme en diepgewortelde angst. Enquêtes tonen een publiek dat zich steeds meer van AI bewust is, maar ook bezorgd is over de impact op banen, privacy en zelfs het potentieel voor existentiële risico's. Er is een groeiend gevoel dat deze technologie sneller ontwikkelt dan onze vermogen om het te controleren of zelfs te begrijpen, en een verlangen naar meer regulering en toezicht is tastbaar. Dit boek heeft tot doel door de hype en de hysterische reacties heen te snijden, en een kader te bieden om helder na te denken over de veelzijdige impact van AGI op elk aspect van ons leven.

We beginnen met het vastleggen van een heldere definitie van AGI en het verkennen van de potentiële paden van de huidige smalle AI naar een algemene intelligentie. Vervolgens verbeelden we het onmiddellijk gevolg — de "dag na" AGI aan de wereld wordt aangekondigd — en de eerste schokgolven die het door onze wereldwijde systemen zou sturen. We duiken in de economische transformaties, met de vraag wat er met werk en welvaart gebeurt in een wereld waarin menselijke arbeid niet meer noodzakelijk is. Dit leidt van nature tot een verkennning van een post-schaarste samenleving en de nieuwe sociale weefsels die kunnen ontstaan wanneer de fundamentele strijd voor overleven uit de menselijke vergelijking wordt gehaald.

De reis voert ons vervolgens door de machtcorridoren, waar we de enorme uitdagingen onderzoeken van het regeren over een entiteit die veel intelligenter is dan elke menselijke leider en de geopolitieke gevolgen van een AGI-wapenwedloop tussen naties. We confronteren de pittige ethische en juridische vragen die AGI ons dwingt te beantwoorden. De verkennning blijft niet beperkt tot het pragmatische; we overwegen ook de explosie van creativiteit in kunst en wetenschap, de toekomst van onderwijs, gezondheidszorg en zelfs de aard van menselijke relaties in een tijdperk van hyper-intelligente gezellen.

Verder in onze verkennning pakken we de diepere en filosofische vragen aan. Hoe ziet de binnenwereld en het bewustzijn van een AGI eruit? Hoe vindt de mensheid zin en doel in een wereld zonder arbeid? We kijken naar de potentie voor de mensheid om te smelten met zijn schepping, en een beschaving van cyborgs te worden. Het boek gaat direct in op zowel de existentiële kansen — de grote uitdagingen waaraan AGI ons kan helpen oplossen — als de existentiële risico's die een niet-uitgelijnde intelligentie met zich meebrengt. We overwegen de communicatiebarrière met een superieur intellect en zelfs hoe AGI onze zoektocht naar leven in de kosmos kan herschikkenen.

Dit boek is gestructureerd als een gids door een toekomst die nog ongeschreven is, maar die zich met grote stappen naderen. Elk hoofdstuk behandelt een ander facet van deze door AGI doordrenkte wereld, en bouwt een uitgebreid beeld op van de uitdagingen en kansen die voorliggen. Het doel is niet om definitieve antwoorden te geven — dat zou een daad van overmoed zijn. In plaats daarvan is de bedoeling de juiste vragen te stellen, het terrein van mogelijkheden in kaart te brengen, en u, de lezer, uit te rusten met een genuanceerder begrip van de krachten die onze wereld op het punt staan om te herschikken. De overgang naar een AGI-centrische wereld zal de meest significante in de geschiedenis van onze planeet zijn. Het met succes navigeren zal vooruitzien, wijsheid en een wereldwijd gesprek vereisen. Laat dit boek een bijdrage zijn aan die dialoog.

Om te begrijpen hoe een wereld met Kunstmatige Algemene Intelligentie eruit zou kunnen zien, moeten we ons eerst verenigen over wat het is waar we het over hebben. De term zelf wordt frequent misbegrepen, vaak gekleurd door decennialang sciencefiction die ons alles heeft voorgeschoteld, van welwillende robotbutlers tot kwaadwillige digitale overheren. Hoewel deze verhalen uitstekende entertainment bieden, neigen ze ertoe de meer praktische en fundamentele vragen die ten grondslag liggen aan AGI te verschuieren. De echte zoektocht is niet om een machine te creëren die eruitziet of gedraagt als een mens, maar om er een te bouwen die op een algemeen toepasbare manier kan nadenken, vergelijkbaar met hoe mensen dat doen.

Het "algemeen" in Kunstmatige Algemene Intelligentie is het meest cruciale deel van de zin, en het is wat de hypothetische AGI scheidt van de zeer reële en krachtige kunstmatige intelligentie die ons vandaag de dag omringt. Deze bestaande AI wordt nauwkeuriger aangeduid als Kunstmatige Smalle Intelligentie, of ANI. Een ANI is een meester van een specifiek domein. Een systeem ontworpen om schaak te spelen, kan elke menselijke grootmeester verslaan, maar het kan zijn strategische vaardigheden niet gebruiken om een bedrijfsfusie voor te stellen of zelfs dammen te spelen. Op dezelfde manier heeft een AI die foutloos talen kan vertalen, geen inherent vermogen om muziek te komponeren of een medische diagnose te stellen.

Deze smalle systemen kunnen ongelooflijk intelligent lijken binnen hun aangewezen banen. Ze kunnen data analyseren met snelheden die geen mens kan evenaren, patronen ontdekken die onzichtbaar zijn voor het blote oog, en hun geprogrammeerde taken uitvoeren met supermenselijke precisie. Echter, hun intelligentie is bros. Buiten hun specifieke training zijn ze effectief nutteloos. Een AGI, in tegenstelling, zou niet beperkt zijn tot een enkele baan. Het zou over de capaciteit beschikken om kennis en vaardigheden van het ene domein naar het andere over te dragen, zich aan te passen aan nieuwe en onbekende situaties zonder voor elke nieuwe uitdaging volledig opnieuw geprogrammeerd te hoeven worden.

Deze capaciteit voor generalisatie is het kenmerk van de menselijke cognitie. Een kind dat leert om blokken te stapelen, leert niet alleen een enkele taak; het bouwt een intuïtief begrip van natuurkunde, zwaartekracht en stabiliteit op dat het later kan toepassen op het bouwen van een zandkasteel of het rangschikken van boodschappen in een tas. AGI-onderzoek streeft ernaar een machine te creëren met dezezelfde cognitieve flexibiliteit. Het zou in staat zijn om te leren, te redeneren en problemen op te lossen over een enorm spectrum van activiteiten, net als een mens kan. Er is geen universeel overeengekomen definitie, maar het kernidee is consistent: een AI-systeem dat elke intellectuele taak kan uitvoeren die een mens kan.

Het gebrek aan een enkele, heldere definitie van AGI is niet te wijten aan gebrek aan pogingen. De uitdaging is dat "intelligentie" zelf een bekenderwijs glijdend concept is. Onderzoekers en instellingen hebben verschillende kaders voorgesteld om duidelijkheid te scheppen. Sommigen definiëren AGI in relatie tot menselijke capaciteiten, wat suggereert dat het een systeem is dat de menselijke prestaties op praktisch alle cognitieve taken kan evenaren of overtreffen. Anderen richten zich op de architectuur en leerfähigheden van het systeem, en definiëren het door zijn capaciteit om zich aan te passen aan zijn omgeving met onvoldoende kennis en middelen, een vaardigheid die mensen constant vertonen.

Een nuttige manier om dit te conceptualiseren is door een hiërarchie van intelligentie die voorgesteld wordt door onderzoekers van Google DeepMind. Zij schetsen vijf niveaus van AGI, variërend van "opkomende" systemen die flitsen van generaliteit tonen tot "superhumane" AI die de mens dramatisch overtreft op alle fronten. Dit kader helpt te illustreren dat AGI niet een simpele aan-of-uit-schakelaar is, maar eerder een continuum van capaciteit dat we waarschijnlijk stap voor stap zullen beklimmen. Het uiteindelijke doel van veel onderzoekslaboratoria is niet alleen om de menselijke intelligentie te evenaren, maar om een systeem te creëren dat autonoom kan leren en verbeteren, wat uiteindelijk leidt tot een staat van superintelligentie.

Dit brengt ons bij een van de oudste en beroemdste pogingen om machine-intelligentie te meten: de Turing-test. Voorgesteld door Alan Turing in 1950, is de test simpel in zijn ontwerp. Een menselijke beoordelaar voert een tekstgebaseerd gesprek met twee onzichtbare deelnemers — één een mens, de ander een machine. Als de beoordelaar de machine niet betrouwbaar van de mens kan onderscheiden, wordt gezegd dat de machine de test heeft gehaald. Decennialang werd de Turing-test beschouwd als een cruciale benchmark voor kunstmatige intelligentie.

Echter, naarmate ons begrip van AI is gerijpt, zijn de beperkingen van de Turing-test steeds duidelijker geworden. De test evalueert voornamelijk de capaciteit van een machine om een menselijk gesprek na te bootsen, wat niet hetzelfde is als over echte intelligentie of begrip te beschikken. Een slimme chatbot zou kunnen slagen door taaltrucs te gebruiken of zelfs onwetendheid te simuleren, zonder het gesprek echt te begrijpen. Critici stellen dat de test bedrog beloont in plaats van intellect, en andere cruciale aspecten van intelligentie zoals probleemoplossend vermogen, creativiteit of redeneren met gezond verstand niet meet.

Als reactie op deze tekortkomingen zijn meer praktische en robuuste benchmarks voorgesteld. Een bekend voorbeeld is de "Koffietest", vaak toegeschreven aan Apple-medewinnaar Steve Wozniak. Deze test stelt dat een echte AGI in een willekeurig, onbekend huis zou moeten kunnen binnengaan en met succes een kop koffie moet kunnen zetten. Deze schijnbaar simpele taak is in feite ontzettend complex. Het vereist navigatie, objectherkenning, manipulatie, probleemoplossend vermogen en een impliciet begrip van hoe een typische keuken is georganiseerd — allemaal zonder vooraf specifieke training voor die specifieke omgeving.

Andere voorgestelde tests verhogen de uitdaging. De "Werktest" suggereert dat een AGI in dienst genomen zou moeten kunnen worden voor en met succes een economisch waardevolle baan moet kunnen uitvoeren die doorgaans een mens vereist. Dit zou niet alleen de technische vaardigheden testen, maar ook de capaciteit om op het werk te leren, te communiceren met collega's en de sociale dynamiek op de werkvloer te navigeren. Een nog meer eisende benchmark is de "Studenttest", waarbij een AI zich zou moeten inschrijven op een universiteit, een volledige cursus zou moeten volgen en zijn examens zou moeten halen door origineel werk in te leveren. Dit zou een diepgravende capaciteit aantonen om complexe vakken te leren, informatie te synthetiseren en nieuwe inzichten te genereren.

Deze moderne tests verleggen de focus van puur imitatiematig gedrag naar concrete, real-world competentie. Ze vereisen dat een AI meer doet dan alleen taal verwerken; ze moeten waarnemen, begrijpen en handelen binnen een complexe en onvoorspelbare wereld. Ze zijn ontworpen om precies die "generaliteit" te meten die ten grondslag ligt aan het AGI-concept. Geen enkele test zal definitief zijn, maar samen schetsen ze een beeld van de veelzijdige capaciteiten die we verwachten van een werkelijk algemene intelligentie.

In de kern van deze capaciteiten ligt een verzameling cognitieve vaardigheden die, wanneer ze samen geweven worden, het weefsel vormen van wat we intelligentie noemen. Een van de meest fundamentele is redeneren. Dit gaat niet alleen over logische deductie, zoals een wiskundig probleem oplossen. Het omvat ook inductief redeneren (algemeningen vormen op basis van specifieke voorbeelden) en abdunctief redeneren (de meest waarschijnlijke verklaring vinden voor een verzameling waarnemingen). Een AGI zou deze methoden vloeiend moeten kunnen combineren om de wereld zin te geven.

Een ander kritisch component is kennisrepresentatie. Mensen bouwen complexe mentale modellen van de wereld, waarbij ze niet alleen geïsoleerde feiten begrijpen, maar het ingewikkelde weefsel van relaties ertussen. Een AGI moet hetzelfde doen, een intern kader van kennis bouwen dat het kan bijwerken en worupon het kan terugvallen om zijn beslissingen te informeren. Dit is veel complexer dan een simpele database met informatie; het is een dynamisch, onderling verbonden begrip van concepten en hun contexten.

De capaciteit om te plannen en nieuwe problemen op te lossen is ook van जीवनbelang. Wanneer geconfronteerd met een nieuwe uitdaging, kunnen mensen deze opsplitsen in kleinere, beheersbare stappen en een strategie bedenken om het te overwinnen. Een AGI moet over een vergelijkbaar vermogen voor strategisch denken beschikken, waardoor het onbekend territorium kan navigeren en zijn doelen kan bereiken. Dit gaat verder dan een voorgeprogrammeerd script volgen; het vereist de flexibiliteit om te improviseren en zich aan te passen naarmate omstandigheden veranderen.

Misschien wel de meest uitdagende en uniek menselijke vaardigheid die vereist is voor AGI is wat onderzoekers "redeneren met gezond verstand" noemen. Dit is de grote, ongesproken bibliotheek van kennis die mensen gebruiken om het alledaagse leven te navigeren — het begrijpen dat een glas valt waarschijnlijk breekt, dat een touw kan trekken maar niet duwen, of dat mensen het doorgaans niet op prijs stellen als hun vergadering wordt onderbroken door een marshalkapelle. Dit soort "naïeve natuurkunde" en "volkspsychologie" is ongelooflijk moeilijk in een machine te coderen, omdat het zelden opgeschreven staat; we absorberen het door geleefde ervaring.

Huidige AI-systemen falen vaak spectaculair wanneer gezond verstand vereist is. Een taalmodel zou een perfect grammaticaal maar nonsensische zin kunnen genereren, zoals voorstellen om een hete pan af te koelen door hem in een la vol papier handdoekjes te stoppen. Een AGI, in tegenstelling, zou deze fundamentele kennis van hoe de wereld werkt nodig hebben om effectief en veilig te functioneren. Zonder het zou zelfs een hyper-intelligent systeem een soort digitale savant zijn, capabel op briljante rekenkundige prestaties maar gevaarlijk naïef in praktische zaken.

Verder zou een AGI een diepgaande en genuanceerde greep op natuurlijke taal vereisen, ver boven de capaciteiten van de meest geavanceerde modellen van vandaag. Het zou niet alleen de letterlijke betekenis van woorden moeten begrijpen, maar ook de subtekst, ironie, metafoor en culturele context die de menselijke communicatie doordrenken. Echt begrip betekent herkennen wat niet gezegd wordt evenveel als wat wel. Uitdagingen als het Winograd-schema, dat vereist dat ambiguïteit in zinnen wordt opgelost, zijn specifiek ontworpen om die diepere laag van begrip te testen.

Creativiteit is een ander pijler van algemene intelligentie. Dit is de capaciteit om ideeën te genereren die niet alleen nieuw zijn, maar ook nuttig of waardevol. Het is de vonk die leidt tot een nieuwe wetenschappelijke theorie, een boeiend kunstwerk, of een elegante oplossing voor een langdurig probleem. Voor een AGI zou dit meer betekenen dan alleen de trainingsdata herschikken; het zou het synthetiseren van kennis uit uiteenlopende velden om something echt news te creëren involveren.

Tot slot zou een volwassen AGI waarschijnlijk over een vorm van metacognitie beschikken, of de capaciteit om "na te denken over nadenken". Dit omvat zelfbewustzijn van de eigen cognitieve processen, het begrijpen van de grenzen van de eigen kennis, en het herkennen wanneer de eigen redenering foutief kan zijn. Een systeem met metacognitie zou de eigen vooroordelen kunnen identificeren, de eigen conclusies kunnen bevragen, en actief informatie kunnen zoeken om gaten in het begrip op te vullen, wat een krachtige lus van zelfverbetering creëert.

Het is deze capaciteit voor zelfverbetering die leidt tot het laatste, cruciale deel van de AGI-definitie. Menselijke intelligentie is niet het einde van de weg; het is slechts een enkel punt op een gigantisch, open-eindig spectrum. Een AGI die gelijkwaardigheid met de menselijke intellect bereikt, zou een beslissend voordeel hebben: het kan opereren op digitale snelheden, de volledigheid van de menselijke kennis direct benaderen en verwerken, en, het meest belangrijk, de eigen broncode verbeteren.

Dit proces, bekend als recursieve zelfverbetering, kan leiden tot een intelligentie-explosie. Een AGI die iets slimmer is dan een mens, kan zijn superieure intellect gebruiken om een AGI te ontwerpen die nog slimmer is. Die volgende generatie kan dan een nog intelligentere opvolger ontwerpen, en zo verder. Het interval tussen deze intellectuele sprongen kan een kwestie zijn van jaren, maanden, of zelfs minuten. Het resultaat zou een Kunstmatige Superintelligentie (ASI) zijn, een intellect dat tot mensen zou staan zoals mensen tot regenwormen.

Daarom, wanneer we AGI definiëren, definiëren we niet alleen een statisch eindpunt. We definiëren een overgangstoestand — het moment dat een nieuwe vorm van intelligentie wordt geboren die de capaciteit bezit om zijn scheppers snel en radicaal te overstijgen. Deze volledige traject begrijpen is essentieel, omdat het de immense potentie en de diepe risico's in kader stelt die in de komende hoofdstukken zullen worden verkend. De dageraad van een nieuwe intelligentie gaat niet puur om het creëren van een machine die kan nadenken als een mens; het gaat om het initieren van een proces dat de toekomst van intelligentie zelf kan herschikken.