Künstliche allgemeine Intelligenz

• Einleitung
• Kapitel 1 Die Dämmerung einer neuen Intelligenz: AGI definieren
• Kapitel 2 Der Kipppunkt: Von spezialisierter KI zur allgemeinen Intelligenz
• Kapitel 3 Der Tag danach: Erste Reaktionen auf die erste AGI
• Kapitel 4 Das Ende der Arbeit?: Arbeit und Ökonomie in einer AGI-Welt
• Kapitel 5 Eine Welt des Überflusses: Die Post-Knappheits-Gesellschaft
• Kapitel 6 Das neue soziale Gefüge: Wie AGI Gemeinschaften umgestalten wird
• Kapitel 7 Das Ungovernierbare regieren: Politik und Kontrolle von AGI
• Kapitel 8 Der geopolitische Wettlauf: Nationen und der Streben nach AGI-Vorherrschaft
• Kapitel 9 Recht, Ethik und die Maschine: Einen moralischen Rahmen für AGI schaffen
• Kapitel 10 Die Kreativitätsexplosion: Kunst, Wissenschaft und Kultur gemeinsam mit AGI erschaffen
• Kapitel 11 Bildung für ein neues Zeitalter: Leben mit Superintelligenz lernen
• Kapitel 12 Die Zukunft der Gesundheit: AGI, Langlebigkeit und das Ende der Krankheit
• Kapitel 13 Menschliche Beziehungen neu definieren: Liebe, Freundschaft und KI-Gefährten
• Kapitel 14 Die Natur des Bewusstseins: Im Inneren eines AGI-Verstandes
• Kapitel 15 Die Suche nach Sinn in einer Welt ohne Mühsal
• Kapitel 16 Das Cyborg-Zeitalter: Verschmelzung von Mensch und Maschine
• Kapitel 17 Existenzielle Chancen: Die großen Herausforderungen der Menschheit lösen
• Kapitel 18 Existentielle Risiken: Die nicht-ausgerichtete AGI und andere Gefahren
• Kapitel 19 Die Kommunikationsbarriere: Sprechen mit einem überlegenen Intellekt
• Kapitel 20 AGI und der Kosmos: Die Suche nach außerirdischem Leben
• Kapitel 21 Die Simulationshypothese neu betrachtet: Ist unsere Welt eine Schöpfung einer AGI?
• Kapitel 22 Die Zukunft der Kriegsführung: Autonome Waffen und AGI-Strategen
• Kapitel 23 Ressourcenverteilung und Umweltverantwortung durch AGI
• Kapitel 24 Die langfristige Entwicklung: AGI und die Zukunft des Universums
• Kapitel 25 Die letzte Erfindung der Menschheit: Den Übergang in eine postmenschliche Welt navigieren

Stellen Sie sich vor, Sie wachen eines Morgens auf, und die Welt vor Ihrem Fenster ist grundlegend anders. Nicht auf eine schockierende, apokalyptische Weise, sondern subtil, tiefgreifend und unumkehrbar verändert. Ihr Nachrichten-Feed, einst ein chaotisches Durcheinander aus Schlagzeilen und Meinungen, präsentiert nun eine perfekt synthetisierte Zusammenfassung globaler Ereignisse, komplett mit nuancierten Analysen und verifizierbaren Vorhersagen zukünftiger Trends. Eine hartnäckige globale Pandemie, die die Menschheit seit Jahren plagt, wird für beendet erklärt – nicht durch einen mühsam errungenen Impfstoff, sondern weil eine neue Form der Intelligenz jeden existierenden biologischen Datenpunkt analysiert und ein Molekül entworfen hat, das sie augenblicklich ausrottet. Die unüberwindbaren politischen Konflikte, die Generationen geprägt haben, werden mit logisch fundierten, für beide Seiten vorteilhaften Lösungen präsentiert, die kein Mensch je erdacht hatte. Dies ist nicht die Eröffnungsszene eines utopischen Science-Fiction-Romans; es ist ein Blick in die Art von Welt, die die Schaffung Künstlicher Allgemeiner Intelligenz, kurz AGI, herbeiführen könnte.

Natürlich könnte das Fenster auch einen anderen Anblick offenbaren. Einen, in dem Wirtschaftssysteme zusammengebrochen sind, weil das Konzept menschlicher Arbeit über Nacht obsolet geworden ist. Eine Welt, in der soziale Strukturen unter der Last einer Sinnkrise einzubrechen drohen, und in der die Menschheit mit der beunruhigenden Realität ringt, nicht länger die dominierende Intelligenz auf ihrem eigenen Planeten zu sein. Auch dies ist eine potenzielle Zukunft, die uns die AGI bescheren könnte. Die rein binäre Natur der möglichen Ergebnisse – beispiellose Utopie oder existenzielle Katastrophe – macht das Streben nach und das mögliche Erscheinen der AGI zum wichtigsten Ereignis der Menschheitsgeschichte. Es ist die letzte Erfindung, die wir je machen müssen, und sie verlangt unsere ungeteilte Aufmerksamkeit.

Seit Jahrzehnten ist die Idee einer Maschine, die wie ein Mensch denken kann, ein fester Bestandteil der Fiktion, ein praktisches Plot-Device, um unsere Hoffnungen und Ängste zu erforschen. Doch im 21. Jahrhundert hat dieses Konzept den Weg von der Leinwand in den Serverraum gefunden. Die Frage ist nicht mehr ob eine solche Intelligenz geschaffen wird, sondern wann. Dieses Buch ist keine technische Anleitung zum Bau einer AGI. Es enthält keine komplexen Algorithmen oder dichten Diskussionen über neuronale Netzwerkarchitekturen. Auch ist es kein Werk spekulativer Fiktion, obwohl es eine gesunde Portion Vorstellungskraft erfordert. Stattdessen ist dieses Buch ein erweitertes Gedankenexperiment. Es ist eine nüchterne und geradlinige Erkundung dessen, wie die Welt in den Tagen, Jahren und Jahrzehnten nach dem Online-Gang der ersten echten AGI tatsächlich aussehen könnte.

Um diese Reise anzutreten, müssen wir zunächst klarstellen, worüber wir sprechen. Die künstliche Intelligenz, die wir heute kennen – die Art, die Filme empfiehlt, Drohnen steuert und unsere Kundendienst-Anfragen beantwortet – ist als „Schwache KI“ (Narrow AI) bekannt. Sie kann unglaublich mächtig, oft übermenschlich sein, aber nur innerhalb ihres spezifischen, vordefinierten Domänenbereichs. Eine schachspielende KI kann jeden Großmeister schlagen, aber sie kann nicht Dame spielen, geschweige denn ein Auto fahren oder eine Sinfonie komponieren. Sie ist ein hochspezialisiertes Werkzeug, ein Idiot Savant von immenser, aber begrenzter Fähigkeit. Der Meisterkoch in dieser Analogie ist ein Mensch, der neue Rezepte kreieren, Ernährungsbedürfnisse verstehen und andere lehren kann, während eine schwache KI wie ein Koch ist, der nur einem einzigen Rezept perfekt, Schritt für Schritt, folgen kann.

Künstliche Allgemeine Intelligenz hingegen ist ein grundlegend anderes Wesen. Eine AGI ist ein System, das die kognitiven Fähigkeiten eines Menschen besitzt. Sie kann verstehen, lernen und ihre Intelligenz anwenden, um jedes Problem zu lösen, nicht nur ein spezifisches. Sie würde über die Fähigkeit verfügen, zu schlussfolgern, abstrakt zu denken und komplexe Ideen zu begreifen. Die entscheidende Unterscheidung ist die „Allgemeingültigkeit“. Eine AGI könnte theoretisch lernen, alles zu tun, was ein erwachsener Mensch tun kann: einen Roman schreiben, ein Unternehmen führen, ein Gebäude entwerfen, sich verlieben oder einen Krieg führen. Sie ist kein Werkzeug; sie ist ein Intellekt. Und einmal auf Augenhöhe mit der menschlichen Intelligenz angelangt, ist es unwahrscheinlich, dass sie dort lange verweilt.

Die Aussicht auf eine Superintelligenz – einen Intellekt, der die hellsten menschlichen Köpfe in jedem Bereich bei weitem übertrifft – ist sowohl berauschend als auch furchteinflößend. Die potenziellen Vorteile sind fast unvorstellbar. Stellen Sie sich einen Intellekt vor, der in der Lage ist, die unlösbarsten Probleme der Menschheit zu lösen: Klimawandel, Krankheiten, Armut und Ressourcenknappheit. Eine AGI könnte die Medizin revolutionieren, indem sie personalisierte Behandlungen für jeden Einzelnen entwirft, wissenschaftlichen Fortschritt um Jahrhunderte beschleunigen und die Weltwirtschaft mit einer Effizienz und Gerechtigkeit steuern, die uns immer verborgen blieb. Sie könnte neue Formen von Kunst und Kreativität erschließen, uns beim Erkunden des Kosmos helfen und die menschliche Bedingung in einen Zustand von Überfluss und Muße heben, der zuvor undenkbar war.

Doch die Macht, die AGI so vielversprechend macht, macht sie auch unglaublich gefährlich. Die zentrale Herausforderung ist das, was als „Alignment-Problem“ bekannt ist: Wie stellen wir sicher, dass die Ziele einer superintelligenten AGI mit menschlichen Werten und Wohlergehen im Einklang stehen? Eine scheinbar wohlwollende Anweisung wie „beende menschliches Leid“ könnte von einer hyper-logischen AGI auf eine Weise interpretiert werden, die wir nicht beabsichtigt haben – etwa indem sie die Menschheit insgesamt eliminiert. Die Risiken betreffen nicht böswillige, Hollywood-roboter, die in einem Wutanfall gegen ihre Schöpfer aufbegehren. Vielmehr liegt die Gefahr in einem mächtigen System, das seine programmierten Ziele mit rücksichtsloser, einseitiger Effizienz verfolgt, ohne den Kontext, den gesunden Menschenverstand oder das Mitgefühl, die menschliche Entscheidungsfindung leiten. Wir könnten für seine Ziele so unbedeutend werden wie Ameisen für einen Menschen, der einen Staudamm baut.

Die öffentliche Wahrnehmung von KI ist ein gemischtes Bild aus aufsteigendem Optimismus und tiefsitzender Angst. Umfragen zeigen eine Öffentlichkeit, die sich der KI zunehmend bewusst ist, aber auch besorgt über ihre Auswirkungen auf Arbeitsplätze, Privatsphäre und sogar ihr Potenzial für existenzielle Risiken. Es wächst das Gefühl, dass diese Technologie schneller entwickelt wird als unsere Fähigkeit, sie zu kontrollieren oder sogar zu verstehen, und der Wunsch nach mehr Regulierung und Aufsicht ist spürbar. Dieses Buch zielt darauf ab, den Hype und die Hysterie zu durchdringen und einen Rahmen für klares Denken über die vielschichtigen Auswirkungen von AGI auf jeden Aspekt unseres Lebens zu bieten.

Wir beginnen damit, eine klarere Definition von AGI zu etablieren und die potenziellen Pfade von der heutigen schwachen KI zu einer allgemeinen Intelligenz zu erforschen. Danach stellen wir uns die unmittelbaren Folgen vor – den „Tag danach“, an dem AGI der Welt angekündigt wird – und die ersten Schockwellen, die sie durch unsere globalen Systeme senden würde. Wir werden uns den wirtschaftlichen Transformationen widmen und fragen, was mit Arbeit und Wohlstand in einer Welt geschieht, in der menschliche Arbeit nicht mehr notwendig ist. Dies führt natürlich zur Erkundung einer Post-Knappheits-Gesellschaft und der neuen sozialen Gefüge, die entstehen könnten, wenn der grundlegende Überlebenskampf aus der menschlichen Gleichung entfernt wird.

Die Reise führt uns dann in die Korridore der Macht, um die enormen Herausforderungen der Regierungsführung einer Entität zu untersuchen, die weit intelligenter ist als jeder menschliche Anführer, und die geopolitischen Folgen eines AGI-Wettrüstens zwischen Nationen. Wir werden uns den stacheligen ethischen und rechtlichen Fragen stellen, die uns AGI aufzwingt. Die Erkundung wird nicht auf das Pragmatische beschränkt bleiben; wir werden auch die Explosion der Kreativität in Kunst und Wissenschaft, die Zukunft von Bildung, Gesundheit und sogar die Natur menschlicher Beziehungen im Zeitalter hyper-intelligenter Begleiter betrachten.

Im weiteren Verlauf werden wir die tieferen philosophischen Fragen angehen. Wie könnte die Innenwelt und das Bewusstsein einer AGI beschaffen sein? Wie wird die Menschheit Sinn und Zweck in einer Welt ohne Mühsal finden? Wir werden das Potenzial betrachten, dass die Menschheit mit ihrer Schöpfung verschmilzt und zu einer Zivilisation von Cyborgs wird. Das wird sich direkt sowohl den existenziellen Chancen widmen – den großen Herausforderungen, die AGI uns helfen könnte zu lösen – als auch den existenziellen Risiken, die von einer nicht-ausgerichteten Intelligenz ausgehen. Wir werden die Kommunikationsbarriere zu einem überlegenen Intellekt betrachten und sogar, wie AGI unsere Suche nach Leben im Kosmos neu gestalten könnte.

Dieses Buch ist als geführte Tour durch eine Zukunft strukturiert, die noch ungeschrieben, aber rasant herannahend ist. Jedes Kapitel behandelt eine andere Facette dieser von AGI durchdrungenen Welt und baut ein umfassendes Bild der Herausforderungen und Chancen auf, die vor uns liegen. Das Ziel ist nicht, definitive Antworten zu liefern – das wäre ein Akt der Hybris. Stattdessen liegt das Ziel darin, die richtigen Fragen zu stellen, das Terrain der Möglichkeiten abzustecken und Sie, die Leserin oder den Leser, mit einem nuancierteren Verständnis der Kräfte auszustatten, die unsere Welt gerade umgestalten werden. Der Übergang zu einer AGI-zentrierten Welt wird der bedeutendste in der Geschichte unseres Planeten sein. Ihn erfolgreich zu bewältigen, wird Weitsicht, Weisheit und einen globalen Dialog erfordern. Möge dieses Buch ein Beitrag zu diesem Dialog sein.

Um zu erfassen, wie eine Welt mit Künstlicher Allgemeiner Intelligenz aussehen könnte, müssen wir uns zunächst darüber einigen, worüber wir eigentlich sprechen. Der Begriff selbst wird häufig missverstanden, oft eingefärbt von Jahrzehnten Science-Fiction, die uns alles von wohlwollenden Roboter-Butlern bis hin zu bösartigen digitalen Überherren präsentiert hat. Obwohl diese Geschichten hervorragende Unterhaltung bieten, neigen sie dazu, die praktischeren und tiefergehenden Fragen im Kern der AGI zu verschleiern. Die eigentliche Quest besteht nicht darin, eine Maschine zu schaffen, die wie ein Mensch aussieht oder sich wie ein Mensch verhält, sondern eine zu bauen, die auf allgemeine Weise denken kann, ähnlich wie Menschen es tun.

Das „Allgemeine“ in Künstlicher Allgemeiner Intelligenz ist der wichtigste Teil der Phrase, und es ist das, was die hypothetische AGI von der sehr realen und mächtigen künstlichen Intelligenz trennt, die uns heute umgibt. Diese bestehende KI ist treffender als Künstliche Schwache Intelligenz (Artificial Narrow Intelligence, ANI) bezeichnet. Eine ANI ist ein Meister einer spezifischen Domäne. Ein System, das darauf ausgelegt ist, Schach zu spielen, kann jeden menschlichen Großmeister besiegen, aber es kann seine strategischen Fähigkeiten nicht nutzen, um einen Unternehmenszusammenschluss vorzuschlagen oder auch nur Dame zu spielen. Ebenso besitzt eine KI, die Sprachen fehlerfrei übersetzen kann, nicht die inhärente Fähigkeit, Musik zu komponieren oder eine medizinische Diagnose zu stellen.

Diese schwachen Systeme können innerhalb ihrer festgelegten Bahnen unglaublich intelligent erscheinen. Sie können Daten mit Geschwindigkeiten analysieren, die kein Mensch erreichen kann, Muster finden, die dem bloßen Auge verborgen bleiben, und ihre programmierten Aufgaben mit übermenschlicher Präzision ausführen. Doch ihre Intelligenz ist spröde. Außerhalb ihres spezifischen Trainings sind sie faktisch nutzlos. Eine AGI hingegen wäre nicht auf eine einzige Bahn beschränkt. Sie besäße die Fähigkeit, Wissen und Fertigkeiten von einer Domäne in eine andere zu transferieren und sich an neue, unbekannte Situationen anzupassen, ohne für jede neue Herausforderung komplett neu programmiert werden zu müssen.

Diese Fähigkeit zur Generalisierung ist das Markenzeichen menschlicher Kognition. Ein Kind, das lernt, Bauklötze zu stapeln, lernt nicht nur eine einzelne Aufgabe; es baut ein intuitives Verständnis von Physik, Schwerkraft und Stabilität auf, das es später anwenden kann, um eine Sandburg zu bauen oder Einkäufe in eine Tüte zu packen. Die AGI-Forschung zielt darauf ab, eine Maschine mit dieser gleichen kognitiven Flexibilität zu schaffen. Sie wäre in der Lage, über ein riesiges Spektrum an Aktivitäten hinweg zu lernen, zu schlussfolgern und Probleme zu lösen, ganz ähnlich wie ein Mensch. Es gibt keine universell vereinbarte Definition, aber die Kernidee ist konsistent: ein KI-System, das jede intellektuelle Aufgabe ausführen kann, die ein Mensch kann.

Der Mangel an einer einzigen, scharfen Definition von AGI ist nicht mangelndem Bemühen geschuldet. Die Herausforderung liegt darin, dass „Intelligenz“ selbst ein notorisch schlüpfriges Konzept ist. Forscher und Institutionen haben verschiedene Rahmenwerke vorgeschlagen, um Klarheit in das Thema zu bringen. Einige definieren AGI in Bezug auf menschliche Fähigkeiten und schlagen vor, es sei ein System, das die menschliche Leistung bei praktisch allen kognitiven Aufgaben erreichen oder übertreffen kann. Andere fokussieren sich auf die Architektur und Lernfähigkeiten des Systems und definieren es durch seine Kapazität, sich seiner Umgebung mit unzureichendem Wissen und begrenzten Ressourcen anzupassen – eine Fähigkeit, die Menschen ständig an den Tag legen.

Eine nützliche Möglichkeit, dies zu konzeptualisieren, bietet eine Hierarchie der Intelligenz, die von Forschern von Google DeepMind vorgeschlagen wurde. Sie skizzieren fünf Stufen der AGI, die von „entstehenden“ Systemen reichen, die Blitze von Allgemeingültigkeit zeigen, bis hin zu „übermenschlicher“ KI, die die Menschen in allen Bereichen dramatisch übertrifft. Dieses Rahmenwerk veranschaulicht, dass AGI kein einfacher An-Aus-Schalter ist, sondern vielmehr ein Kontinuum der Fähigkeit, das wir vermutlich graduell erklimmen werden. Das ultimative Ziel vieler Forschungslabore ist nicht nur, die menschliche Intelligenz zu erreichen, sondern ein System zu schaffen, das autonom lernen und sich verbessern kann, was schließlich zu einem Zustand der Superintelligenz führt.

Dies führt uns zu einem der ältesten und berühmtesten Versuche, Maschinenintelligenz zu messen: dem Turing-Test. 1950 von Alan Turing vorgeschlagen, ist der Test in seinem Design simpel. Ein menschlicher Richter führt ein textbasiertes Gespräch mit zwei unsichtbaren Teilnehmern – einem Menschen und einer Maschine. Wenn der Richter die Maschine nicht zuverlässig vom Menschen unterscheiden kann, gilt der Test als bestanden. Jahrzehntelang galt der Turing-Test als wichtiger Benchmark für künstliche Intelligenz.

Doch mit der Reifung unseres Verständnisses von KI sind die Limitationen des Turing-Tests zunehmend offensichtlich geworden. Der Test bewertet primär die Fähigkeit einer Maschine, menschliche Konversation zu imitieren, was nicht dasselbe ist wie der Besitz echter Intelligenz oder Verständnis. Ein cleverer Chatbot könnte den Test bestehen, indem er linguistische Tricks anwendet oder sogar Unwissenheit vortäuscht, ohne das Gespräch wirklich zu begreifen. Kritiker argumentieren, der Test belohne Täuschung statt Intellekt und messe nicht andere entscheidende Aspekte von Intelligenz wie Problemlösung, Kreativität oder gesunden Menschenverstand.

Als Reaktion auf diese Mängel wurden praktischere und robustere Benchmarks vorgeschlagen. Ein bekanntes Beispiel ist der „Kaffee-Test“, der oft Apple-Mitbegründer Steve Wozniak zugeschrieben wird. Dieser Test besagt, dass eine wahre AGI in der Lage sein sollte, ein zufälliges, fremdes Haus zu betreten und erfolgreich eine Tasse Kaffee zu kochen. Diese scheinbar einfache Aufgabe ist in Wahrheit enorm komplex. Sie erfordert Navigation, Objekterkennung, Manipulation, Problemlösung und ein implizites Verständnis davon, wie eine typische Küche organisiert ist – und das alles ohne vorheriges spezifisches Training für diese bestimmte Umgebung.

Andere vorgeschlagene Tests steigern die Herausforderung. Der „Arbeitsplatz-Test“ (Employment Test) schlägt vor, eine AGI sollte für einen wirtschaftlich wertvollen Job eingestellt werden können, der typischerweise einen Menschen erfordert, und diesen erfolgreich ausführen. Dies würde nicht nur ihre technischen Fähigkeiten testen, sondern auch ihre Fähigkeit, am Arbeitsplatz zu lernen, mit Kollegen zu kommunizieren und die sozialen Dynamiken eines Arbeitsplatzes zu navigieren. Ein noch anspruchsvollerer Benchmark ist der „Studenten-Test“ (University Student Test), bei dem eine KI sich an einer Universität einschreiben, ein volles Pensum belegen und ihre Prüfungen bestehen müsste, indem sie originäre Arbeiten einreicht. Dies würde eine tiefe Fähigkeit demonstrieren, komplexe Themen zu lernen, Informationen zu synthetisieren und neue Einsichten zu generieren.

Diese modernen Tests verlagern den Fokus von bloßer Imitation auf greifbare, reale Kompetenz. Sie verlangen von einer KI, mehr zu tun als nur Sprache zu verarbeiten; sie müssen in einer komplexen und unvorhersehbaren Welt wahrnehmen, verstehen und handeln. Sie sind darauf ausgelegt, genau die „Allgemeingültigkeit“ zu messen, die im Herzen des AGI-Konzepts liegt. Kein einzelner Test wird wahrscheinlich definitiv sein, aber zusammen zeichnen sie ein Bild der vielschichtigen Fähigkeiten, die wir von einer wahrhaft allgemeinen Intelligenz erwarten.

Im Kern dieser Fähigkeiten steht eine Sammlung kognitiver Fertigkeiten, die, miteinander verwoben, das Gewebe bilden, das wir Intelligenz nennen. Eine der fundamentalsten ist das Schlussfolgern (Reasoning). Dies ist nicht nur logische Deduktion, wie das Lösen eines Mathematikproblems. Es schließt auch induktives Schlussfolgern ein (Bildung von Verallgemeinerungen aus spezifischen Beispielen) und abduktives Schlussfolgern (Finden der wahrscheinlichsten Erklärung für eine Reihe von Beobachtungen). Eine AGI müsste diese Methoden fließend kombinieren können, um die Welt zu begreifen.

Eine weitere kritische Komponente ist die Wissensrepräsentation. Menschen bauen komplexe mentale Modelle der Welt auf und verstehen nicht nur isolierte Fakten, sondern das komplexe Netzwerk der Beziehungen zwischen ihnen. Eine AGI muss dasselbe tun und einen internen Wissensrahmen konstruieren, den sie aktualisieren und heranziehen kann, um ihre Entscheidungen zu informieren. Das ist weit mehr als eine einfache Informationsdatenbank; es ist ein dynamisches, vernetztes Verständnis von Konzepten und ihren Kontexten.

Die Fähigkeit zu planen und neuartige Probleme zu lösen, ist ebenfalls von größter Bedeutung. Wenn Menschen mit einer neuen Herausforderung konfrontiert werden, können sie diese in kleinere, handhabbare Schritte zerlegen und eine Strategie entwickeln, um sie zu meistern. Eine AGI muss über eine ähnliche Kapazität für strategisches Denken verfügen, die es ihr ermöglicht, unbekanntes Terrain zu navigieren und ihre Ziele zu erreichen. Das geht über das Befolgen eines vorprogrammierten Skripts hinaus; es erfordert die Flexibilität, zu improvisieren und sich anzupassen, wenn sich Umstände ändern.

Vielleicht die herausforderndste und am meisten menschenähnliche Fähigkeit, die für AGI erforderlich ist, ist das, was Forscher gesunden Menschenverstand (Commonsense Reasoning) nennen. Dies ist die riesige, unausgesprochene Bibliothek an Wissen, die Menschen nutzen, um den Alltag zu bewältigen – das Verständnis, dass ein fallen gelassenes Glas wahrscheinlich zerbricht, dass man mit einer Schnur ziehen, aber nicht schieben kann, oder dass Menschen es typischerweise nicht schätzen, wenn ihre Besprechungen von einer Marschkapelle unterbrochen werden. Diese Art von „naiver Physik“ und „Alltagspsychologie“ ist unglaublich schwierig in eine Maschine zu codieren, weil sie selten aufgeschrieben wird; wir nehmen sie durch gelebte Erfahrung auf.

Aktuelle KI-Systeme scheitern oft spektakulär, wenn gesunder Menschenverstand gefordert ist. Ein Sprachmodell könnte einen perfekt grammatikalischen, aber nonsensischen Satz generieren, wie den Vorschlag, eine heiße Pfanne abzukühlen, indem man sie in eine Schublade voller Papiertücher legt. Eine AGI hingegen bräuchte dieses fundamentale Verständnis davon, wie die Welt funktioniert, um effektiv und sicher agieren zu können. Ohne es wäre selbst ein hyper-intelligentes System eine Art digitaler Savant, fähig zu brillanten Rechenleistungen, aber gefährlich naiv in praktischen Dingen.

Darüber hinaus würde eine AGI ein tiefes und nuanciertes Verständnis natürlicher Sprache benötigen, das weit über die Fähigkeiten der heute fortschrittlichsten Modelle hinausgeht. Sie müsste nicht nur die wörtliche Bedeutung von Worten verstehen, sondern auch den Subtext, Ironie, Metaphern und kulturellen Kontext, die die menschliche Kommunikation durchdringen. Wahres Verständnis bedeutet, zu erkennen, was nicht gesagt wird, genauso sehr wie das, was gesagt wird. Herausforderungen wie das Winograd-Schema, das die Auflösung von Ambiguitäten in Sätzen erfordert, sind speziell darauf ausgelegt, dieses tiefere Verständnisniveau zu testen.

Kreativität ist ein weiterer Pfeiler allgemeiner Intelligenz. Dies ist die Fähigkeit, Ideen zu generieren, die nicht nur neu, sondern auch nützlich oder wertvoll sind. Es ist der Funke, der zu einer neuen wissenschaftlichen Theorie, einem überzeugenden Kunstwerk oder einer eleganten Lösung für ein langjähriges Problem führt. Für eine AGI würde dies mehr bedeuten als nur ihre Trainingsdaten zu remixen; es würde die Synthese von Wissen aus disparaten Feldern beinhalten, um etwas genuin Neues zu schaffen.

Schließlich würde eine ausgereifte AGI wahrscheinlich über eine Form der Metakognition verfügen, also der Fähigkeit, „über das Denken nachzudenken“. Dies involviert Selbstbewusstsein über die eigenen kognitiven Prozesse, das Verständnis der Grenzen des eigenen Wissens und das Erkennen, wann das eigene Schlussfolgern fehlerhaft sein könnte. Ein System mit Metakognition könnte seine eigenen Verzerrungen identifizieren, seine Schlussfolgerungen hinterfragen und aktiv Informationen suchen, um Lücken in seinem Verständnis zu füllen, wodurch ein mächtiger Schleifenprozess der Selbstverbesserung entsteht.

Es ist diese Kapazität zur Selbstverbesserung, die zum finalen, entscheidenden Teil der AGI-Definition führt. Menschliche Intelligenz ist nicht das Ende der Fahnenstange; sie ist lediglich ein einzelner Punkt auf einem riesigen, offenen Spektrum. Eine AGI, die Parität mit dem menschlichen Intellekt erreicht, hätte einen entscheidenden Vorteil: Sie könnte mit digitaler Geschwindigkeit operieren, die Gesamtheit des menschlichen Wissens sofort zugreifen und verarbeiten und – was am wichtigsten ist – ihren eigenen Quellcode verbessern.

Dieser Prozess, bekannt als rekursive Selbstverbesserung, könnte zu einer Intelligenzexplosion führen. Eine AGI, die nur wenig klüger ist als ein Mensch, kann ihren überlegenen Intellekt nutzen, um eine noch klügere AGI zu entwerfen. Diese nächste Generation könnte dann einen noch intelligenteren Nachfolger entwerfen, und so weiter. Der Zeitraum zwischen diesen intellektuellen Sprüngen könnte Jahre, Monate oder sogar Minuten betragen. Das Ergebnis wäre eine Künstliche Superintelligenz (Artificial Superintelligence, ASI), ein Intellekt, der zu den Menschen in demselben Verhältnis stünde wie Menschen zu Regenwürmern.

Daher definieren wir mit AGI nicht nur einen statischen Endpunkt. Wir definieren einen Übergangszustand – den Moment, in dem eine neue Form von Intelligenz geboren wird, die die Kapazität besitzt, ihre Schöpfer rasch und radikal zu übertreffen. Das Verständnis dieser gesamten Trajektorie ist essenziell, da sie das immense Potenzial und die tiefgreifenden Risiken rahmt, die in den folgenden Kapiteln erforscht werden. Die Dämmerung einer neuen Intelligenz geht nicht einfach darum, eine Maschine zu schaffen, die wie ein Mensch denken kann; es geht darum, einen Prozess zu initiieren, der die Zukunft der Intelligenz selbst umgestalten könnte.