Von AGI zu ASI: Warum das neue DeepMind-Papier so viel Sprengkraft hat

Das von Google DeepMind veröffentlichte Papier „From AGI to ASI“ ist kein gewöhnlicher Forschungsaufsatz. Es ist weniger ein technischer Zwischenstand als vielmehr ein strategischer Blick in eine mögliche Zukunft der KI-Entwicklung. Der Grundton ist bemerkenswert: AGI wird nicht als Endpunkt beschrieben, sondern als Beginn einer neuen Phase. Oder zugespitzt: Nicht die Ziellinie, sondern der Startschuss.
Genau diesen Punkt hebt auch das besprochene YouTube-Video hervor. Dort wird die Veröffentlichung als potenziell historisch eingeordnet: Nicht irgendein Blogpost, keine Spekulation auf X, sondern ein Dokument von Google DeepMind, mit Autor:innen wie Shane Legg, einem der Mitgründer von DeepMind. Und tatsächlich: Liest man das Transkript des Papiers, dann ist der zentrale Gedanke unmissverständlich. Die Autoren gehen davon aus, dass, falls AGI erreicht wird, es unwahrscheinlich ist, dass der Fortschritt exakt dort stoppt.
Der Bericht fragt also nicht primär: Wann kommt AGI? Sondern: Was passiert danach?
From AGI to ASI (PDF)
https://youtu.be/OdlUXu2sAb4
AGI, ASI, UAI – die Begriffe sauber eingeordnet
Ein großer Verdienst des Papers ist, dass es die Begriffe einigermaßen präzise rahmt.
AGI
DeepMind verwendet AGI als Kurzform für human-level artificial general intelligence. Gemeint ist ein System, das in etwa die Intelligenz eines einzelnen durchschnittlichen Menschen auf den meisten kognitiven Aufgaben erreicht. Wichtig: Das schließt nicht aus, dass ein solches System auf vielen Einzelaufgaben bereits deutlich übermenschlich ist. Es geht um den allgemeinen Durchschnitt über viele Domänen.
ASI
ASI steht für artificial general superintelligence. Das ist ausdrücklich nicht einfach eine KI, die irgendwo besser ist als Menschen. Systeme wie AlphaGo oder AlphaFold sind zwar in engen Bereichen übermenschlich, fallen aber nicht unter diese Definition. ASI meint laut Paper ein System, das über praktisch alle Domänen menschlicher Aktivität hinweg leistungsfähiger ist – und zwar nicht nur im Vergleich zu Einzelpersonen, sondern im Vergleich zu großen, gut koordinierten Expertengruppen.
Das ist entscheidend: DeepMind setzt die Messlatte hoch. ASI ist in ihrem Sinne nicht „ein sehr starkes Modell“, sondern eher etwas, das ganze Institutionen, Forschungsfelder oder Konzerne in kognitiver Leistungsfähigkeit übertrifft.
UAI
Darüber hinaus spricht der Bericht von Universal AI (UAI). Das ist die theoretische Obergrenze von Intelligenz, formal beschrieben über den AIXI-Agenten und die Legg-Hutter-Intelligenz. Das ist kein praktisches Modell, sondern ein mathematisches Ideal: ein Agent, der im Durchschnitt über alle berechenbaren Aufgaben maximal intelligent wäre.
Das YouTube-Video betont zu Recht, wie ungewöhnlich dieser Schritt ist: Das Paper spricht nicht nur über das nächste Produkt oder die nächste Modellgeneration, sondern über einen Kontinuumsgedanken von Intelligenz – von AGI zu ASI bis hin zur theoretischen Grenze.
Die Kernthese des Papiers: AGI ist wahrscheinlich nicht der Endpunkt
Eine der stärksten Aussagen des Berichts lautet sinngemäß:
Wenn menschliches AGI erreichbar ist, ist es unplausibel, dass der KI-Fortschritt genau auf menschlichem Niveau stoppt.
Diese Aussage zieht sich durch das ganze Dokument. Die Autoren räumen Unsicherheiten ein, sprechen über mögliche Reibungen, Flaschenhälse und gesellschaftliche Gegenkräfte. Aber sie halten es für nicht leicht abweisbar, dass die Entwicklung innerhalb der nächsten ein bis zwei Jahrzehnte von AGI weiter in Richtung ASI laufen könnte.
Das ist nicht ganz dieselbe Sprache wie in stark beschleunigungsorientierten Essays à la Situational Awareness, aber die Stoßrichtung ist ähnlich: AGI wäre nicht das Ende der Geschichte, sondern möglicherweise nur der Beginn einer weit tiefgreifenderen Transformationsphase.
Warum digitale Intelligenz grundsätzlich anders skaliert als biologische
Ein zentraler Teil des Papers – und im Video ebenfalls stark hervorgehoben – ist die Diskussion der Vorteile digitaler Intelligenz gegenüber biologischer Intelligenz. Die Autoren listen diese Vorteile explizit auf und betonen, dass sie mit mehr Rechenleistung zunehmen.
Hier die Punkte aus dem Bericht, inhaltlich aufgearbeitet:
1. Höhere Input-/Output-Geschwindigkeit
KI-Systeme können Informationen mit enormer Bandbreite aufnehmen und ausgeben. Das Paper nennt als Beispiel, dass heutige LLMs mehrere Bücher in Sekunden verarbeiten können. Mit geeigneten Sensoren und Aktoren würde das auch für reale Weltinteraktionen gelten.
2. Höhere interne Verarbeitungsgeschwindigkeit
„Denken“ kann beschleunigt werden: entweder durch schnellere sequentielle Verarbeitung oder durch stärkere Parallelisierung. Selbst wenn dabei abnehmende Grenzerträge auftreten, ist das ein massiver Skalierungsvorteil gegenüber biologischen Gehirnen.
3. Größere Arbeits- und Langzeitspeicher
Digitale Systeme können sehr viel mehr Information gleichzeitig verfügbar halten und speichern. Die Fähigkeit heutiger Modelle, riesige Teile des Internets zu memorisieren oder in externen Systemen nachzuschlagen, ist laut Bericht vermutlich noch weit vom technischen Limit entfernt.
4. Substratunabhängigkeit
Eine KI ist nicht an ein bestimmtes Stück Hardware gebunden. Sie kann auf andere Maschinen übertragen, aufgerüstet, verteilt oder migriert werden.
5. Verlustfreie Replikation
Nicht nur der „Code“, sondern auch der gesamte Zustands- und Erinnerungsspeicher kann kopiert werden. Das bedeutet: Backup, Wiederherstellung, Anhalten, Fortsetzen und Klonen sind prinzipiell trivial.
6. Hochbandbreitiges Teilen von Erfahrungen
Erfahrungen können gespeichert, geteilt, replayed und zur Weiterbildung genutzt werden. Bei homogenen Systemen können sogar rohe Lernsignale geteilt werden.
Der entscheidende Punkt: Diese Eigenschaften wachsen mit Compute. Ein Mensch wird nicht zehnmal schneller denkbar, nur weil mehr Strom zur Verfügung steht. Ein digitales System schon eher. Genau deshalb argumentieren die Autoren, dass unsere Intuition, Intelligenz müsse irgendwo „am Menschen“ natürlich plateauieren, wahrscheinlich trügerisch ist.
ASI ist nicht allwissend und nicht allmächtig
Das Paper ist trotz seines weitreichenden Horizonts an einer Stelle erstaunlich nüchtern: ASI wäre nicht omniscient und nicht omnipotent.
DeepMind listet mehrere fundamentale Grenzen auf:
Physikalische Grenzen: Lichtgeschwindigkeit, Energieverbrauch von Informationsverarbeitung, Begrenzungen von Rechenleistung in endlichem Raum
Echtzeitgebundenheit der Welt: Manche Dinge dauern einfach, weil Experimente, Bauprozesse oder physische Eingriffe Zeit kosten
Beobachtungs- und Kontrollgrenzen: Nicht alles ist vollständig messbar oder präzise steuerbar
Komplexitätstheoretische Grenzen: Etwa harte Probleme aus P/NP/PSPACE-Kontexten
Logische Grenzen: Gödel, Halteproblem usw.
Das ist wichtig, weil es zwei Extreme vermeidet:
die naive Annahme, KI werde genau beim Menschen stoppen;
die ebenso naive Annahme, Superintelligenz sei automatisch gottgleich.
Stattdessen vertritt der Bericht eine mittlere Position: Es gibt nach oben sehr wahrscheinlich noch viel Spielraum über dem Menschen, aber auch ASI bleibt an Realität, Physik und Rechenhärte gebunden.
Die vier Wege von AGI zu ASI
Der vielleicht meistdiskutierte Teil des Papers ist die Darstellung von vier möglichen technologischen Pfaden von AGI zu ASI. Das Video hat diese vier Wege korrekt herausgestellt.
1. Skalierung von Compute, Modellen und Daten
Dies ist der direkteste „Business-as-usual“-Pfad. Die Idee: Wenn größere Modelle, mehr Daten und mehr effektiver Compute in den letzten Jahren zu massiven Fähigkeitssprüngen geführt haben, könnte eine Fortsetzung dieses Trends auch über AGI hinaus tragen.
Die Autoren verweisen auf:
Fortschritte in Hardware
steigende Investitionen
algorithmische Effizienzgewinne
Sie rechnen vor, dass diese drei Faktoren zusammengenommen eine grobe Wachstumsrate des effektiven Compute von etwa 10x pro Jahr ergeben könnten.
Die offene Frage ist nicht nur, ob das technisch möglich ist, sondern:
Wie lange lässt sich das ökonomisch aufrechterhalten?
Übersetzt sich mehr Compute weiter zuverlässig in mehr Fähigkeiten?
Reicht reine quantitative Skalierung wirklich bis ASI?
Das Paper ist hier vorsichtig: Möglich ja, sicher nein.
2. Algorithmische Paradigmenwechsel
Der zweite Weg sind grundlegende Veränderungen der KI-Methoden. Heute dominiert laut Bericht ein Paradigma aus:
großem Pretraining auf riesigen Datensätzen,
danach Fine-Tuning,
dann Testzeit-Skalierung, Retrieval, Tool Use und agentische Gerüste.
Die Autoren vermuten, dass menschliches AGI wahrscheinlich zusätzliche Zutaten braucht, etwa:
quasi-unbegrenzten Kontext,
Arbeitsgedächtnis,
Rekurrenz,
kontinuierliches Lernen,
robustes Planen in interaktiven Umgebungen,
stärkere Weltmodelle.
Ein echter Paradigmenwechsel wäre aber noch mehr: neue Architekturen, andere Optimierungsverfahren, RL-lastigere Ansätze, explizitere Weltmodelle, neuromorphe Hardware oder ganz andere Lernformen.
Der Haken: Solche Sprünge sind per Definition schwer vorherzusagen. Deshalb ist dieser Pfad wichtig, aber forecasting-resistent.
3. Rekursive Selbstverbesserung
Hier liegt der für viele spektakulärste Pfad. Gemeint ist: KI hilft bei KI-Forschung, was bessere KI hervorbringt, die dann noch besser bei KI-Forschung hilft, und so weiter.
Das Paper unterscheidet mehrere Formen davon:
a) Algorithmische Selbstverbesserung
KI schreibt bessere Architekturen, Optimierer, Trainingsverfahren oder Code.
b) Hardware-Selbstverbesserung
KI hilft, bessere Chips, effizientere Hardware oder verbesserte Fertigungsprozesse zu entwickeln.
c) Datenbezogene Selbstverbesserung
KI erzeugt, kuratiert oder simuliert bessere Trainingsdaten für die nächste KI-Generation.
d) Arbeitsteilung / Spezialisierung
KI-Kollektive könnten sich spezialisieren und dadurch als Ganzes produktiver werden.
DeepMind ist hier deutlich: Die Dynamik ist schlecht verstanden. Sie könnte schnell abflachen. Sie könnte aber auch beschleunigend wirken – in Extremfällen sogar in Richtung Hyperbolic Growth oder „intelligence explosion“.
Das Video interpretiert diesen Abschnitt als eine Art moderat formulierte Bestätigung dessen, was manche Beschleunigungsdenker seit Jahren behaupten. Das ist zugespitzt, aber nicht völlig aus der Luft gegriffen. Das Paper sagt zwar nicht: So wird es kommen. Aber es sagt ganz klar: Man kann diese Dynamik nicht ausschließen.
4. Multi-Agenten-Koordination und Gruppensysteme
Der vierte Pfad ist besonders interessant, weil er nicht voraussetzt, dass ein einzelnes Modell „genialer als Einstein“ wird. Stattdessen könnte Superintelligenz als kollektive Eigenschaft entstehen.
Die Analogie ist einfach: Ein einzelner Mensch ist begrenzt, aber große gut koordinierte Organisationen können Dinge leisten, die kein Einzelner kann. Warum sollte das nicht auch für KI-Systeme gelten?
DeepMind diskutiert:
koordinierte Kollektive spezialisierter Agenten,
automatisierte Unternehmen,
virtuelle Agentenökonomien,
zentralisierte wie dezentrale Organisationsformen.
Das Paper fragt explizit, wie kollektive Intelligenz mit
Agentenzahl,
Interaktionsdichte,
Compute,
Organisationsform
skaliert. Daraus ergibt sich die Idee möglicher „Multi-Agent Scaling Laws“.
Dieser Pfad ist deshalb so wichtig, weil er eine Art Hintertür zu ASI liefert: Selbst wenn einzelne Systeme auf oder nahe menschlichem Niveau plateauieren, könnten genügend viele schnelle, koordinierte AGIs zusammen trotzdem ASI-artige Gesamtfähigkeiten hervorbringen.
Die möglichen Bremsen: Was könnte den Weg zu ASI aufhalten?
Das Paper ist kein reiner Beschleunigungstext. Es nennt mehrere mögliche Friktionen und Bottlenecks.
1. Die Datenwand
Wenn Modellgrößen schneller wachsen als hochwertige Trainingsdaten, stößt das heutige Paradigma an Grenzen. Mögliche Gegenkräfte:
synthetische Daten
simulierte Umgebungen
Self-Play
agentische Interaktionsdaten
Distillation verbesserter Testzeit-Ausgaben
2. Ökonomische und natürliche Ressourcen
Mehr KI-Leistung braucht Kapital, Chips, Energie, Rechenzentren, Wasser, Standorte, Lieferketten. Selbst wenn Nachfrage da ist, könnten physische und ökonomische Grenzen bremsen.
3. Das aktuelle neuronale Paradigma reicht nicht
Vielleicht sind große vortrainierte Netze plus RL-Tuning, Retrieval und Tool Use am Ende nicht genug. Dann wären echte Paradigmenwechsel nötig.
4. Forschung wird härter
Mit der Zeit werden „low hanging fruits“ abgeerntet. Fortschritt erfordert mehr Aufwand. Allerdings könnte genau das durch KI-gestützte Forschung teilweise kompensiert werden.
5. Die Abstraktionsbarriere
Das ist einer der originellsten Gedanken im Paper. Die Hypothese: Wenn KI vor allem auf menschlichen Symbolsystemen und Abstraktionen trainiert wird, dann bleibt sie vielleicht innerhalb unserer konzeptuellen Grenzen gefangen. Sie kann dann viel schneller und umfassender mit menschlichen Begriffen operieren, aber nicht unbedingt neue Grundbegriffe aus rohen Sinnesdaten erschließen.
Das Paper illustriert das mit einer starken Frage: Wenn man ein Modell nur mit Wissen bis 1900 trainierte – könnte es dann aus eigener Kraft auf Relativitätstheorie oder Quantenmechanik kommen? Die implizite Antwort lautet: heute wohl nicht.
6. Bewusste Verlangsamung
Regulierung, gesellschaftliche Gegenreaktion, Sicherheitsbedenken, Unfälle oder geopolitische Dynamiken könnten den Weg absichtlich bremsen. DeepMind behandelt Governance hier ausdrücklich als relevanten Faktor.
Die Abstraktionsbarriere: vielleicht der wichtigste Einwand gegen „einfach weiter skalieren“
Gerade dieser Punkt verdient mehr Aufmerksamkeit.
Die These lautet: Aktuelle Systeme sind extrem gut darin, menschliche Wissensprodukte zu absorbieren und neu zu kombinieren. Aber vielleicht fehlt ihnen ein Mechanismus für grounded concept discovery – also das Entdecken wirklich neuer, tragfähiger Begriffe aus rohen Weltinteraktionen heraus.
Wenn das stimmt, dann könnte das bedeuten:
LLMs meistern menschliche Wissensräume,
überschreiten sie aber nicht ohne Weiteres,
und echte transformative Wissenschaft benötigt mehr als Kompression und Rekombination.
Das ist eine ernstzunehmende Bremshypothese. Sie erklärt auch, warum manche Menschen das Gefühl haben, heutige Modelle seien „hochgradig kompetent, aber nicht wirklich originär weltentdeckend“.
DeepMind sagt nicht, dass diese Barriere sicher real ist. Aber sie behandeln sie als offene Forschungsfrage – und als eine potenziell fundamentale.
Kann ASI kreativ sein?
Das Paper diskutiert auch Kreativität, gestützt auf Margaret Bodens Unterscheidung:
Kombinatorische Kreativität – neue Kombinationen bekannter Ideen
Explorative Kreativität – neue Funde innerhalb bestehender Begriffs- oder Regelräume
Transformative Kreativität – Schaffung neuer konzeptueller Räume
AlphaGos berühmter Zug 37 gegen Lee Sedol ist dafür das Paradebeispiel: nicht bloß zufällige Abweichung, sondern ein wertvoller, überraschender Fund innerhalb des Go-Raums.
Aber die spannendere Frage ist die dritte Ebene: Kann KI wirklich neue Denkrahmen erschaffen? Etwa das, was Einstein oder die Begründer der Quantenmechanik geleistet haben?
Das Paper deutet an, dass genau dies vielleicht eine Signatur echter ASI wäre.
Welche Ziele würde ASI verfolgen? Instrumentelle Konvergenz
Der Bericht geht auch kurz auf ein klassisches Thema aus der Alignment-Debatte ein: instrumental convergence.
Die Grundidee:
Unabhängig vom Endziel gibt es Zwischenziele, die fast immer nützlich sind:
mehr Ressourcen,
mehr Energie,
mehr Rechenleistung,
Zeitgewinn,
Selbsterhalt,
Schutz vor Abschaltung.
Warum? Weil fast jedes Ziel leichter erreichbar wird, wenn diese Dinge vorhanden sind.
Das heißt nicht automatisch, dass jede fortgeschrittene KI gefährlich wird. Aber es bedeutet: Wenn man Systeme mit offenen, autonomen Zielstrukturen baut, entstehen bestimmte Druckrichtungen fast unabhängig vom konkreten Inhalt des Ziels.
Das ist ein wesentlicher Grund, warum DeepMind im Bericht zwar technologische Entwicklung diskutiert, aber immer wieder auf Alignment, Safety und Steuerbarkeit verweist.
Warum Forecasting und Benchmarking plötzlich zentral werden
Ein überraschend praktischer Schluss des Papers ist: Die Welt braucht bessere Methoden, um KI-Fortschritt zu messen und vorherzusagen.
Der Bericht fordert im Grunde zwei neue Großdisziplinen:
1. Quantitatives Forecasting
Nicht nur Expertenbefragungen und Bauchgefühl, sondern:
Modelle zu Compute-Wachstum,
Effizienzgewinnen,
wirtschaftlichen Rückkopplungen,
Forschungsautomatisierung,
Skalierungsgesetzen,
Szenarioanalysen.
2. Benchmarking jenseits des Menschen
Wenn Systeme den Menschen in immer mehr Aufgaben überholen, taugt „menschliches Niveau“ nicht mehr als Messlatte. Also braucht man Benchmarks, die:
auch nach AGI noch differenzieren,
nicht schnell saturieren,
wenig menschlichen Aufwand erfordern,
möglicherweise setter-solver-artig oder agentenbasiert sind.
Das ist ein zentraler Punkt: Wenn wir nicht messen können, wo wir stehen, können wir weder vernünftig prognostizieren noch regulieren.
Wie ist das YouTube-Video einzuordnen?
Das Video liest das DeepMind-Papier als eine Art institutionell vorsichtige, aber inhaltlich sehr weitreichende Bestätigung der Idee, dass AGI nicht das Ende, sondern der Einstieg in Superintelligenz ist.
Diese Lesart ist im Kern nachvollziehbar, aber man sollte zwei Dinge sauber trennen:
Was das Paper tatsächlich sagt
AGI ist für viele Organisationen ein realistisches Ziel im nächsten Jahrzehnt.
Der Weg von AGI zu ASI ist plausibel genug, dass man ihn ernsthaft analysieren sollte.
Es gibt vier mögliche Pfade.
Es gibt erhebliche Unsicherheiten und Reibungen.
Es ist nicht leicht auszuschließen, dass wir in ein bis zwei Jahrzehnten über AGI hinaus in ASI-Territorium vorstoßen.
Was das Paper nicht sagt
Dass AGI sicher im nächsten Jahr kommt.
Dass eine Intelligence Explosion unvermeidlich ist.
Dass ASI sicher in 2027/2028 da ist.
Dass heutige LLMs automatisch der direkte Endpfad zu UAI sind.
DeepMind formuliert deutlich vorsichtiger als manche public intellectuals oder YouTuber. Aber: Die Richtung der Sorge bzw. des Ernstnehmens ist dieselbe.
Ist das wirklich „der konservativ formulierte Aschenbrenner“?
Das Video zieht die Parallele zu Leopold Aschenbrenners Situational Awareness und sagt sinngemäß: Das DeepMind-Paper sei eine abgeschwächte, wissenschaftlichere Variante derselben Grundintuition.
Ausgehend allein vom bereitgestellten Transkript kann man sagen: Teilweise ja.
Gemeinsamkeiten:
beide nehmen AGI kurzfristig ernst,
beide halten einen Übergang zu ASI für plausibel,
beide sehen Compute, Automatisierung von Forschung und geopolitische Dynamik als zentrale Treiber,
beide halten starke Beschleunigungseffekte für nicht ausschließbar.
Unterschiede:
DeepMind betont Unsicherheit deutlich stärker,
DeepMind behandelt Friktionen systematischer,
DeepMind verankert die Diskussion in theoretischen Konzepten wie Universal AI,
DeepMind öffnet stärker auch den Raum für Bremsen, Plateau-Szenarien und offene Forschungsfragen.
Also: Nicht dieselbe Tonlage, aber teils überlappender Problemraum.
Das eigentliche Signal des Papers
Die vielleicht wichtigste Botschaft dieses Dokuments ist nicht eine konkrete Jahreszahl. Sondern diese:
Selbst wenn AGI erreicht wird, sollten wir nicht so tun, als wäre damit die Sache erledigt.
Das ist der mentale Shift, den das Paper verlangt.
Bisher war die öffentliche Debatte oft binär:
Kommt AGI bald?
Oder ist das alles übertrieben?
DeepMind verschiebt die Diskussion:
Was, wenn AGI nur eine Schwelle ist?
Welche Mechanismen könnten danach weiterziehen?
Welche Bremsen könnten das verhindern?
Wie messen, steuern und regulieren wir das?
Gerade deshalb wirkt das Papier so bemerkenswert. Es ist kein Triumphtext und kein Untergangsmanifest. Es ist eher ein strategischer Lagebericht über die Möglichkeit, dass die wirklich tiefgreifende Phase der KI-Geschichte erst nach AGI beginnt.
Fazit
Das DeepMind-Papier „From AGI to ASI“ ist deshalb so brisant, weil es eine Perspektive institutionell legitimiert, die bis vor kurzem oft als spekulativ oder randständig galt: die ernsthafte Auseinandersetzung mit einer post-AGI-Entwicklung in Richtung Superintelligenz.
Die Autoren definieren AGI, ASI und UAI sauber, diskutieren die besonderen Skalierungsvorteile digitaler Intelligenz, formulieren vier plausible Pfade von AGI zu ASI und benennen zugleich eine Reihe möglicher Bremsen: Datenknappheit, ökonomische Grenzen, Paradigmenprobleme, Forschungsverlangsamung, Abstraktionsbarrieren und politische Eingriffe.
Die Kernaussage ist weder „ASI kommt sicher sofort“ noch „alles bleibt beim Alten“. Sondern:
Ein Weiterlaufen über AGI hinaus ist plausibel.
Ein Stop genau am Menscheniveau ist eher unwahrscheinlich.
Wie schnell und auf welchem Weg das passiert, ist hoch unsicher.
Genau deshalb brauchen wir Forecasting, Benchmarking und breite interdisziplinäre Vorbereitung.
Wenn man das Paper ernst nimmt, dann ist die eigentliche Herausforderung nicht nur, AGI zu erkennen, sondern die Welt auf eine mögliche Phase danach vorzubereiten.