Von AGI zu ASI: Warum das neue DeepMind-Papier so viel Sprengkraft hat

Das von Google DeepMind veröffentlichte Papier „From AGI to ASI“ ist kein gewöhnlicher Forschungsaufsatz. Es ist weniger ein technischer Zwischenstand als vielmehr ein strategischer Blick in eine mögliche Zukunft der KI-Entwicklung. Der Grundton ist bemerkenswert: AGI wird nicht als Endpunkt beschrieben, sondern als Beginn einer neuen Phase. Oder zugespitzt: Nicht die Ziellinie, sondern der Startschuss.

Genau diesen Punkt hebt auch das besprochene YouTube-Video hervor. Dort wird die Veröffentlichung als potenziell historisch eingeordnet: Nicht irgendein Blogpost, keine Spekulation auf X, sondern ein Dokument von Google DeepMind, mit Autor:innen wie Shane Legg, einem der Mitgründer von DeepMind. Und tatsächlich: Liest man das Transkript des Papiers, dann ist der zentrale Gedanke unmissverständlich. Die Autoren gehen davon aus, dass, falls AGI erreicht wird, es unwahrscheinlich ist, dass der Fortschritt exakt dort stoppt.

Der Bericht fragt also nicht primär: Wann kommt AGI? Sondern: Was passiert danach?

From AGI to ASI (PDF)

https://youtu.be/OdlUXu2sAb4

AGI, ASI, UAI – die Begriffe sauber eingeordnet

Ein großer Verdienst des Papers ist, dass es die Begriffe einigermaßen präzise rahmt.

AGI

DeepMind verwendet AGI als Kurzform für human-level artificial general intelligence. Gemeint ist ein System, das in etwa die Intelligenz eines einzelnen durchschnittlichen Menschen auf den meisten kognitiven Aufgaben erreicht. Wichtig: Das schließt nicht aus, dass ein solches System auf vielen Einzelaufgaben bereits deutlich übermenschlich ist. Es geht um den allgemeinen Durchschnitt über viele Domänen.

ASI

ASI steht für artificial general superintelligence. Das ist ausdrücklich nicht einfach eine KI, die irgendwo besser ist als Menschen. Systeme wie AlphaGo oder AlphaFold sind zwar in engen Bereichen übermenschlich, fallen aber nicht unter diese Definition. ASI meint laut Paper ein System, das über praktisch alle Domänen menschlicher Aktivität hinweg leistungsfähiger ist – und zwar nicht nur im Vergleich zu Einzelpersonen, sondern im Vergleich zu großen, gut koordinierten Expertengruppen.

Das ist entscheidend: DeepMind setzt die Messlatte hoch. ASI ist in ihrem Sinne nicht „ein sehr starkes Modell“, sondern eher etwas, das ganze Institutionen, Forschungsfelder oder Konzerne in kognitiver Leistungsfähigkeit übertrifft.

UAI

Darüber hinaus spricht der Bericht von Universal AI (UAI). Das ist die theoretische Obergrenze von Intelligenz, formal beschrieben über den AIXI-Agenten und die Legg-Hutter-Intelligenz. Das ist kein praktisches Modell, sondern ein mathematisches Ideal: ein Agent, der im Durchschnitt über alle berechenbaren Aufgaben maximal intelligent wäre.

Das YouTube-Video betont zu Recht, wie ungewöhnlich dieser Schritt ist: Das Paper spricht nicht nur über das nächste Produkt oder die nächste Modellgeneration, sondern über einen Kontinuumsgedanken von Intelligenz – von AGI zu ASI bis hin zur theoretischen Grenze.

Die Kernthese des Papiers: AGI ist wahrscheinlich nicht der Endpunkt

Eine der stärksten Aussagen des Berichts lautet sinngemäß:

Wenn menschliches AGI erreichbar ist, ist es unplausibel, dass der KI-Fortschritt genau auf menschlichem Niveau stoppt.

Diese Aussage zieht sich durch das ganze Dokument. Die Autoren räumen Unsicherheiten ein, sprechen über mögliche Reibungen, Flaschenhälse und gesellschaftliche Gegenkräfte. Aber sie halten es für nicht leicht abweisbar, dass die Entwicklung innerhalb der nächsten ein bis zwei Jahrzehnte von AGI weiter in Richtung ASI laufen könnte.

Das ist nicht ganz dieselbe Sprache wie in stark beschleunigungsorientierten Essays à la Situational Awareness, aber die Stoßrichtung ist ähnlich: AGI wäre nicht das Ende der Geschichte, sondern möglicherweise nur der Beginn einer weit tiefgreifenderen Transformationsphase.

Warum digitale Intelligenz grundsätzlich anders skaliert als biologische

Ein zentraler Teil des Papers – und im Video ebenfalls stark hervorgehoben – ist die Diskussion der Vorteile digitaler Intelligenz gegenüber biologischer Intelligenz. Die Autoren listen diese Vorteile explizit auf und betonen, dass sie mit mehr Rechenleistung zunehmen.

Hier die Punkte aus dem Bericht, inhaltlich aufgearbeitet:

1. Höhere Input-/Output-Geschwindigkeit

KI-Systeme können Informationen mit enormer Bandbreite aufnehmen und ausgeben. Das Paper nennt als Beispiel, dass heutige LLMs mehrere Bücher in Sekunden verarbeiten können. Mit geeigneten Sensoren und Aktoren würde das auch für reale Weltinteraktionen gelten.

2. Höhere interne Verarbeitungsgeschwindigkeit

„Denken“ kann beschleunigt werden: entweder durch schnellere sequentielle Verarbeitung oder durch stärkere Parallelisierung. Selbst wenn dabei abnehmende Grenzerträge auftreten, ist das ein massiver Skalierungsvorteil gegenüber biologischen Gehirnen.

3. Größere Arbeits- und Langzeitspeicher

Digitale Systeme können sehr viel mehr Information gleichzeitig verfügbar halten und speichern. Die Fähigkeit heutiger Modelle, riesige Teile des Internets zu memorisieren oder in externen Systemen nachzuschlagen, ist laut Bericht vermutlich noch weit vom technischen Limit entfernt.

4. Substratunabhängigkeit

Eine KI ist nicht an ein bestimmtes Stück Hardware gebunden. Sie kann auf andere Maschinen übertragen, aufgerüstet, verteilt oder migriert werden.

5. Verlustfreie Replikation

Nicht nur der „Code“, sondern auch der gesamte Zustands- und Erinnerungsspeicher kann kopiert werden. Das bedeutet: Backup, Wiederherstellung, Anhalten, Fortsetzen und Klonen sind prinzipiell trivial.

6. Hochbandbreitiges Teilen von Erfahrungen

Erfahrungen können gespeichert, geteilt, replayed und zur Weiterbildung genutzt werden. Bei homogenen Systemen können sogar rohe Lernsignale geteilt werden.

Der entscheidende Punkt: Diese Eigenschaften wachsen mit Compute. Ein Mensch wird nicht zehnmal schneller denkbar, nur weil mehr Strom zur Verfügung steht. Ein digitales System schon eher. Genau deshalb argumentieren die Autoren, dass unsere Intuition, Intelligenz müsse irgendwo „am Menschen“ natürlich plateauieren, wahrscheinlich trügerisch ist.

ASI ist nicht allwissend und nicht allmächtig

Das Paper ist trotz seines weitreichenden Horizonts an einer Stelle erstaunlich nüchtern: ASI wäre nicht omniscient und nicht omnipotent.

DeepMind listet mehrere fundamentale Grenzen auf:

Das ist wichtig, weil es zwei Extreme vermeidet:

  1. die naive Annahme, KI werde genau beim Menschen stoppen;
  2. die ebenso naive Annahme, Superintelligenz sei automatisch gottgleich.

Stattdessen vertritt der Bericht eine mittlere Position: Es gibt nach oben sehr wahrscheinlich noch viel Spielraum über dem Menschen, aber auch ASI bleibt an Realität, Physik und Rechenhärte gebunden.

Die vier Wege von AGI zu ASI

Der vielleicht meistdiskutierte Teil des Papers ist die Darstellung von vier möglichen technologischen Pfaden von AGI zu ASI. Das Video hat diese vier Wege korrekt herausgestellt.

1. Skalierung von Compute, Modellen und Daten

Dies ist der direkteste „Business-as-usual“-Pfad. Die Idee: Wenn größere Modelle, mehr Daten und mehr effektiver Compute in den letzten Jahren zu massiven Fähigkeitssprüngen geführt haben, könnte eine Fortsetzung dieses Trends auch über AGI hinaus tragen.

Die Autoren verweisen auf:

Sie rechnen vor, dass diese drei Faktoren zusammengenommen eine grobe Wachstumsrate des effektiven Compute von etwa 10x pro Jahr ergeben könnten.

Die offene Frage ist nicht nur, ob das technisch möglich ist, sondern:

Das Paper ist hier vorsichtig: Möglich ja, sicher nein.

2. Algorithmische Paradigmenwechsel

Der zweite Weg sind grundlegende Veränderungen der KI-Methoden. Heute dominiert laut Bericht ein Paradigma aus:

Die Autoren vermuten, dass menschliches AGI wahrscheinlich zusätzliche Zutaten braucht, etwa:

Ein echter Paradigmenwechsel wäre aber noch mehr: neue Architekturen, andere Optimierungsverfahren, RL-lastigere Ansätze, explizitere Weltmodelle, neuromorphe Hardware oder ganz andere Lernformen.

Der Haken: Solche Sprünge sind per Definition schwer vorherzusagen. Deshalb ist dieser Pfad wichtig, aber forecasting-resistent.

3. Rekursive Selbstverbesserung

Hier liegt der für viele spektakulärste Pfad. Gemeint ist: KI hilft bei KI-Forschung, was bessere KI hervorbringt, die dann noch besser bei KI-Forschung hilft, und so weiter.

Das Paper unterscheidet mehrere Formen davon:

a) Algorithmische Selbstverbesserung

KI schreibt bessere Architekturen, Optimierer, Trainingsverfahren oder Code.

b) Hardware-Selbstverbesserung

KI hilft, bessere Chips, effizientere Hardware oder verbesserte Fertigungsprozesse zu entwickeln.

c) Datenbezogene Selbstverbesserung

KI erzeugt, kuratiert oder simuliert bessere Trainingsdaten für die nächste KI-Generation.

d) Arbeitsteilung / Spezialisierung

KI-Kollektive könnten sich spezialisieren und dadurch als Ganzes produktiver werden.

DeepMind ist hier deutlich: Die Dynamik ist schlecht verstanden. Sie könnte schnell abflachen. Sie könnte aber auch beschleunigend wirken – in Extremfällen sogar in Richtung Hyperbolic Growth oder „intelligence explosion“.

Das Video interpretiert diesen Abschnitt als eine Art moderat formulierte Bestätigung dessen, was manche Beschleunigungsdenker seit Jahren behaupten. Das ist zugespitzt, aber nicht völlig aus der Luft gegriffen. Das Paper sagt zwar nicht: So wird es kommen. Aber es sagt ganz klar: Man kann diese Dynamik nicht ausschließen.

4. Multi-Agenten-Koordination und Gruppensysteme

Der vierte Pfad ist besonders interessant, weil er nicht voraussetzt, dass ein einzelnes Modell „genialer als Einstein“ wird. Stattdessen könnte Superintelligenz als kollektive Eigenschaft entstehen.

Die Analogie ist einfach: Ein einzelner Mensch ist begrenzt, aber große gut koordinierte Organisationen können Dinge leisten, die kein Einzelner kann. Warum sollte das nicht auch für KI-Systeme gelten?

DeepMind diskutiert:

Das Paper fragt explizit, wie kollektive Intelligenz mit

skaliert. Daraus ergibt sich die Idee möglicher „Multi-Agent Scaling Laws“.

Dieser Pfad ist deshalb so wichtig, weil er eine Art Hintertür zu ASI liefert: Selbst wenn einzelne Systeme auf oder nahe menschlichem Niveau plateauieren, könnten genügend viele schnelle, koordinierte AGIs zusammen trotzdem ASI-artige Gesamtfähigkeiten hervorbringen.

Die möglichen Bremsen: Was könnte den Weg zu ASI aufhalten?

Das Paper ist kein reiner Beschleunigungstext. Es nennt mehrere mögliche Friktionen und Bottlenecks.

1. Die Datenwand

Wenn Modellgrößen schneller wachsen als hochwertige Trainingsdaten, stößt das heutige Paradigma an Grenzen. Mögliche Gegenkräfte:

2. Ökonomische und natürliche Ressourcen

Mehr KI-Leistung braucht Kapital, Chips, Energie, Rechenzentren, Wasser, Standorte, Lieferketten. Selbst wenn Nachfrage da ist, könnten physische und ökonomische Grenzen bremsen.

3. Das aktuelle neuronale Paradigma reicht nicht

Vielleicht sind große vortrainierte Netze plus RL-Tuning, Retrieval und Tool Use am Ende nicht genug. Dann wären echte Paradigmenwechsel nötig.

4. Forschung wird härter

Mit der Zeit werden „low hanging fruits“ abgeerntet. Fortschritt erfordert mehr Aufwand. Allerdings könnte genau das durch KI-gestützte Forschung teilweise kompensiert werden.

5. Die Abstraktionsbarriere

Das ist einer der originellsten Gedanken im Paper. Die Hypothese: Wenn KI vor allem auf menschlichen Symbolsystemen und Abstraktionen trainiert wird, dann bleibt sie vielleicht innerhalb unserer konzeptuellen Grenzen gefangen. Sie kann dann viel schneller und umfassender mit menschlichen Begriffen operieren, aber nicht unbedingt neue Grundbegriffe aus rohen Sinnesdaten erschließen.

Das Paper illustriert das mit einer starken Frage: Wenn man ein Modell nur mit Wissen bis 1900 trainierte – könnte es dann aus eigener Kraft auf Relativitätstheorie oder Quantenmechanik kommen? Die implizite Antwort lautet: heute wohl nicht.

6. Bewusste Verlangsamung

Regulierung, gesellschaftliche Gegenreaktion, Sicherheitsbedenken, Unfälle oder geopolitische Dynamiken könnten den Weg absichtlich bremsen. DeepMind behandelt Governance hier ausdrücklich als relevanten Faktor.

Die Abstraktionsbarriere: vielleicht der wichtigste Einwand gegen „einfach weiter skalieren“

Gerade dieser Punkt verdient mehr Aufmerksamkeit.

Die These lautet: Aktuelle Systeme sind extrem gut darin, menschliche Wissensprodukte zu absorbieren und neu zu kombinieren. Aber vielleicht fehlt ihnen ein Mechanismus für grounded concept discovery – also das Entdecken wirklich neuer, tragfähiger Begriffe aus rohen Weltinteraktionen heraus.

Wenn das stimmt, dann könnte das bedeuten:

Das ist eine ernstzunehmende Bremshypothese. Sie erklärt auch, warum manche Menschen das Gefühl haben, heutige Modelle seien „hochgradig kompetent, aber nicht wirklich originär weltentdeckend“.

DeepMind sagt nicht, dass diese Barriere sicher real ist. Aber sie behandeln sie als offene Forschungsfrage – und als eine potenziell fundamentale.

Kann ASI kreativ sein?

Das Paper diskutiert auch Kreativität, gestützt auf Margaret Bodens Unterscheidung:

  1. Kombinatorische Kreativität – neue Kombinationen bekannter Ideen
  2. Explorative Kreativität – neue Funde innerhalb bestehender Begriffs- oder Regelräume
  3. Transformative Kreativität – Schaffung neuer konzeptueller Räume

AlphaGos berühmter Zug 37 gegen Lee Sedol ist dafür das Paradebeispiel: nicht bloß zufällige Abweichung, sondern ein wertvoller, überraschender Fund innerhalb des Go-Raums.

Aber die spannendere Frage ist die dritte Ebene: Kann KI wirklich neue Denkrahmen erschaffen? Etwa das, was Einstein oder die Begründer der Quantenmechanik geleistet haben?

Das Paper deutet an, dass genau dies vielleicht eine Signatur echter ASI wäre.

Welche Ziele würde ASI verfolgen? Instrumentelle Konvergenz

Der Bericht geht auch kurz auf ein klassisches Thema aus der Alignment-Debatte ein: instrumental convergence.

Die Grundidee:
Unabhängig vom Endziel gibt es Zwischenziele, die fast immer nützlich sind:

Warum? Weil fast jedes Ziel leichter erreichbar wird, wenn diese Dinge vorhanden sind.

Das heißt nicht automatisch, dass jede fortgeschrittene KI gefährlich wird. Aber es bedeutet: Wenn man Systeme mit offenen, autonomen Zielstrukturen baut, entstehen bestimmte Druckrichtungen fast unabhängig vom konkreten Inhalt des Ziels.

Das ist ein wesentlicher Grund, warum DeepMind im Bericht zwar technologische Entwicklung diskutiert, aber immer wieder auf Alignment, Safety und Steuerbarkeit verweist.

Warum Forecasting und Benchmarking plötzlich zentral werden

Ein überraschend praktischer Schluss des Papers ist: Die Welt braucht bessere Methoden, um KI-Fortschritt zu messen und vorherzusagen.

Der Bericht fordert im Grunde zwei neue Großdisziplinen:

1. Quantitatives Forecasting

Nicht nur Expertenbefragungen und Bauchgefühl, sondern:

2. Benchmarking jenseits des Menschen

Wenn Systeme den Menschen in immer mehr Aufgaben überholen, taugt „menschliches Niveau“ nicht mehr als Messlatte. Also braucht man Benchmarks, die:

Das ist ein zentraler Punkt: Wenn wir nicht messen können, wo wir stehen, können wir weder vernünftig prognostizieren noch regulieren.

Wie ist das YouTube-Video einzuordnen?

Das Video liest das DeepMind-Papier als eine Art institutionell vorsichtige, aber inhaltlich sehr weitreichende Bestätigung der Idee, dass AGI nicht das Ende, sondern der Einstieg in Superintelligenz ist.

Diese Lesart ist im Kern nachvollziehbar, aber man sollte zwei Dinge sauber trennen:

Was das Paper tatsächlich sagt

Was das Paper nicht sagt

DeepMind formuliert deutlich vorsichtiger als manche public intellectuals oder YouTuber. Aber: Die Richtung der Sorge bzw. des Ernstnehmens ist dieselbe.

Ist das wirklich „der konservativ formulierte Aschenbrenner“?

Das Video zieht die Parallele zu Leopold Aschenbrenners Situational Awareness und sagt sinngemäß: Das DeepMind-Paper sei eine abgeschwächte, wissenschaftlichere Variante derselben Grundintuition.

Ausgehend allein vom bereitgestellten Transkript kann man sagen: Teilweise ja.

Gemeinsamkeiten:

Unterschiede:

Also: Nicht dieselbe Tonlage, aber teils überlappender Problemraum.

Das eigentliche Signal des Papers

Die vielleicht wichtigste Botschaft dieses Dokuments ist nicht eine konkrete Jahreszahl. Sondern diese:

Selbst wenn AGI erreicht wird, sollten wir nicht so tun, als wäre damit die Sache erledigt.

Das ist der mentale Shift, den das Paper verlangt.

Bisher war die öffentliche Debatte oft binär:

DeepMind verschiebt die Diskussion:

Gerade deshalb wirkt das Papier so bemerkenswert. Es ist kein Triumphtext und kein Untergangsmanifest. Es ist eher ein strategischer Lagebericht über die Möglichkeit, dass die wirklich tiefgreifende Phase der KI-Geschichte erst nach AGI beginnt.

Fazit

Das DeepMind-Papier „From AGI to ASI“ ist deshalb so brisant, weil es eine Perspektive institutionell legitimiert, die bis vor kurzem oft als spekulativ oder randständig galt: die ernsthafte Auseinandersetzung mit einer post-AGI-Entwicklung in Richtung Superintelligenz.

Die Autoren definieren AGI, ASI und UAI sauber, diskutieren die besonderen Skalierungsvorteile digitaler Intelligenz, formulieren vier plausible Pfade von AGI zu ASI und benennen zugleich eine Reihe möglicher Bremsen: Datenknappheit, ökonomische Grenzen, Paradigmenprobleme, Forschungsverlangsamung, Abstraktionsbarrieren und politische Eingriffe.

Die Kernaussage ist weder „ASI kommt sicher sofort“ noch „alles bleibt beim Alten“. Sondern:

Wenn man das Paper ernst nimmt, dann ist die eigentliche Herausforderung nicht nur, AGI zu erkennen, sondern die Welt auf eine mögliche Phase danach vorzubereiten.

Revision #2
Created 2026-06-22 05:22:11 UTC by art10m
Updated 2026-06-22 05:24:46 UTC by art10m