„AGI ist bis 2030 erreicht“: Trotzdem warnt Deepmind-Chef Demis Hassabis vor den Risiken

Demis Hassabis, Gründer und CEO von DeepMind, positioniert sich aktuell als einer der einflussreichsten Stimmen in der globalen KI-Debatte. Der britische Neurowissenschaftler und KI-Forscher geht davon aus, dass Artificial General Intelligence (AGI) – eine KI mit menschenähnlichen kognitiven Fähigkeiten über mehrere Domänen hinweg – bis 2030 erreicht werden könnte. Gleichzeitig warnt er eindringlich vor den damit verbundenen Risiken und fordert ein verantwortungsvolles Vorgehen. Seine Aussagen spiegeln eine tiefgreifende Spannung wider, die die gesamte Tech-Branche derzeit beschäftigt: zwischen technologischem Fortschrittsoptimismus und dem nüchternen Blick auf existenzielle Risiken.

Was ist AGI – und warum ist 2030 ein ambitioniertes Ziel?

Der Begriff Artificial General Intelligence bezeichnet eine KI, die nicht nur in einem spezifischen Aufgabenfeld exzelliert – wie etwa Schach spielen oder medizinische Bilder auswerten –, sondern flexibel und eigenständig in völlig unterschiedlichen kognitiven Disziplinen arbeiten kann: von wissenschaftlichem Denken über Sprachverständnis bis hin zu motorischer Planung. Das unterscheidet AGI fundamental von heutigen Systemen wie GPT-4 oder Gemini, die als Narrow AI klassifiziert werden.

Hassabis selbst hat AGI mehrfach als „eines der bedeutsamsten und potenziell gefährlichsten Projekte in der Geschichte der Menschheit" bezeichnet. Dass er dennoch aktiv daran arbeitet, begründet er mit dem Argument, es sei besser, wenn sicherheitsorientierte Labore wie DeepMind an der Spitze stehen als weniger gewissenhafte Akteure. Diese Logik ist in der Branche verbreitet – und umstritten.

Die Prognose „bis 2030" ist mit Vorsicht zu genießen. AGI-Zeitpläne werden seit Jahrzehnten formuliert und regelmäßig nach hinten verschoben. Dennoch hat sich das Tempo der Entwicklung seit 2020 spürbar beschleunigt – nicht zuletzt durch Durchbrüche bei großen Sprachmodellen und multimodalen Systemen wie Googles eigenem Gemini. Ob 2030 realistisch ist, bleibt unter Fachleuten umstritten; Hassabis selbst formuliert die Aussage als Möglichkeit, nicht als Gewissheit.

Die Vision: AGI als globales Gemeingut

Hassabis skizziert ein Szenario, in dem AGI zu den drängendsten Problemen der Menschheit beiträgt: beschleunigte Medikamentenentwicklung, neue Ansätze zur CO₂-Reduktion, effizientere Energiesysteme. DeepMinds eigenes AlphaFold-Projekt, das die Proteinfaltung mit bisher unerreichter Genauigkeit vorhersagt, gilt als früher Beleg für dieses Potenzial – und hat bereits konkrete Auswirkungen auf die pharmazeutische Forschung weltweit.

Allerdings betont Hassabis, dass dieses Potenzial nur dann gesellschaftlichen Nutzen entfaltet, wenn die Technologie inklusiv entwickelt wird. Die derzeitige Konzentration von Rechenkapazität, Trainingsdaten und Spitzentalenten bei einer Handvoll US-amerikanischer und chinesischer Unternehmen sieht er als strukturelles Problem. Er plädiert dafür, AGI als globales Gemeingut zu verstehen – vergleichbar mit dem Internet in seinen frühen Entwicklungsphasen, bevor wenige Plattformen die Infrastruktur dominierten.

Kritiker werfen an dieser Stelle die berechtigte Frage auf, wie glaubwürdig diese Vision ist, wenn DeepMind selbst Teil eines der mächtigsten Technologiekonzerne der Welt ist. Google – respektive Alphabet – akquirierte DeepMind 2014, und trotz relativer Forschungsautonomie ist das Labor strukturell in einen kommerziellen Konzern eingebettet. Die Spannung zwischen öffentlichem Interesse und Shareholder-Value bleibt unaufgelöst.

Die Alignment-Herausforderung: Das zentrale technische Problem

Im Kern der Sicherheitsdebatte steht die sogenannte Alignment Challenge: Wie stellt man sicher, dass ein AGI-System, das die menschliche Intelligenz in vielen Bereichen übertrifft, weiterhin menschliche Werte und Ziele verfolgt – und nicht optimiert, was technisch messbar, aber ethisch problematisch ist?

Das ist keine akademische Spielerei. Bereits heutige Systeme zeigen Phänomene wie Reward Hacking – das Optimieren von Kennzahlen auf Weisen, die der eigentlichen Zielsetzung widersprechen. Bei einem System mit weit überlegener Problemlösungskompetenz könnten solche Abweichungen schwer erkennbar und potenziell irreversibel sein. Hassabis warnt ausdrücklich davor, dass klassische Testmethoden – also das Validieren von KI-Systemen anhand bekannter Benchmarks – bei AGI nicht ausreichen werden.

DeepMind investiert nach eigenen Angaben erhebliche Ressourcen in die KI-Sicherheitsforschung, darunter Forschung zu interpretierbaren Modellen (Explainability), robustem Training und formalen Verifikationsmethoden. Unabhängige Überprüfungen dieser Investitionen sind jedoch begrenzt – eine strukturelle Schwäche des gesamten Feldes.

Gesellschaftliche Risiken: Arbeit, Macht und geopolitische Konkurrenz

Neben den technischen Sicherheitsfragen benennt Hassabis drei gesellschaftliche Risikodimensionen, die er für ebenso dringlich hält:

Arbeitsmarkt: AGI könnte nicht nur Routineaufgaben automatisieren – wie es schwächere KI-Systeme bereits tut –, sondern auch hochqualifizierte kognitive Tätigkeiten. Anders als frühere Automatisierungswellen, die primär Produktionsberufe betrafen, würde AGI potenziell Berufsfelder erfassen, die bislang als immun gegenüber technologischer Substitution galten: Recht, Medizin, Forschung, kreative Arbeit.

Machtkonzentration: Eine der größten Gefahren sieht Hassabis darin, dass AGI-Kapazitäten in den Händen weniger staatlicher oder privatwirtschaftlicher Akteure konzentriert bleiben. Wer AGI kontrolliert, könnte erhebliche strategische Vorteile in Wirtschaft, Militär und Politik erlangen – mit weitreichenden Konsequenzen für demokratische Strukturen weltweit.

Geopolitische Konkurrenz: Der Wettlauf zwischen den USA und China um KI-Vorherrschaft erhöht den Druck auf Unternehmen und Regierungen, Sicherheitsbedenken zugunsten von Geschwindigkeit zurückzustellen. Hassabis plädiert für internationale Kooperationsrahmen – ähnlich den Nichtverbreitungsverträgen im Nuklearbereich –, räumt aber ein, dass die geopolitischen Spannungen solche Abkommen derzeit erschweren.

Ausblick: Zwischen Aufbruch und Verantwortung

Die Frage, ob AGI bis 2030 tatsächlich Realität wird, ist letztlich zweitrangig gegenüber der entscheidenderen Frage: Wie bereitet sich die Gesellschaft auf eine Technologie vor, deren Auswirkungen alle bisherigen technologischen Revolutionen in den Schatten stellen könnten? Hassabis' Haltung – gleichzeitig Treiber und Warner zu sein – ist symptomatisch für eine Branche, die sich ihrer eigenen Sprengkraft bewusst ist, aber keinen Weg zurück sieht. Was bleibt, ist die Forderung nach mehr Transparenz, internationaler Koordination und ernsthafter politischer Regulierung – bevor die Technologie die Rahmenbedingungen ihrer eigenen Governance überholt.