Was wir gehört haben: Suleymans düsteres KI-Szenario

Mustafa Suleyman ist kein Alarmist. Der Mitgründer von DeepMind, der Googles KI-Revolution mit geprägt hat und nun als Chief AI Officer bei Microsoft tätig ist, spricht normalerweise gemessen. Deshalb wiegen seine neuesten Aussagen umso schwerer: In mehreren Interviews und seinem Buch „The Coming Wave" malt er ein Bild der kommenden Jahre, das zwischen optimistisch und beängstigend changiert.

Die zentrale These ist simpel, aber unbequem: Die nächste Welle der künstlichen Intelligenz wird schneller, breiter und disruptiver sein als die meisten Menschen verstehen. Nicht nur die Technologie-Branche, sondern Bildung, Arbeit, Sicherheit, Medizin — alles wird gleichzeitig unter Druck geraten. Und unsere Institutionen sind nicht darauf vorbereitet.

Was bei Suleyman besonders auffällt: Er spricht nicht abstrakt. Er nennt konkrete Szenarien. Generative KI wird Millionen von Jobs disruptieren — nicht irgendwann, sondern in den nächsten fünf bis zehn Jahren. Deepfakes werden Wahrheit unmöglich machen — ein Thema, das auch in der Diskussion um Dark-Web-Marktplätze und staatliche Kontrolle immer drängender wird. Gefährliche Biotechnologie-Erkenntnisse könnten kostenlos im Internet landen. Nicht als Dystopie-Fantasy, sondern als logische Konsequenz der Technologie, die heute bereits existiert.

Was uns überrascht hat: Die Ehrlichkeit aus dem Innersten der KI-Industrie

Mustafa Suleyman sitzt am längeren Hebel. Er leitet die KI-Strategie bei Microsoft, dem Konzern mit ChatGPT-Integration in Office, Azure und Bing. Er könnte Entwarnung geben. Könnte sagen: „Macht euch keine Sorgen, wir kümmern uns darum."

Das tut er nicht.

Stattdessen sagt Suleyman klar: Die Regulierung hinkt hinterher. Die Tech-Unternehmen konkurrieren so hart, dass ethische Grenzen verschwimmen. Regierungen verstehen das Problem nicht. Und: Es gibt keinen Killswitch. Keine große Bremse. KI-Systeme werden zu komplex, zu dezentral, um einfach abgeschaltet zu werden.

Besonders interessant ist seine Kritik an den bisherigen Regulierungsversuchen. Der EU AI Act, so die implizite Botschaft, kommt zu spät und ist zu schwach. Er regelt „High-Risk-KI", aber die gefährlichsten Anwendungen entstehen nicht in zertifizierten Laboren — sie entstehen, wenn Tausende Entwickler weltweit Open-Source-Modelle verfeinern und für neue Zwecke nutzen.

Das ist die echte Überraschung: Ein KI-Insider gesteht ein, dass die Branche das Problem nicht selbst löst — und dass externe Kontrollen schwächer sind als nötig. Damit verbunden ist auch die Diskussion über andere disruptive Technologien: Ähnlich wie Fintech: N26, Trade Republic und die nächste Disruptions-Welle traditionelle Märkte durcheinanderwirbeln, transformiert KI etablierte Strukturen radikal.

Die Spannung zwischen Optimismus und Mahnung

Suleyman ist dabei nicht pessimistisch. Das macht seine Position so schwer greifbar. Er glaubt an die positiven Möglichkeiten von KI — Medizin, Bildung, Klimawandel. Aber er trennt deutlich zwischen dem, was technisch möglich ist, und dem, was gesellschaftlich bewältigt werden kann.

Seine Analogie: Mit der Druckerpresse kam die Reformation, aber auch Propaganda. Mit Antibiotika kam Heilung, aber auch Antibiotikaresistenzen. Mit dem Internet kam Wissen, aber auch Desinformation. KI wird dasselbe Muster zeigen — nur schneller und radikaler.

Suleymans Vorschläge: Mehr Regulierung, mehr Kapazität

Was konkret fordert Suleyman? Hier wird es für die deutsche Technologie-Politik relevant:

• Neue Behördenstrukturen: Regierungen brauchen spezialisierte KI-Agenturen nach dem Vorbild der Atomenergiekommissionen der 1950er Jahre. Das erfordert Budget, Expertise und Unabhängigkeit von der Industrie. Deutschland steht dabei vor dem Fachkräftemangel: Zwei Millionen offene Stellen und kein Ende — der Mangel an KI-Experten in der öffentlichen Verwaltung ist akut.
• Stärkere internationale Koordination: KI respektiert keine Grenzen. Eine deutsche Regelung nützt wenig, wenn die Modelle aus San Francisco, Shenzhen oder Singapur kommen. Suleyman argumentiert für globale Governance-Strukturen, ähnlich wie bei Atomen oder Pandemien.
• Transparenzanforderungen: Unternehmen müssen offenlegen, wie ihre KI-Modelle trainiert werden, welche Daten verwendet wurden und welche bekannten Risiken es gibt. Das ist derzeit nicht Standard.

Was besonders auffällt: Suleyman fordert nicht weniger Innovation, sondern klügere Governance. Das unterscheidet ihn von klassischen Technik-Skeptikern. Er will den Fortschritt nicht bremsen, sondern lenken.

Was das für Deutschland bedeutet

Die politische Situation in Deutschland hat sich verschoben. Mit Friedrich Merz wird neuer Bundeskanzler Deutschlands könnte sich der Fokus auf wirtschaftliche Wettbewerbsfähigkeit verschieben. Das kann ein Vorteil sein — wenn es bedeutet, dass Deutschland in KI aufholt und nicht nur reguliert. Aber es birgt auch das Risiko, dass Sicherheitsfragen hinter Schnelligkeit zurückstehen.

Suleymans Warnung adressiert genau diese Spannung: Länder, die nur regulieren, verlieren zu Ländern, die innovieren. Aber Länder, die nur innovieren, schaffen Probleme, die später teuer zu beheben sind.

Besonders relevant für deutsche Entscheider ist Suleymans Punkt zu Fachkräften. Die KI-Agenturen, die er fordert, brauchen Menschen, die KI verstehen, aber nicht von der Industrie abhängig sind. Deutschland hat eine starke akademische Basis — könnte aber von der Abwanderung in die USA oder China massiv betroffen sein.

Die eigentliche Crux: Wer regelt die Regler?

Am interessantesten finde ich die implizite Frage, die Suleyman nicht direkt stellt: Wenn die Industrie zu schnell ist und die Politik zu langsam, wer entwickelt dann die Balance?

Seine Antwort liegt darin, dass Regierungen aufholen müssen — nicht technologisch, sondern institutionell. Sie brauchen Speed, Flexibilität und Unabhängigkeit ähnlich wie Tech-Unternehmen, aber mit demokratischer Legitimation.

Das ist ein radikaler Gedanke für deutsche Behördenstrukturen. Und doch notwendig, wenn Suleymans Analyse stimmt. Gerade im Vergleich mit anderen Krisen zeigt sich das Muster: Bei Ein Jahrzehnt nach dem Ende der Ein-Kind-Politik: Chinas Alterungskrise wird Realität sehen wir, wie demografische Trends Jahrzehnte später zu Krisen führen. Mit KI ist die Reaktionszeit kürzer.

Fazit: Hören, nicht nur hören

Mustafa Suleyman wird nicht als Alarmist in die Geschichte eingehen, weil er recht hat und es gut erklärt. Das ist sein Problem. Menschen hören ihm zu, nicken — und gehen dann zur Tagesordnung über.

Seine zentrale Botschaft ist: Es ist noch nicht zu spät, aber die Zeit wird eng. Und die Lösungen kommen nicht von der Technologie-Seite, sondern von der Governance-Seite.

Für Deutschland heißt das konkret: Nicht abwarten, ob andere Länder KI-Regulierung erfinden. Nicht hoffen, dass die Marktmechanismen es richten. Sondern jetzt anfangen, spezialisierte Kapazität aufzubauen, die KI versteht und gleichzeitig staatliche Unabhängigkeit bewahrt.

Das ist unglamourös, weniger sexy als die nächste KI-Gründung oder ein neues Startup. Aber es könnte langfristig wichtiger sein.