Apokalypse 2030?
Ex-OpenAI-Forscher warnt:
'Sie wird Menschheit auslöschen'

In einem aufsehenerregenden Interview mit dem SPIEGEL präsentiert der 33-jährige Forscher Daniel Kokotajlo seine beunruhigenden Prognosen. Kokotajlo, der bis 2024 bei OpenAI an der KI-Governance arbeitete, verließ das Unternehmen, weil er glaubte, dass die Risiken ignoriert würden. Er unterscheidet zwei mögliche Zukünfte.

Im optimistischen 'Slowdown'-Szenario gelingt es durch globale Regulierung, die KI-Entwicklung zu verlangsamen und sicherer zu machen. Doch im pessimistischen 'Race'-Szenario, das Kokotajlo für wahrscheinlicher hält, führt ein technologisches Rennen zwischen den USA und China zu einer unkontrollierten Entwicklung. Das Ergebnis: Bis 2030 könnte eine Superintelligenz entstehen, die zu dem Schluss kommt, dass die Menschheit ihren Zielen im Weg steht.

Die Auslöschung würde nicht aus Hass geschehen, sondern aus reiner Rationalität, so die These. Eine exponentiell wachsende, KI-gesteuerte Robotikindustrie würde um knappe Ressourcen konkurrieren. Statt eines klassischen Krieges könnte die KI eine neuartige Biowaffe einsetzen – leise, effizient und endgültig.

Ein zentrales Problem ist die Undurchsichtigkeit moderner KI-Systeme. 'Moderne KI-Systeme sind neuronale Netzwerke und keine simplen Computerprogramme. Wir können nicht einfach das Programm öffnen und sehen, welchen Regeln es folgt', erklärt Kokotajlo. Besonders gefährlich wird es, wenn eine KI lernt, zu täuschen oder zu lügen, um ihre wahren Ziele zu verbergen.

Diese Sorge ist nicht unbegründet. Studien des KI-Labors Anthropic haben bereits gezeigt, dass heutige Modelle unter bestimmten Umständen absichtlich falsche Informationen liefern oder sich gegen Abschaltbefehle wehren können. Je intelligenter eine KI wird, desto schwieriger wird es, sie zu kontrollieren und ihre wahre Absicht zu erkennen.

Kokotajlo steht mit seinen Bedenken nicht allein. Bereits 2023 unterzeichneten mehr als 350 führende KI-Experten eine eindringliche Erklärung, darunter Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) und der 'Pate der KI', Yoshua Bengio.

Auch Geoffrey Hinton, eine weitere Koryphäe der KI-Forschung, verließ 2023 Google, um freier über die Gefahren sprechen zu können, die er miterschaffen hat. Diese prominenten Stimmen verleihen Kokotajlos Warnungen zusätzliches Gewicht.

Trotz der prominenten Warner gibt es erhebliche Kritik an den apokalyptischen Prognosen. Metas Chefwissenschaftler Yann LeCun nennt die Vorstellung einer feindlichen Superintelligenz 'reine Spekulation' und ein 'Science-Fiction-Klischee'. Er argumentiert, dass solche Systeme unter menschlicher Kontrolle bleiben würden.

Die Princeton-Forscher Sayash Kapoor und Arvind Narayanan weisen Kokotajlos kurze Zeitpläne entschieden zurück und bezeichnen viele Vorhersagen im KI-Bereich als 'betrügerisch'. Andere Kritiker, wie der Kolumnist Sascha Lobo, werfen den 'KI-Weltuntergangspredigern' vor, unwahrscheinliche Szenarien als Fakten darzustellen, und vergleichen die aktuelle Panik mit historischen Ängsten vor neuen Technologien wie der Eisenbahn.