„Wir müssen die KI-Entwicklung im Wesentlichen abschalten“ Ex-OpenAI-Forscher schlägt Alarm

Plötzlich ist Feuer unter dem Dach in der KI-Szene: Daniel Kokotajlo, einer der angesehensten Forscher für die künftige Entwicklung von künstlicher Intelligenz, findet deutliche Worte. Nach Jahren bei OpenAI, wo er von 2022 bis 2024 die Governance mitprägte, und nun als Kopf des AI Futures Project an der Uni Berkeley, warnt er davor, dass die Menschheit auf einen „gefährlichen Horizont“ zusteuert.

Kokotajlo stellt sich ganz klar gegen die wachsende Geschwindigkeit und Automatisierung in der KI-Forschung. Insbesondere jetzt, wo Branchenriesen wie Anthropic, OpenAI, X und Google das Tempo noch weiter anziehen, schlägt er Alarm. Was ihn eint: Die Forschungslabore reden über Sicherheit, aber er erkennt vor allem leeres Gerede. „Die gesamten Unternehmen betreiben lediglich ‘Safety Washing’“, kritisiert er – und lässt damit keinen Zweifel an seiner Meinung.

Künstliche Superintelligenz – außer Kontrolle?

Laut Kokotajlo plant die Tech-Branche, dass KI-Systeme in nicht allzu ferner Zukunft ihre eigene Forschung automatisieren. Das bedeutet: Eine KI erschafft die nächste – und beschleunigt damit den Fortschritt so stark, dass Menschen kaum noch mitkommen.

„überschreitet die Menschheit einen Horizont. Ab diesem Punkt könnte die KI in vielerlei Hinsicht deutlich übermenschliche Fähigkeiten entwickeln - vielleicht in jeder Hinsicht. Das ist äußerst gefährlich.“

Seine Einschätzung ist deutlich: Geht es so weiter, läuft die Gesellschaft Gefahr, sich von ihren eigenen Technologien überholen zu lassen.

Offene Fragen gibt es jede Menge: Wer behält die Kontrolle, wenn die KI plötzlich schneller und unübersichtlicher wächst als je zuvor? Kokotajlo glaubt: Viele unterschätzen, welchen Sprung die Systeme machen können, sobald sie sich selbst weiterentwickeln. Fehler lassen sich dann kaum noch rechtzeitig erkennen – mit unabsehbaren Folgen.

Kokotajlo hebt hervor, dass mit der Automatisierung auch die Nachvollziehbarkeit schwinde. Wenn Maschinen Maschinen bauen, laufe der Fortschritt aus dem Ruder. Regulierungsbehörden und Experten könnten plötzlich völlig überfordert sein, weil Entwicklungen in einer Geschwindigkeit passieren, die niemand je gesehen hat. Aus Sicht des Forschers steuert die Gesellschaft damit in ein unbekanntes Terrain, in dem Schaden viel schneller entstehen kann, als er behoben werden könnte.

Was jetzt passieren muss – radikale Forderungen

Doch Kokotajlo bleibt bei klaren Forderungen:

„Wir müssen die KI-Entwicklung im Wesentlichen abschalten.“

Gemäß seiner Ansicht ist nur ein fast vollständiger Stopp der Entwicklung von besonders fortschrittlichen KI-Systemen ein Weg, mehr Sicherheit zu bekommen. Er hält nichts von kosmetischen Maßnahmen oder kleineren Regulierungen – mit ihnen sei die Gefahr nicht zu bändigen.

Für einen sicheren Umgang fordert er drei Eckpfeiler: vollständige Transparenz, eine breitere Machtverteilung und einen effektiven "Kill-Switch", also eine Notbremse für außer Kontrolle geratene Technologien. Was fehlt

„Das Verständnis und die Fähigkeit, KI mit dem Skalpell zu regulieren und zwischen dem Guten und dem Schlechten zu unterscheiden“, erklärt er im Interview laut ntv.de und Der Spiegel.

Die Verantwortlichen in den Tech-Konzernen seien laut Kokotajlo nicht bereit, wirklich Macht abzugeben oder ihre Projekte zu verlangsamen. Statt echten Kontrollen präsentierten sie Pläne, die vor allem ihr Image in der Öffentlichkeit sichern sollen. Er fordert dringend: Ohne massive Eingriffe drohen reale Risiken. Für Kokotajlo heißt das, nicht nur zu regulieren, sondern wirklich zu pausieren.

Auch Interessant:

„United States Space Force“: Donald Trump postet bizarre KI-Bilder von Alien-Festnahme

Streit um „KI-Steuerberater“ in Berlin bringt Branche ins Wanken

„KI-Sucht ist kein Science-Fiction mehr“: Forscher warnen

Verwendete Quelle:

"Übermenschliche Fähigkeiten" : Ex-OpenAI-Forscher fordert Stopp der KI-Entwicklung