OpenAI hat still und leise eine seiner wichtigsten internen Sicherheitsvorkehrungen zurückgefahren und das Team aufgelöst, das dafür zuständig war, die gefährlichsten Risiken zu erkennen, die seine Modelle der künstlichen Intelligenz mit sich bringen könnten. Laut der Financial Times war das Ende Juli 2026 aufgelöste OpenAI‑Team die sogenannte Preparedness‑Gruppe des Unternehmens, jene Einheit, die damit beauftragt war zu prüfen, ob die Modelle für Dinge wie die Entwicklung biologischer Waffen oder groß angelegte Cyberangriffe missbraucht werden könnten – und herauszufinden, wie sich das verhindern lässt.
Summary
Wichtigste Erkenntnisse
- OpenAI hat laut Financial Times sein Preparedness‑Team Ende Juli 2026 aufgelöst.
- Die Aufgabe des Teams war es, schwerwiegende Risiken durch KI‑Modelle zu bewerten und Wege zu entwickeln, diese zu mindern, einschließlich biologischer und cyberbezogener Bedrohungen.
- Die Verantwortung für Risiken wird aufgeteilt und in bestehende Teams integriert, statt von einer einzigen dedizierten Gruppe übernommen zu werden.
- Ethikchefin Chloé Bakalar, Chief Futurist Josh Achiam und Sicherheitschef Johannes Heidecke haben OpenAI in jüngster Zeit alle verlassen.
- Der frühere Anthropic‑Mitarbeiter Dylan Scandinaro, der das Preparedness‑Team leitete, verlagert seinen Fokus auf rekursiv sich selbst verbessernde KI.
Was mit OpenAIs Preparedness‑Team passiert ist
Das Preparedness‑Team von OpenAI existierte, um eine direkte Frage zu beantworten: Kann ein Modell echten Schaden anrichten, bevor es veröffentlicht wird? Das bedeutete zu testen, ob ein System jemandem helfen könnte, eine Biowaffe zu bauen, eine ausgefeilte Hacking‑Operation durchzuführen oder auf andere Weise ernsthaften Schaden zu verursachen – und anschließend Schutzmaßnahmen zu entwerfen, um dieses Risiko zu verringern. Diese zentrale Funktion existiert nun nicht mehr als eigene Einheit.
Stattdessen wurde laut Financial Times die Aufsicht über bestimmte Gefahrenbereiche wie biologische und Cyber‑Risiken aufgeteilt und in bestehende Teams anderswo im Unternehmen integriert. Es gibt keine einzelne Gruppe mehr, deren gesamte Aufgabe darin besteht, potenziell katastrophale Fehlanwendungen über das gesamte Spektrum hinweg zu überwachen. Ob dieser verteilte Ansatz dieselben Probleme genauso wirksam erkennt, lässt sich von außen nur schwer überprüfen.
Nicht das erste Sicherheitsteam, das geht
Dies ist kein Einzelfall. OpenAI hat in den vergangenen Jahren schrittweise jene stärker forschungsorientierte, langfristig ausgerichtete Sicherheitsinfrastruktur abgebaut, auf der einst sein Ruf beruhte. Das Unternehmen hat zuvor sowohl sein AGI‑Readiness‑Team als auch sein Superalignment‑Team geschlossen – zwei Gruppen, die ausdrücklich darauf fokussiert waren, sich auf Szenarien vorzubereiten, in denen KI‑Systeme deutlich leistungsfähiger werden als heute.
In der Gesamtschau deutet dieses Muster auf ein Unternehmen hin, das sein Sicherheitsapparat genau in dem Moment verengt, in dem seine Modelle mächtiger werden, nicht schwächer. Jede Auflösung für sich genommen könnte routinemäßig wirken. Aneinandergereiht erscheint sie wie ein strategischer Rückzug von der Art langfristiger Risikoplanung, die OpenAI einst öffentlich propagierte.
Eine Welle von Abgängen vervollständigt das Bild
Die Umstrukturierung fällt zusammen mit einer Reihe prominenter Abgänge aus den Sicherheits‑ und Ethikbereichen von OpenAI. Ethikchefin Chloé Bakalar, Chief Futurist Josh Achiam und Sicherheitschef Johannes Heidecke haben das Unternehmen kürzlich alle verlassen. Keiner von ihnen wurde – zumindest öffentlich – durch eine Nachfolge mit demselben Titel ersetzt.
Diese Kombination aus einem aufgelösten Team und abwandernder Führung hat die Kritik von Beobachtern befeuert, die die Entwicklung der Sicherheitszusagen des Unternehmens über die Zeit verfolgt haben. Jan Leike, der OpenAI 2024 verließ, sagte der Financial Times, das Unternehmen ignoriere Sicherheit zugunsten der Entwicklung dessen, was er „glänzende Produkte“ nannte. Es ist ein scharfer Vorwurf, der umso schwerer wiegt, wenn man bedenkt, wie viele sicherheitsorientierte Rollen in kurzer Zeit unbesetzt geworden sind.
Warum das Timing wichtig ist
All dies geschieht nicht im luftleeren Raum. OpenAI bewegt sich auf einen erwarteten, sehr großen Börsengang zu, und Unternehmen, die sich auf eine derartige Prüfung vorbereiten, neigen dazu, Abläufe zu straffen, Teams zu konsolidieren und alles zu streichen, was sich nicht klar in eine Wachstumsstory einfügt, die Investoren nachvollziehen können. Ein dediziertes Risikobewertungsteam, das sich auf Worst‑Case‑Szenarien konzentriert, passt nicht unbedingt in diese Erzählung – auch wenn es durchaus zur Mission passt, über die OpenAI seit seiner Gründung spricht.
Das hat Auswirkungen über die Mauern von OpenAI hinaus. Das Unternehmen hat sich lange als Vorreiter für verantwortungsvolle KI‑Entwicklung positioniert, und seine internen Entscheidungen zur Sicherheitsbesetzung setzen häufig einen Ton, den der Rest der Branche genau beobachtet. Wenn ein Unternehmen in der Größenordnung von OpenAI dedizierte Risikoteams vor einem Börsengang in Produktgruppen integriert, werden Wettbewerber und Regulierer gleichermaßen genau darauf achten, was das darüber aussagt, wo die Prioritäten liegen, sobald der kommerzielle Druck zunimmt.
Wer die Risikoarbeit jetzt steuert
Dylan Scandinaro, der das Preparedness‑Team leitete, bevor es aufgelöst wurde, verlässt das Unternehmen nicht. Scandinaro, der im Februar von Anthropic abgeworben wurde, richtet seine Aufmerksamkeit nun auf eine engere, aber möglicherweise noch risikoreichere Fragestellung: die Implikationen rekursiv sich selbst verbessernder KI – Systeme, die ihre eigenen Fähigkeiten ohne große menschliche Beteiligung in der Schleife erweitern können.
Diese Neuzuweisung legt nahe, dass OpenAI weiterhin einen dedizierten Blick auf seine extremsten langfristigen Risiken richten will, nur nicht mehr in der bisherigen Organisationsform. Ob die Integration der Bewertung biologischer und cyberbezogener Risiken in bestehende Produktteams, bei gleichzeitiger Schaffung einer enger gefassten Forschungsrolle für einen ehemaligen Teamleiter, in Summe eine gleichwertige Abdeckung ergibt, ist die offene Frage, die Kritiker wie Leike aufwerfen. Bislang hat OpenAI öffentlich nicht dargelegt, wie die neu verteilten Verantwortlichkeiten gemessen oder in ähnlicher Weise zur Rechenschaft gezogen werden sollen wie einst ein eigenständiges Team.
FAQ
Wofür war OpenAIs Preparedness‑Team verantwortlich?
Das Preparedness‑Team bewertete, ob die KI‑Modelle von OpenAI ernsthafte Risiken darstellten – etwa die Ermöglichung der Entwicklung von Biowaffen oder groß angelegten Cyberangriffen – und entwickelte Strategien, um diese Risiken zu mindern, bevor Modelle veröffentlicht wurden.
Warum hat OpenAI sein Preparedness‑Team aufgelöst?
OpenAI hat keine detaillierte öffentliche Erklärung abgegeben. Die Financial Times berichtet, dass der Schritt Ende Juli 2026 erfolgte und im Zusammenhang mit einer umfassenderen Umstrukturierung steht, während sich das Unternehmen auf einen großen erwarteten Börsengang vorbereitet – nach früheren Entscheidungen, sowohl das AGI‑Readiness‑Team als auch das Superalignment‑Team aufzulösen.
Wer übernimmt jetzt die Bewertung von KI‑Risiken bei OpenAI?
Die Verantwortung für spezifische Risikobereiche wie biologische und cyberbezogene Bedrohungen wurde aufgeteilt und in bestehende Teams verlagert, statt in einer zentralen Gruppe gebündelt zu bleiben. Dylan Scandinaro, der frühere Leiter des Preparedness‑Teams, konzentriert sich nun speziell auf die Implikationen rekursiv sich selbst verbessernder KI.
{„@context“:“https://schema.org“,“@type“:“FAQPage“,“mainEntity“:[{„@type“:“Question“,“name“:“Wofür war OpenAIs Preparedness‑Team verantwortlich?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Das Preparedness‑Team bewertete, ob die KI‑Modelle von OpenAI ernsthafte Risiken darstellten – etwa die Ermöglichung der Entwicklung von Biowaffen oder groß angelegten Cyberangriffen – und entwickelte Strategien, um diese Risiken zu mindern, bevor Modelle veröffentlicht wurden.“}},{„@type“:“Question“,“name“:“Warum hat OpenAI sein Preparedness‑Team aufgelöst?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“OpenAI hat keine detaillierte öffentliche Erklärung abgegeben. Die Financial Times berichtet, dass der Schritt Ende Juli 2026 erfolgte und im Zusammenhang mit einer umfassenderen Umstrukturierung steht, während sich das Unternehmen auf einen großen erwarteten Börsengang vorbereitet – nach früheren Entscheidungen, sowohl das AGI‑Readiness‑Team als auch das Superalignment‑Team aufzulösen.“}},{„@type“:“Question“,“name“:“Wer übernimmt jetzt die Bewertung von KI‑Risiken bei OpenAI?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Die Verantwortung für spezifische Risikobereiche wie biologische und cyberbezogene Bedrohungen wurde aufgeteilt und in bestehende Teams verlagert, statt in einer zentralen Gruppe gebündelt zu bleiben. Dylan Scandinaro, der frühere Leiter des Preparedness‑Teams, konzentriert sich nun speziell auf die Implikationen rekursiv sich selbst verbessernder KI.“}}]}
Artikel mit Unterstützung künstlicher Intelligenz erstellt und von der Redaktion überprüft.
