Zum Inhalt springen
  • BTC $59.267 +6,2%
  • ETH $1.662 +7,2%
  • SOL $69,45 +6,3%
  • BNB $541,46 +5,8%
  • XRP $0,9198 +5,5%
  • DOGE $0,0543 +5,7%
  • ADA $0,1420 +5,7%

Trump schließt Vereinbarung über KI-Sicherheitsaudits mit OpenAI, Google, Meta und Nvidia

Präsident Donald Trump setzte sich am 29. September 2026 mit den größten Namen der Künstlichen Intelligenz zum Mittagessen zusammen und ging mit etwas hinaus, dem sich die Branche jahrelang widersetzt hatte: Unterschriften unter einem freiwilligen Pakt, der an KI-Sicherheitsaudits geknüpft ist. Das Dokument, offiziell „Gemeinsame Verpflichtung zu Frontier-Verantwortlichkeiten“ genannt, fördert…

AI safety audits
AI Safety Audits Lead Trump AI Pact for Industry Oversight

Präsident Donald Trump traf sich am 29. September 2026 zum Mittagessen mit den größten Namen der künstlichen Intelligenz und ging mit etwas hinaus, dem sich die Branche jahrelang widersetzt hatte: Unterschriften unter einem freiwilligen Pakt, der an KI-Sicherheitsaudits geknüpft ist. Das Dokument, offiziell „Gemeinsame Verpflichtung zu Frontier-Verantwortlichkeiten“ genannt, rückt die unabhängige Überprüfung von KI-Systemen in den Mainstream und signalisiert, dass das Weiße Haus derzeit Branchen-Selbstregulierung neuen Bundesgesetzen vorzieht.

Wichtigste Erkenntnisse

  • Trump befürwortete am 29. September 2026 die „Gemeinsame Verpflichtung zu Frontier-Verantwortlichkeiten“, einen freiwilligen KI-Sicherheitspakt, den er als „moralisch bindend“, aber rechtlich nicht durchsetzbar bezeichnete.
  • Zu den Unterzeichnern gehören Anthropic, OpenAI, Google, Meta, xAI und Nvidia, vertreten jeweils durch Dario Amodei, Greg Brockman, Sundar Pichai, Mark Zuckerberg, Elon Musk und Jensen Huang.
  • Der Rahmen baut eine vierstufige Aufsichtsstruktur auf: interne Kontrollen, interne Aufsichtsteams, unabhängige externe Prüfer und unabhängige Ausschüsse des Vorstands.
  • Risikofokusbereiche sind Cybersicherheit und Biosicherheit, die Bereiche, in denen Frontier-KI-Modelle als unmittelbar am gefährlichsten gelten.
  • Trump unterzeichnete außerdem eine Executive Order, die verlangt, dass Bundesdokumente „artificial intelligence“ durch „super intelligence“ ersetzen.

Trump befürwortet einen KI-Selbstregulierungspakt

Die Vereinbarung ist das bislang deutlichste Signal, dass die Regierung möchte, dass Unternehmen sich selbst prüfen, anstatt auf den Kongress zu warten. Trump beschrieb die Verpflichtung als „moralisch bindend“, eine Formulierung, die rhetorisch Gewicht hat, aber keine tatsächliche rechtliche Haftung für die unterzeichnenden Unternehmen schafft.

Was „moralisch bindend“ tatsächlich bedeutet

Diese Formulierung verschafft dem Silicon Valley genau die Art von Regelung, die es bevorzugt: öffentliche Rechenschaftspflicht ohne angehängten Gerichtssaal. Unternehmen können sagen, dass sie sich einer Aufsicht unterwerfen, Regulierer können sagen, dass etwas passiert ist, und niemand muss sich um Klagen sorgen, falls ein Unternehmen hinter den Erwartungen zurückbleibt. Es ist ein Rahmen, der auf Reputationsdruck statt auf gesetzliche Zähne setzt.

Jedes große KI-Unternehmen hat unterschrieben

Die Gästeliste liest sich wie ein Namensaufruf der gesamten KI-Branche. Dario Amodei vertrat Anthropic, Greg Brockman sprach für OpenAI, und Sundar Pichai nahm im Namen von Google teil. Mark Zuckerberg erschien für Meta, Elon Musk für xAI und Jensen Huang für Nvidia.

Huang fällt aus einem leicht zu übersehenden Grund besonders auf: Nvidia baut keine KI-Modelle; das Unternehmen baut die Chips, die sie zum Laufen bringen. Seine Einbeziehung in einen Pakt über KI-Selbstregulierung signalisiert, dass Hardware-Lieferanten nun als Teil der Sicherheitsdebatte gelten, nicht nur Softwareentwickler. Das ist eine bedeutende Verschiebung in einer Governance-Debatte, die sich bisher hauptsächlich auf Modelle und Trainingsdaten konzentriert hat.

Wie der Aufsichtsrahmen aufgebaut ist

Im Rahmen des Pakts sollen Probleme frühzeitig durch eine Struktur mit vier Ebenen erkannt werden: die internen Kontrollen jedes Unternehmens, spezialisierte interne Aufsichtsteams, unabhängige externe Prüfer und unabhängige Ausschüsse des Vorstands, die mit der Überprüfung der Ergebnisse der Prüfer beauftragt sind.

Cybersicherheit und Biosicherheit als vorrangige Risiken

Anstatt zu versuchen, jedes denkbare KI-Risiko abzudecken, verengt das Abkommen seinen Fokus auf Cybersicherheit und Biosicherheit. Diese werden als die beiden Bereiche beschrieben, in denen Frontier-Modelle die unmittelbarsten und am besten messbaren Gefahren darstellen, was darauf hindeutet, dass die Unterzeichner Bedrohungen priorisieren, die sich am schnellsten in realen Schaden übersetzen könnten.

Interne Kontrollen, externe Audits und wer den Prüfer auswählt

Nach den Bedingungen verpflichten sich die Unternehmen, interne Kontrollen aufzubauen, die gefährliche Fähigkeiten kennzeichnen sollen, bevor ein Modell überhaupt ausgeliefert wird. Diese Systeme werden dann von unabhängigen externen Prüfern überprüft. Bemerkenswert ist, dass das Abkommen keine bestimmten Prüfunternehmen nennt oder eine vorgeschriebene Methodik festlegt, sodass die Unternehmen ihre eigenen Prüfer auswählen können, während sie sich dennoch zu einer Überprüfung auf Vorstandsebene der Ergebnisse dieser Audits verpflichten.

Das ist wichtig, weil die Ausgestaltung eines KI-Governance-Rahmens seit Monaten ein Streitpunkt ist. Früher in seiner Amtszeit stellte Trump die Unabhängigkeit bestimmter KI-Bewerter infrage und verwies auf mögliche Voreingenommenheit bei der Durchführung von Sicherheitsbewertungen. Unternehmen ihre eigenen Prüfer wählen zu lassen, kombiniert mit einer obligatorischen Überprüfung durch den Vorstand, scheint der Versuch der Regierung zu sein, diese Kritik zu beantworten, ohne die Aufsicht an einen externen Regulierer zu übertragen.

Die Unterzeichner einigten sich außerdem darauf, regelmäßige Treffen abzuhalten, die darauf abzielen, branchenweite Standards und Best Practices festzulegen – ein Detail, das darauf hindeutet, dass dies nicht als einmalige Unterzeichnungszeremonie gedacht ist, sondern als laufende Koordinierungsbemühung zwischen Wettbewerbern, die sich in den meisten anderen Fragen selten einig sind.

Trumps Executive Order markiert „Artificial Intelligence“ um

Im Zusammenhang mit dem Abkommen unterzeichnete Trump eine Executive Order, die verlangt, dass in jedem Bundesdokument der Ausdruck „artificial intelligence“ durch „super intelligence“ ersetzt wird. Die Anordnung wurde am selben Tag wie der Pakt erlassen und verknüpft eine semantische Verschiebung in der Regierungssprache mit einer substanziellen Verschiebung darin, wie die Branche sich selbst überwachen soll.

Formulierungen im Rahmen deuten darauf hin, dass freiwillige Einhaltung nicht unbedingt das letzte Wort ist. Wenn Unternehmen hinter dem zurückbleiben, was der Trump-KI-Pakt von ihnen verlangt, legt der Rahmen selbst nahe, dass es künftig notwendig werden könnte, diese Verpflichtungen in tatsächliches Recht zu überführen. Vorerst jedoch setzt Washington auf das Modell der Selbstregulierung.

Warum das für KI-Governance wichtig ist

Das Abkommen formt de facto das, was zuvor ein Flickenteppich aus individuellen Sicherheitszusagen einzelner Unternehmen war, zu einem gemeinsamen, branchenübergreifenden Standard. Das ist bedeutsam, weil es Anthropic, OpenAI, Google, Meta, xAI und Nvidia denselben Erwartungen an KI-Sicherheitsaudits unterwirft, obwohl sie heftig um Marktanteile, Talente und Rechenkapazität konkurrieren.

Ob dieser gemeinsame Standard Bestand hat, hängt weitgehend davon ab, wie ernst Vorstände ihre neue Prüfrolle nehmen und wie unabhängig sich die ausgewählten Prüfer in der Praxis tatsächlich erweisen. Ein freiwilliger Pakt ohne rechtliche Haftung funktioniert nur so gut wie der dahinterstehende Reputationsdruck, und dieser Druck wurde noch nicht an einem realen Vorfall mit einem Frontier-Modell getestet.

Artikel mit Unterstützung von künstlicher Intelligenz erstellt und von der Redaktion überprüft.

Francesco Antonio Russo

Alle Artikel von Francesco Antonio Russo