Der Sicherheitsvorfall bei Anthropic legte laut dem Unternehmen Gehälter, interne Nachrichten und Geschäftsinformationen über externe Software offen, die vom KI-Entwickler genutzt wird – nicht jedoch durch Zugriff auf dessen Modellgewichte. Forschende von Cathedral gelangten in Teile von Anthropics kommerziellen Systemen, Personal- und IT-Systemen und lösten damit einen Streit über die Testpraxis und deren Bedeutung für die nationale Sicherheit aus.
Inhalt
Wichtigste Erkenntnisse
- Cathedral griff über Drittanbieter-Anwendungen auf interne Geschäftssysteme zu.
- Anthropic gibt an, dass weder Kunden-Prompts noch Modellkomponenten erreicht wurden.
- Betroffene Anwendungen blieben deaktiviert, bis die Anbieter Korrekturen bestätigt hatten.
- Die Unternehmen sind uneins über die Berichterstattung und die Bedeutung des Vorfalls.
Was der Sicherheitsvorfall bei Anthropic offengelegt hat
Die betroffenen Systeme enthielten Personalakten und interne Kommunikation sowie geschäftliche Informationen. Cathedral erklärte, dass die während der Forschung eingesetzten KI-Agenten Wege zu Gesprächsprotokollen, Gehaltsinformationen, Jobangeboten und Slack-Nachrichten fanden.
Die betroffenen Systeme enthielten außerdem Geschäftskontakte einiger Kunden und Partner sowie grundlegende Kontodaten. Anthropic erklärte, dass die Forschenden keinen Zugriff auf Kundenprompts, Modellantworten, Quellcode oder KI-Modellgewichte erhielten.
Der Zugriffsweg verlief über Schwachstellen in externen Verwaltungs- und Geschäftsapplikationen, die Anthropic nutzt. Die beteiligten Anbieter wurden nicht genannt. Der Zugriff betraf daher Software, die das Geschäft unterstützt, nicht jedoch die Modellkomponenten, von denen Anthropic sagt, sie seien außerhalb der Reichweite der Forschenden geblieben.
Cathedral führte die Tests im Rahmen von Anthropics External Researchers Program durch, das einen Kanal zur Meldung von Schwachstellen bereitstellt. Das von ehemaligen DOGE-Mitgliedern gegründete Startup entwickelt KI-Cybersicherheitswerkzeuge für Behörden- und Unternehmenskunden.
Wie Anthropic den Zugriff erkannte und eindämmte
Anthropic erklärte, sein Monitoring habe einige Aktivitäten erkannt, bevor Cathedral das Unternehmen informierte, und der Zugriff sei noch am selben Tag unterbunden worden. Die Reaktion auf den Sicherheitsvorfall bei Anthropic umfasste auch das Deaktivieren der betroffenen Anwendungen.
Diese Anwendungen wurden erst wiederhergestellt, nachdem ihre Anbieter bestätigt hatten, dass sie die Sicherheitslücken geschlossen hatten. Das Unterbinden des Zugriffs der Forschenden und das Beheben der Software waren getrennte Teile der Reaktion.
Anthropic erklärte, es gebe keine Hinweise auf eine Ausnutzung durch andere als Cathedral.
Streit um Berichterstattung geht über die offengelegten Daten hinaus
Anthropic und Cathedral unterscheiden sich in ihrer Einschätzung zur Vollständigkeit der Forschungsberichterstattung und zur sicherheitspolitischen Bedeutung des Vorfalls. Anthropic warf Cathedral vor, nicht alle Aktivitäten gemeldet zu haben, die in den Systemen des Unternehmens durchgeführt wurden.
Der Sicherheitsvorfall bei Anthropic verdeutlicht den Unterschied zwischen dem Schutz von KI-Modellen und der Absicherung der Infrastruktur um sie herum: Personaldokumente, Besprechungsprotokolle und interne Nachrichten blieben offengelegt, obwohl Anthropic erklärte, dass Modellkomponenten nicht erreicht wurden.
Der Leiter des Red-Teaming bei Anthropic sprach sich außerdem für kontinuierliche Sicherheitstests und eine Neugestaltung von Softwaresystemen aus, um deren Angriffsfläche zu verringern.
Artikel mit Unterstützung künstlicher Intelligenz erstellt und von der Redaktion geprüft.




