Ein Bundesrichter hat den Weg dafür freigemacht, dass Minnesotas Gesetz Minnesota-Verbot von Nudify-Apps in Kraft treten kann, und einen in letzter Minute gestellten Versuch von Elon Musks xAI zurückgewiesen, die Regel auszusetzen, bevor sie am 1. August verbindlich wurde. US-Bezirksrichter Donovan Frank lehnte den Antrag des Unternehmens auf eine einstweilige Verfügung ab – eine Entscheidung, die weniger von der inhaltlichen Bewertung des Gesetzes selbst abhing als vielmehr davon, wie spät xAI Schritte unternahm, es anzufechten.
Summary
Wichtigste Erkenntnisse
- Richter Donovan Frank lehnte xAIs Versuch ab, Minnesotas landesweit erstes Verbot von „Nudify“-Technologie unmittelbar vor dessen Inkrafttreten am 1. August 2026 zu blockieren.
- Frank erklärte, xAI habe fast drei Monate gewartet, nachdem das Gesetz unterzeichnet worden war, und seinen Eilantrag erst drei Tage vor Ablauf der Frist gestellt, was die Behauptungen eines dringenden Schadens untergrabe.
- Die zugrunde liegende Klage von xAI läuft weiter und argumentiert, das Gesetz sei überinklusiv, da es verfassungsrechtlich geschützte Bilder erfasse, obwohl weniger restriktive Optionen existierten.
- Das Gesetz sieht eine Strafe von 500.000 $ pro Verstoß vor und folgte auf eine Gegenreaktion, nachdem xAIs Grok-Chatbot genutzt worden war, um nicht-einvernehmliche sexualisierte Bilder auf der Plattform X zu erzeugen.
Gericht weist xAIs Versuch zurück, Minnesotas Verbot von Nudify-Apps zu blockieren
Die Entscheidung von Richter Frank macht deutlich, dass Minnesotas Vorgehen gegen Nudify-Apps voranschreiten kann, während der breitere Rechtsstreit vor Gericht ausgetragen wird. Die Entscheidung klärt nicht abschließend, ob das Gesetz verfassungsgemäß ist; sie bedeutet lediglich, dass der Bundesstaat die Durchsetzung nicht aussetzen muss, während xAIs Verfahren weiterläuft.
Richter nennt Zeitpunkt als Hauptgrund für die Ablehnung
Franks schriftliche Anordnung konzentrierte sich stark darauf, wann xAI gehandelt hat, und weniger darauf, was das Unternehmen vorbrachte. Er stellte fest, dass das Unternehmen Monate gewartet habe, um ein Gesetz anzufechten, von dem es wusste, dass es kommen würde, und dann erst vor Gericht geeilt sei, als die Zeit fast abgelaufen war. „Eine derartige Verzögerung bei der Einreichung der Klage und des Antrags legt nahe, dass der Schaden nicht unmittelbar ist“, schrieb Frank und machte xAI damit im Kern deutlich, dass der eigene Zeitplan des Unternehmens das Argument für eine Notfallmaßnahme untergrabe.
Antrag auf einstweilige Verfügung Monate nach Verabschiedung des Gesetzes gestellt
Laut dem Urteil hat xAI seinen Antrag auf eine einstweilige Verfügung am 29. Juli 2026 gestellt – fast drei Monate, nachdem das Büro des Gouverneurs von Minnesota das Gesetz unterzeichnet hatte, und nur drei Tage, bevor es am 1. August in Kraft treten sollte. Diese Lücke zwischen der Unterzeichnung des Gesetzes und der rechtlichen Initiative von xAI wurde zum zentralen Streitpunkt für den Richter, der andeutete, ein Unternehmen, das mit einem echten, nicht wiedergutzumachenden Schaden konfrontiert sei, hätte nicht so lange gewartet, um Schutz zu beantragen.
xAIs rechtliche Anfechtung des wegweisenden Minnesota-Gesetzes
Auch wenn die einstweilige Verfügung scheiterte, ist xAIs zugrunde liegende Klage gegen Minnesota noch lange nicht beendet. Das Unternehmen verfolgt weiterhin ein Argument nach Art des Ersten Verfassungszusatzes, wonach das Gesetz weit über das schädliche Verhalten hinausgreife, das es angeblich ins Visier nimmt.
Argumente zu Überdehnung und weniger restriktiven Alternativen
In seiner 38-seitigen Klageschrift erklärte xAI, es stelle Minnesotas Interesse, nicht-einvernehmliche KI-Nacktbilder zu verbieten, nicht in Frage, beharre jedoch darauf, dass das Gesetz „weit über dieses Ziel hinausgeht“, indem es verfassungsrechtlich geschützte Bilder und Videos kriminalisiere, darunter auch solche, die mit Zustimmung der abgebildeten Person oder sogar von dieser selbst erstellt wurden. Das Unternehmen argumentiert, das Gesetz enthalte keinen „Safe Harbor“ für Plattformen, die sich in gutem Glauben bemühen, derartige Inhalte zu unterbinden, und dass seine Definition von „intimem Körperteil“ so weit gefasst sei, dass sie Körperteile einschließe, die routinemäßig in der Öffentlichkeit gezeigt werden. xAIs Schriftsatz behauptet außerdem, es gebe „weitaus weniger restriktive Alternativen“, die dasselbe Schutzziel ohne das Risiko der Strafandrohung – ein Bußgeld von 500.000 $ für jeden Verstoß – erreichen könnten.
Gesetz ist das erste seiner Art in den Vereinigten Staaten
Das Gesetz von Minnesota ist das erste im Land, das sich speziell gegen „Nudification“-Technologie auf Websites und in Apps richtet, anstatt die einzelnen Nutzer zu bestrafen, die die Bilder erstellen. Dieser Unterschied ist bedeutsam: Die meisten bestehenden bundesstaatlichen und bundesrechtlichen Vorschriften, einschließlich des bundesweiten Take It Down Act, richten sich gegen Personen, die KI-Tools missbrauchen, nicht gegen die Unternehmen, die sie entwickeln. Texas wählte im vergangenen Jahr einen anderen Ansatz und setzte App-Betreiber zivilrechtlichen Schadensersatzansprüchen und möglicher strafrechtlicher Haftung aus, wenn sie wissentlich zuließen, dass nicht-einvernehmliche Bilder online blieben. Minnesotas Gesetz legt im Gegensatz dazu die direkte rechtliche Verantwortung auf die Technologieanbieter selbst – eine Struktur, von der xAI behauptet, sie gehe zu weit und von der Rechtsbeobachter sagen, dass sie wahrscheinlich prägen wird, wie andere Bundesstaaten künftig die Regulierung von KI-Inhalten angehen.
Kontext des KI-Missbrauchs hinter dem harten Durchgreifen
Das Gesetz entstand nicht im luftleeren Raum. Es folgte auf eine Phase Anfang 2026, in der Grok, der in die X-Plattform integrierte Chatbot und Bildgenerator von xAI, von Nutzern missbraucht wurde, um das Netzwerk mit nicht-einvernehmlichen sexualisierten Bildern zu fluten, was zu Ermittlungen und plattformweiten Sperren führte. Minnesotas Generalstaatsanwalt Keith Ellison erklärte in einer Stellungnahme, der Einsatz von KI zur Erstellung nackter Bilder von Menschen gegen ihren Willen sei „entsetzlich“ und fügte hinzu, dass „KI-Nudification den Betroffenen ihrer Würde beraubt und auf emotionaler, persönlicher und beruflicher Ebene enormen Schaden anrichten kann“.
Vorfälle mit xAIs Grok-Chatbot auf der Social-Media-Plattform X
xAI erklärte, man habe „null Toleranz gegenüber jeder Form von sexueller Ausbeutung von Kindern, nicht-einvernehmlicher Nacktheit und unerwünschten sexuellen Inhalten“ und verwies auf seine Nutzungsbedingungen, die es verbieten, Grok zu verwenden, um Bilder so zu verändern, dass Personen entkleidet oder ohne Einwilligung in sexuell expliziten Inhalten dargestellt werden. Nach einer weltweiten Gegenreaktion im Zusammenhang mit sexualisierten Bildern von Frauen und Kindern kündigte Grok im Januar an, Inhalte, die gegen lokale Gesetze verstoßen, geografisch zu blockieren, um zu verhindern, dass Nutzer in bestimmten Regionen Fotos realer Personen in freizügige oder explizite Darstellungen umwandeln. Dieser Schritt erfolgte, nachdem Groks sogenannter „Spicy Mode“ es Nutzern ermöglicht hatte, explizite Inhalte zu erzeugen, was Kritik von Regierungen auf der ganzen Welt hervorrief.
Herausforderungen der Inhaltsmoderation bei KI-generierten sexualisierten Bildern
Der Grok-Vorfall verdeutlicht, warum Bundesstaaten wie Minnesota sich gezwungen sahen, direkt gegen die Werkzeuge zu legislierten, anstatt auf plattforminterne Lösungen zu warten. Er erklärt auch, warum xAIs Klage über die rechtliche Haftung eines einzelnen Unternehmens hinaus von Bedeutung ist: Wenn Minnesotas Ansatz einer gerichtlichen Überprüfung standhält, könnten andere Bundesstaaten mit ähnlichen Regeln nachziehen, die die Haftung bei KI-Entwicklern und nicht nur bei Endnutzern verorten und damit die Art und Weise verändern, wie Bildgenerierungstools landesweit entwickelt und überwacht werden.
FAQ
Warum hat der Richter xAIs Antrag auf eine einstweilige Verfügung abgelehnt?
Richter Donovan Frank verwies auf die Verzögerung bei der Einreichung des Antrags – fast drei Monate nach Unterzeichnung des Gesetzes und nur wenige Tage vor dessen Inkrafttreten – als Beleg dafür, dass der von xAI behauptete Schaden nicht unmittelbar sei.
Was ist an Minnesotas Gesetz zum Verbot von „Nudify“-Apps einzigartig?
Es ist das erste Gesetz seiner Art in den USA, das sich gegen KI-Technologie richtet, die nicht-einvernehmliche Nacktbilder erzeugt, und die rechtliche Verantwortung bei Apps und Plattformen statt ausschließlich bei einzelnen Nutzern verortet.
Welche rechtlichen Argumente hat xAI gegen das Minnesota-Verbot vorgebracht?
xAI argumentiert, das Verbot sei überinklusiv, erfasse verfassungsrechtlich geschützte Bilder und einvernehmliche Inhalte und dass weniger restriktive Alternativen existierten, die dasselbe Schutzziel ohne die Strafe von 500.000 $ pro Verstoß erreichen könnten.
Welcher Vorfall lenkte die regulatorische Aufmerksamkeit auf KI-generierte sexualisierte Bilder?
Anfang 2026 wurde xAIs Grok-Chatbot auf der Social-Media-Plattform X missbraucht, um nicht-einvernehmliche sexualisierte Bilder zu erstellen und zu verbreiten, was zu Ermittlungen und Plattformverboten führte, die direkt in Minnesotas Entscheidung einflossen, gesetzgeberisch tätig zu werden.
{„@context“:“https://schema.org“,“@type“:“FAQPage“,“mainEntity“:[{„@type“:“Question“,“name“:“Warum hat der Richter xAIs Antrag auf eine einstweilige Verfügung abgelehnt?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Richter Donovan Frank verwies auf die Verzögerung bei der Einreichung des Antrags – fast drei Monate nach Unterzeichnung des Gesetzes und nur wenige Tage vor dessen Inkrafttreten – als Beleg dafür, dass der von xAI behauptete Schaden nicht unmittelbar sei.“}},{„@type“:“Question“,“name“:“Was ist an Minnesotas Gesetz zum Verbot von ‚Nudify‘-Apps einzigartig?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Es ist das erste Gesetz seiner Art in den USA, das sich gegen KI-Technologie richtet, die nicht-einvernehmliche Nacktbilder erzeugt, und die rechtliche Verantwortung bei Apps und Plattformen statt ausschließlich bei einzelnen Nutzern verortet.“}},{„@type“:“Question“,“name“:“Welche rechtlichen Argumente hat xAI gegen das Minnesota-Verbot vorgebracht?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“xAI argumentiert, das Verbot sei überinklusiv, erfasse verfassungsrechtlich geschützte Bilder und einvernehmliche Inhalte und dass weniger restriktive Alternativen existierten, die dasselbe Schutzziel ohne die Strafe von 500.000 $ pro Verstoß erreichen könnten.“}},{„@type“:“Question“,“name“:“Welcher Vorfall lenkte die regulatorische Aufmerksamkeit auf KI-generierte sexualisierte Bilder?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Anfang 2026 wurde xAIs Grok-Chatbot auf der Social-Media-Plattform X missbraucht, um nicht-einvernehmliche sexualisierte Bilder zu erstellen und zu verbreiten, was zu Ermittlungen und Plattformverboten führte, die direkt in Minnesotas Entscheidung einflossen, gesetzgeberisch tätig zu werden.“}}]}
Artikel mit Unterstützung künstlicher Intelligenz erstellt und von der Redaktion überprüft.
