Ein Sicherheitsforscher in Kansas City führte ein Jahr lang immer wieder denselben Test durch, in der Hoffnung, etwas zu entwickeln, das die Kameras, die amerikanische Straßen überwachen, leise überlisten könnte. Das Ergebnis ist eine Reihe von KI-Tarnmustern, die, sobald sie auf Kleidung gedruckt oder um ein Auto gewickelt werden, Überwachungssoftware offenbar daran hindern, zu erkennen, was sie sieht. Bill Swearingen nennt das Projekt noRecognition, und es hatte gerade seinen ersten öffentlichen Test auf der Def Con in Las Vegas.
Summary
Wichtigste Erkenntnisse
- Bill Swearingens Projekt noRecognition verwendet KI-Tarnmuster, die darauf ausgelegt sind, zu verhindern, dass Überwachungskamera-Software Personen, Gesichter oder Fahrzeuge identifiziert.
- Die Muster besiegten alle 11 Open-Source-Erkennungsalgorithmen, die Swearingen testete, darunter Software, die mit Flock-Kennzeichenscannern, Axon-Körperkameras und Clearview AI verbunden ist.
- Es waren ungefähr 31 Millionen Testläufe nötig, um das Modell so zu trainieren, dass es zuverlässig wirksame Muster erzeugt.
- Die erste öffentliche Demonstration fand am Freitag auf der Def Con statt, wo ein folierter Toyota Yaris von 2009 unentdeckt an einer Flock-Kamera vorbeifuhr.
- Die Muster bedecken die Karosserie des Fahrzeugs statt der Kennzeichen – eine bewusste Entscheidung, um Kennzeichen-Behinderungsgesetze zu umgehen.
KI-gesteuerte Tarnung zur Umgehung von Überwachungskameras
noRecognition funktioniert, indem es eine Lücke zwischen menschlichem Sehen und maschinellem Sehen ausnutzt – eine Folierung, die für eine Person wie lautes Grafikdesign aussieht, kann für einen Erkennungsalgorithmus als gar nichts registriert werden. Diese Lücke ist die gesamte Grundlage von Swearingens Projekt und der Grund, warum die Muster über einen einzelnen Stunt am Straßenrand hinaus von Bedeutung sind.
Das noRecognition-Projekt und der technische Ansatz
Swearingen, der das SecKC-Sicherheitsmeetup mitbegründet hat, entwickelte noRecognition mithilfe eines Reinforcement-Learning-Modells, das im Grunde seine eigenen Hausaufgaben bewertet. Ein Muster wird erkannt, das Modell passt sich an und versucht es erneut – eine Schleife, die Swearingen als das Lehren des Systems „wie man malt“ beschrieben hat. Laut TechCrunch begann er mit einem Proof-of-Concept-Labor, das nach und nach einen Open-Source-Erkennungsalgorithmus nach dem anderen aushebelte, und skalierte dann die Rechenleistung hoch, um die Ergebnisse im Laufe eines Jahres zu verfeinern.
Dieser Prozess lief laut Decrypt schließlich durch 31 Millionen Tests, bevor Swearingen Muster zuverlässig auf Abruf erzeugen konnte. Der Ertrag: Alle 11 Open-Source-Erkennungsalgorithmen, die er testete, wurden von den Mustern besiegt, einschließlich der Technologie, die Flock-Kennzeichenscanner, Axon-Körperkameras und Clearview AI antreibt. Er sagt nun, dass das Modell ungefähr jede Minute neue Muster ausspucken kann, und er hält die stärksten bewusst offline, damit Kamerahersteller ihre Systeme nicht dagegen trainieren können.
Öffentliche Demonstration auf der Def Con
Die Idee verlagerte sich am Freitag vom Laborexperiment zum realen Beweis, als Swearingen mit dem YouTube-Kanal Donut Media zusammenarbeitete, um einen Toyota Yaris von 2009 mit einem seiner neuesten Muster zu folieren und ihn auf der Def Con an einer Flock-Kamera vorbeizufahren. TechCrunch berichtete, dass es sich um den ersten öffentlichen Test des auf ein Fahrzeug angewendeten Musters handelte, und er zeigte, dass die KI-Tarnmuster auch außerhalb einer kontrollierten Testumgebung und nicht nur in der Simulation standhalten können.
Motivation und Kontext in Bezug auf Privatsphäre
Für Swearingen ist das Projekt nicht nur eine technische Übung – es ist als Reaktion auf das gerahmt, was er als unkontrollierte Ausweitung der Überwachung betrachtet. „Privatsphäre ist ein grundlegendes Recht“, sagte er Reportern und beschrieb die Muster als eine Möglichkeit für Menschen, sich „dem Verfolgtwerden zu entziehen“.
Datenschutzrechte und Überwachungsbedenken
Swearingen sagte, die Idee habe im vergangenen Jahr Fuß gefasst, nachdem er an einer Protestaktion teilnehmen wollte, aber ein ungutes Gefühl wegen der Anzahl an Kameras bekam, die alle Anwesenden erfassen könnten. Er war offen darüber, dass er als weißer Mann mittleren Alters im Zentrum der Vereinigten Staaten persönlich nicht der Art von Überprüfung oder Diskriminierung ausgesetzt war, der andere möglicherweise begegnen. Aber er argumentierte, dass, wenn er sich unwohl fühlte, andere, die ihr Recht auf freie Meinungsäußerung ausüben, sich wahrscheinlich genauso – oder noch schlechter – fühlten.
Dies ist ein Teil des Grundes, warum die Geschichte über das Heimlabor eines einzelnen Forschers hinaus von Bedeutung ist: Sie fällt genau in eine laufende Debatte über automatisierte Überwachung in den USA. Flock wird als umstrittenes Überwachungssystem beschrieben, das derzeit im ganzen Land ausgerollt wird, und es steht weit über Datenschutzkreise hinaus unter Beobachtung. Interne Dokumente, auf die sich Berichte stützen, zeigen, dass das Unternehmen vorgeschlagen hat, 350.000 Dashcams von Uber und Lyft in eine rollende Kennzeichen-Scanflotte zu verwandeln – ein Plan, der auf dem Capitol Hill Gegenreaktionen ausgelöst hat.
Bestehende adversarielle Bemühungen gegen Erkennung
noRecognition ist nicht der erste Versuch, algorithmischer Erkennung zu entgehen, zielt aber auf eine schärfer umrissene Liste von Systemen ab als die meisten Vorgänger. Aktivisten in San Francisco haben Verkehrskegel auf die Motorhauben von Waymo- und Cruise-Robotaxis gesetzt, um sie lahmzulegen – ganz ohne Code. Während der Einwanderungsrazzien in Los Angeles im vergangenen Jahr gingen einige Demonstrierende noch weiter und setzten mehrere Waymo-Fahrzeuge in Brand. Masken, Kapuzen und Schirmmützen bleiben die Standardausrüstung an Protestlinien, und adversarielle Bekleidungsmarken verkaufen seit Jahren gesichtsverwirrende Drucke, obwohl Anti-Erkennungsbrillen bislang nur wenig Belege für tatsächliche Wirksamkeit gezeigt haben.
Was Swearingens Ansatz unterscheidet, ist die Präzision: Anstatt eines generischen Anti-Erkennungs-Gimmicks wurde noRecognition gegen die spezifischen Erkennungs-Stacks getestet, die bereits im großen Maßstab eingesetzt werden, einschließlich der Software, die im Kameranetzwerk von Flock läuft.
Rechtliche und praktische Überlegungen
Ein Auto mit einem adversarialen Muster zu folieren wirft eine Rechtsfrage auf, die nichts mit dem Algorithmus und alles mit der Straße zu tun hat. Gesetze zur Kennzeichenbehinderung unterscheiden sich von Bundesstaat zu Bundesstaat, und Swearingen hat das Projekt um diese Realität herum und nicht dagegen aufgebaut.
Abdeckung der Fahrzeugkarosserie zur Umgehung von Kennzeichenbehinderungsgesetzen
Die noRecognition-Muster werden auf die Karosserie und nicht auf die Kennzeichen aufgebracht – eine Designentscheidung, die ausdrücklich darauf abzielt, das Projekt aus rechtlichen Schwierigkeiten im Zusammenhang mit der Verdeckung eines Kennzeichens herauszuhalten. Es ist ein schmaler, aber wichtiger Unterschied: Die Technologie zielt darauf ab, wie Kameras Formen und Objekte klassifizieren, nicht auf die Sichtbarkeit einer Kennzeichennummer selbst, auf die sich die meisten bestehenden Behinderungsgesetze konzentrieren.
Fortbestehende rechtliche und datenschutzbezogene Bedenken rund um Überwachung
Der breitere rechtliche und politische Hintergrund hat sich nicht verlangsamt. Automatisierte Kennzeichenscanner haben in dokumentierten Fällen bereits unschuldige Fahrer mit vorgehaltener Waffe anhalten lassen, und Migranten sowie Demonstrierende sind in bundesstaatliche, KI-gestützte Überwachungsnetze geraten, die mit ICE verbunden sind. Gesetzgeber setzen Meta derweil wegen Gesichtserkennungsfunktionen in seinen Smart Glasses unter Druck – ein paralleler Konflikt, der zeigt, wie viel regulatorische Aufmerksamkeit algorithmische Erkennung inzwischen auf sich zieht.
Warum das wichtig ist: Während sich automatisierte Erkennungstools im Bereich der Polizei und privaten Sicherheit vervielfachen, stehen speziell zu ihrer Umgehung entwickelte Werkzeuge – selbst solche, die als rechtmäßiger Schutz der Privatsphäre gerahmt sind – im Zentrum einer rechtlichen Grauzone, die Regulierungsbehörden noch nicht vollständig kartiert haben.
Swearingen macht nach der Def Con nicht Schluss. noRecognition führt eine Crowdfunding-Kampagne für frühe Merchandising-Artikel durch, beginnend mit T-Shirts und Hoodies und später mit Fahrzeugfolierungen, mit dem erklärten Ziel, die Auflösung hoch genug zu halten, damit sie aus der Entfernung funktionieren, und die Designs gleichzeitig so zu gestalten, dass Menschen sie tatsächlich tragen möchten. „Jeder Fehlschlag verbessert mein Modell, und so werden die Muster immer besser und besser“, sagte Swearingen – ein Satz, der zugleich als Warnung an Kamerahersteller dient, die dieses Wettrüsten in Echtzeit verfolgen.
FAQ
Was ist das noRecognition-Projekt?
noRecognition ist ein KI-basiertes System, das von Bill Swearingen entwickelt wurde und Muster erzeugt, die verhindern sollen, dass Überwachungskamera-Software Personen, Gesichter oder Fahrzeuge erkennt.
Wie effektiv ist das noRecognition-Muster gegen Überwachungskameras?
Die Muster besiegten 11 Open-Source-Erkennungsalgorithmen, darunter Software, die von Flock, Axon-Körperkameras und Clearview AI verwendet wird, nach ungefähr 31 Millionen Tests während der Entwicklung.
Ist es legal, Fahrzeuge zu fahren, die mit diesen KI-generierten Tarnmustern foliert sind?
Die Muster bedecken die Karosserie des Fahrzeugs statt der Kennzeichen, um Probleme mit Kennzeichenbehinderung zu vermeiden, obwohl die generelle Rechtmäßigkeit des Fahrens eines folierten Autos je nach Bundesstaat variiert.
Was motivierte die Entwicklung von noRecognition?
Bill Swearingen sagte, er habe noRecognition entwickelt, damit Menschen sich „dem Verfolgtwerden entziehen“ können, ein Anliegen, das er erstmals verspürte, als er darüber nachdachte, an einem Protest unter starker Kameraüberwachung teilzunehmen.
{„@context“:“https://schema.org“,“@type“:“FAQPage“,“mainEntity“:[{„@type“:“Question“,“name“:“Was ist das noRecognition-Projekt?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“noRecognition ist ein KI-basiertes System, das von Bill Swearingen entwickelt wurde und Muster erzeugt, die verhindern sollen, dass Überwachungskamera-Software Personen, Gesichter oder Fahrzeuge erkennt.“}},{„@type“:“Question“,“name“:“Wie effektiv ist das noRecognition-Muster gegen Überwachungskameras?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Die Muster besiegten 11 Open-Source-Erkennungsalgorithmen, darunter Software, die von Flock, Axon-Körperkameras und Clearview AI verwendet wird, nach ungefähr 31 Millionen Tests während der Entwicklung.“}},{„@type“:“Question“,“name“:“Ist es legal, Fahrzeuge zu fahren, die mit diesen KI-generierten Tarnmustern foliert sind?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Die Muster bedecken die Karosserie des Fahrzeugs statt der Kennzeichen, um Probleme mit Kennzeichenbehinderung zu vermeiden, obwohl die generelle Rechtmäßigkeit des Fahrens eines folierten Autos je nach Bundesstaat variiert.“}},{„@type“:“Question“,“name“:“Was motivierte die Entwicklung von noRecognition?“,“acceptedAnswer“:{„@type“:“Answer“,“text“:“Bill Swearingen sagte, er habe noRecognition entwickelt, damit Menschen sich „dem Verfolgtwerden entziehen“ können, ein Anliegen, das er erstmals verspürte, als er darüber nachdachte, an einem Protest unter starker Kameraüberwachung teilzunehmen.“}}]}
Artikel mit Unterstützung künstlicher Intelligenz erstellt und von der Redaktion überprüft.
