hidden in plain sight

Warum würden Sie sich vor Maschinen verstecken wollen?

Computervision und Objekterkennung entwickeln sich rasant und kommen zunehmend in öffentlichen Überwachungssystemen zum Einsatz. DIGITAL CAMOUFLAGE ist ein tragbares Statement- und ein Experiment darüber, wie sich algorithmische Wahrnehmung täuschen lässt.

Wie funktioniert es?

Das aufgedruckte Muster ist ein sogenanntes adversariales Muster: Es wurde gezielt entwickelt, um die Personenerkennung des weit verbreiteten Objekterkennungsalgorithmus YOLO zu stören. Dabei kombiniert es zwei Strategien – Ablenkung und Konfidenz-Unterdrückung: Das Muster zieht die Aufmerksamkeit des Algorithmus auf sich und senkt zugleich dessen Konfidenzwert für die Person, die es trägt. In unseren Tests führte das dazu, dass der DIGITAL CAMOUFLAGE-Träger von YOLOv3 häufig nicht mehr als Person erkannt wurde.

Wichtig zu wissen: Die Wirkung adversarialer Muster hängt vom eingesetzten Erkennungssystem, dessen Version und Konfiguration sowie von Umgebungsbedingungen wie Distanz, Blickwinkel und Beleuchtung ab. DIGITAL CAMOUFLAGE wirkt gegen bestimmte YOLO-basierte Detektoren und bietet keinen generellen Schutz vor Gesichtserkennung oder anderen Überwachungstechnologien. Mit der Weiterentwicklung von Erkennungsmodellen kann die Wirkung nachlassen. DIGITAL CAMOUFLAGE ist ein Kunstprojekt – kein Sicherheitsprodukt.