hidden in plain sight
DIGITAL CAMOUFLAGE
designed to disrupt machine vision
Warum würden Sie sich vor Maschinen verstecken wollen?
Computervision und Objekterkennung entwickeln sich rasant und kommen zunehmend in öffentlichen Überwachungssystemen zum Einsatz. DIGITAL CAMOUFLAGE ist ein tragbares Statement- und ein Experiment darüber, wie sich algorithmische Wahrnehmung täuschen lässt.
Wie funktioniert es?
Das aufgedruckte Muster ist ein sogenanntes adversariales Muster: Es wurde gezielt entwickelt, um die Personenerkennung des weit verbreiteten Objekterkennungsalgorithmus YOLO zu stören. Dabei kombiniert es zwei Strategien – Ablenkung und Konfidenz-Unterdrückung: Das Muster zieht die Aufmerksamkeit des Algorithmus auf sich und senkt zugleich dessen Konfidenzwert für die Person, die es trägt. In unseren Tests führte das dazu, dass der DIGITAL CAMOUFLAGE-Träger von YOLOv3 häufig nicht mehr als Person erkannt wurde.
Wichtig zu wissen: Die Wirkung adversarialer Muster hängt vom eingesetzten Erkennungssystem, dessen Version und Konfiguration sowie von Umgebungsbedingungen wie Distanz, Blickwinkel und Beleuchtung ab. DIGITAL CAMOUFLAGE wirkt gegen bestimmte YOLO-basierte Detektoren und bietet keinen generellen Schutz vor Gesichtserkennung oder anderen Überwachungstechnologien. Mit der Weiterentwicklung von Erkennungsmodellen kann die Wirkung nachlassen. DIGITAL CAMOUFLAGE ist ein Kunstprojekt – kein Sicherheitsprodukt.
Why would you want to hide from machines?
Computer vision and object detection are advancing rapidly and are increasingly used in public surveillance systems. DIGITAL CAMOUFLAGE is a wearable statement and an experiment in how algorithmic perception can be deceived.
How does it work?
The printed design is a so-called adversarial pattern. It was specifically developed to disrupt the person detection of YOLO, a widely used object detection algorithm. It combines two strategies, distraction and confidence suppression: the pattern draws the algorithm’s attention to itself while lowering its confidence score for the person wearing it. In our tests, this frequently caused YOLOv3 to no longer detect the wearer of DIGITAL CAMOUFLAGE as a person.
Good to know: The effectiveness of adversarial patterns depends on the detection system used, its version and configuration, and on environmental conditions such as distance, viewing angle and lighting. DIGITAL CAMOUFLAGE works against certain YOLO-based detectors and does not offer general protection against facial recognition or other surveillance technologies. As detection models evolve, its effect may decrease. DIGITAL CAMOUFLAGE is an art project, not a security product.