KI-Kameras am Kottbuser Tor austricksen? Künstler Simon Weckert macht sich mit einem Camouflage-Hemd unsichtbar.
Der Berliner Künstler Simon Weckert hat anlässlich eines Pilotprojekts zur KI-gestützten Videoüberwachung am Kottbusser Tor ein „Camouflage Shirt“ entworfen. Hinter dem Kleidungsstück verbirgt sich eine tiefgreifende Kritik an modernen Überwachungsalgorithmen.
KI-Muster zur KI-Bekämpfung
Auch wenn es paradox klingt: Der Künstler nutzte für den Entwurf des speziellen Hemds selbst eine Künstliche Intelligenz. Er entwickelte ein Muster mit gesättigten Farbübergängen und überlappenden Formen in einem sogenannten „Adversarial Loop“ (generatives Testverfahren). Konkret ließ er psychedelische Muster erstellen und testete diese an „YOLO“ (You Only Look Once), einem Open-Source-System zur Objekterkennung in Echtzeit. Das System zeigte ihm an, mit welcher statistischen Wahrscheinlichkeit es eine menschliche Silhouette wahrnahm. Auf Basis dieser Werte passte Weckert das Muster so lange an, bis die finale Iteration die KI maximal verwirrte.
Der blinde Fleck der Algorithmen
Die zugrundeliegenden Algorithmen der Bilderkennung arbeiten ausschließlich mit Wahrscheinlichkeiten. KIs begreifen die Welt nicht wie Menschen; sie stellen stattdessen mathematisch begründete Vermutungen an. Für Überwachungskameras bedeutet das: Sie wissen nicht, was ein Mensch ist - sie gleichen lediglich visuelle Merkmale mit Millionen von Trainingsbildern ab.
Weckert macht sich diese Funktionsweise zunutze. Sein Muster lenkt die KI mit gezielten Kanten, Kontrasten und Texturgradienten ab, noch bevor der Algorithmus nach den typischen Silhouetten von Köpfen und Schultern suchen kann. Der Detektor ist dadurch nicht mehr in der Lage, die einzelnen Körperteile zu einer menschlichen Figur zusammenzusetzen.
Ob das Hemd im Alltag hält, was es verspricht, bleibt jedoch abzuwarten. Während sich das System „YOLO“ überlisten lässt, stehen unabhängige Tests unter realen Bedingungen, wie etwa bei den Kameras am Kottbusser Tor, bislang noch aus.
Selbst wenn es im funktionalen Gewand daherkommt: Das „Camouflage Shirt“ ist weit mehr als ein Werkzeug zur KI-Ablenkung. Das Projekt zeigt eindrucksvoll, wie fehleranfällig Algorithmen sein können, und wirft gleichzeitig eine unbequeme Frage auf: Wie viel Macht wollen wir Systemen überlassen, die sich schon durch ein buntes Muster blindschalten lassen?
Was denkst du? Sollten wir Systemen vertrauen, die sich so leicht austricksen lassen - oder überwiegt für dich der Sicherheitsgewinn? Diskutiere mit uns in den Kommentaren!
