Ένα πουκάμισο σχεδιάστηκε για να «μπερδεύει» τις κάμερες AI - Το Digital Camouflage χρησιμοποιεί adversarial pattern απέναντι σε generic YOLO, αλλά ο δημιουργός ξεκαθαρίζει ότι δεν υπόσχεται ανωνυμία.

 Ο Βερολινέζος καλλιτέχνης Simon Weckert δημιούργησε ένα πουκάμισο με adversarial pattern που επιχειρεί να κάνει ένα σύστημα computer vision να μη χαρακτηρίζει σωστά τον άνθρωπο που το φορά.

Το έργο ονομάζεται «Digital Camouflage» και παρουσιάζεται ως wearable installation σε εξέλιξη από το 2025. Στην επίσημη επίδειξη, ένα γενικό open-source μοντέλο ανίχνευσης αντικειμένων YOLO τοποθετεί πλαίσια «person» στους περαστικούς, αλλά αποτυγχάνει σε ορισμένες στιγμές να αναγνωρίσει τον χρήστη του πολύχρωμου πουκαμίσου.

Ο ίδιος ο δημιουργός βάζει σαφή όρια στον ισχυρισμό: δεν λέει ότι το ένδυμα νικά κάποιο συγκεκριμένο κρατικό ή αστυνομικό σύστημα, δεν υπόσχεται ανωνυμία και δεν το παρουσιάζει ως εργαλείο αποφυγής της αστυνομίας. Το έργο είναι σχόλιο για την αδιαφάνεια της δημόσιας επιτήρησης και για την ευκολία με την οποία ένα σύστημα μπορεί να θεωρηθεί αξιόπιστο χωρίς να είναι διαθέσιμο σε δημόσιο έλεγχο.

Πώς λειτουργεί ένα adversarial pattern

Τα συστήματα object detection δεν «βλέπουν» έναν άνθρωπο όπως το ανθρώπινο μάτι. Αναζητούν συνδυασμούς ακμών, υφών, σχημάτων και σχέσεων που έχουν μάθει από δεδομένα εκπαίδευσης. Ένα adversarial pattern σχεδιάζεται ώστε να δημιουργεί χαρακτηριστικά που ωθούν το μοντέλο προς λάθος πρόβλεψη ή μειώνουν την εμπιστοσύνη του κάτω από το όριο ανίχνευσης.

Στην οθόνη, το πουκάμισο παραμένει προφανώς ένα έντονο ένδυμα πάνω σε άνθρωπο. Για το μοντέλο, όμως, οι επαναλαμβανόμενες πολύχρωμες μορφές μπορεί να ανταγωνίζονται τα μοτίβα που χρησιμοποιεί για να εντοπίσει κορμό, άκρα και συνολικό ανθρώπινο σχήμα. Η επίθεση δεν κρύβει το φως ούτε κάνει το άτομο αόρατο στην κάμερα· προσπαθεί να αλλάξει τη μαθηματική ταξινόμηση της εικόνας.

Η επίσημη επίδειξη του Digital Camouflage

Στο βίντεο του project, οι περαστικοί λαμβάνουν κανονικά πλαίσια ανίχνευσης, ενώ ο χρήστης του πουκαμίσου εμφανίζεται χωρίς σταθερό label σε μέρος της διαδρομής. Το demo χρησιμοποιεί generic open-source YOLO, όπως δηλώνεται ρητά στην επίσημη σελίδα. Δεν είναι δοκιμή πάνω σε κάμερα του Βερολίνου ούτε απόδειξη ότι το pattern λειτουργεί απέναντι σε κάθε έκδοση YOLO.