Artyści wyrażają swoje obawy dotyczące inwigilacji opartej na sztucznej inteligencji. Berlinowski artysta Simon Weckert opracował wzór, który potrafi zmylić system rozpoznawania obiektów i usunąć etykietę „osoba” z obrazu. To nic innego jak cyberkamuflaż; jednak nie myślcie, że będziecie niewidoczni. System nie będzie w stanie Was oznaczyć ani sprofilować, mimo że nadal będziecie widoczni na nagraniu.
Demonstracja wykazuje, że system działa bardzo efektywnie, o ile w kadrze nie pojawi się koszula w rozmyte, zielono-różowe plamy. Możliwość detekcji nagle zanika, mimo że dla obserwatora nic się nie zmienia: człowiek nadal jest widoczny, a osoba patrząca w ekran rozpozna go bez trudu. Autorem projektu Digital Camouflage jest berliński artysta Simon Weckert, który wcześniej zasłynął z wywołania fikcyjnego korka w Mapach Google za pomocą wózka pełnego telefonów. Tym razem postanowił oszukać automatyczny monitoring analizujący ludzi i ich zachowania.
Wzór uderza w mechanizm rozpoznawania sylwetki
Zastrzegam, że koszula nie uczyni Was absolutnie niewidzialnymi. Jednak wykorzystuje technikę zakłócania działania modelu, co narusza istotne aspekty dotyczące sztucznej inteligencji. Weckert testował różne losowe wzory przy użyciu własnej kamery z systemem YOLO, rodziną algorytmów przeznaczonych do wykrywania obiektów w czasie rzeczywistym, które są stosowane w wielu rozwiązaniach monitorujących. Sprawdzał poziom pewności klasyfikacji, a następnie zmieniał kolory, obracał i odwracał fragmenty grafiki. Im bardziej wzór oddalał obiekt od uznania za człowieka, tym lepszy był jego efekt.
Warto jednak podkreślić: demonstracja dotyczy popularnego, publicznie dostępnego systemu YOLO; nie wiadomo, jak zachowają się inne systemy wizyjne. Trudno ocenić, jak nadruk będzie funkcjonować przy odmiennym oświetleniu, kącie kamery, odległości czy częściowym zasłonięciu, zwłaszcza w tłumie, gdzie o zasłonięcie jest bardzo łatwo. Nie znajdziecie w tym anonimowości – lepiej traktować to jako artystyczny performance, a nie metodę na uzyskanie niewidzialności w erze powszechnego monitoringu.
Kamery widzą więcej, niż Ci się wydaje
Systemy wizyjne mogą obecnie klasyfikować nie tylko ludzi, ale również pojazdy i zwierzęta, a bardziej zaawansowane instalacje mogą próbować wykrywać takie zjawiska jak bójki, dziwne zachowania, osoby nieprzytomne czy podejrzane pakunki. Dla służb oznacza to szybsze wychwytywanie zagrożeń bez konieczności stałego monitorowania każdego obrazu przez operatora. Niemniej jednak taki monitoring, zgodny z duchem prewencji poprzez predykcję, obejmuje również osoby, które nie mają złych intencji. Takie osoby mogą stać się ofiarą fałszywego alarmu, co może zakończyć się niepożądanymi konsekwencjami.
Inspiracją dla artysty były wzmocnienia monitoringu w rejonie Kottbusser Tor w Berlinie. Nieco ponad tydzień temu niemiecki portal Netzpolitik informował, że w tym miejscu berlińska policja zainstalowała około 30 kamer, które po kalibracji będą połączone z oprogramowaniem od firmy Adesso. System ma analizować zachowania widoczne w transmisjach i alarmować operatorów o podejrzanych zdarzeniach, jednak według zapowiedzi nie będzie rozpoznawał twarzy. Trudno ocenić, czy koszula będzie w stanie oszukać ten konkretny model; nie zdziwiłbym się, gdyby okazała się nieskuteczna. Jednak wydźwięk całej akcji jest ważniejszy niż konkretny rezultat.
Cyfrowy kamuflaż będzie coraz bardziej popularny?
Pomysł Weckerta nie jest nowością. Powstawały już makijaże i ubrania dezorientujące systemy rozpoznawania twarzy, a także nadruki z fikcyjnymi tablicami rejestracyjnymi, mające przeciwdziałać automatycznym skanowaniu. Wszystko zmienia się dynamicznie wraz z rozwojem modeli, większymi zbiorami danych do trenowania i modyfikacjami oprogramowania: stare metody przestają działać, ponieważ twórcy rozwiązań wprowadzają aktualizacje w odpowiedzi na metody ataku. To samo ograniczenie dotyczy koszuli Digital Camouflage. Nowe wersje nadruku mają regularnie pojawiać się wraz z nowymi generacjami YOLO; według artysty, może to prowadzić do pewnego rodzaju trendów, które będą tworzone… algorytmicznie.
Czytaj również: Policjanci przebrani za krzaki łapali kierowców korzystających z telefonu. Przesada?
W tym wszystkim można dostrzec istotny spór: artyści zauważyli problem i rozwiązali go na swój sposób. Nieco w opozycji, nieco dekadencko, ale w sposób ciekawy. Skorzystali z faktu, że modele AI mają swoje podatności, co pozwala je oszukiwać i prowadzić do ich awarii. Z drugiej strony istnieje pewna asymetria: każda metoda ataku wiąże się z aktualizacją modelu, co prowadzi do nieustannej gry w kotka i myszkę. Człowiek jest pomysłowym stworzeniem, ale model AI ma nieograniczony czas, ogrom zasobów i niemal nieskończone możliwości iteracji.