Anthropic ujawnił dokument, w którym hakerzy oraz, prawdopodobnie, szpiedzy wykorzystywali Claude do włamań, kradzieży danych, a nawet do budowy systemów militarnych. Podczas jednego z opisanych ataków, sztuczna inteligencja odegrała kluczową rolę w przeprowadzeniu operacji. Jak wielokrotnie podkreślałem: nasz najważniejszy wynalazek jest również wykorzystywany w celach jednoznacznie negatywnych.
W jednym z opisanych przypadków, napastnik zdobył ponad 2100 zestawów tokenów Azure AD w zaledwie 34 godziny. Tokeny te służą do potwierdzania tożsamości oraz uprawnień w infrastrukturach. Jak podkreśla Anthropic, większość pracy została wykonana przez agenta sztucznej inteligencji. W innym incydencie wykazano, że przejście od jednego skradzionego tokenu należącego do programisty do uzyskania pełnych uprawnień administracyjnych w chmurze zajęło… około trzy godziny.
Jackpot na aplikacjach dla Androida
Anthropic zbadał działalność hakerów z grupy ShinyHunters, znanych z masowych kradzieży danych i wymuszeń, którzy w ostatnim czasie byli szczególnie aktywni. W tym przypadku operator uruchomił w chmurze Amazona dziesięć instancji obliczeniowych, które pobrały 1,8 miliona różnych pakietów APK z różnych sklepów. System analizował te pakiety, poszukując zapisanych na stałe danych dostępowych z pomocą narzędzia TruffleHoga. Potwierdzone znaleziska trafiały na specjalny kanał na Telegramie, uporządkowane według typów źródeł.
Równocześnie, proces związany z GitHubem dostarczył skradzione osobiste tokeny dostępowe, co pozwoliło na wykonywanie tam działań w ramach przyznanych (lub podkradzionych, jak się okazuje) uprawnień. Wśród innych działań osób powiązanych zapewne z ShinyHunters, Anthropic wymienia włamanie do dostawcy produktu SaaS i kradzież danych około 200 jego klientów, co zrealizowano w zaledwie 34 godziny. Napastnicy kradli również klucze dostępu do usług opartych na sztucznej inteligencji, aby móc prowadzić dalsze działania bez kosztów, wykorzystując cudze kredyty i obciążając karty ofiar.
Szpiedzy również zainteresowani AI
Znów na celowniku są Rosjanie. Anthropic potwierdził w swoim raporcie aktywność grupy Midnight Blizzard, którą związano z rosyjskim wywiadem. Wśród celów tych przestępców znalazło się 20 podmiotów związanych z instytucjami państwowymi na całym świecie. W tym przypadku Claude pomagał w przygotowywaniu infrastruktury pod działania, konstruował skuteczne ataki phishingowe i wydobywał dane od ofiar. Wykorzystywane były automatyczne procedury oparte na instrukcjach dla Claude Code.
Agenci w tym przypadku modyfikowali i ponownie budowali cyberprzestępcze narzędzia, tak długo aż przestawały być wykrywane przez jakiekolwiek zabezpieczenia. W innych opisanych wątkach, takich jak włamania do firm obsługujących hotelowe sieci Wi-Fi, udało się przekierować ruch gości na serwery należące do napastników. Zmiany w DNS-ach oraz inne kampanie pozwalały na przejmowanie kont w aplikacji WhatsApp i kradzież wiadomości z popularnych usług.
Chińscy cyberprzestępcy również aktywni
Dobrze znana chińska grupa GTG-10007 wykorzystywała Claude’a do koordynacji swoich działań. Automatyzacja poszła bardzo daleko, bowiem narzędzia oparte na sztucznej inteligencji pracowały także w czasie nieobecności operatorów, wykrywając wcześniejsze nieznane błędy w oprogramowaniu do wykrywania włamań. Anthropic przyznaje, że znalezione podatności były następnie testowane w „laboratoriach” przestępców. Później zauważono próby wykorzystania tych samych podatności w atakach na instytucje rządowe na całym świecie.
Czytaj również: Waszyngton nienawidzi twórcy Claude’a. Kolejny cios dla Anthropica
Potwierdzone włamania dotyczyły między innymi firmy rozwijającej produkt technologiczny dla sektora edukacji oraz instytucji rządowych w Azji Południowo-Wschodniej. Konta sprawców zostały zablokowane, wzmocniono zabezpieczenia, a ofiary zostały poinformowane o działaniach przestępców. Okazuje się, że długo nie musieliśmy czekać na to, jak przestępcy zaczną wykorzystywać sztuczną inteligencję w swoich działaniach.
Po wydaniu nowych narzędzi, takich jak Fable i Mythos, hakerzy zdają się iść „all in” w sztuczną inteligencję. Skoro AI może przyspieszyć ich działania oraz rozszerzyć zasięg ich rażenia, to dlaczego mieliby z tego nie skorzystać? Niestety, z tych popularnych systemów będą korzystać również osoby, które nie zamierzają używać ich w dobrych celach, więc musimy być tego świadomi.