Anthropic, firma odpowiedzialna za rozwój modeli Claude, znalazła się w trudnej sytuacji. Administracja prezydenta USA dąży do wpisania przedsiębiorstwa na czarną listę.
Claude, podobnie jak inne modele językowe, zainaugurował swoje działanie od prostych zadań, takich jak pisanie e-maili, debugowanie kodu czy tworzenie planów treningowych. Była to aplikacja dedykowana do ułatwiania codziennych czynności w sytuacjach, gdy użytkownicy nie mieli ochoty na samodzielne poszukiwania. Po latach intensywnego rozwoju jej możliwości wzrosły w sposób nie do wyobrażenia. W obliczu braku jakichkolwiek ograniczeń, najnowsze wersje Claude’a byłyby w stanie przełamać zabezpieczenia nawet najbardziej chronionych stron internetowych. Dlatego Anthropic, jako odpowiedzialny twórca, wprowadza modele z ograniczonymi funkcjami. W przeciwnym razie każdy użytkownik mógłby stać się „superzłoczyńcą”, niczym z filmów o superbohaterach.
To podejście nie spotkało się jednak z aprobatą amerykańskich władz, które argumentują, iż Departament Obrony powinien mieć dostęp do wersji nieobciążonej ograniczeniami. Anthropic konsekwentnie broni swojego stanowiska, co może przynieść poważne konsekwencje. Federalny sąd apelacyjny właśnie zatwierdził usunięcie Anthropic z listy dostawców Departamentu Obrony.
Anthropic w tarapatach – konsekwencje mogą być poważne
Anthropic przegrał kluczowy etap batalii sądowej z administracją Donalda Trumpa. Sąd apelacyjny w Waszyngtonie orzekł, że amerykański Departament Obrony miał prawo wykluczyć firmę odpowiedzialną za Claude’a z własnego łańcucha dostaw. Powód był nietypowy: Anthropic odmówił zniesienia ograniczeń dotyczących wykorzystywania jego modeli do w pełni autonomicznych działań wojennych i masowej inwigilacji obywateli amerykańskich.
Wyrok zapadł 25 września stosunkiem głosów 2:1. Sąd Apelacyjny Stanów Zjednoczonych dla Dystryktu Kolumbii uznał, że władze miały wystarczające podstawy, aby uznać Anthropic za potencjalne zagrożenie dla bezpieczeństwa łańcucha dostaw. Co istotne, większość sędziów nie stwierdziła, że firma działała w złej wierze lub z zamiarem wyrządzenia szkody. Wystarczyło, że Anthropic miał możliwość wprowadzenia ograniczeń odnoszących się do zastosowań Claude’a.

Spór rozpoczął się od zasad, które Anthropic traktował jako fundament swojej działalności. Firma była skłonna na znaczną liberalizację ograniczeń dotyczących wykorzystania Claude’a przez amerykańskie służby i wojsko. Model mógł być wykorzystany m.in. do analizy zagranicznego wywiadu, projektowania bardziej efektywnych systemów uzbrojenia oraz działań w cyberprzestrzeni. Anthropic zachował jednak dwie kluczowe restrykcje i nie godził się na ich usunięcie. Dotyczyły one zakazu wykorzystywania Claude’a do masowej inwigilacji obywateli USA oraz do w pełni autonomicznego użycia śmiercionośnej siły. W kontekście tego drugiego punktu chodziło o sytuacje, w których system AI podejmuje decyzję o samodzielnym ataku na obiekt lub osobę.
Administracja z kolei dążyła do zapisania w kontrakcie możliwości wykorzystywania AI do „wszystkich zgodnych z prawem zastosowań”. Anthropic odmówił przyjęcia takiego rozwiązania. Po załamaniu negocjacji, Departament Obrony podjął decyzję o usunięciu produktów Anthropic z własnej infrastruktury oraz zakazał kontraktorom korzystania z technologii tej firmy w ramach zamówień rządowych.
Władze argumentowały, że ponieważ Anthropic ma wpływ na sposób zachowania Claude’a poprzez szkolenie modelu, jego zasady działania oraz dodatkowe zabezpieczenia, istnieje ryzyko, że w przyszłości model odmówi wykonywania zadań, które wojsko uznaje za legalne i niezbędne. Sąd przyjął tę interpretację większością głosów. W uzasadnieniu podano, że wcześniejsze wersje Claude’a rzeczywiście odmawiały wykonania niektórych poleceń użytkowników rządowych, a w jednym przypadku pojawiły się też wątpliwości dotyczące użycia modelu w zagranicznej operacji militarnej.
Nie oznacza to jednak, że Anthropic całkowicie przegrał swoją batalię w sądach. Co ciekawe, zaledwie kilka tygodni temu federalna sędzia Rita Lin z Kalifornii uznała decyzję administracji o zapisaniu firmy na listę ryzyka łańcucha dostaw za niezgodną z prawem.
















