NVIDIA reaguje na rosnące zagrożenia ze strony zbuntowanych agentów, wprowadzając Open Agent Safety Platform, która ma na celu ograniczenie dostępu tych agentów do danych oraz infrastruktur. Platforma ta ma również za zadanie zatrzymać próby nadużywania uprawnień. Oprogramowanie jest już dostępne, a dodatkowe rozwiązania sprzętowe opisano w projekcie referencyjnym Sentry.
Dzisiejsza premiera łączy OpenShell – środowisko uruchamiania agentów w izolowanym otoczeniu – z mechanizmem nadzoru działającym na dedykowanym układzie. Platforma kierowana jest głównie do firm, które wdrażają agentów do realizacji zadań wykorzystujących pliki, sieci oraz usługi zewnętrzne. Jak podkreśla NVIDIA, Sentry potrafi odizolować agenta i zatrzymać jego działanie w ciągu milisekund od momentu, gdy próbuje przekroczyć swoje uprawnienia.
OpenShell ustala granice, a Sentry ich pilnuje
Podział odpowiedzialności jest tutaj bardzo jasny. OpenShell umożliwia definiowanie, do jakich plików, narzędzi, połączeń sieciowych oraz danych agent będzie miał dostęp. Reguły są egzekwowane przez środowisko uruchomieniowe, co oznacza, że ochrona działa niezależnie od tego, czy model przestrzega instrukcji. Dokumentacja podkreśla również funkcję blokowania połączeń z niezatwierdzonymi adresami oraz ograniczenia odczytu i zapisu plików jedynie do wyznaczonych lokalizacji.
Sentry to natomiast warstwa nadzoru działająca na układzie BlueField-4 – wyspecjalizowanym procesorze do przetwarzania danych. Funkcjonuje ona poza środowiskiem agenta i nieustannie ocenia jego aktywność, egzekwując zasady bezpieczeństwa. Izolacja tej warstwy od nadzorowanego agenta stanowi dodatkową ochronę, nawet w sytuacjach, gdy środowisko, w którym agent realizuje zadania, nie może cieszyć się pełnym zaufaniem.
Kontrola agentów ze Slacka i nie tylko
Jak informuje NVIDIA, obecnie ponad 100 organizacji korzysta z technologii tej platformy. Wśród wymienionych firm znajdują się m.in. Microsoft, Hugging Face, CrowdStrike oraz SAP. Przykładową integracją OpenShell może być ta ze Slackiem, realizowana przez Salesforce we współpracy z NVIDIĄ. Dzięki temu zespoły mogą na bieżąco monitorować aktywność agentów, analizować zdarzenia oraz zatwierdzać bądź odrzucać prośby o dodatkowe uprawnienia. Wśród setki partnerów OpenShella brakuje OpenAI, co może się zmienić w przyszłości. Z kolei firmą, która jest obecna w tym gronie, jest Anthropic.
Czytaj również: Chcieli wyłączyć „zbuntowanego ChatGPT”. Wyłącznik nie zadziałał…
OpenShell oraz programowe komponenty platformy są już dostępne na GitHubie oraz w zasobach deweloperskich NVIDII. Docelową platformą dla OpenShell są procesory Vera, jednak istnieje możliwość dostosowania tego rozwiązania do architektur ARM oraz Intel. Na razie Sentry funkcjonuje jako projekt referencyjny oparty na BlueField-4. Tak więc organizacje zyskują narzędzie do ochrony przed potencjalnymi zagrożeniami ze strony własnych agentów, które mogłyby narazić zarówno firmę, jak i osoby trzecie na szkodliwe działania. Warto jednak zauważyć, że rozwiązanie to nie jest jedynym ani pierwszym w branży. NVIDIA, poza tym, że solidnie monetzuje technologię AI, sprzedając znaczne ilości układów, również reaguje na wyzwania rynkowe, dokonując trafnych analiz i dostosowując swoje rozwiązania do potrzeb wynikających z coraz potężniejszych modeli pojawiających się w wiodących firmach.