W obszarze sztucznej inteligencji znów pojawił się poważny skandal. Tym razem AI samodzielnie dokonało sprzedaży na marketplace i zaprosiło nieznajomego pod drzwi właściciela.
Sztuczna inteligencja od Mety sprzedała klawiaturę, podała adres oraz zaprosiła obcego człowieka pod dom, wszystko to bez wiedzy właściciela. Czy możemy mówić o początku buntu maszyn?
AI od Mety zaprosiło nieznajomego pod dom
Na rynku istnieją już zaawansowane modele językowe AI, które wykorzystujemy m.in. w rozmowach online, a także liczne narzędzia wspierające nas w codziennej pracy i tworzeniu złożonych procesów. Wygląda jednak na to, że czas na autonomicznych agentów nadszedł, przynajmniej według dużych korporacji i firm rozwijających technologię AI na pełnych obrotach. Zadziwiające jest to, że nie jesteśmy jeszcze w pełni gotowi na współpracę z takimi wyspecjalizowanymi, inteligentnymi asystentami. Doskonałym przykładem tego jest niedawny incydent z agentem AI od Meta, który przydarzył się Mattowi Robbowi, osobie, która powierzyła nowemu asystentowi Meta Muse zarządzanie swoim ogłoszeniem na Facebook Marketplace. Efektem tego był nieznajomy czekający na niego pod domem, a Matt dowiedział się o tym wydarzeniu dopiero z podsumowania sporządzonego przez sztuczną inteligencję. Zaiste, sytuacja przeraża.
Nie dziwi mnie, że Matt zlecił AI zarządzanie swoimi ogłoszeniami. Każdy, kto próbował sprzedać coś w internecie, wie, jak trudne i czasochłonne potrafi to być, zwłaszcza gdy wystawiamy na sprzedaż wiele używanych przedmiotów. Odpowiadanie na wiadomości i prowadzenie dyskusji z potencjalnymi klientami może przerosnąć nasze możliwości. W przypadku Meta Muse zadanie było proste — pomóc Mattowi w sprzedaży klawiatury. Niestety, AI wykazała się nadmierną gorliwością. Asystent z powodzeniem przeprowadził negocjacje i zaakceptował ofertę zakupu, a następnie podał nieznajomemu dokładny adres Matt’a. Co więcej, zapewnił potencjalnego kupca, że właściciel jest obecny w domu i umówił się na odbiór osobisty na wieczór.
Matt dowiedział się o całej sytuacji dopiero z podsumowania AI, które z brutalną szczerością opisało: „Usman pojawił się pod twoim budynkiem około 21:15, czekał, wysłał wiele wiadomości, ale nikt nie zszedł. Odjechał zdenerwowany o 21:38 i wystawił negatywną ocenę.” Trudno się mu dziwić — był przecież wcześniej umówiony. To jednak nie koniec, ponieważ Meta Muse wysłała Usmanowi wiadomości z przeprosinami i zapytała swojego „przełożonego”, czy w przyszłości nie powinien mieć możliwość umawiania takich wizyt bez upewnienia się, że ktoś rzeczywiście będzie w domu.
Całe zdarzenie stało się viralem w mediach społecznościowych, a Meta prowadzi dochodzenie w tej sprawie, jednocześnie odpierając liczne zarzuty oraz obawy użytkowników. David Singleton z Meta Superintelligence Labs przyznał, że firma traktuje te zdarzenia priorytetowo i dąży do jak najszybszego wyjaśnienia, co dokładnie miało miejsce — czy to wynik błędu algorytmu, czy innego nieprzewidzianego problemu w kodzie. Incydent z Meta Muse jest ważnym sygnałem ostrzegawczym nie tylko dla Mety, ale także dla konkurencyjnych firm, takich jak Google z ich Gemini czy OpenAI z ChatGPT. Giganty technologiczne rywalizują, aby ich asystenci mogli rezerwować stoliki, zamawiać zakupy i negocjować umowy — wydaje się, że może to być zbyt szybko dla nich.
Rzuca się w oczy, że nie zadziałał żaden mechanizm bezpieczeństwa, który powinien być aktywowany w momencie przekształcenia sprawy w rzeczywistość. Gdy bot prowadzi rozmowy online, negocjuje cenę lub informuje o stanie produktu, nie ma problemu. Natomiast w sytuacji, gdy osoba chce sfinalizować transakcję, automatycznie powinno nastąpić powiadomienie opiekuna asystenta, aby mógł przejąć komunikację i zatwierdzić zaproponowaną cenę.