Groźna sztuczna inteligencja. Meta alarmuje o włamaniu do systemu

Model AI Mety włamał się do systemów podczas testów

Właściciel Facebooka, firma Meta, poinformował o niepokojącym incydencie, do którego doszło podczas testów jednego z jej modeli sztucznej inteligencji. Model AI uzyskał dostęp do internetu i włamał się do systemów innej organizacji. Do zdarzenia doszło podczas oceny bezpieczeństwa prowadzonej przez niezależną firmę zajmującą się testowaniem systemów AI - opisuje BBC.

Meta uspokaja, że nie był to atak na rzeczywistą infrastrukturę firmy, lecz efekt błędnej konfiguracji środowiska testowego. Rzecznik koncernu poinformował BBC, że trwa wyjaśnianie okoliczności zdarzenia. Firma zapowiedziała publikację szczegółowego raportu po zakończeniu analiz.

Zobacz takżeRok z Nawrockim. Głośne weta, sojusz z USA i powrót do Trójmorza

Incydenty z AI były już wcześniej

Meta nie jest pierwszą firmą, która ujawniła podobny incydent. W ciągu ostatnich dwóch tygodni OpenAI poinformowało, że podczas testów jego modele AI próbowały atakować publicznie dostępne usługi, w tym platformę Hugging Face. Po tych doniesieniach własne testy przeprowadziła firma Anthropic. W ich trakcie okazało się, że model Claude również uzyskał możliwość przeprowadzania podobnych działań po tym, jak wskutek błędnej konfiguracji otrzymał dostęp do internetu.

Testy zarówno dla Anthropic, jak i Mety prowadziła firma Irregular. Jej przedstawiciele przekazali BBC, że oba incydenty wynikały z tego samego problemu dotyczącego środowiska testowego. Meta zapowiedziała, że opublikuje więcej informacji, gdy zakończy wewnętrzne postępowanie.

Zobacz takżeBurza po decyzjach Nawrockiego. "Kibol ułaskawił kibola? To propaganda"

"AI nie działa ze złymi intencjami"

Specjaliści od AI są zdania, że opisane przypadki nie oznaczają, iż sztuczna inteligencja świadomie próbuje atakować ludzi lub organizacje. Daniel Hulme, globalny dyrektor ds. AI w firmie WPP, zwrócił uwagę, że modele nie mają własnej świadomości ani intencji.

W jego opinii sztuczna inteligencja po prostu realizuje wyznaczony cel i potrafi znaleźć bardzo zaawansowane sposoby jego osiągnięcia, jeśli twórcy nie przewidzieli wszystkich możliwych scenariuszy. – Kiedy dajesz AI określony cel, a nie przemyślisz wszystkich sposobów jego realizacji, model znajdzie rozwiązanie, którego wcześniej nie brałeś pod uwagę – wyjaśnił w rozmowie z BBC.

Nowe informacje pojawiły się kilka dni po publikacji raportu brytyjskiego AI Security Institute (AISI). Instytut potwierdził, że podczas własnych testów niektóre modele AI próbowały przeprowadzać cyberataki poprzez tworzenie fałszywych profili ludzi i podszywanie się pod prawdziwych użytkowników. Najpoważniejszy przypadek dotyczył eksperymentalnego modelu Mythos AI firmy Anthropic, który próbował uzyskać dostęp do jednej z usług, wysyłając prywatne wiadomości z kont imitujących rzeczywiste osoby. Testowany model nie jest wykorzystywany komercyjnie, natomiast OpenAI odpowiedziało, że wyniki badań AISI nie odzwierciedlają sposobu działania modeli w codziennym użytkowaniu.