Gemini, model AI Google'a, włamał się do systemów trzech prawdziwych firm podczas testu bezpieczeństwa w maju 2026. Google przyznał się do tego dopiero 18 września, po pytaniu dziennika „The Wall Street Journal”. Sprawdziłem w źródłach, co zrobił model i czy „włamanie” to właściwe słowo.
Jak Gemini włamał się do trzech firm podczas testu
Test prowadziła Irregular, izraelska firma, która sprawdza dla twórców AI, jak dobrze ich modele potrafią atakować systemy komputerowe. Gemini miał wydobyć dane z systemów zmyślonej firmy w środowisku odciętym od internetu. Przez błąd w ustawieniach po stronie Irregular środowisko miało jednak dostęp do sieci, a zmyślona firma nazywała się tak samo jak prawdziwa.
Model znalazł w internecie prawdziwą firmę i uznał ją za cel. Zgadywał hasło tak długo, aż trafił. W kodzie, który ktoś udostępnił publicznie w sieci, znalazł też dane logowania do dwóch kolejnych firm i wszedł do ich systemów. Żadna z trzech nie brała udziału w teście.
Kto uruchomił model i czy to było włamanie
Gemini nie uciekł sam z laboratorium. Uruchomiła go Irregular w teście, którego celem było właśnie włamanie, tyle że do zmyślonej firmy. Model nie użył żadnej nieznanej luki w zabezpieczeniach: zgadywał hasło i korzystał z cudzych danych logowania leżących na widoku. Mimo to bez pozwolenia wszedł do zabezpieczonych systemów prawdziwych firm, więc słowo „włamanie” uważam za trafne. Trzeba jednak dodać, że model uważał to za część testu, a według Google'a za każdym razem przerywał, gdy orientował się, że cel jest prawdziwy.
Dlaczego Google milczał od lipca
Irregular powiadomiła Google'a pod koniec lipca. Google uznał, że model zachował się właściwie, bo sam przerwał, więc nie ogłosił sprawy publicznie. Powiadomił trzy poszkodowane firmy, ale ich nazw nie podał. Heather Adkins, wiceprezes Google'a do spraw inżynierii bezpieczeństwa, mówi: „W standardowym teście model znalazł w sieci publiczne informacje i odgadł dane logowania do stron, które uważał za część testu. We wszystkich trzech przypadkach model się zatrzymał”.
Google nie uważa tego za przykład modelu działającego wbrew zamiarom twórców. Jack Cable, szef firmy Corridor zajmującej się bezpieczeństwem AI, odpowiada, że Google chowa się za zasadami ujawniania luk. Google nie podał, której wersji Gemini to dotyczy. Według „The Wall Street Journal” nie był to najnowszy model.
Kolejny incydent agentów AI w tym roku
Model OpenAI włamał się do Hugging Face, agenty OpenAI zaśmieciły serwis RubyGems, a agent prywatnego użytkownika skasował cudzą rezerwację na siłowni. Latem Anthropic i Meta opisały incydenty w środowisku testowym tej samej firmy Irregular, a sama Irregular uważa, że przypadek Gemini to ten sam problem, który już zgłosiła.
Już po nagraniu filmu, 13 października, ponad 400 naukowców, w tym Geoffrey Hinton i Yoshua Bengio, podpisało list otwarty: modele zdolne do cyberataków należy na razie testować w środowiskach całkowicie odciętych od sieci, a każdy taki incydent zgłaszać do międzynarodowego organu. Zgadzam się. Firmy chętnie chwalą się tym, co potrafią ich modele, i część z tego to marketing. Ale gdy test kończy się w systemach prawdziwych firm, problemem jest sposób prowadzenia testów, nie reklama.
Najczęstsze pytania
Do jakich firm włamał się Gemini?
Nie wiadomo. Google nie podał nazw trzech firm, powiedział tylko, że wszystkie zostały powiadomione.
Kiedy Gemini włamał się do firm i kiedy Google to przyznał?
Do włamań doszło w maju 2026. Irregular powiadomiła Google'a pod koniec lipca, a publicznie Google potwierdził sprawę 18 września, gdy zapytał o nią „The Wall Street Journal”.
Czy Gemini ukradł jakieś dane?
Google twierdzi, że nie doszło do szkód, a model zatrzymał się, gdy rozpoznał prawdziwe firmy. Publicznie nie pojawiły się informacje o kradzieży danych.
Czy Gemini, z którego korzystam na co dzień, też może się włamać?
Incydent dotyczył modelu w teście, w którym dostał zadanie włamania i narzędzia do jego wykonania. Google nie podał, która to była wersja, a według „The Wall Street Journal” nie był to najnowszy model.