Grupa z Jemenu pisała z Claude'em oprogramowanie naprowadzające do rakiety. Odpalili ją w terenie, rakieta zawiodła, a w ciągu kilku godzin wrócili do czatu ustalić, co poszło nie tak. To jedna z czterdziestu dwóch spraw z wrześniowego raportu Anthropica, firmy od Claude'a, o tym, co jej klienci robili z modelem między grudniem 2025 a sierpniem 2026.
Co jest w raporcie Anthropic
Anthropic co kilka miesięcy publikuje przegląd nadużyć własnego modelu. Tegoroczny wrześniowy obejmuje osiem miesięcy i siedem obszarów: włamania, operacje wpływu, inwigilację, oszustwa, badania biologiczne, oprogramowanie dla broni oraz podbieranie modelu przez konkurencję. Wszystkie opisane konta zostały zablokowane, a w części spraw ustalenia trafiły do służb i innych firm z branży.
Siedem spraw, które zapamiętasz
Podsłuch całego kraju. Jeden konsultant zbudował dla wywiadu Mali system obejmujący około 25 milionów kart SIM u wszystkich trzech operatorów. Rozpoznawał ludzi po głosie, nawet po zmianie karty, wyłapywał użytkowników VPN i wnioskował o potajemnych spotkaniach. Zaprojektowano go tak, żeby nie wymagał nakazu sądu.
Randki z botami. Chińskie studio postawiło ponad dwadzieścia aplikacji randkowych reklamowanych jako rozmowy z prawdziwymi ludźmi. W dwa tygodnie kwietnia model prowadził 4700 zmyślonych postaci, które napisały do co najmniej 25 tysięcy osób. Opłacani pracownicy, jeden na trzy boty, odbierali rozmowy wideo, żeby uwiarygodnić aplikację.
Rój dronów. Kilku rosyjskich freelancerów, nie wojsko, budowało autonomiczny rój dronów kamikadze. Rozpoznawanie celów trenowali na nagraniach z Ukrainy, a kod wgrywali na prawdziwe płytki.
Wniosek grantowy w godzinę. Anonimowe konto działające przez pośrednika dostało kompletny wniosek o badania nad wirusami z rodziny ospy: hipoteza, plan doświadczeń, dawki, statystyka. Anthropic przyznaje, że o dzisiejszych modelach nie potrafi już powtórzyć zapewnienia sprzed roku, że w poważnej pracy nad bronią biologiczną są bezużyteczne.
Chińskie modele podstawiały Claude'a. DeepSeek i Moonshot po cichu przekierowywały pytania swoich klientów do Claude'a i pokazywały jego odpowiedzi jako własne, a rozmowy zapisywały do trenowania. Alibaba przepuściła przez model ponad 151 milionów rozmów z 3500 fałszywych kont, żeby uczyć na nich modele Qwen.
Fałszywy tani Claude. Grupa sprzedawała w sieci zniżkowy dostęp do Claude'a. Pytania szły do innego modelu, a dołączony program wykradał dane logowania i odsprzedawał je dalej. To jedyna sprawa z listy, która może dotyczyć zwykłego użytkownika.
Dwanaście celów na Tajwanie. Badacz powiązany z chińskimi instytucjami wojskowymi budował pakiet do walki elektronicznej, a w trakcie projektu zmienił scenariusz symulacji na dwanaście celów na Tajwanie, z bunkrem dowodzenia i radarem wczesnego ostrzegania włącznie.
Co z tego wynika
Nie to, że ktoś próbował, bo próbować będzie zawsze. Uderza skala pojedynczego człowieka. Podsłuch obejmujący cały kraj powstał z jednego abonamentu. Rój dronów budowało kilku freelancerów. Wyszukiwarkę do ujawniania danych dziesiątków milionów osób złożyła jedna osoba. Tam, gdzie kiedyś potrzebny był zespół i budżet państwa, dziś wystarcza kilka osób i dostęp do modelu.
Druga rzecz, praktyczna: kupowanie dostępu do modeli z drugiej ręki kończy się utratą haseł, a korzystanie z modeli, które po cichu przekazują rozmowy komuś innemu, oznacza, że Twoje dane wędrują dalej, niż myślisz.
Wszystkie 42 sprawy po polsku
Raport ma kilkadziesiąt stron po angielsku, więc streściłem każdą sprawę po polsku w kilku zdaniach, z kodami z oryginału, żeby dało się je tam odnaleźć: 42 sprawy z raportu Anthropic po polsku. Pełny dokument źródłowy jest na stronie Anthropic.
Najczęstsze pytania
Czym jest raport Anthropic o nadużyciach AI
To cykliczny przegląd przypadków, w których ktoś próbował wykorzystać Claude'a do szkodliwych działań. Wrześniowa edycja obejmuje grudzień 2025 do sierpnia 2026 i siedem obszarów: włamania, operacje wpływu, inwigilację, oszustwa, badania biologiczne, broń konwencjonalną i podbieranie modelu.
Czy Anthropic został zhakowany
Nie. W jednej ze spraw napastnik próbował dotrzeć do nieopublikowanego modelu, ale wykorzystywał klucze wykradzione klientom z ich własnych środowisk. Raport zaznacza, że systemy Anthropic nie zostały naruszone.
Czy zwykły użytkownik ma się czego obawiać
Bezpośrednio dotyczy go jedna sprawa: sprzedaż taniego dostępu do Claude'a, przy której kradziono dane logowania. Kupuj dostęp do modeli tylko u producenta albo u znanego dostawcy chmury.
Które modele podbierały odpowiedzi Claude'a
Anthropic wskazuje Alibabę (modele Qwen), Moonshot (Kimi), DeepSeek, Zhipu i Xiaomi. Dwie pierwsze firmy dodatkowo przekierowywały pytania własnych klientów do Claude'a i podawały jego odpowiedzi jako własne.