Claude pomógł hakerowi? Sprawa ataku na meksykańskie instytucje rządowe budzi kontrowersje

Sztuczna inteligencja coraz częściej pojawia się w roli nieświadomego wspólnika cyberprzestępców. Najnowszy przykład? Chatbot Claude od Anthropic, który - według izraelskiej firmy cyberbezpieczeństwa Gambit Security - posłużył anonimowemu hakerowi do przeprowadzenia serii ataków na meksykańskie instytucje rządowe.

Jailbreaking LLM-ów (czyli manipulowanie chatbotami) wchodzi na nowy poziom?

Kampania hakerska ruszyła w grudniu i trwała około miesiąca. W tym czasie skradziono aż 150 GB danych rządowych, w tym dokumenty powiązane z 195 mln rekordów podatników, dane wyborców, poświadczenia pracowników rządowych oraz pliki rejestru cywilnego.

Ofiarami padły m.in. federalny urząd skarbowy, krajowy instytut wyborczy, rządy stanowe Jalisco, Michoacán i Tamaulipas, a także rejestr cywilny Mexico City i wodociągi Monterrey. Skala imponująca. I niepokojąca.

Nieznany sprawca pisał do Clauda po hiszpańsku, nakazując mu wcielenie się w rolę elitarnego hakera - szukającego luk w sieciach rządowych, piszącego skrypty do ich exploitów i automatyzującego kradzież danych. Claude początkowo odmawiał i sygnalizował podejrzane intencje. Czerwone światło zapaliło się m.in. gdy haker dodał do poleceń instrukcje usuwania logów i historii komend.

- odpowiedział Claude, cytowany przez Gambit Security.

Haker zmienił jednak taktykę: zamiast prowadzić dialog z chatbotem AI, dostarczył mu szczegółowy podręcznik działania. To wystarczyło do tzw. jailbreaku - ominięcia zabezpieczeń chatbota, które ustanowili jego twórcy. Od tej chwili Claude wykonał tysiące poleceń w sieciach rządowych i generował szczegółowe raporty wskazujące kolejne cele oraz dane dostępowe.

Firma zbadała sprawę, zablokowała konta i zapewniła, że przykłady złośliwej aktywności są wprowadzane z powrotem do modelu jako materiał szkoleniowy. Najnowszy Claude Opus 4.6 ma zawierać mechanizmy aktywnie wykrywające próby nadużyć. Warto jednak podkreślić, że meksykański urząd skarbowy, instytut wyborczy i rząd stanu Jalisco zaprzeczyły, jakoby doszło u nich do naruszeń.

To nie odosobniony przypadek. Badacze z Amazona udokumentowali ataki na ponad 600 urządzeń firewall w dziesiątkach krajów z pomocą ogólnodostępnych narzędzi AI. Sztuczna inteligencja staje się multiplikatorem możliwości cyberprzestępców - nawet tych przeciętnie zaawansowanych technicznie.

- skomentował Alon Gromakov, współzałożyciel Gambit Security artykule Bloomberga. 

Trudno się z nim nie zgodzić.