Mythos pod lupą - banki sprawdzają AI, które potrafi atakować systemy

Kiedy sekretarz skarbu Scott Bessent i szef Rezerwy Federalnej Jerome Powell zwoływali w tym tygodniu awaryjne spotkanie z prezesami największych banków Wall Street, wiadomo było jedno: coś poważnego wisi w powietrzu. Tematem był Mythos - najnowszy model AI od Anthropic, który potrafi znajdować luki w zabezpieczeniach szybciej i skuteczniej niż cokolwiek wcześniej.

Według Bloomberg, Bessent i Powell spotkali się z kadrą zarządzającą Wall Street, by ostrzec ich, że Mythos należy traktować poważnie i zachęcić do jego wykorzystania jako narzędzia do identyfikowania słabości we własnych systemach. Paradoks? Tylko teoretycznie, bo w praktyce model, który może być użyty do ataku, ma jednocześnie chronić przed atakiem.

Wśród banków testujących Mythos wewnętrznie znalazły się JPMorgan Chase, Goldman Sachs, Citigroup, Bank of America oraz Morgan Stanley. JPMorgan był jedyną instytucją finansową wymienioną jako oficjalny partner startowy z dostępem do modelu, pozostałe dołączyły nieco ciszej.

Dlaczego Anthropic w ogóle ogranicza dostęp? Firma sama przyznała, że Mythos jest „obecnie daleko przed jakimkolwiek innym modelem AI pod względem możliwości cybernetycznych" i że „zwiastuje nadchodzącą falę modeli zdolnych do wykorzystywania luk w sposób, który daleko wyprzedza możliwości obrońców." 

Innymi słowy stworzyli coś, czego sami się boją. Model odkrył m.in. lukę w systemie FreeBSD, która miała 17 lat i dawała atakującemu pełny dostęp do maszyny bez uwierzytelnienia. To już nie czcze przechwałki, ale realne użycie, które faktycznie może wywołać spore zamieszanie w sferze bankowej… i nie tylko.

Część ekspertów twierdzi jednak, że alarm jest na wyrost i że to po prostu sprytna strategia sprzedażowa klasy enterprise. Sceptycyzm jest uzasadniony, bo hype wokół nowych modeli AI to dziś niemal standard.

Tymczasem Anthropic prowadzi jeszcze jedną bitwę, ale tym razem sądową. Firma jest w sporze prawnym z administracją Trumpa po tym, jak Departament Wojny zakwalifikował Anthropic jako ryzyko dla łańcucha dostaw - decyzja ta padła po nieudanych negocjacjach dotyczących ograniczeń w rządowym użytkowaniu modeli AI. Sytuacja jest co najmniej osobliwa: z jednej strony rząd zachęca banki do korzystania z Mythosa, z drugiej pozywa Anthropic do sądu.

Do dyskusji dołączają też brytyjscy regulatorzy finansowi, którzy analizują ryzyko związane z Mythosem.