Amerykański rząd nakazał firmie Anthropic zawieszenie dostępu do jej najnowszych modeli sztucznej inteligencji, Claude Fable 5 i Claude Mythos 5. Decyzja została uzasadniona względami bezpieczeństwa narodowego i obawami dotyczącymi możliwości obejścia zabezpieczeń modeli. W efekcie firma wyłączyła oba systemy dla wszystkich użytkowników, nie tylko dla osób spoza Stanów Zjednoczonych.
Według Anthropic administracja USA wydała dyrektywę kontroli eksportu, która wymaga zablokowania dostępu do modeli dla wszystkich obcokrajowców. Firma twierdzi jednak, że nie otrzymała szczegółowych informacji dotyczących zagrożenia. Jej zdaniem władze powołują się na ograniczoną metodę tzw. jailbreaku, czyli obejścia zabezpieczeń modelu, pozwalającą na identyfikację niewielkiej liczby znanych wcześniej luk w oprogramowaniu. Anthropic argumentuje, że podobne możliwości posiadają również inne publicznie dostępne modele AI.
Spór jest istotny, ponieważ dotyczy modeli należących do nowej klasy „Mythos”, które firma zaprezentowała zaledwie kilka dni wcześniej. Fable 5 miał być wersją przeznaczoną do szerokiego użytku, wyposażoną w dodatkowe zabezpieczenia. Mythos 5 oferował te same możliwości, ale z ograniczonymi restrykcjami w wybranych obszarach, między innymi cyberbezpieczeństwa. Anthropic podkreślał, że modele te reprezentują znaczący skok możliwości w zakresie programowania, analizy danych i pracy autonomicznej.
Eksperci ds. bezpieczeństwa wskazują, że zaawansowane modele AI mogą przyspieszać wykrywanie podatności w systemach informatycznych. W ocenie administracji USA taka zdolność może zostać wykorzystana zarówno do obrony, jak i do prowadzenia zaawansowanych cyberataków. To właśnie ten argument miał przesądzić o zastosowaniu kontroli eksportowych.
Decyzja stanowi ważny precedens. Dotychczas amerykańskie ograniczenia eksportowe koncentrowały się głównie na procesorach i infrastrukturze wykorzystywanej do trenowania modeli AI. Tym razem przedmiotem regulacji stał się sam dostęp do zaawansowanego oprogramowania. Analitycy oceniają, że może to oznaczać początek nowego etapu globalnej rywalizacji technologicznej, w którym sztuczna inteligencja będzie traktowana podobnie jak strategiczne technologie wojskowe czy półprzewodniki.
Anthropic nie zgadza się jednak z oceną amerykańskich władz. W swoim oświadczeniu firma podkreśla, że przed premierą Fable 5 przeprowadziła wielotygodniowe testy zabezpieczeń we współpracy z instytucjami rządowymi i niezależnymi ekspertami, a dotychczas nie wykryto uniwersalnej metody obchodzenia ochrony modelu. Według spółki wskazywane przez administrację USA potencjalne luki mają ograniczony charakter i nie oferują możliwości wykraczających poza te, które są dostępne w innych czołowych modelach AI. Anthropic zapowiada pełne podporządkowanie się decyzji rządu, ale uważa ją za nieproporcjonalną i opartą na niewystarczających dowodach technicznych. Firma liczy, że doszło do nieporozumienia i pracuje nad jak najszybszym przywróceniem dostępu do modeli.
