USA zastavily přístup k nejvýkonnějším AI modelům. Anthropic musel vypnout Fable 5 a Mythos 5

Společnost Anthropic oznámila, že na základě mimořádné směrnice americké vlády musela pozastavit přístup k modelům Fable 5 a Mythos 5 pro zahraniční osoby. Opatření se vztahuje na uživatele mimo Spojené státy i na zahraniční státní příslušníky nacházející se na jejich území, včetně některých zaměstnanců samotné společnosti.

Jde o mimořádný krok, který může naznačovat nový směr v přístupu států k regulaci nejpokročilejších systémů umělé inteligence.

Co se stalo?

Anthropic ve svém oficiálním vyjádření uvedl:

„Vláda Spojených států vydala na základě pravomocí v oblasti národní bezpečnosti exportní kontrolní směrnici, která pozastavuje veškerý přístup k modelům Fable 5 a Mythos 5 pro jakoukoli zahraniční osobu, ať už uvnitř nebo mimo Spojené státy, včetně zahraničních zaměstnanců společnosti Anthropic.“

Společnost zároveň zdůraznila, že opatření se týká pouze modelů Fable 5 a Mythos 5. Ostatní modely z rodiny Claude zůstávají nadále dostupné.

Proč vláda zasáhla?

Přesné znění vládní směrnice nebylo zveřejněno a americké ministerstvo obchodu zatím neposkytlo podrobnější veřejné vysvětlení.

Podle informací agentury Reuters souvisí rozhodnutí s obavami, že by mohl existovat způsob, jak obejít některé bezpečnostní mechanismy modelu Fable 5 prostřednictvím tzv. jailbreaku. Taková technika může za určitých okolností přimět model poskytovat odpovědi, které by jinak odmítl.

Anthropic však uvedl, že šlo pouze o omezený scénář a nikoliv o univerzální prolomení bezpečnostních opatření. Firma zároveň upozornila, že podobné techniky byly v minulosti zaznamenány i u jiných veřejně dostupných modelů.

Co jsou Fable 5 a Mythos 5?

Fable 5 je podle Anthropicu jeho nejvýkonnější široce dostupný model určený pro náročné úlohy v oblasti programování, analýzy, výzkumu a práce s rozsáhlým kontextem.

Mythos 5 představuje speciální variantu dostupnou pouze omezenému okruhu schválených organizací. Anthropic jej nabízí především pro pokročilé výzkumné a bezpečnostní scénáře v rámci programu Project Glasswing.

Společnost dříve uvedla, že Mythos 5 disponuje jejími nejsilnějšími schopnostmi v oblastech souvisejících s kybernetickou bezpečností a technickou analýzou.

Právě tato skutečnost je jedním z důvodů, proč rozhodnutí americké vlády vyvolalo značnou pozornost bezpečnostní komunity.

Přelomový okamžik pro AI průmysl

Největší význam celé události nespočívá pouze v samotných modelech Fable 5 a Mythos 5.

Zásadní je skutečnost, že americká vláda využila nástroje exportních kontrol přímo vůči přístupu k pokročilým AI modelům.

V posledních letech byly exportní omezení spojována především s:

• pokročilými polovodiči,
• výkonnými AI akcelerátory,
• výrobními technologiemi pro čipy,
• kryptografickými systémy,
• strategickými technologiemi s dopadem na národní bezpečnost.

Současný případ ukazuje, že podobné mechanismy se mohou začít vztahovat také na samotné modely umělé inteligence.

Dopady na firmy a organizace mimo USA

Událost zároveň otevírá širší debatu o závislosti firem, výzkumných institucí a veřejného sektoru na amerických AI službách.

Pokud by se podobný přístup v budoucnu rozšířil i na další modely nebo poskytovatele, mohly by se organizace mimo Spojené státy ocitnout v situaci, kdy ztratí přístup ke klíčovým AI nástrojům na základě regulatorního nebo bezpečnostního rozhodnutí jiné země.

To se netýká pouze technologických společností.

Dopady by mohly pocítit také:

• bezpečnostní týmy,
• provozovatelé kritické infrastruktury,
• univerzity,
• výzkumné organizace,
• státní instituce.

Otázka technologické suverenity a dostupnosti strategických AI systémů proto pravděpodobně získá v následujících měsících ještě větší význam.

Anthropic volá po transparentních pravidlech

Anthropic uvedl, že chápe potřebu chránit národní bezpečnost a předcházet zneužití pokročilé umělé inteligence.

Současně však zdůraznil, že podobná rozhodnutí by měla být podložena transparentním procesem, jasnými pravidly a technickými důkazy.

Podle společnosti je důležité najít rovnováhu mezi bezpečností a možností využívat AI pro legitimní výzkum, inovace a obranné účely.

Závěr

Rozhodnutí týkající se modelů Fable 5 a Mythos 5 může představovat jeden z nejvýznamnějších momentů letošního roku v oblasti umělé inteligence.

Nejde pouze o příběh jedné technologické společnosti. Jde o dosud jeden z nejvýraznějších případů, kdy byl přístup k pokročilým AI modelům omezen z důvodů národní bezpečnosti.

Zatím není jasné, zda půjde o jednorázové opatření, nebo o začátek širšího trendu. Jisté však je, že debata o tom, kdo může používat nejvýkonnější systémy umělé inteligence a za jakých podmínek, právě vstoupila do nové fáze.

Zdroje

• Anthropic – Official Statement
• Reuters
• Axios
• Associated Press (AP)