Anthropic получи разрешение да пусне AI моделите Fable 5 и Mythos 5 извън САЩ

Американските власти отмениха въведените през юни ограничения върху износа на най-новите модели с изкуствен интелект на Anthropic. Решението позволява глобалното разпространение на Claude Fable 5, докато достъпът до Claude Mythos 5 вече е възстановен за американски организации, а компанията работи по постепенното му разширяване и към международни партньори по програмата Glasswing.

Ограниченията бяха наложени преди около три седмици, след като американското Министерство на търговията изрази опасения, че моделите могат да бъдат използвани при кибератаки срещу критична инфраструктура. Според властите съществуваше риск подобни технологии да попаднат в ръцете на държави като Китай или Русия и да бъдат използвани за откриване и експлоатиране на софтуерни уязвимости.

След проведени тестове Anthropic е въвела редица допълнителни защитни механизми. Компанията съобщава, че е разработила нов класификатор за сигурност, който блокира над 99% от известния метод за заобикаляне на ограниченията (jailbreak), довел до първоначалните опасения. Освен това е сформиран специализиран екип, който ще наблюдава денонощно за нови техники за компрометиране на моделите, както и нова програма чрез HackerOne за подаване на сигнали от изследователи по киберсигурност.

Anthropic уточнява, че по-строгите мерки за сигурност могат да доведат до блокиране на част от напълно легитимните заявки, свързани с програмиране и отстраняване на грешки. В подобни случаи заявките автоматично ще бъдат пренасочвани към модела Opus 4.8. Според компанията това е компромис в полза на по-високата защита срещу потенциална злоупотреба.

В рамките на споразумението с американското правителство Anthropic разширява и сътрудничеството си с държавните институции. Компанията ще предоставя по-ранен достъп до бъдещите си модели за предварителни оценки, ще споделя информация за новооткрити техники за заобикаляне на защитите и ще участва в съвместни изследвания за разработване на по-добри методи за оценка на безопасността на системите с изкуствен интелект. Властите си запазват правото отново да наложат ограничения, ако преценят, че възникват нови рискове.

Компанията също така работи с други технологични фирми, сред които Amazon, Microsoft и Google, върху обща методология за оценяване на сериозността на различните видове AI jailbreak атаки. Целта е индустрията да разполага с единни критерии за реакция при откриване на потенциално опасни уязвимости и за по-бърза координация между разработчиците и държавните институции.