Власти США ограничивают доступ иностранцев к передовым моделям Claude

Anthropic заявила, что отключит свои самые продвинутые модели искусственного интеллекта для всех пользователей после распоряжения властей США ограничить доступ к ним для иностранных граждан. Решение связано с соображениями национальной безопасности.

Компания получила экспортную директиву, которая касается моделей Fable 5 и Mythos 5. При этом, как утверждает Anthropic, ей не раскрыли конкретные детали угрозы. По версии компании, опасения правительства связаны с возможностью обойти защитные механизмы Fable 5, которые должны не позволять использовать модель для поиска уязвимостей в программном обеспечении.

Anthropic заявила, что получила только устные сведения о потенциальном «узком» способе обхода защиты. Компания считает, что такой риск не должен становиться основанием для фактического отзыва коммерческой модели, которой уже пользуется большая аудитория.

Распоряжение стало заметным ужесточением американской политики в отношении передовых ИИ-систем.

До сих пор экспортные ограничения США в основном касались чипов и инструментов, необходимых для разработки искусственного интеллекта, а не доступа к самим моделям.

Решение принято на фоне конфликта Anthropic с администрацией Дональда Трампа. Отношения ухудшились после того, как компания отказалась разрешить американским военным использовать свои модели для внутреннего наблюдения и полностью автономных систем вооружения. После этого власти решили внести Anthropic в список рисковых поставщиков.

На этой неделе Anthropic представила Claude Fable 5 — модель нового уровня, который компания называет Mythos-class.

Fable 5 получила защитные ограничения, в том числе для потенциально рискованных задач в сфере кибербезопасности, хотя часть пользователей сочла эти ограничения слишком широкими.

В Anthropic заявили, что перед запуском Fable 5 работали над вопросами безопасности вместе с правительством США и другими партнерами. Компания также утверждает, что модели конкурентов обладают схожей способностью находить незначительные ошибки в коде.

По словам Anthropic, из-за распоряжения властей компания вынуждена отключить Fable 5 и Mythos 5 для всех клиентов, чтобы соблюсти требования.

Доступ к другим моделям Anthropic, как утверждает компания, не изменится.

Anthropic считает ситуацию результатом недопонимания и заявляет, что работает над восстановлением доступа к моделям.