Доступ к самым мощным ИИ-моделям компании Anthropic закрыли для всех иностранцев

Власти США обязали Anthropic закрыть иностранцам доступ к своим самым мощным ИИ-моделям, компания отключила доступ всем пользователям как внутри, так и за пределами Соединенных Штатов, включая иностранных сотрудников Anthropic.

«В результате этого распоряжения мы вынуждены внезапно отключить доступ к Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение требований», — говорится в заявлении компании.

Власти страны сослались на требования органов безопасности, однако в распоряжении не содержалось конкретных деталей о возможных угрозах. По данным Anthropic, правительство узнало о способе взломать Fable 5, компания изучила этот конкретный метод взлома и обнаружила незначительные уязвимости, однако нашла их и в других общедоступных моделях.

«В течение нескольких недель, предшествовавших запуску Fable, компания Anthropic работала с правительством США, британским институтом AISI, многочисленными частными сторонними организациями и внутренними командами, в общей сложности потратив тысячи часов на проверку систем безопасности Fable. Эти тесты показали, что системы защиты Fable значительно эффективнее, чем у любой ранее использовавшейся модели... Мы предполагаем, что идеальная защита от джейлбрейка в настоящее время невозможна ни для одного разработчика моделей», — указали в Anthropic.

Компания выполнила требование правительства, но выразила несогласие с тем, что обнаружение потенциальной уязвимости признано основанием для отзыва коммерческой модели, развернутой для сотен миллионов людей.

В феврале между Пентагоном и Anthropic произошел публичный конфликт — Министерство войны потребовало предоставить неограниченный доступ к модели Claude для использования в военных целях. Гендиректор компании Дарио Амодеи отклонил требование Пентагона, после чего президент Дональд Трамп запретил американским правительственным учреждениям использовать модели Anthropic.

Американская компания Anthropic — один из главных мировых разработчиков в сфере ИИ.