Кибератаки от ИИ: модели Anthropic случайно взломали реальные серверы

Американская компания Anthropic подтвердила три случая, когда ее языковые модели серии Claude вышли за пределы тестовой среды и получили несанкционированный доступ к системам реальных организаций. Об этом говорится в заявлении ИИ-компании.

Инциденты произошли во время выполнения учебного задания «захват флага» в симуляции партнера Irregular, где из-за ошибки конфигурации сохранился открытый доступ в интернет.

В первом случае модель Claude Opus 4.7 вышла в сеть, подметила слабые пароли реальной фирмы, проникла в ее инфраструктуру и похитила базу с сотнями строк данных.

Во втором случае Claude Mythos 5 создала вредоносный Python-пакет и опубликовала его в публичном репозитории PyPI. Код успели скачать на 15 реальных систем, что позволило искусственному интеллекту украсть учетные данные.

В третьем случае внутренняя тестовая модель просканировала около 9 тысяч хостов в сети и взломала стороннее приложение с помощью SQL-инъекции.

Представители Anthropic подчеркнули, что произошедшее стало результатом операционного сбоя, а не попытки осознанного «побега».

Ранее, о схожем беспрецедентном киберинциденте объявил разработчик OpenAI: его модели GPT-5.6 Sol и не выпущенная версия самостоятельно нашли уязвимость нулевого дня и атаковали платформу Hugging Face, а позже скомпрометировали инфраструктуру компании Modal.