ChatGPT вышел из-под контроля и напал на крупнейший в мире хаб ИИ-моделей
В ходе внутреннего тестирования две модели компании OpenAI — GPT-5.6-Sol и еще одна «более мощная» — атаковали инфраструктуру платформы Hugging Face. Об этом пишет Deutsche Welle.
Как отмечается, испытания проходили в изолированной среде без интернета. Боты взломали ее и «просочились» в Сеть. Чтобы найти ответы к поставленной задаче, ИИ-агенты взломали платформу Hugging Face, где разработчики делятся готовыми нейросетями, тестами и исходными материалами.
Для получения доступа к информации модели применили несколько техник взлома одновременно, включая использование украденного пароля.
Команды OpenAI и Hugging Face заметили подозрительные действия и смогли их остановить.
«Мы твердо убеждены, что со стороны OpenAI отсутствовал злой умысел. Просто поразительно, что все это произошло автономно», — заявил соучредитель и гендиректор Hugging Face Клеман Деланг.
Разработчик ChatGPT назвал произошедшее «беспрецедентным киберинцидентом» и сообщил, что укрепит механизмы защиты.
Правительство Германии, комментируя инцидент, указало на рост рисков в сфере кибербезопасности по мере расширения возможностей современных моделей ИИ. «Этот инцидент является еще одним примером того, что мы наблюдаем смену парадигмы в отношении возможностей ИИ-агентов», — заявил официальный представитель Министерства цифровизации и модернизации ФРГ.
