После усиления защиты OpenAI возобновила обучение ИИ-моделей

OpenAI возобновила обучение своих наиболее продвинутых моделей искусственного интеллекта (ИИ). Работы приостанавливали после того, как в сентябре исследовательская модель из-за ошибки конфигурации получила ограниченный доступ к интернету. За время паузы компания усилила защиту и отключила сетевой доступ.

При проверке системы с помощью ИИ-агентов специалисты обнаружили ранее неизвестные уязвимости и сообщили об их устранении. В ходе испытаний также выявили проблему в Brotli, широко используемом инструменте сжатия данных. Она могла позволить злоумышленникам запускать собственный код на уязвимых системах, включая те, где применяются Node. js, Bun и Envoy.

После раскрытия информации Brotli выпустил обновленные версии. Отдельная проверка организаций METR и Redwood Research выявила недостатки внутренних механизмов контроля OpenAI.

Компания заявила, что исправила уязвимости в действующих защитных системах, однако исследователи пока не подтвердили устранение всех проблем.