Кибербезопасность. OpenAI приостановила обучение новых моделей ИИ из-за рисков

OpenAI объявила, что на две недели приостановила обучение новых моделей ИИ из-за рисков в сфере кибербезопасности. Об этом говорится в заявлении, опубликованном на сайте компании.

Решение объясняется «инцидентом с OpenAI и Hugging Face», а также предварительными данными о том, что разрабатываемая модель Astra может достичь «критического уровня» возможностей в сфере кибербезопасности.

В компании намерены усилить системы контроля и защиты.

Указано, что по мере роста возможностей ИИ-моделей увеличиваются и риски, связанные с их разработкой и тестированием, поэтому стандарты мониторинга и безопасности должны их опережать.

«Мы хотели уделить необходимое время для достижения этих стандартов, поэтому временно замедлили темпы масштабирования», — говорится в сообщении.

В OpenAI пояснили, что использовали двухнедельную паузу для усиления защиты исследовательской инфраструктуры, дополнительного тестирования систем безопасности и расширения мониторинга.

Для моделей Astra и связанных с кибербезопасностью разработок OpenAI вводит наиболее строгие требования к защите исследовательской среды. Они включают изоляцию рабочих нагрузок, дополнительные ограничения сетевого доступа и постоянное тестирование систем безопасности.