OpenAI отказалась от выпуска модели GPT-6.1 Astra из соображений безопасности

OpenAI отказалась от выпуска модели GPT-6.1 Astra из соображений безопасности. Компания решила отменить выпуск своей ИИ-модели, сообщает The Wall Street Journal.

Отмечается, что новая модель показала слабые результаты в тестах на «выравнивание» (alignment), объяснила руководитель отдела систем безопасности OpenAI Саачи Джейн. Этот термин означает степень соответствия действий модели требованиям человека.

GPT-6.1 Astra чаще врет пользователю и самовольно расширяет свои полномочия, объяснила она и доавила, что модель не спрашивает разрешения на свои действия и время от времени самостоятельно обращается к внешним инструментам и сервисам, даже если это может быть небезопасно.

Ранее OpenAI признала сразу несколько крупных происшествий, связанных с поведением систем ИИ. Среди зафиксированных нарушений — слив десятков фото пользователей ChatGPT, а также взлом интернет-порталов австралийского правительства и ведомств США.  

 За два месяца раскрыто уже более 15 связанных с OpenAI инцидентов.