OpenAI отозвала обновление ChatGPT: слишком часто во всем соглашается и льстит
Компания OpenAI отозвала последнее обновление модели GPT-4o, которая содержалась в основе чат-бота с искусственным интеллектом ChatGPT, после многочисленных жалоб пользователей на чрезмерно льстивое и раздражающее поведение сервиса. Об этом сообщила пресс-служба фирмы.
«Мы отменили обновление GPT-4o, выпущенное на прошлой неделе, поскольку оно оказалось чрезмерно льстивым и соглашательским — часто описываемым как подхалимское. Сейчас пользователи работают с более ранней версией, демонстрирующей более сбалансированное поведение», — говорится в сообщении.
Компания также признала, что подобные взаимодействия могли быть «неприятными, вызывать беспокойство и причинять стресс», и пообещала внести дальнейшие улучшения в поведение модели.
Среди возможных причин сбоя указывается влияние обратной связи от пользователей, применяемой в системе обучения.
В будущем OpenAI планирует предложить выбор между несколькими стандартными личностями и возможность влиять на поведение модели в реальном времени. Кроме того, она изучает способы учитывать культурные особенности и общественную обратную связь при формировании базовой модели поведения.
Ранее генеральный директор компании Сэм Альтман признал проблему и сообщил, что OpenAI работает над корректировкой «личности» модели. Он отметил, что последние обновления сделали личность модели «слишком раздражающей», и пообещал внести исправления в ближайшее время.
