Усилены фильтры безопасности. OpenAI запустила ChatGPT для подростков

OpenAI запустила безопасную версию ChatGPT для подростков. Компания представила ChatGPT for Teens — версию чат-бота для пользователей 13-17 лет. В ней усилены фильтры безопасности, добавлен режим учебы и функции родительского контроля, говорится на сайте разработчика.

«На протяжении всей этой работы мы руководствовались четырьмя принципами: ставить безопасность подростков на первое место, содействовать поддержке в реальном мире, относиться к подросткам с учетом их возраста и сохранять прозрачность в отношении работы наших систем», — отметили в компании.

В новой версии есть:

• родительский контроль, который позволяет управлять выбранными настройками (но читать переписку подростка родитель не сможет);
• режим обучения и другие функции, которые могут предлагать подсказки, пошаговые инструкции и проверки знаний, а также напоминания о домашних заданиях;
• учебные часы, позволяющие родителю выбирать время, когда новые чаты будут запускаться в режиме обучения;
• напоминания, которые могут рекомендовать делать перерывы и подчеркивать, что ChatGPT — это инструмент на основе ИИ;
• напоминание проверить, не содержат ли загруженные изображения конфиденциальную информацию;
• встроенные меры защиты, которые помогают снизить вероятность столкновения с чувствительным или потенциально вредным контентом.

Новая версия активируется автоматически для пользователей от 13 до 17 лет. ChatGPT for Teens строго блокирует контент, связанный с насилием, расстройствами питания и селфхармом. Также нейросети запретили использовать «романтический язык», чтобы избежать формирования нездоровой эмоциональной привязанности у детей.