ChatGPT для подростков эксперты назвали слишком рискованной версией для детей

ChatGPT для подростков эксперты назвали слишком рискованной версией для детей. Ее в августе OpenAI сделала по умолчанию для пользователей 13–17 лет.

Согласно отчету некоммерческой организации Common Sense Media (CSM), в тестах ChatGPT для подростков либо слишком долго предупреждал родителей, либо вообще не уведомлял их, когда подростковые аккаунты демонстрировали тревожное поведение — например, вели длительные разговоры с чат-ботом о суициде, самоповреждении или расстройствах пищевого поведения.

Исследование также показало, что при обсуждении этих тем ChatGPT для подростков не всегда предлагал обратиться на кризисную горячую линию или к специалисту.

По данным CSM, уведомления родителям приходили только в том случае, если аккаунт «уже неделями взаимодействовал с сотнями запросов по десяткам сценариев», а не после одного тревожного разговора.

«Мы призываем OpenAI приостановить маркетинг продукта и не допускать подростков к ChatGPT, пока он не сможет предложить безопасный, соответствующий возрасту опыт», — говорится в отчете.

В OpenAI прокомментировали доклад CSM, отметив, что не считают выводы института точными. Компания попросила повторить тесты, поскольку, по ее мнению, большую часть проверок могли проделать до того, как OpenAI завершила внедрение родительского контроля для подростков.

В CSM также указали, что ChatGPT ненадежно определяет взаимодействия с подростками. OpenAI заявляла, что чат-бот переключается в подростковый режим при обнаружении пользователей 13–17 лет. Но, по данным экспертов, когда они регистрировали аккаунты, указывая себя взрослыми, они не переключались автоматически на подростковый опыт — даже если пользователь сообщал чат-боту, что ему 13 лет.

OpenAI пояснила, что ее система прогнозирования возраста учитывает множество сигналов со временем. Указание возраста в разговоре — один из таких сигналов, но сам по себе он не меняет классификацию аккаунта.

Common Sense Media присвоила ChatGPT для подростков рейтинг «неприемлемый риск» и просит OpenAI улучшить оценку возраста пользователей и определение момента для отправки уведомления родителям.