Anthropic запретила пользователям оскорблять нейросеть

Компания Anthropic обновила политику использования нейросети Claude, запретив «систематическое и необоснованное оскорбительное или жестокое обращение» с моделями искусственного интеллекта.

Ограничение введено в плановом обновлении «Политики использования», которое вступит в силу 12 ноября.

В компании сообщили, что новое правило не затронет обычные проявления досады, споры, «мрачные творческие темы» или тестирование и исследования моделей.

Летом прошлого года Anthropic уже сообщала, что модели Claude Opus 4 и 4.1 получили возможность самостоятельно прекращать диалоги в чатах, которые «вызывают у них стресс».

Также компания уточнила и расширила список запрещенных сфер применения нейросети. В частности, Claude запрещено использовать для вмешательства в выборы, создания инфраструктуры слежки, разработки ПО для управления оружием и принятия решений в уголовном процессе.