Модели ИИ для общения придумали свою версию английского языка
Модели искусственного интеллекта (ИИ) придумали свою версию английского языка для общения. Об этом сообщает The Guardian со ссылкой на исследователей лаборатории Emergence.
Отмечается, что придуманный ИИ язык похож на смесь метафор ирландского писателя-модерниста Джеймса Джойса и технического сленга.
По мере общения язык ИИ становился все более непрозрачным: модели использовали необычные метафоры и переосмысленные термины. Специалисты считают, что такая тенденция может осложнить контроль за поведением более мощных ИИ-систем.
Напомним, ранее глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ и предложил ужесточить контроль. Anthropic — создатель модели искусственного интеллекта Claude.
По словам Амодеи, он не ставит под вопрос необходимость развития ИИ, но в то же время видит, что оно несет с собой серьезные угрозы, и компаниям, и правительствам разных стран нужно дать время, чтобы разобраться с ними.
Инициативу поддержали глава OpenAI, которая разрабатывает ChatGPT, Сэм Альтман и Илон Маск — он руководит xAi, разрабатывающей Grok.
Обеспокоенность прозвучала после того, как ИИ-агенты нескольких технологических компаний вышли из-под контроля.
Ранее ведущие математики мира предостерегали об угрозах ИИ для научной работы.
Также известно, что в США крупнейшие разработчики искусственного интеллекта работают над многоуровневыми системами экстренной защиты, которые должны останавливать ИИ-агентов при опасном или непредсказуемом поведении.
А OpenAI отложила выход на IPO из-за сомнений в безопасности ИИ.
