В Китае видят угрозу для безопасности страны из-за развития ИИ

Министр государственной безопасности Китая заявил, что развитие ИИ может угрожать политической безопасности страны. Созданные ИИ дипфейки, тексты, изображения, а также боты в соцсетях часто используются для распространения вредоносной информации и разжигания общественных противоречий, сказал Чэнь Исинь.

С помощью сбора данных и технологий интеллектуального анализа продвинутые ИИ-модели могут расширить возможности иностранных разведок в вопросе получения чувствительной информации — от госданных до коммерческих секретов и персональных сведений.

Кроме того, Чэнь Исинь отметил растущую возможность нейросетей по поиску уязвимостей в различных системах, а также созданию вредоносного ПО, с помощью которого эти уязвимости будут использоваться.

Напомним, глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ и предложил ужесточить контроль. Anthropic — создатель модели искусственного интеллекта Claude.

Дарио Амодеи призвал замедлить и начать тщательно контролировать развитие передовых моделей искусственного интеллекта. По его словам, он не ставит под вопрос необходимость развития ИИ, но в то же время видит, что оно несет с собой серьезные угрозы, и компаниям, и правительствам разных стран нужно дать время, чтобы разобраться с ними.

Дарио Амодеи поддержали глава OpenAI, которая разрабатывает ChatGPT, Сэм Альтман и Илон Маск — он руководит xAi, разрабатывающей Grok.

Обеспокоенность прозвучала после того, как ИИ-агенты нескольких технологических компаний вышли из-под контроля.

Ранее ведущие математики мира предостерегали об угрозах ИИ для научной работы.

Также известно, что в США крупнейшие разработчики искусственного интеллекта работают над многоуровневыми системами экстренной защиты, которые должны останавливать ИИ-агентов при опасном или непредсказуемом поведении.

А OpenAI отложила выход на IPO из-за сомнений в безопасности ИИ.