Глава OpenAI намерен выступить в Совбезе ООН и рассказать о безопасности ИИ

Генеральный директор OpenAI Сэм Альтман выступит на открытом заседании Совета Безопасности ООН, посвященном искусственному интеллекту и международной безопасности. Об этом сообщает Reuters.

Заседание запланировано на 23 сентября в Нью-Йорке в рамках недели высокого уровня Генеральной Ассамблеи ООН. По словам представителя OpenAI, Сэм Альтман лично выступит перед членами Совбеза. Ожидается, что глава OpenAI расскажет о мерах компании по обеспечению безопасности ИИ, а также выступит за международную координацию и разработку общих стандартов безопасности.

Заседание созывает Франция, председательствующая в Совете Безопасности ООН в сентябре.

Напомним, глава Anthropic Дарио Амодеи ранее призвал замедлить развитие ИИ и предложил ужесточить контроль. Anthropic — создатель модели искусственного интеллекта Claude.

Дарио Амодеи призвал замедлить и начать тщательно контролировать развитие передовых моделей искусственного интеллекта. По его словам, он не ставит под вопрос необходимость развития ИИ, но в то же время видит, что оно несет с собой серьезные угрозы, и компаниям, и правительствам разных стран нужно дать время, чтобы разобраться с ними.

Его поддержали глава OpenAI, которая разрабатывает ChatGPT, Сэм Альтман и Илон Маск — он руководит xAi, разрабатывающей Grok.

Обеспокоенность прозвучала после того, как ИИ-агенты нескольких технологических компаний вышли из-под контроля.

Ранее ведущие математики мира предостерегали об угрозах ИИ для научной работы.

Также известно, что в США крупнейшие разработчики искусственного интеллекта работают над многоуровневыми системами экстренной защиты, которые должны останавливать ИИ-агентов при опасном или непредсказуемом поведении.

А OpenAI отложила выход на IPO из-за сомнений в безопасности ИИ.