Притормозить развитие искусственного интеллекта призвал разработчик Claude
Глава компании Anthropic Дарио Амодеи предложил притормозить развитие ИИ, чтобы нейросети не захватили интернет в ближайшее время.
Напомним, Anthropic — создатель модели искусственного интеллекта Claude.
Инициатор призвал замедлить и начать тщательно контролировать развитие передовых моделей искусственного интеллекта.
По словам Дарио Амодеи, он не ставит под вопрос необходимость развития ИИ, но в то же время видит, что оно несет с собой серьезные угрозы, и компаниям и правительствам разных стран нужно дать время, чтобы разобраться с ними.
Глава Anthropic предлагает ужесточить контроль над развитием ИИ на трех направлениях: независимый мониторинг моделей ИИ и их совершенствования, разработка правил внутри ИИ-индустрии и принятие ограничений на глобальном уровне.
Компания заявила, что заблокировала деятельность неназванных пользователей, которые пытались применять ее модели искусственного интеллекта для исследований, способных привести к созданию биологического оружия.
Дарио Амодеи сравнил предполагаемое соглашение об ограничении скорости улучшения ИИ с договорами об ограничении вооружений времен Холодной войны.
Глава OpenAI Сэм Альтман уже поддержал идею Anthropic по замедлению разработки искусственного интеллекта.
А миллиардер Илон Маск заявил, что ИИ может быть опаснее ядерного оружия.
