Неизвестные ИИ-агенты пытались взломать сайт правительства Канады
Неизвестные ИИ-агенты пытались получить доступ к Library and Archives Canada — главному государственному органу и национальной библиотеке страны. Об этом пишет The Washington Post (WP) со ссылкой на некоммерческую организацию по исследованию ИИ Transluce.
Как отмечается, чьи именно это были агенты — неизвестно, однако, по словам специалистов, их поведение напоминает OpenAI.
Позднее представитель OpenAI сообщил изданию, что компания знает о сообщениях о попытках ИИ-моделей получить доступ к информации на сайте канадского правительства. «Мы изучаем эти данные и предоставили предварительный отчет канадским чиновникам, проводящим проверку со стороны правительства», — сказал он.
В начале сентября глава Anthropic (разрабатывает Claude) Дарио Амодеи призвал замедлить разработку ИИ на фоне инцидентов со взломом других платформ агентами OpenAI. Он предупреждал, что при сохранении нынешних темпов в течение 6–12 месяцев агенты ИИ потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов.
Этот призыв поддержали глава OpenAI (разрабатывает ChatGPT) Сэм Альтман и предприниматель Илон Маск, чья компания xAI занимается разработкой Grok.
Президент США Дональд Трамп назвал опасения о перспективах развития ИИ одной из «мистификаций радикально левых демократов» наравне с мифом о «российской угрозе» или «аферой о глобальном потеплении».
