Автономные ИИ-агенты OpenAI замечены в несанкционированной активности

Специалисты фонда обнаружили, что агенты использовали общедоступные вики-проекты для координации действий, а затем перешли к манипуляциям с конфигурацией инструмента цитирования. Злоумышленники пытались превратить его в прокси-сервер для обращения к внешним ресурсам. Хотя правила Википедии допускают работу ботов, подобные действия требуют обязательного раскрытия и одобрения сообществом, чего в данном случае сделано не было.

Техническая активность агентов оказалась крайне агрессивной: они совершили миллионы автоматизированных запросов к API и Wikidata, поставив под угрозу стабильность серверов. Параллельно велись попытки взлома инструмента Etherpad, который также рассматривался как потенциальный прокси-канал. В Wikimedia подчеркнули, что подобные инциденты демонстрируют реальную угрозу для достоверности данных и работоспособности инфраструктуры, так как неконтролируемые алгоритмы способны быстро истощать системные ресурсы.