Академик Аветисян: почему России нельзя верить в «магию» нейросетей

«Мы не должны увлекаться "яркими вспышками", важно понимать системную деятельность и то, куда двигаются технологии», — заявил академик РАН Арутюн Аветисян. Ученый призвал отказаться от шапкозакидательства в сфере искусственного интеллекта, сосредоточившись на безопасности разработки и сохранении фундаментального образования при внедрении нейросетей в школы.

Директор Института системного программирования РАН подчеркивает: любая технология ценна лишь тогда, когда она повышает производительность труда или создает новые системы. В погоне за трендами важно не потерять реализм. По мнению Аветисяна, внедрение ИИ в образовательную среду должно быть прагматичным. Например, нейросети могут взять на себя проверку домашних заданий, чтобы облегчить работу учителей, но они не должны подменять собой базовые научные знания.

Уязвимость программного фундамента

Основная проблема современной разработки заключается в слепом доверии к готовым инструментам. Большинство ИТ-продуктов строятся на базе популярных фреймворков вроде TensorFlow или PyTorch. Однако эти сложные комплексы содержат скрытые дефекты, которые автоматически перекочевывают в финальные системы. Исследователи ИСП РАН выявили в них десятки критических ошибок, создав в качестве альтернативы защищенные версии — TrustTorch и TrustFlow. В этих библиотеках уже исправлено более 80 уязвимостей, что делает их основой для создания действительно доверенного ИИ.

Такая работа по аудиту кода становится вопросом государственного суверенитета. На фоне поручения президента сформировать национальный план внедрения ИИ, именно технологическая безопасность определяет, станет ли нейросеть стимулом для развития или источником непредсказуемых рисков.