Главный редактор еженедельника «АН» Андрей УГЛАНОВ в интервью с академиком РАН Игорем
КАЛЯЕВЫМ обсуждают текущее состояние и перспективы развития в России суперкомпьютерных технологий, искусственного интеллекта и квантовых вычислительных систем. Первая, значительная часть разговора была опубликована в «АН» №23. В этом номере – окончание беседы.
«Нейронки» – если и прогресс, то как оружие будущего?
– Как вы считаете, есть ли у неких стран, прежде всего США и Китая, возможность атаковать наши компьютерные сети какими-то особыми нейронками, которые поставят наши сети в тупик? Совпадают ли логика и протоколы работы компьютерных общедоступных сетей, серверов с логикой работы нейронок? Это очень важно для понимания уровня безопасности, на котором работает государство. Не только наше, а вообще все.
– Безусловно, такие возможности есть, и некоторые недружественные нам страны ими уже сегодня пользуются. Лучшим способом противостояния таким атакам, проводимым с использованием искусственного интеллекта (ИИ), я считаю использование другого ИИ для их парирования. Технологии ИИ позволяют оперативно реагировать на несанкционированные внешние воздействия на компьютерную сеть, обеспечивать контроль доступа к ней, выявлять потенциальные уязвимости и т.д., с чем никакой сетевой администратор справиться уже не способен.
– Все научные достижения, за самым незначительным исключением, используются не только во благо, но и во вред человеку. Прежде всего нашими противниками и конкурентами. Вы представляете себе существование нейронок, которые будут атаковывать чужие серверы так, как это делают сегодня компьютерные вредоносные вирусы. Вот простой пример. Если я запрошу у нейронки оценить некое событие с точки зрения его общечеловеческого понимания, то чаще всего оценка идёт с точки зрения нашего противника. Нейронка-то с «ненашей» стороны. Где здесь опасность применения ИИ? Вы как-то даже сказали такую фразу: в настоящее время искусственный интеллект и его производные становятся не только основным средством экономического роста и повышения социального благосостояния, но и мощнейшим оружием в противостоянии ведущих мировых держав. И тут же напомнили слова президента Путина: «Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта – тот станет властелином мира». Он произнёс эту фразу четыре года назад. Что сегодня?
– В настоящее время наша человеческая цивилизация становится всё сильнее зависима от компьютерных технологий и реализуемого на их основе искусственного интеллекта. Искусственный интеллект является основным движителем происходящего сейчас перехода от ноосферы по Вернадскому, т.е. биосферы, управляемой человеческим разумом (интеллектом), к киберсфере. То есть биосфере, управляемой компьютерным искусственным интеллектом.
Переход к киберсфере порождает целый ряд глобальных проблем, которые могут привести к опасным непрогнозируемым последствиям для всего человеческого сообщества. Наверное, самой опасной из них является возникновение возможностей целенаправленного (искусственного) управления менталитетом людей. И, как следствие, человеческой эволюцией посредством навязывания и распространения через интернет-пространство неестественных ценностей и потребностей. К примеру, пропаганда и мотивирование низменных инстинктов и примитивизации; подмена человеческих и культурных ценностей; манипулирование сознанием, повсеместная ложь, дезинформация, лицемерие; укоренение двойных стандартов; замена школы знаний на школу навыков и т.п.
Всё это является элементами войн нового типа, а именно – ментальных войн. И если в современных войнах целью является уничтожение живой силы и инфраструктуры противника, то в недалёком будущем целью ментальной войны станет уничтожение самосознания и изменение менталитета населения страны-противника, после чего это население само покорится оккупанту. Более того, будет считать его своим благодетелем. Причём если живую силу и инфраструктуру можно восстановить, то самосознание и ментальность людей восстановить гораздо сложнее, тем более что последствия таких ментальных атак проявляются не сразу, а только через некоторое время, когда предпринимать какие-либо защитные меры по их отражению уже поздно.
Наглядным примером эффективности ментальной войны является Украина, где ровно за одно поколение были разрушены самосознание и историческая память населения целой страны и полностью изменён его менталитет. В результате чего неприкрытая оккупация со стороны стран Запада воспринимается там сегодня как благо. К сожалению, люди всё сильнее становятся зависимы от киберсферы и подвержены её воздействию. Раньше бы сказали: хвост всё сильнее виляет собакой.
В настоящее время основным полем битвы ментальных войн становится Всемирная сеть Интернет. Поэтому кто владеет ей и наполняет её контентом, тот и обладает стратегическим преимуществом. Поэтому фраза, сказанная нашим президентом четыре года назад, сегодня стала ещё более актуальной. К сожалению, следует признать, что в данном случае преимущество не за нами и наши возможности по отражению ментальных атак пока что крайне ограниченны. К этому надо уже сейчас начинать готовиться.
Где в России искать ИИ?
- Известно, что у нас в стране разрабатывалась стратегия создания ИИ. Тоже давно это было. В ней много чего говорилось. В том числе – о необходимости догнать возможности человеческого мозга и создания микрочипов размерностью не хуже импортных. То есть размерностью 10–12 нанометров. Сегодня такая концепция уже разработана или процесс находится в стадии осмысления? Уж слишком быстро всё развивается.
– Действительно, в октябре 2019 года указом президента РФ была утверждена Стратегия развития ИИ в стране, разработанная Минкомсвязи РФ совместно с ПАО «Сбербанк». Но поскольку учёные были, с моей точки зрения, не в полной мере привлечены к процессу формирования этой стратегии, то многие её тезисы с самого начала вызывали, по крайней мере у меня, большие сомнения.
Например, в национальной стратегии развития ИИ в России используется следующее определение искусственного интеллекта: «ИИ – комплекс технологических решений, позволяющих имитировать когнитивные функции человека (включая самообучение и поиск решения без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека». Под это определение подпадает, например, обычный калькулятор, поскольку он выполняет когнитивные функции человека (а арифметические и тригонометрические вычисления, безусловно, относятся к когнитивным функциям), причём при их выполнении калькулятор получает результаты (по точности и скорости вычислений), во много раз превышающие результаты интеллектуальной деятельности человека. Следовательно, исходя из данного определения, калькулятор обладает искусственным интеллектом, что открывает большие перспективы для не очень добросовестных чиновников – ты купил 100 калькуляторов и можешь смело отчитываться о повсеместном внедрении в твоём регионе искусственного интеллекта.
Что касается тезиса о создании микрочипов с размерностью не хуже импортных, то непонятно, как их можно было создать, не обладая соответствующими технологиями. До начала СВО была определённая лазейка, которая позволяла формально выполнить это требование: микросхемы разрабатывались у нас в стране, а изготавливались за рубежом, в основном на линейке фирмы TSMC на Тайване, после чего они считались «российскими». Но после начала СВО TSMC отказалась от сотрудничества с Россией, а своих технологий, сопоставимых с зарубежными, мы пока не создали.
Всё это потребовало внесения коррективов в стратегию развития ИИ в России. И в феврале прошлого года президент подписал указ, обновляющий эту стратегию с учётом сложившихся реалий.
- Вы научный руководитель НИИ многопроцессорных вычислительных систем им. академика А.В. Каляева. Институт считается самым передовым в России, ведёт разработки, как говорится, на самом острие науки и техники. Какими научными разработками в рамках Российской академии наук занимается ваш институт? Говорят, даже микроробототехникой? Именно она – будущее человечества?
– Моя основная должность – научный руководитель направления Южного федерального университета, которую я совмещаю с научным руководством НИИ МВС ЮФУ, директором которого был в течение 18 лет. Институт ведёт ряд работ в области суперкомпьютерных технологий, робототехники и ИИ, в том числе совместно с организациями РАН.
Результаты работ, выполненных сотрудниками НИИ МВС, отмечены Государственной премией РФ в области науки и технологий, двумя премиями Правительства в области науки и техники, премией Правительства в области образования, а также премией им. А.А. Расплетина РАН.
Что касается вопроса о будущем человечества, то мнение моё достаточно пессимистическое. Повсеместные автоматизация и механизация труда, развитие телекоммуникационных технологий и урбанизация привели к появлению угроз, связанных с гиподинамией. Очевидно, что развитие и повсеместное использование технологий ИИ, рост интеллектуально-психической зависимости людей от компьютерных устройств, стирание границ между реальным и виртуальным миром сопряжены с рисками «умственной гиподинамии», то есть деградации естественного интеллекта, являющегося системообразующим фактором всей человеческой цивилизации. При этом человеческое сообщество всё больше становится зависимым от интеллектуальных технических систем. На ИИ всё чаще возлагаются функции, которые до недавнего времени считались прерогативой естественного человеческого интеллекта.
Поэтому я согласен с известным русским философом А.А. Зиновьевым, который в своей книге «Фактор понимания» сказал: «Реальное будущее человечества представляется как господство высокотехнологичных, но примитивных существ, не имеющих ни малейшего понятия о том, как фактически устроены и функционируют фундаментальные законы природы и человеческого сознания».