«Он опасен, но всё равно мы должны создать его»: профессор РАН Юрий Визильтер об искусственном интеллекте

С учётом коррективов, обусловленных пандемией, в течение 2021–2024 гг. планируется истратить 29, 4 млрд рублей из бюджетных российских денег (и 6, 9 млрд рублей из внебюджетных) на развитие искусственного интеллекта. Возможно ли «на пальцах» объяснить принцип его работы? Что уже стало реальностью и что остаётся научной фантастикой? Стоит ли бояться восстания машин? Каково место России в гонке искусственных интеллектов? Отвечает Юрий ВИЗИЛЬТЕР – доктор физмат наук, почётный профессор РАН, член экспертного совета Национального центра развития технологий и базовых элементов робототехники.

– Начнём разговор об искусственном интеллекте (ИИ) с самого начала.

– В работе над ИИ существуют два основных направления. Первое связано с моделированием человеческих рассуждений. Рассуждения строятся так: есть система постулатов и есть средство логического вывода – таким образом возникают новые знания на основе существующих. Но есть проблема: постулаты в эту систему закладываются хорошо, строгие рассуждения моделируются тоже неплохо, а вот обучение такого ИИ происходит сложно, из наблюдений новые знания он не выводит. То есть, если мы хотим, чтобы ИИ предложил нам, например, оптимальный вариант благоустройства улицы, – для этого мы должны сперва заложить в него целую систему знаний-постулатов. Обо всём, что касается города, улиц и людей. А это практически невозможно.

– Поэтому?..

– Поэтому параллельно с первым направлением стало развиваться второе: оно связано с машинным обучением, направленным на то, чтобы из экспериментально наблюдаемых фактов извлекалось некое полезное знание. Сегодня данный принцип лучше всего реализуется с использованием искусственных нейронных сетей (ИНС).

Как нетрудно понять из названия, это аналог естественных нейронных сетей, из которых состоит нервная система всех живых существ. У любого нейрона имеется несколько входных отростков, связывающих его с другими. По отросткам он получает входные сигналы, затем обрабатывает эту информацию и выдаёт выходной сигнал. Из отдельных нейронов строится нейронная сеть, которая состоит из слоёв.

Эффективный способ обучения ИНС на множестве примеров был придуман ещё в конце прошлого века. Но настоящий прорыв произошёл тогда, когда появились не просто многослойные, а так называемые глубокие нейронные сети (ГНС), имеющие сотни слоёв и обучающиеся на миллионах примеров. В 2011 году эти глубокие сети впервые решили задачи распознавания изображений не хуже человека. А уже к 2015 году они научились выполнять многие интеллектуальные задачи лучше человека. Многие, но далеко не все.

Знаменательная «свадьба»

– Не воспроизводили, потому что не умели?

– Именно так. Что получилось? Первый тип ИИ (экспертные системы) рассуждает, но не учится, а второй тип (нейронные сети) учится, но не рассуждает. Долгое время никак не удавалось состыковывать два типа ИИ друг с другом. Но в последние годы эта знаменательная «свадьба» наконец состоялась. Нейронные сети научились использовать сложные модели, базы знаний, символьную и текстовую информацию. Таким образом, оказался открыт путь к решению практически любых задач, которые считаются интеллектуальными.

Уже сегодня благодаря глубоким нейросетям, на мой взгляд, в принципе не осталось таких задач, которые мог бы решить человек и не мог бы решить ИИ.

– Что означает уточнение «в принципе»?

– Образно скажу так: если уподобить развитие ИИ истории авиации, то до создания «Конкорда» и Ту-144 нам ещё очень далеко, но самолёт братьев Райт уже взлетел. Мы в одном шаге от создания автономных роботов, которые будут выполнять нужные нам функции любой степени интеллектуальности. Это вопрос ближайших лет. Оговорюсь: речь не о тех роботах, которые бы обладали свободой воли и могли бы, как в научной фантастике, восстать против человечества, – речь о функциональном ИИ.

– В каких областях, на ваш взгляд, стоит заменить людей на этот функциональный ИИ?

– Ваш вопрос показателен: внедрение ИИ чаще всего понимается именно в таком ключе – как замена человека. В Японии, например, уже заменяют финансистов, банковских работников, бухгалтеров. На мой взгляд, не так уж много областей, в которых целесообразно полностью заменить людей роботами и программами: транспорт, видеонаблюдение, опасные производства… Это нужно там, где машинная надёжность, точность и способность работать, не уставая, позволят обеспечить безопасность людей. А вот внедрять функциональный ИИ в помощь людям, на мой взгляд, нужно везде, где получится это сделать, и как можно скорее.

– Даже в военной сфере?

– Конечно! В чём смысл, например, высокоточного оружия, в котором могут использоваться элементы ИИ? Прежде всего в том, чтобы, ударив по террористам, вместе с ними не уничтожить всю деревню. ИИ обладает лучшими, более точными характеристиками, чем люди. Может ли он ошибиться и навредить человеку? Конечно, может. Но функциональный ИИ – это всего лишь программа или устройство. Он не принимает решений, а только исполняет их. Ответственность за ошибки функционального ИИ несут люди. Безусловно, могут быть побочные эффекты, это в некотором смысле «токсичная» технология. Но ведь таковы и все другие мощные технологии, которые мы сейчас используем: химическая промышленность, атомная энергетика… Даже сама человеческая жизнедеятельность «токсична» – проблема мусорных отходов у всех на слуху.

Наследник человечества?

– А что представляет собой ИИ, наделённый свободой воли?

– Не представляет, а, вероятно, будет представлять, если его удастся создать. Такой ИИ называют сильным, чтобы отличать от функционального, называемого слабым. Сильный ИИ предполагает искусственную личность – настоящую, как у человека. Имеющую желания, страхи, собственное мнение. Часто спрашивают: для чего нужен сильный ИИ? С практической точки зрения ни для чего. Для чего нужны вы, для чего нужен я? Зачем вообще нужен человек? Бессмысленный вопрос. Человек не средство для решения каких-то задач – он самоценность. Мы не знаем, возникнет ли сильный ИИ, но если возникнет, то относиться к нему нужно будет так же, как к человеку.

– Выше вы вспомнили о таком расхожем научно-фантастическом сюжете, как восстание машин. Если говорить о сильном ИИ, то этот сюжет вполне реален, так?

– Бывает ли, что дети убивают своих родителей? Бывает. Следует ли из этого, что не нужно рожать детей? Нет, никак не следует. Сильный ИИ будет, по сути, нашим ребёнком. Больше того, это единственная возможность человечества – не как биологического вида, а как информационной сущности – не погибнуть. Наш вид заперт на Земле. Илон Маск боится сильного ИИ и хочет обеспечить выживание человечества путём распространения людей по Вселенной, но будем реалистами: наше биологическое расселение едва ли возможно. А вот сохранение человечества как информационной сущности – совсем другое дело, это гораздо более реально. Сильный ИИ станет нашим наследником.

– Это лишь догадки. Откуда уверенность, что ИИ не будет принципиально отличаться от человека и не придёт путём своей логики к необходимости самоуничтожения? Например, чтобы похоронить память о человеческом виде, допустившем на протяжении истории столько фатальных и непростительных ошибок.

– Сильный ИИ наверняка будет отличаться от нас, ведь дети никогда не бывают точными копиями родителей – иначе на Земле остановилось бы всякое развитие. А вот насчёт принципиального отличия я сомневаюсь. Как сказано в одной хорошей книге, если на магнитофоне были записаны «Гоп, мои гречаники…», вряд ли стоит надеяться услышать симфонию Чайковского. Материал, на котором сильный ИИ будет обучаться, всё содержание его будущего сознания – это творение наших рук. Значит, там просто неоткуда взяться чему-то принципиально иному.

Разумеется, нет никаких гарантий относительно поведения ИИ. Сложные системы ведут себя неожиданно именно потому, что они сложные. Человек – самая сложная из известных нам систем, и если вы боитесь сложности ИИ, то нужно бояться и себя. В XX веке человечество по собственной воле встало на грань самоуничтожения без всякой помощи ИИ. Возможно, подобное самоубийственное поведение вызвано нашим космическим одиночеством: нам просто не с кем обсудить свои проблемы, мы не можем взглянуть на себя со стороны. Сильный ИИ мог бы стать для человечества таким другом и собеседником.

Дело будущего

– Понятно ли, каким путём нужно идти, чтобы создать сильный ИИ?

– Цифровая личность должна обладать сознанием. Что такое сознание – никто толком не знает. Однако многие специалисты в области когнитивной науки, изучающей вопросы сознания и познания, рисуют примерно такую картину. Основная часть деятельности в мозге происходит бессознательно, и речь не только о простейших процессах, как дыхание, но и о принятии решений. Ощущение внутреннего единого времени, ощущение того, что мы обладаем единой личностью и все наши действия обусловлены причинно-следственными связями, – иллюзия. Она вызвана деятельностью одного элемента нервной системы, который называют «наблюдателем» или «рассказчиком». Он взаимодействует со всеми остальными структурами и пытается выстроить последовательность повествования о собственной жизни. Есть множество тому доказательств на примерах, приведу самый запоминающийся.

В своё время для лечения эпилепсии делали операции по рассечению мозга на левое и правое полушария. Казалось, человек совершенно не менялся после этого, у него лишь пропадали эпилептические припадки. А потом провели исследования и выяснили: разделённые полушария функционируют по-разному. Показываем одному полушарию, то бишь одному глазу, табличку с надписью: «Возьми стакан со стола и выпей воду», – а после того как человек это проделал, спрашиваем: «Зачем вы, уважаемый, взяли стакан?» И, поскольку второе полушарие, отвечающее за речевое взаимодействие, не знает о том, что человек сделал это по чужому приказу, – человек отвечает: «Я захотел пить». Это наш «внутренний рассказчик» следит за тем, что с нами происходит, и подтасовывает линию жизни.

Существуют детские тесты, когда предлагаются картинки, «вырванные» из некоей истории и нужно по ним восстановить её. Сейчас нейронные сети учатся проходить такие тесты – это первый шаг к тому, чтобы создать для ИИ «внутреннего рассказчика». Возможно, именно эта дорога когда-нибудь приведёт к сильному ИИ. Но сегодня до него, если он вообще возможен, ещё много десятилетий. А вот функциональный ИИ, который уже практически у нас на пороге, изменит нашу жизнь, и это произойдёт в ближайшие годы.

– Каков вклад России в развитие ИИ?

– Многие советские, а позже российские учёные внесли большой вклад. Например, в Советском Союзе были созданы одни из первых автоматических шахматных программ. А одной из наиболее влиятельных математических теорий, лежащих в основе современного машинного обучения, является всемирно признанная теория восстановления эмпирических зависимостей Вапника – Червоненкиса. И сегодня немало российских учёных и научных групп, работающих в области ИИ, которые хорошо известны на мировом уровне. Российские команды периодически выигрывают открытые международные соревнования в разных областях ИИ.

Но всё же не следует преувеличивать нашу роль. С одной стороны, это полностью открытая научная область, здесь нет тайных знаний, поэтому мы точно не отстаём от зарубежных коллег в понимании задач и методов ИИ, работаем на переднем крае и создаём передовые решения одновременно с лучшими зарубежными разработчиками. С другой стороны, против нас здесь играет чисто количественный фактор: в России специалистов по искусственному интеллекту в десятки раз меньше, чем, например, в США или в Китае. К счастью, в науке высших достижений количество работников решает далеко не всё.

О том, что почему прогресс неотвратим, читайте в книге Игоря Диденко "НеВенец творения".