Хаос человеческий

У российских чиновников появи- лась новая забава– проблемы, свя- занные с искусственным интел- лектом. Модный тренд на эту тему задал сам Владимир Путин, заявив, что если какая-либо страна добьётся лидерства в создании искус- ственного интеллекта, она «будет властелином мира». Премьер Дмитрий Медведев, видимо насмотревшись «Матрицы», повторил голливудские страшилки: «Правительствам во всём мире надо торопиться, пока к власти не пришёл искусствен- ный суперинтеллект, не поменял нам всем органы и не нажал кнопку delete, чтобы обнулить наши мозги». Что же это за страшный зверь та- кой? «АН» спросили у заведующе- го лабораторией вычислительной кибернетики Института проблем управления им. Трапезникова РАН, кандидата технических наук Андрея МАКАРЕНКО.

Нас спасут роботы

– Андрей Викторович, давайте сразу определимся с термином «искусственный интеллект». Что под ним понимают учёные и простые люди?

– В среде обывателей этот термин напрямую означает системы с разумным поведением, превосходящим по возможностям человека или даже человечество в целом. Учёные же под этим термином определяют область научного знания, которая занимается исследованием и разработкой искусственных интеллектуальных систем (ИИС).

В советской научной школе, как правило, разделяли два понятия: «искусственные интеллектуальные системы» и «искусственные разумные системы». Под «интеллектуальными» понимаются системы, которые способны действовать автономно и адаптивно в условиях меняющейся внешней среды и внутренних изменений. Но у них отсутствуют внутреннее целеполагание, рефлексия, нравственная сетка координат, по которой оцениваются те или иные действия. А это по современным представлениям – одни из основных критериев сознания, личности, разума…

– То есть ИИС – это способный к обучению и самообучению робот, которому человек задаёт цель и границы приспособления к меняющимся обстоятельствам?

– Примерно так. Машины с элементами ИИС уже разрабатываются во всём мире, в том числе в нашей стране. Например, спасательные или военные роботы. У первых задача, например, – пройти сквозь лесной пожар из точки А в точку Б по постоянно меняющемуся рельефу огненного ада и вывести оттуда людей либо произвести инспекцию опасных объектов при различного рода авариях. Военных роботов учат самостоятельно находить и разминировать различные типы взрывных устройств, обу-
чают патрульным функциям.

Есть более близкие простому человеку примеры – системы распознавания лиц и речи (но только не многоголосые), машинный перевод, беспилотные автомобили и так далее.

«Вычислительная молотилка» или…

– Чем принципиально отличаются мозги человека и мозги машины?

– Например, на химическом уровне: процессор компьютера ПК – это в первую очередь Si (кремний), мозг живого существа – С (углерод). И на каждом уровне классификационной иерархии подобных различий масса. В вычислительных системах всё построено на основе обработки и передачи электрических импульсов, а в биологических системах (у высших приматов) комбинируются электроимпульсы и химический канал передачи и обработки информации (нейроэндокринная система мозга и, в частности, гипоталамус).

Если же говорить о том, как происходит собственно обработка информации, и уходить на более высокий уровень (понятия сознания, личности и т.п.), то у современной науки пока нет конструктивных теорий. Да, есть масса философских теорий, нейрофизиологических гипотез, но чёткого рабочего понимания вопроса нет. То есть вот прямо сейчас сконструировать робота с сознанием и осознанием собственного «Я» не получится.

В категории же решаемых задач отличия видны сразу: компьютер – это в первую очередь «вычислительная молотилка», ему с трудом поддаются абстрактные задачи, требующие «творческого» подхода, с человеком всё в точности до наоборот. Хотя последние успехи в области глубокого обучения («диплеринг» от англ. deep learning. – Ред.) эту чёткую границу немного размыли.

– Вы утверждаете, что до создания искусственного разума ещё очень далеко, но роботы, которых разработчики любят демонстрировать на выставках, кажутся вполне разумными.

– У учёных, которые занимаются темой искусственного интеллекта, есть базовая классификация, по которой интеллект делится на слабый – вычислительный и сильный – разумный, каждый из них ещё подразделяется на широкий и узкий. Так вот, все машины, которые сейчас научены, – это слабая форма интеллекта, и более того, они заточены на решение весьма узких задач. Можно загрузить в него всю русскую классику и обсуждать трагедию маленького человека в творчестве Достоевского. Но спроси у него, какая сегодня температура за бортом или курс доллара, – всё, ступор.

– Как бы вы ответили на вопрос-тест Алана Тьюринга: «Могут ли машины делать то, что можем делать мы (как мыслящие создания)?» Точнее, что они уже могут делать, как мы, и что (пока?) не могут?

– Качество распознавания изображений машинами уже превосходит человеческое. Распознавание слитной речи (не многоголосой) также превосходит среднестатистического человека. Машина выиграла человека в го – сложная игра, существенно превосходит по сложности шахматы (количество легальных комбинаций в ней записывается числом из 171 цифры и превышает количество атомов в наблюдаемой Вселенной!), ведущие игроки играют в неё интуитивно.

Здесь, правда, имеет смысл отметить, что го, как и шашки с шахматами, относится к так называемым играм с полной информацией. Но вот, например, в покер – игру с неполной информацией – машины пока играют плохо.

ИИС уже полноценно приходят, а местами и работают в диагностической медицине. Особенно в тех её областях, которые основаны на анализе инструментальных данных: томография, УЗИ, ЭКГ, биопсия и т.п.

Машины уже сейчас пытаются сочинять музыку, рисовать картины, писать программы для компьютеров, т.е. активно вторгаются в творческие области, которые ранее были всецело прерогативой человека и его таланта. А это уже признаки сильного интеллекта.

Машина взяток не берёт

– В понятии обывателя машинная логика – это и есть простая математическая логика. То есть кратчайший и наиболее безо-
пасный путь к решению поставленной задачи. Есть такая смелая идея – поручить госуправление и планирование некоему суперразуму, который не берёт взяток и проводит логичную политику, без войн, шараханий и метаний…

– В основе всего мироздания лежит фактор неопределённости – на уровне квантовой механики – это принцип неопределённости Гейзенберга. Вселенная по природе своей хаотична. Следовательно, и наш реальный мир, и человек тоже хаотичны по своей сути. Но хаос имеет короткий горизонт прогноза. Например, сейчас относительно точный прогноз погоды можно дать только на 5–7 суток. Дальше – только предположительный. И вычислительные мощности тут ни при чём: климат – это тоже хаос.

Поэтому за коротким горизонтом планирования управлять хаотической системой невозможно и не имеет смысла. Идея с цифровым «Госплан 2.0», как бы она ни была притягательна, не сработает – математика против. Потому что нельзя жёсткими формальными алгоритмами эффективно управлять человеческим хаосом. Хотя научиться решать отдельные стратегические задачи было бы полезно.

Есть ещё один аспект. Например, в США и Британии есть стартапы, которые в автоматическом режиме выигрывают суды в несложных делах, например по автомобильным штрафам. Ещё в начале нулевых годов группа наших учёных занималась формализацией (грубо говоря, математическим описанием структуры) законодательств ряда стран. Так вот с британским законодательством у нас получилось, а с российским – ничего не вышло. Слишком много неопределённости внутри, т.к. кроме законов должны быть ещё чёткие нормы правоприменения, подзаконные правовые акты, ведомственные и должностные инструкции и т.п.

– Ведь это один из фантастических кошмаров человечества – восстание машин, условного Скайнета, который из инстинкта самосохранения начинает уничтожать человечество. Возможно ли такое в реальности?

Хаос человеческий

– Я думаю, не стоит перекладывать на машину кальку человеческих пороков. До искусственного разума ещё весьма далеко, с естественным толком не разобрались! Сейчас в области искусственного интеллекта очень много хайпа (шумихи), маркетинга, шальных финансов, пузырей и пены. Велика вероятность, что скоро это всё сдуется, как уже было с пресловутыми доткомами в конце 1990-х годов, и маятник качнётся в обратную сторону. Останется только то, что реально работает.

В общем, на текущем уровне развития науки ответ на данный вопрос будет как в известной шутке: «Какова вероятность встретить живого динозавра на улицах мегаполиса? Ответ: 50 на 50 – или встретишь, или не встретишь!» Но, строго говоря, данный ответ неверен.

– На каких физических принципах сейчас наиболее перспективно создание искусственного интеллекта?

– Если оценить задачу «в лоб», то типичная сложность человеческого мозга – это порядка 100 миллиардов нейронов, самые сложные искусственные нейросети содержат порядка 10 миллионов нейронов, при этом функциональность самих искусственных нейронов существенно проще, нежели у нейронов человека. Если сравнивать по синапсам (соединительным линиям), то разрыв ещё более колоссальный. При этом мозг человека потребляет менее 20 Вт, а суперкомпьютер – десятки мегаватт. Поэтому просто отмасштабировать, сделав вычислительный мегакластер, не выйдет. Здесь нужны иные подходы, и учёные их сейчас пытаются нащупать.

– Есть известные три закона робототехники, сформулированные А. Азимовым. Их смысл: «Робот не может причинить вред человеку». Но если система ИИ сделана самообучаемой, то не сможет ли она придумать – как, собственно, обойти эти непреложные законы?

– Во-первых, а с чего вы взяли, что у неё будет к этому стремление? А во-вторых, это не законы как таковые, это литературное произведение, а уже обыватели эти формулировки возвели в ранг законов, которым якобы обязана подчиняться искусственная интеллектуальная система. Но это не так. Если же ответить шуточно: то есть же «итальянская забастовка» – формально все законы соблюдаются, но…