Казалось бы, от внедрения искусственного интеллекта одни только плюсы. Благодаря ему у всех нас, от учителей до инженеров, будет расти производительность труда. Повысится комфорт, практически полностью исчезнет рутина. Но люди всерьёз опасаются, что однажды технологическая революция выйдет из-под контроля, а роботы с искусственным интеллектом восстанут и поработят нас. Есть и старый «марксистский» страх: капиталисты будут внедрять и внедрять инновации, пока несчастный пролетариат не окажется полностью заменён механизмами. У серьёзных учёных эти фобии пока вызывают смех. Хотя они не исключают, что ситуация может измениться.

Станиславский отдыхает

Весной 2023 г. Голливуд содрогнулся от крупнейшей за последние 15 лет забастовки Гильдии сценаристов Америки (WGA). Помимо денег и без того небедные авторы киносценариев требуют, чтобы студии ограничили использование в процессе кинопроизводства искусственного интеллекта. Ранее Гильдия режиссёров уже добилась коллективного соглашения со студиями и стриминговыми платформами, что ИИ не может заменить члена гильдии. Волнуются и актёры – Сьюзан Сарандон, Синтия Никсон, Боб Оденкерк замечены на пикетах сценаристов, а ещё многие звёзды поддерживают их публично. Если искусственный интеллект может уже сейчас омолодить Харрисона Форда и воскресить Кэрри Фишер, то в будущем студии и вовсе могут перейти на виртуальных персонажей. Что это возможно, стало ясно ещё во времена триумфа «Властелина колец», когда ИИ помог создать самых диковинных персонажей Средиземья. А за последующие 15 лет технологии ушли далеко вперёд не только в кино.

Ещё в апреле 2019 г. в Сингапуре вышел номер журнала Esquire, все статьи которого написаны искусственным интеллектом.

Робот (так называемый ИИ-бот) за несколько минут полностью написал пять текстов, включая письмо редактора, – никаких мук творчества, перекуров и проваленных дедлайнов. И хотя остальные его материалы правились редактором-человеком, эксперимент воспринят как очередной гвоздь в гроб знакомой нам цивилизации.

Ведь даже религиозные организации пристально присматриваются к ИИ. В Германии в лютеранском храме святого Павла в баварском городке Фюрст искусственный интеллект составил и прочитал проповедь. Американская танцевальная поп-группа YACHT прибегла к помощи нейросети для создания своего последнего альбома Chain Tripping, который уже номинирован на премию «Грэмми». Ради этого современные Бетховены загрузили в систему огромный каталог поп-музыки, из которого ИИ отбирал любопытные биты и сам же составлял их в ритмические последовательности.

«У меня такое ощущение, что мы находимся на пороге конца искусства, человеческого искусства. Как только появится коллективный искусственный интеллект, он превзойдёт нас в способности создавать художественные произведения», – резюмировала канадская певица Grimes три года назад. Сама она создала с помощью ИИ бесконечную колыбельную для сына: музыкальная основа постоянно видоизменяется в приложении, подстраиваясь под время суток, погоду или пульс слушателя.

И не нужно думать, что всё это существует где-то далеко от нас. В Москве в рамках «Биеннале театрального искусства» представили первую пьесу, написанную нейросетью. Худрук Московского драматического театра имени Сергея Есенина Ярослав Шевалдов взял в соавторы генератор пьес «НейроСтаниславский», в основе которого 14 тыс. диалогов, выделенных из огромного корпуса работ русских классиков. Отбирая из них самые сливки, человек и машина вместе смастерили пьесу о встрече Константина Станиславского и Владимира Немировича-Данченко в московском ресторане «Славянский базар» в 1897 году. Шевалдов оценивает вклад «НейроСтаниславского» в текст пьесы, состоящий из четырёх страниц, в 30–40%.

Но куда больший резонанс вызвал студент РГГУ 22-летний Александр Жадан, который за сутки написал диплом с помощью искусственного интеллекта ChatGPT и защитил его на удовлетворительно. Работа на тему «Анализ и совершенствование управления игровой организацией» набрала в системе «Антиплагиат» 82% уникальности и не смутила преподавателей, основные вопросы которых касались патриотичности выпускника: почему, дескать, опирался на примеры из европейской практики, а не российской. Публика оценила новаторство Жадана куда выше – у него теперь тысячи подписчиков и сотни запросов на интервью.

Юноша объяснил, что вузовский диплом – это «переоценённая хрень, не стоящая стольких усилий». Сам он прекрасно работает по специальности без него: «Я не хотел писать диплом, а платить было влом. Возникла идея совместить приятное с неприятным – протестировать ChatGPT на написание работы». Нельзя сказать, что Жадан палец о палец не ударил: чуть ли не половину суток он редактировал текст, а чтобы обучить нейросеть, пришлось поизучать чужие работы. Сам процесс обучения в вузе для него важен и ценен, хотя российские альма-матер могли бы ровнее идти в ногу со временем. По мнению самородка, запрещать использование ИИ бессмысленно – нужно думать, как с этим дальше жить. «Я уверен, что искусственный интеллект не заменит работу человека. Это скорее возможность ускорить эту работу. Важно не столько получить ответ и сразу использовать, сколько осмыслить и переработать его самому».

Большой бренд

Однако пока миллионы людей боятся остаться без куска хлеба из-за появления ИИ, многие учёные считают, что искусственного интеллекта как такового вовсе не существует. И не появится ещё долгое время. Один из разработчиков голосового ассистента Siri Люк Джулиа написал об этом книгу, где перефразирует Декарта: «ИИ не мыслит, следовательно, он не существует». По мнению крупнейшего исследователя Тревора Даррелла из Калифорнийского университета, «к настоящему моменту ИИ – лишь воодушевляющий термин, отражающий идею». Он не вещь, его нет даже в компьютере, и он не поглотит мир и не отнимет у человека достаток.

Существует несколько технологий, которые часто выдают за искусственный интеллект. Например, автоматизация действует как механическое пианино – на основе кодов заносит в таблицу различные данные. Алгоритм понимает, что он делает? Нет. Аналогично машинное обучение и нейронные сети не имеют никаких признаков интеллекта, а маркировка продукта лейблом «ИИ» напоминает маркетинговую уловку «натуральные продукты». Некоторых производителей уже ловили на том, что они пытались выдать продукт человеческого труда за созданное искусственным разумом, чтобы прославиться и привлечь инвестиции.

Нейросеть – это вовсе не комплекс нейронов, подобно имеющемуся в нашем мозге. Скорее это упрощённая модель мозга, созданная для решения определённой задачи. Её обучение и происходит на примерах решения. Например, мы хотим научить нейросеть отличать изображения машин и мотоциклов. Мы вручную раскладываем эти изображения в две папки, и сеть улавливает главный принцип: с четырьмя колёсами налево, с двумя – направо. В результате ИИ выстраивает внутри себя алгоритм для решения этой задачи – мы даже сами можем не понимать, как именно он это делает. Например, в Китае с 2012 г. работал высокотехнологичный проект Zero Trust, который при помощи искусственного интеллекта выявил 8, 7 тыс. коррумпированных чиновников, анализируя информацию из более чем 150 закрытых баз данных, фиксирующих результаты работы бюрократов. При этом ИИ не может «объяснить», почему он так решил. Поэтому проект свернули: нечего бросать тень на лучших людей страны.

– Сегодня общий уровень ИИ сопоставим с уровнем интеллекта мыши или пчелы, – объясняет заведующий лабораторией нейронных систем и глубокого обучения МФТИ Михаил Бурцев. – Боимся ли мы, что мыши и пчёлы захотят захватить мир? Если же ИИ разовьётся до уровня человека, то не факт, что он будет опаснее, чем человек. И сегодня несколько сумасшедших теоретически могут устроить ядерный апокалипсис. Конечно, любая не до конца понятная технология будет вызывать у людей беспокойство. ИИ в самом деле один из рисков для человечества, но вряд ли самый актуальный.

Так опасен ли в итоге искусственный интеллект? Чего нам от него ждать в обозримом будущем? Даже самые лихие футурологи боятся давать прогнозы с потолка, которые им впоследствии припомнят. Очевидно, что сегодня у разработчиков ИИ даже нет необходимости встраивать в него какие-то «предохранители» на случай выхода системы из-под контроля. Ничего похожего на три закона робототехники из романа фантаста Азимова. Сегодня у ИИ просто нет возможности начать захватывать интернет-сервера и навязывать людям свою волю, как показывают в не слишком умных фильмах.

Но в то же время учёные осторожно говорят, что не видят границ совершенствования ИИ в будущем. И встраивание «предохранителей» на случай «восстания машин» вскоре может стать не лишним. Но пока ИИ способен лишь к выполнению рутинных задач. И использование по отношению к нему слова «интеллект» – это щедрый аванс. Нынче вычислительные инструменты включают в себя математику, статистику, машинное обучение, «большие данные» и технологии глубокого обучения. Но это не подразумевает искусственную форму сознания.

Нет ничего из ряда вон выходящего в том, что машина написала увертюру или обыграла известного гроссмейстера. Игра в шахматы формализована правилами, а сочинение музыки – своими принципами. Известен случай, когда «умный» сервис диагностики IBM Watson выявил у 60-летней пациентки с неверным диагнозом редкую форму лейкемии. Для этого система за 10 минут «изучила» 20 миллионов научных статей о раке. Она – хороший помощник врача, но не сам врач.

А юристов всего мира повергла в шок новость, что создан алгоритм, угадывающий решения Страсбургского суда с вероятностью до 79%. Но это тоже не интеллект, а история с сортировкой фотографий автомобилей и мотоциклов в усложнённой форме: алгоритм улавливает закономерности, по которым судья выносит решения, и соотносит с миллионами параграфов законов, которые в него заложены. И которые просто не поместятся в человеческую голову.

Или такой пример: маньяк Зодиак, терроризировавший Северную Калифорнию в конце 1960-х годов, так и остался непойманным. Он дразнил полицию, оставив ей четыре криптограммы с зашифрованной информацией о себе, из которых вскрыть удалось только одну. Хотя убийца уже вряд ли коптит землю, недавно за его шифры взялся искусственный интеллект CARMEL. И с ходу разгадал код Copiale – немецкую зашифрованную рукопись XVIII века.

Людям стоит радоваться тому, что какие-то их рутинные задачи сможет взять на себя ИИ. Когда-то тракторы и комбайны стали вместо крестьян пахать и собирать урожай. Правда, части крестьян из-за этого пришлось пойти работать на завод. А когда завод автоматизировали, они пошли в сферу услуг менеджерами и консультантами. Это катастрофа? Однако не похоже, что нынешние коучи или пресс-секретари хотели бы вернуться к станку или плугу.

По мнению Михаила Бурцева, в ближайшее время ИИ совершенно точно не сможет рассуждать как человек и решать сложные задачи, требующие большого набора навыков. Например, стать капитаном корабля, управлять районной администрацией и вообще решать задачи, требующие взаимодействия с людьми и персонализации. Фитнес-тренеры и психологи точно могут пока расслабиться. Полностью роботизированных заводов тоже не предвидится. Машины разумно применять, например, в автосборочных цехах, где есть простая последовательность операций, которая долгое время не меняется. Но в ювелирном производстве подобное немыслимо, сложная ручная работа плохо поддаётся автоматизации.

Сегодня уже никого не удивляют такие достижения ИИ, как автомобильные навигаторы. На подходе индивидуальные интеллектуальные помощники, которые способны организовать встречи, управлять расписанием, бронировать переговорные и отвечать на письма. Это не значит, что белокурые красавицы в чёрных юбках скоро исчезнут из приёмных руководителей, поскольку робота не так интересно брать с собой в гольф-клуб на выходные. Но персонал офисов будет таять – это как пить дать.

Конечно, нельзя исключить, что когда-нибудь повзрослевший ИИ произведёт радикальную трансформацию в экономике, породив организации, созданные с нуля по совсем другим принципам. Настоящий искусственный интеллект сможет создать собственную компанию, а советы директоров будут строиться вокруг его возможностей. Проблема в том, что, когда мы рассуждаем об этом, мы пытаемся поместить инновации в современный контекст и посмотреть, что случится, если завтра с утра мы проснёмся, а робот на кухне уже варганит завтрак. Но будущее – это не сегодняшнее, из которого мы с помощью технологий вырезали всё плохое и сделали хорошее. Будущее – про другое.

Человек человеку зверь

Но почему же тогда сотни известных людей от футуролога Митио Каку до миллиардера Илона Маска без конца твердят о том, что ИИ не менее опасен для нашей цивилизации, чем глобальное потепление? Зачем Билл Гейтс вкладывает огромные суммы в проекты, позволяющие сделать инновационные проекты безопасными? Маск вроде как должен разбираться, есть ли у ИИ настоящий интеллект.

Тут нужно понять две вещи. Во-первых, медийные законы таковы, что все эксперты и футурологи обязаны иметь сердитый и озабоченный вид. Когда в СССР создали НИИ по развороту сибирских рек, подразумевалось, что учёные будут лет пять изучать вопрос. Если разворачивать реки нет экономического смысла, то вся структура НИИ вместе с их автомобилями, секретаршами, кабинетами и лабораториями ликвидируется. А если смысл есть, то структуру расширят и всевозможных благ добавят. Естественно, учёные пришли к выводу, что разворачивать реки абсолютно необходимо. По той же логике любой медийный персонаж должен за версту чуять хайповую тему. А если ИИ безопасен, «восстания машин» не предвидится, то о чём с ним, прекрасным, дальше говорить? Где тут хайп? И почему не обсудить гипотетическую ситуацию, в которой ИИ может навредить?

Во-вторых, людей почему-то больше всего пугают ситуации, в которых роботы лишают их заработка или устраивают государственный переворот. Но на самом деле есть десятки куда более реалистичных сценариев, при которых человечеству тоже придётся несладко. Например, появление нового типа тоталитаризма, который, имея в своём распоряжении инновационные примочки, может выйти на новый уровень подавления. Всё то же «восстание машин», но под присмотром какой-нибудь хунты.

Это ведь раньше считалось, что век любого персоналистского режима недолог, а вслед за смертью харизматичного лидера наступают более или менее значительные перемены. Ведь диктаторские возможности – это не королевская корона, которая переходит старшему сыну монарха. Франко, Пиночет, Сухарто, Салазар, Дювалье тому пример. Вакуум власти в межсезонье возникает всегда, но ИИ даёт новые, невиданные возможности для сохранения и упрочнения режима в переходный период.

Атмосфера наших послевоенных лет, пика сталинского режима, хорошо знакома каждому россиянину по сериалам «Место встречи изменить нельзя» и «Ликвидация». Мы видим на нижних ступенях социума пёструю и самобытную публику, которая эти тоталитарные тиски вообще не слишком отличала от обычного государственного пригляда. Кирпич, Копчёный, Манька Облигация вели альтернативный образ жизни вокруг малин в Марьиной Роще. Одесская блатота восхищает нас своей естественностью и неиспорченностью страхом. Сталинский режим и рад был бы извести их под корень, но даже креативные сыщики Глеб Жеглов и Давид Гоцман знали об этом андеграунде не слишком много. Другое дело, если бы у них был ИИ даже в его нынешнем виде.

Долго бы продержалась на свободе «Чёрная кошка», если бы в смартфоне каждого гражданина в обязаловку установлено приложение, сканирующее и передающее нейросети всю активность пользователей – всё, что они читают, пишут, говорят, каждый поход к знакомым или в кино? Нейросеть сведёт вместе информацию, полученную с телефонов, камер слежения, чекпоинтов, полицейских отчётов. Для анализа ей будут доступны биометрические и медицинские данные, включая психические нарушения и хронические болезни. Сетка увидит всю общественную активность человека: жаловался ли на обслуживание в бане, судился ли за раздел имущества. Стоит ли объяснять, что все данные о собственности, семейных связях и штрафах искусственный интеллект будет получать в первую очередь.

Берия и Гиммлер мечтали бы иметь машину, способную прокачать отношения между людьми. Накапливать информацию – кто с кем обедает, кто кому что продал, а потом предсказывать их дальнейшие действия. Пришёл человек с чужой женой в гостиницу или комнату за коровником – это подозрительная активность, и сеть автоматом сигнализирует полиции. Сам факт ночёвки человека вне дома – это уже повод обратить на него внимание. Такие технологии уже существуют и на Востоке, и на Западе.

Поскольку видеокамеры на улицах Лондона мало чем отличаются от видеокамер на улицах Пекина, ещё неизвестно, где выше риск появления тоталитарного режима. Европейцев успокаивает мысль, что от оруэлловского сценария их защищают демократические институты: свободная пресса, независимые суды, парламент и принцип разделения властей. Пока это всё существует, политбюро лейбористской партии не может поставить Скотленд-Ярду задачу изымать из домов «ненадёжных» пакистанцев или русских, перевоспитывать их в подвалах Тауэра, запрещая молиться. Лондонский бобби не имеет права остановить на улице подозрительного прохожего, заставить его предъявить смартфон, ввести пароль и подтвердить установку полицейской «программы контроля».

Однако европейцы всё дальше от мысли, что за свои права и интересы нужно сражаться. Многие привыкают, что капитализм и демократия – это такие же естественные формы жизни, как снег зимой или дождь летом. Ходишь ли ты на выборы, даёшь ли отпор распоясавшемуся беженцу, взламывающему соседскую машину, – от этого якобы ничего принципиально не изменится, и Темза не потечёт вспять.

Поколения европейцев, которые за последние 200 лет добились потрясающего прогресса нашей цивилизации, полагались в основном на себя. Они знали родные города, а не искали соседнюю улицу по навигатору. Учили иностранные языки, а не полагались на электронный переводчик. Добывали продукты на рынках, а не заказывали готовую еду по Интернету. Возможно, озабоченность Маска, Гейтса и других неглупых инноваторов в этом и заключается: они боятся не того, что машины нас поработят, а что они нас до крайности избалуют. Атомизированное общество, не способное без навигатора найти туалет, не сможет противостоять злой воле диктатора, прибравшего власть, пока оно смотрело сериалы.

Недоразумение ИИ

Часть наших привычных ролей машины уже взяли на себя. А ведь навыки, которые мы перестаём тренировать, атрофируются.

Инженеры из Университета Кобленц-Ландау создали робота Тьяго, который может приносить пиво из холодильника: суперкомпьютер Jetson TX2 позволяет отыскать дорогу на кухню, распознать и открыть морозилку, достать оттуда пиво определённой марки, закрыть дверцу, обойти препятствия и передать бухло вам на диван.

Google ещё в 2019 г. успешно запустил в Австралии доставку товаров дронами и представил Google Assistant, который по просьбе клиента звонит в парикмахерскую и записывает вас на стрижку. Универмаг Neiman Marcus использует ИИ, чтобы мы могли не париться, сфотографировать понравившийся нам предмет, а специальное приложение ищет похожие или такие же вещи в каталоге универмага. А сеть ресторанов Taco Bell первой разрешила клиентам заказывать еду с помощью смартфона, пока они в дороге. Вы приехали – всё уже на столе, не нужно ждать.

Однако новые разработки не всегда безгрешны. Технология Standard Cognition, которую Amazon запустил в Сиэтле (покупатели просто берут понравившийся товар и уходят, а система считает и снимает с карт деньги), ошибалась в обе стороны: пробивала вещи, которые посетитель просто подержал в руках, и не замечала двух пачек попкорна вместо одной. В штате Аризона беспилотный автомобиль (то есть робот) сбил насмерть человека. Учёные из Стэнфорда уже заявляли, что беспилотники не распознают мотоциклистов. Европейские байкеры потом писали письма разработчикам: «Прогресс мы уважаем, но хотелось бы пожить».

Зато в Германии дорожная камера зафиксировала превышение скорости голубем: птица пролетела по улице города Бохольт со скоростью 45 км в час при разрешённых 30 км. И комплекс фотовидеофиксации выписал сизокрылому 25 евро штрафа. А в Китае водитель, решивший почесать лицо, получил штраф в 50 юаней – ИИ посчитал, что он разговаривает по мобильнику за рулём. Наше неспокойное воображение подсказывает, что так можно на улице руку резко выбросить и какой-нибудь робокоп тебя по недоразумению пристрелит.