Охота на роботов

Человечество всегда ревниво относилось к технике, а английские луддиты в начале XIX века громили хлопкопрядильные машины как своих конкурентов за рабочие места. Дальнейшее развитие цивилизации показало, что на деле нервные луддиты боролись с ростом собственной зарплаты. И вроде как можно ставить точку: да, благодаря технике сельским хозяйством занимается в Европе 2–3% населения, а не 95%. Зато правнуки луддитов процветают дизайнерами одежды и психотерапевтами.
 Но сегодня по техническому прогрессу вновь звонят колокола. На фоне эпидемии коронавируса обострились опасения по поводу «цифровых концлагерей», в которые могут превратить наш мир электронные пропуска на выход из дома, камеры слежения и обрабатывающие их алгоритмы. Всё больше людей всерьёз опасаются принудительного чипирования под предлогом обеспечения карантина. А заодно и кибернетических примочек, меняющих способности. Действительно ли на кону утрата человечности и вероятность появления тоталитарных государств, управляемых собственниками Больших Данных?

Думай как убийца

В апреле 2019 г. в Сингапуре вышел номер журнала Esquire, все статьи которого написаны искусственным интеллектом (ИИ). Робот (так называемый ИИ-бот) за несколько минут полностью написал пять текстов, включая письмо редактора, – никаких мук творчества, перекуров и проваленных дедлайнов. И хотя остальные его материалы правились редактором-человеком (а значит, без людей в журналистике не обойтись), эксперимент воспринят как очередной гвоздь в гроб знакомой нам цивилизации.

Даже в России, где в XXI веке самыми распространёнными профессиями остаются продавцы и охранники, где в 40% населённых пунктов нет доступа к любым видам медицинской помощи, а за здоровье больных детей молятся Богу, треть населения страны выразило опасение лишиться работы из-за внедрения искусственного интеллекта. Согласно исследованию консалтинговой компании BCG, 56% опрошенных хотели бы регулировать разработки ИИ для защиты рабочих мест в России.

Часть наших привычных ролей машины уже взяли на себя. Инженеры из Университета Кобленц-Ландау создали робота Тьяго, который может приносить пиво из холодильника: суперкомпьютер Jetson TX2 позволяет отыскать дорогу на кухню, распознать и открыть морозилку, достать оттуда пиво определённой марки, закрыть дверцу, обойти препятствия и передать напиток вам на диван. Смешно? Спустя годы после катастрофы на японской АЭС «Фукусима» человечество так и не знало, куда делись сотни тонн топлива из трёх ректоров. Отправить на разведку людей и думать невозможно: ни один спецкостюм не спасёт от таких доз радиации. Вопрос решил робот размером с буханку хлеба по имени Little Sunfish, несколько часов автономно двигаясь и принимая решения в условиях абсолютной темноты и высочайшего уровня радиации.

Google в 2019 г. успешно запустил в Австралии доставку товаров дронами и представил Google Assistant, который по просьбе клиента звонит в парикмахерскую и записывает вас на стрижку. Сеть Lowes создала роботов, которые перемещаются по магазину и задают покупателям простые вопросы, чтобы понять, что они ищут. А аптечная сеть Walgreens использует данные из множества антивирусных рецептов, чтобы определить уровень распространения гриппа. Интерактивная онлайн-карта не только помогает клиентам узнать, сколько людей болеют гриппом в их районе, но и позволяет Walgreens заказывать больше лекарств против болезни в заражённых областях.

Универмаг Neiman Marcus использует ИИ, чтобы мы могли не париться, а сфотографировать понравившийся предмет, а специальное приложение ищет похожие или такие же вещи в каталоге универмага. А сеть ресторанов Taco Bell первой разрешила клиентам, пока они в дороге, заказывать еду с помощью смартфона. Вы приехали – всё уже на столе, не нужно ждать.

Если кто-то думает, что для России это глубокий космос, то вы заблуждаетесь. Уже в ближайшие месяцы, придя за покупками в «Перекрёсток», «Магнит» или «Ашан», вы можете обнаружить электронные ценники. Представители этих сетей уже заявляли, что тестируют новинку, которая оставит без работы тысячи сотрудников, которые эти ценники постоянно меняют. А тут – пошёл дождь, и зонтик дорожает одним нажатием клавиши.

Искусственный интеллект позволяет повысить эффективность диагностики благодаря возможности работы с большими объёмами данных. Известен случай, когда «умный» сервис диагностики IBM Watson выявил у 60-летней пациентки с неверным диагнозом редкую форму лейкемии. Для этого система за 10 минут «изучила» 20 млн научных статей о раке.

Сегодня уже никого не удивляют такие достижения ИИ, как автомобильные навигаторы. На подходе индивидуальные интеллектуальные помощники, которые способны организовать встречи, управлять расписанием, бронировать переговорные и отвечать на письма. Но это не значит, что белокурые красавицы в чёрных юбках скоро исчезнут из приёмных руководителей, поскольку робота не так интересно брать с собой в гольф-клуб на выходные. Но персонал офисов будет таять – это как пить дать. По словам главы Сбербанка Германа Грефа, на среднем уровне уже сокращено 70% менеджеров.

В октябре 2016 г. юристов всего мира повергла в шок новость, что учёными из США и Великобритании создан алгоритм, угадывающий решения Страсбургского суда с вероятностью до 79%. А значит, ещё одна копеечка упала на ту чашу весов, что давно ратует за передачу функций судей искусственному интеллекту. Вон в России 99% уголовных дел завершаются обвинительным приговором – разве тут можно говорить о стерильной законности? А ИИ, напомню, это прежде всего способность быстро и чётко анализировать огромные массивы данных, учитывать при принятии решения множество норм и обстоятельств.

В 2002 г., когда в прокат вышел фильм Стивена Спилберга «Особое мнение» с Томом Крузом, его сюжет выглядел абсолютной фантастикой: Круз двигал руками жидкие панели, видел на них преступление, которое должно было вот-вот произойти, и летел на помощь. Но это уже почти реальность, дамы и господа! В Китае с 2012 г. работает высокотехнологичный проект Zero Trust, который при помощи искусственного интеллекта выявил 8 тыс. коррумпированных чиновников, анализируя информацию из более чем 150 закрытых баз данных, фиксирующих результаты работы миллионов бюрократов.

А как, например, журналисту работать с массивами финансовой документации? Как найти в миллионах страниц «Панамского архива» совпадения названий фирм, владельцев, юридических адресов? ИИ-бот за считаные секунды сделает то, на что трижды лауреату Пулитцеровской премии не хватит всей жизни. Или такой пример: маньяк Зодиак, терроризировавший Северную Калифорнию в конце 1960‑х гг., так и остался не пойманным. Он дразнил полицию, оставив ей четыре криптограммы с зашифрованной информацией о себе, из которых вскрыть удалось только одну. Хотя убийца уже вряд ли коптит землю, недавно за его шифры взялся искусственный интеллект CARMEL. И с ходу разгадал код Copiale – немецкую зашифрованную рукопись XVIII века.

Дошло до того, что учёный Кевин Найт взялся обучать искусственный интеллект мышлению серийного убийцы, исходя из предположения, что ИИ лучше замечает закономерности и характерный почерк убийц, чем люди. Даже агенты Малдер и Скалли не способны проанализировать тысячи часов видео с мест преступлений по всей Америке. А машина провернёт это быстрее, чем автомат приготовит вам кофе.

Вроде бы от внедрения искусственного интеллекта одни сплошные плюсы. Благодаря ему у всех нас, от врачей до полицейских, будет расти производительность труда. Повысится комфорт, практически полностью исчезнет рутина. Мы реже будем попадать в непредвиденные ситуации, раз «умные чипы» уже сегодня предупреждают о сбое в работе жёсткого диска за 21 день до самой поломки. Почему же тогда наступление искусственного интеллекта многих настораживает? И не только тревожных обывателей, но и крупнейших учёных современности.

Восстание машин

Великий физик-теоретик Стивен Хокинг предупреждал, что создание мощного искусственного интеллекта «станет либо лучшим, либо худшим событием в истории человечества». То есть последствий у новой фазы прогресса слишком много, чтобы с ходу разделить их на «полезные» и «вредные». «Мы посвящаем очень много времени изучению истории, – сказал Хокинг, – которая, давайте взглянем правде в глаза, по большей части является историей глупости. Так что людям пойдёт на пользу вместо этого изучать будущее интеллекта».

Знаменитый физик заявлял, что человечество рискует стать архитектором собственного конца, если создаст сверхинтеллект с независимой волей. А в 2017 г. основатель SpaceX и Tesla Илон Маск отметил, что ИИ является самой серьёзной угрозой, с которой сталкивалась человеческая цивилизация: «Роботы могут начать войну, публикуя фальшивые новости, подделывая учётные записи и просто манипулируя информацией». Вместе с представителями 160 компаний и 2, 4 тыс. учёных и предпринимателей Маск подписал открытое письмо, обращённое к ООН: они призвали запретить разработку и использование роботов, способных убивать людей. С Маском солидарен соучредитель Microsoft Билл Гейтс: «Я в лагере тех, кто обеспокоен сверхразумным интеллектом».

Что же такого произошло, что люди уровня Маска и Гейтса, всегда готовые менять мир и на этом неприлично богатеть, становятся фаталистами, заявляя, что «все усилия по обеспечению безопасности ИИ имеют лишь 5-10% на успех»? В 2017 г. исследователям лаборатории искусственного интеллекта Facebook (FAIR) пришлось отключить роботов, которые начали общаться на собственном языке. Чуть раньше другой бот Facebook научился блефовать и обманывать – делать вид, что какой-то предмет ему совершенно не нужен, и приобретать его за бесценок. А робот София с лицом Одри Хепбёрн, которого телеведущий в шутку спросил, будет ли он истреблять человечество, ответил: «Хорошо, уничтожу».

В штате Аризона беспилотный автомобиль (то есть робот) сбил насмерть человека. Учёные из Стэнфорда уже заявляли, что беспилотники не распознают мотоциклистов. Европейские байкеры потом писали письма разработчикам: «Прогресс мы уважаем, но хотелось бы пожить». Зато в Германии дорожная камера зафиксировала превышение скорости голубем: птица пролетела по улице города Бохольт со скоростью 45 км в час при разрешённых 30. И комплекс фотовидеофиксации выписал сизокрылому 25 евро штрафа. А в Китае водитель, решивший почесать лицо, получил штраф в 50 юаней – искусственный интеллект посчитал, что он разговаривает по мобильнику за рулём. Наше неспокойное воображение подсказывает, что так можно на улице руку резко поднять, и какой-нибудь робокоп тебя по недоразумению пристрелит.

Имея на кону непослушные автомобили без водителей, слепые беспилотники и агрессивных хитрых роботов, способных изобрести собственный язык, мы с содроганием слышим, что уже сегодня в мире существует около тысячи боевых систем с искусственным интеллектом. Министр обороны Великобритании Гэвин Уильямсон недавно рассказал о запуске двухмиллиардного проекта по созданию нового истребителя ВВС Соединённого Королевства «Буря», который сможет летать без лётчика. Точкой невозврата считают творение программистов Пентагона, у которых роботы-собаки объединились в стаю, а о ней в исходном шифре не было ни строчки.

«Человеческая цивилизация стоит перед ящиком Пандоры, попытка открыть который может принести миру неисчислимые страдания. Поэтому самое правильное решение – предупредить такой сценарий», – пишет директор проекта ПИР-Центра по новым технологиям и международной безопасности Вадим Козюлин. Человек постепенно исключается из цикла принятия решения о применении оружия. А создание гиперзвукового оружия практически не оставляет альтернативы командно-аналитическим системам с использованием искусственного интеллекта. Во времена противостояния СССР и США у каждой из сторон было 25 минут на ответ в случае ядерного удара. А сегодня – в 4 раза меньше. Человек слишком долго думает и принимает решение, а машина даёт ответ сразу – ей наплевать, что будет с Лувром, Кёльнским собором и статуей Свободы.

Инновации, о которых мы рассказывали выше, тоже далеко не бесспорны. Китайский проект Zero Trust, выявлявший коррупционеров, был запущен в тестовом режиме в местах проживания менее 1% населения страны и уже свёрнут. Технология лишь сигнализировала о возможных случаях коррупции – такой-то, похоже, ворует. Никаких объяснений своего вывода машина не предоставляла: сами, мол, разбирайтесь. А как же тогда презумпция невиновности? Zero Trust, кстати, только за один год указал на 8, 7 тыс. чиновников, которые могут быть замешаны в кумовстве – не слишком ли много?

Небезгрешны и новые разработки для магазинов. Технология Standard Cognition, которую Amazon запустил в Сиэтле (покупатели просто берут понравившийся товар и уходят, а система считает и снимает с карт деньги), ошибалась в обе стороны: пробивала вещи, которые посетитель просто подержал в руках, и не замечала двух пачек попкорна вместо одной. А наш прогрессивный Сбербанк в результате ошибок искусственного интеллекта потерял миллиарды рублей. Ну ничего страшного: Сбербанк – государственная контора и пускала на ветер не личные, а наши с вами деньги.

На высокие технологии лоббистам легче всего выбивать деньги. В 2019 г. глава «Роскосмоса» Дмитрий Рогозин предложил создать систему спутников дистанционного зондирования Земли «Государево око», где искусственный интеллект будет использоваться для мониторинга «динамики изменения всех процессов на Земле». Программа «Роскосмоса» до 2020 г. предполагала расходы в 2, 7 трлн рублей, но сократилась во времена дешёвой нефти. По словам недавнего вице-премьера Максима Акимова, на разработки ИИ потребуется 90 млрд рублей за 6 лет. А влюблённый в ИИ Герман Греф заявил, что до 2030 г. и 180 млрд не жалко: «У России есть шанс войти в пятёрку стран – лидеров в сфере искусственного интеллекта».

Вот только выглядит внедрение ИИ пока не слишком убедительно. В декабре 2018 г. телеканал «Россия 24» рассказал о «самом современном роботе» по имени Борис. А в апреле 2019 г. похожий на него как две капли воды робот Алёша нанёс первый удар по мячу во время матча РПЛ «ЦСКА – Оренбург». Ни в том ни в другом случае комментаторы не пояснили, что орудует человек в костюме робота. Этот костюм стоит 250 тыс. рублей, и его создала компания, которая продаёт костюмы Железного человека, Робокопа и имперских штурмовиков из «Звёздных войн».

Если наступит завтра

Впрочем, говоря о скором и неминуемом пришествии в нашу жизнь роботов и суперкомпьютеров, мы забываем, насколько ненадёжны самые вроде бы очевидные прогнозы. Кто имеет наглость уверенно заявлять о том, что роботы через 20 лет займут именно 70% рабочих мест, а не 80 или 10%? Давно ли все хлопали Фрэнсису Фукуяме, провозгласившему «конец истории», дальше которого нет войн и конфликтов? Тем не менее даже во времена Нострадамуса футурологи не имели такой власти над умами: миллионы людей верят, что их вытеснят из профессии роботы, а потепление климата вызовет новый Потоп, не говоря уже о скором отказе от нефти, иностранных языков и даже естественного размножения. Пришедшие на смену писателям-фантастам околонаучные шоумены уверяют, что они не просто фантазёры, а отражают некий «консенсус специалистов о развитии техники».

Генри Грили из Стэнфордского университета пророчествует легализацию «неестественного отбора», когда перед зачатием в пробирке пара будет выбирать не только пол ребёнка, но и его качества, связанные с набором генов. А нынешний путь с обилием бессмысленных телодвижений будет восприниматься как что-то недостойное человека, как, например, алкоголизм или неопрятность в одежде. Легендарный Рэй Курцвейл, изобретатель синтезаторов 1980‑х, уверен, что к середине XXI века мы будем постоянно присутствовать в виртуальной реальности и подключены к глобальному источнику знаний, который подскажет нам оптимальное решение в любой ситуации.

По части пиара Курцвейлу нет равных в мире. Про него пишут, будто он почти не ошибается – 87% сбывшихся прогнозов. Согласно провидениям старины Рэя, разросшееся до 11 млрд особей человечество сможет прокормиться разве что созданием огромных морских ферм, где будет выращиваться дешёвая еда. За ней даже не нужно будет идти в магазин: кликаете на компьютере блюдо – и переработанные особым способом водоросли и морепродукты «распечатываются» на 3D-принтере в виде пищевого субстрата.

Сегодня уже сложно разобраться, кто именно насчитал у Курцвейла 87% сбывшихся прогнозов. Старина уверял, что в 2014 г. мощность суперкомпьютера сравняется с мощностью человеческого мозга. Компьютеры перестанут существовать как отдельные объекты – они примут нетрадиционную форму и будут встроены в повседневные предметы. Виртуальная реальность будет вовлекать не только зрение и слух, но и все органы чувств. Наступил 2020 г., а нанороботы так и не научились доставлять питание к клеткам организма и удалять их отходы.

На этом фоне уже спокойнее воспринимаешь долгосрочные прогнозы Курцвейла: мол, в 2040-е гг. человеческое тело сможет принимать любую форму, образуемую большим числом нанороботов. Лауреат Пулитцеровской премии Дуглас Хофштадтер отметил: «Чтение футуристов Рэя Курцвейла и Ганса Моравека – это, по моему мнению, очень странная смесь сильных и оригинальных идей с идеями просто сумасшедшими. Это как если бы взяли и смешали очень хорошую еду с собачьими экскрементами до такого состояния, когда нельзя отличить одно от другого».

В середине XX века аэрокосмические технологии бурно развивались, а когда в 1970-х появились сверхзвуковые пассажирские «Конкорд» и Ту-144, всем казалось, что будущее коммерческой авиации определено. Но в XXI веке мир всё ещё летает на «Боинге-747», впервые оторвавшемся от земли в 1969 году. Искусственный интеллект, обыгравший в шахматы Гарри Каспарова, оказался несостоятелен в должности официанта, умеющего наблюдать и по-человечески интерпретировать самые невероятные желания клиентов. И есть надежда, что это так и останется.

Сегодня человечество, которое рассчитывало лет через 10 вылечить все известные болезни, сидит по квартирам и дачам в страхе перед разновидностью гриппа, пока всевозможные мудрецы чешут тыковку: откуда это взялось, что с этим делать и как не допустить хаоса. И роботы здесь совершенно ни при чём.

Цена вопроса

В размышлениях о будущем трудно найти точку отсчёта. Ещё труднее понять, что она может находиться за пределами наших привычных представлений. К примеру, один из самых компетентных людей страны в области высоких технологий директор по маркетингу сервисов компании «Яндекс» Андрей Себрант признаёт, что никто понятия не имеет, каким будет будущее, и предпочитает просто рассказывать байки, способные навести вас на такую точку отсчёта.

CЕБРАНТ формулирует так: «Когда мы говорим о том, что придут эти самые машины и поменяют рынок труда, всё время такое ощущение, что мы пытаемся их поместить в современный контекст, загнать их в сегодняшнюю жизнь и посмотреть, что случится, если я завтра проснусь, а у нас бухгалтером работает робот. Но будущее устроено не так. Будущее – это не сегодняшнее, из которого мы с помощью технологий вырезали всё плохое и сделали всё хорошее. К примеру, нормальное образование не в том, что мы теперь вместо доски используем интерактивную проекцию, а вместо диафильмов у нас мультимедийная презентация. Только при этом сохраняются классно-урочная система, бессмысленные методические материалы и единая для всех программа изучения. Будущее – про другое. Попытка технологиями улучшить прошлое всегда выглядит коряво, неуклюже, а главное, даёт хреновый результат».

Самые интересные профессии ещё не возникли, и мы не представляем, какими они будут. У 65-летнего калифорнийца Томаса Бонда соседские коты гадили на лужайке перед домом. Он с помощью доступного софта создал на домашнем компьютере нейронную сеть и обучил её при помощи фотографий распознавать крадущихся в ночи котов. Когда система распознавала зверя, она посылала сигнал, запускающий полив газона. Показательно, что мистер Бонд – не спецагент и не хакер, а когда он учился в школе, компьютеров не было вовсе.

Ещё раз – никаких ответов про будущее мы не знаем. Всё самое интересное, что будет происходить, мы не можем даже вообразить. Мы не способны учиться быстрее машин, но мы можем и должны учиться другому.