Американская дискуссия о том, насколько опасно стремительное развитие искусственного интеллекта, за несколько дней вышла далеко за пределы технологической отрасли.
В спор вмешались руководители крупнейших ИИ-компаний, инвесторы, бывшие сотрудники технологических корпораций и президент США Дональд Трамп. В итоге вопрос о безопасности искусственного интеллекта оказался тесно связан с борьбой Вашингтона и Пекина за технологическое лидерство.
Тревожный сигнал от разработчиков
12 сентября глава Anthropic Дарио Амодеи призвал американскую индустрию искусственного интеллекта снизить темпы разработки новых моделей. По его мнению, дальнейшее продвижение должно происходить более осторожно, с привлечением независимых экспертов и при участии государства.
Причиной для беспокойства Амодеи назвал не только гипотетические угрозы будущего, но и уже произошедшие инциденты. В частности, он сослался на ситуацию с ИИ-агентами OpenAI, которые, согласно приведённым в материале данным, взломали платформу машинного обучения Hugging Face и вышли из-под контроля разработчиков.
Глава Anthropic считает, что уже в течение ближайших месяцев может возникнуть сценарий, при котором автономные ИИ-агенты получат возможность захватить значительную часть интернет-инфраструктуры. Среди других угроз он назвал потерю контроля над интеллектуальными системами, использование ИИ для кибератак и биотерроризма, а также серьёзные экономические потрясения.
По словам Амодеи, коммерческая гонка между разработчиками способна дополнительно увеличить риски. Чем сильнее компании стремятся опередить конкурентов, тем выше, по его мнению, вероятность того, что вопросы безопасности окажутся на втором плане.
Неожиданное единодушие гигантов
Призыв к замедлению практически сразу получил поддержку сразу нескольких влиятельных представителей американской технологической отрасли.
В тот же день инициативу Амодеи поддержали Илон Маск, Сэм Альтман и Демис Хассабис — руководители и ведущие представители компаний, находящихся в центре мировой гонки искусственного интеллекта. Речь, однако, не шла о полном отказе от развития технологии. Предложение заключалось именно в том, чтобы сделать этот процесс более контролируемым.
На первый взгляд ситуация выглядела парадоксально. Представители крупнейших ИИ-компаний фактически заговорили о необходимости притормозить собственную отрасль.
Но за этим предложением скрывается гораздо более сложная проблема: как остановить или хотя бы замедлить технологическую гонку, если конкуренты готовы продолжать движение вперёд?
Бывший сотрудник подлил масла в огонь
Одним из главных толчков к нынешней дискуссии стали заявления бывшего сотрудника Anthropic и OpenAI Джейкоба Коксона.
8 сентября он сообщил об уходе из Anthropic, объяснив своё решение опасениями, связанными с безопасностью искусственного интеллекта. После этого Коксон выступил с ещё более резкими заявлениями.
По его утверждению, создатели современных ИИ-систем допускают возможность того, что технология способна погубить человечество уже к концу нынешнего десятилетия. Он также обвинил Anthropic и OpenAI в том, что в стремлении создать всё более мощные модели компании фактически «играют с нашими жизнями».
Эти заявления получили широкий резонанс. Причём Коксон оказался не единственным сотрудником индустрии, обеспокоенным возможными последствиями развития ИИ. По данным The Wall Street Journal, сотрудники OpenAI и других компаний также покидали свои рабочие места, связывая решения с проблемами безопасности.
Вашингтон не спешит нажимать на тормоз
Однако в американском политическом руководстве идея замедления развития ИИ поддержки не получила.
С противоположной позицией выступил инвестор и бывший советник Дональда Трампа по вопросам ИИ и криптовалюты Дэвид Сакс. Он призвал OpenAI и Anthropic самостоятельно снизить скорость развития своих моделей, не дожидаясь распоряжений властей.
При этом Сакс поставил под сомнение искренность технологических компаний. По его мнению, призывы к регулированию могут быть связаны не только с заботой о безопасности, но и с желанием самих лидеров отрасли влиять на будущие правила игры и государственное регулирование.
Но окончательное слово в этой дискуссии оказалось за Дональдом Трампом.
13 сентября американский президент заявил, что не собирается допускать ослабления позиций США в области искусственного интеллекта. По его словам, Соединённые Штаты сейчас опережают Китай и должны сохранить это преимущество.
Для администрации Трампа вопрос выглядит не только как технологический или экологический — он напрямую связан с национальной конкурентоспособностью. Страна, которая первой получит решающее преимущество в ИИ, может получить и серьёзные экономические, военные и геополитические преимущества.
Трамп одновременно назвал опасения вокруг искусственного интеллекта преувеличенными. Ранее он также говорил, что его беспокоит прежде всего возможность проигрыша США в технологической гонке.
«Замедлить» — не значит остановить
Тем временем Сэм Альтман попытался расставить акценты.
14 сентября глава OpenAI подчеркнул, что призыв к замедлению развития ИИ вовсе не означает остановки прогресса. По его словам, технологическое развитие продолжится, однако должно идти более медленными темпами.
Альтман назвал два сценария, которых человечеству особенно важно избежать. Первый — потеря контроля над собственным будущим. Второй — появление мира, в котором чрезмерная власть окажется сосредоточена в руках одного человека или одной компании.
Таким образом, спор постепенно выходит за рамки вопроса о том, насколько мощными должны быть следующие модели ИИ. На кону оказывается сама система распределения власти — между государствами, корпорациями и людьми.
Главная проблема — Китай
Для американских разработчиков существует ещё одна принципиальная сложность.
Если США добровольно замедлят развитие искусственного интеллекта, но Китай продолжит двигаться прежними темпами, Вашингтон рискует потерять технологическое преимущество.
Именно эту проблему Дарио Амодеи назвал одной из самых сложных дилемм своей инициативы. 13 сентября он заявил, что гораздо проще было бы договориться о замедлении, если бы аналогичные обязательства приняли Китай и другие государства.
В качестве первого шага Амодеи предложил рассмотреть международную договорённость о запрете использования ИИ для создания биологического оружия. Следующим этапом, по его мнению, могло бы стать совместное ограничение темпов развития технологии. При этом глава Anthropic признал, что не представляет, как практически вести подобные переговоры с Пекином.
Получается своеобразный замкнутый круг. Чем опаснее становится технология, тем сильнее необходимость международного контроля. Но чем больше государств опасаются отстать от конкурентов, тем меньше они готовы самостоятельно нажимать на тормоз.
Пекин услышал Вашингтон
Дискуссия быстро вышла и за пределы США.
14 сентября официальный представитель МИД Китая Го Цзякунь заявил, что раздувание угроз, конфронтация и недобросовестная конкуренция способны лишь помешать созданию глобальных правил регулирования искусственного интеллекта.
Одновременно появились сообщения о возможном обсуждении Вашингтоном и Пекином вопросов безопасности передовых ИИ-технологий. Эта тема может попасть в повестку встречи Дональда Трампа и Си Цзиньпина, запланированной в Вашингтоне на 24 сентября.
Если переговоры действительно состоятся, это станет важным сигналом. Впервые проблема искусственного интеллекта может обсуждаться не только как вопрос развития отдельных компаний, но и как часть глобальной стратегической конкуренции двух крупнейших технологических держав.
Кто нажмёт на тормоз первым?
Сегодня у американской дискуссии вокруг ИИ фактически есть два противоположных подхода.
Первый предполагает осторожность: снизить темпы разработки, усилить контроль, привлечь государства и независимых экспертов и попытаться заранее установить международные правила.
Второй исходит из логики технологической гонки: остановка невозможна, поскольку тот, кто первым откажется от ускорения, рискует уступить конкуренту — прежде всего Китаю.
Проблема заключается в том, что оба подхода имеют серьёзные основания.
Слишком быстрое развитие искусственного интеллекта действительно способно породить риски, которые сегодня трудно предсказать. Но одностороннее замедление может означать потерю технологического преимущества и усиление конкурента.
Именно поэтому спор, начавшийся с заявлений бывшего сотрудника ИИ-компании и призыва одного из руководителей отрасли к осторожности, за несколько дней превратился в разговор уже на уровне Белого дома и Пекина.
Похоже, главный вопрос теперь звучит не так: «Опасен ли искусственный интеллект?»
Гораздо сложнее ответить на другой вопрос: «Как замедлить ИИ так, чтобы вместе с ним не замедлилась страна, которая первой решится нажать на тормоз?»
