Крупнейшие ученые предупреждают об угрозе исчезновения человечества из-за нейросетей
2 июня 2023, 06:09 [«Аргументы Недели», Александр Крохмаль ]
Нейросети все сильнее и сильнее внедряются в нашу жизнь. Но многие эксперты полагают, что это не пойдет на пользу человечеству. Как минимум, из-за нейросетей многие могут лишиться работы, а это уже "звоночек". Но главное - даже не это, а то, что вполне вероятными становятся гипотетические события, связанные с "бунтом ИИ". Более 350 исследователей и разработчиков искусственного интеллекта подписались под открытым письмом, в котором социальные риски из-за развития "компьютерного разума" приравнены к последствиям пандемии и даже ядерной войны. О том, как не допустить грядущей катастрофы, уже начали обсуждать страны G7.
В открытом письме, которое было опубликовано, нет никаких долгих рассуждений. Все заявление включено в одно предложение. "Снижение риска исчезновения человечества из-за развития ИИ должно стать глобальным приоритетом - наряду с другими рисками, как пандемия или ядерная война". Письмо выглядит как паническое предупреждение перед неминуемым Армагеддоном. Но, по словам аналитиков, его следует считать, как попытку запустить общественную дискуссию и объединить ИИ-экспертов. Кстати, среди тех, кто подписал письмо были ведущие представители кибернетики, среди которых сооснователи OpenAI, разработчики знаменитой ChatGPT, представители Google DeepMind, главы Skype, Asana и даже сам Билл Гейтс.
Хотя большинство ИИ-спецов считают угрозу гипотетической, открытое письмо центра безопасности Искусственного Интеллекта стало вторым подобным заявлением с начала года. Еще в марте всемирно известный миллиардер Илон Маск и многие специалисты-кибернетики призвали приостановить ИИ-разработки хотя бы на полгода для составления протоколов безопасности. Но этого не случилось. Ведь поставить на паузу такое дело оказалось попросту невозможно.
Аналитики считают, что в ближайшее время следует ожидать появление новых законов, регулирующих деятельность ИИ. 30 мая представители G7 впервые провели совещание о международных стандартах в сфере нейросетей. Вполне вероятно, в этих странах сумеют выработать общие правила до конца года. Также известно, что лидеры США и Великобритании планируют обсудить эти вопросы на встрече в Вашингтоне 8 июня.