США и Китай в Женеве обсудят потенциальные риски, связанные с развитием ИИ

Представители Соединённых Штатов и Китая встретятся в Женеве для обсуждения рисков, связанных с развитием и использованием искусственного интеллекта (ИИ). Об этом заявил журналистам высокопоставленный представитель администрации Белого дома.

По его словам, встреча пройдет 14 мая, ожидать конкретных результатов от переговоров не стоит, они направлены лишь на поддержание открытыми каналов связи между двумя странами.

Как сообщалось ранее, создателей ИИ призвали немедленно приостановить обучение еще более мощных систем ИИ. Об этом говорится в открытом письме, подписанным главой компании SpaceX и Tesla Илоном Маском, сооснователем Apple Стивом Возняком, сооснователем Pinterest Эваном Шарпом, и рядом исследователей в области искусственного интеллекта.

В письме говорится, что все исследования искусственного интеллекта мощностью выше GPT-4 немедленно должны быть остановлены или хотя бы приостановлены. Проводимые исследования системы ИИ с интеллектом, сопоставимым с человеческим показали, что необходимо разработать и внедрить протоколы безопасности, соблюдение которых должны контролировать независимые эксперты. При этом необходимы регулирующие органы, надежная система проверки, сертификация и контроль более продвинутых систем ИИ.

В письме экспертов отмечается, что на сегодня соответствующий контроль не обеспечивается, лаборатории в стремлении стать первыми разрабатывают и затем внедряют все более и более мощные системы, поведение которых невозможно предсказать.