Илон Маск и ряд исследователей искусственного интеллекта призывают приостановить обучение нейросетей

Создателей искусственного интеллекта призвали немедленно приостановить обучение еще более мощных систем ИИ. Об этом говорится в открытом письме, опубликованном на сайте некоммерческой организации Future of Life Institute.

Открытое письмо было подписано главой компании SpaceX и Tesla Илоном Маском, сооснователем Apple Стивом Возняком, сооснователем Pinterest Эваном Шарпом, и рядом исследователей в области искусственного интеллекта.

В письме говорится, что все исследования искусственного интеллекта мощностью выше GPT-4 немедленно должны быть остановлены или хотя бы приостановлены на шесть месяцев, при этом, если такая остановка не будет сделана быстро, то «правительства должны вмешаться и ввести мораторий».

В письме также говорится, что проводимые исследования системы ИИ с интеллектом, сопоставимым с человеческим показали, что необходимо разработать и внедрить протоколы безопасности, соблюдение которых должны контролировать независимые эксперты, кроме этого необходимы регулирующие органы, надежная система проверки, сертификация и контроль более продвинутых систем ИИ.

В письме экспертов отмечается, что на сегодня соответствующий контроль не обеспечивается, лаборатории в стремлении стать первыми разрабатывают и затем внедряют все более и более мощные системы, поведение которых невозможно предсказать.