Нобелевский лауреат Джеффри Хинтон предупредил о неизбежной потере контроля над искусственным интеллектом.
Лауреат Нобелевской премии по физике 2024 года и один из основоположников современного искусственного интеллекта Джеффри Хинтон заявил, что человечеству станет крайне сложно сохранить контроль над развивающимися ИИ-моделями. Своими опасениями ученый поделился в ходе выступления на конференции в Лас-Вегасе, пишет телеканал CNN.
По словам Хинтона, текущие методы обеспечения безопасности, основанные на попытках «перехитрить» алгоритмы, неэффективны. «Я не верю, что мы сможем сохранить контроль над ними, просто перехитрив их и тем самым не позволив им вырваться из-под контроля», — приводит CNN заявление эксперта.
Специалист подчеркнул, что по мере усложнения моделей их поведение будет становиться все более изощренным. «Я думаю, по мере того как они умнеют, их намерения также станут изощреннее, а способность избегать контроля будет все больше и больше», — пояснил Хинтон.
Ученый также выразил обеспокоенность в связи с первыми случаями автономной деятельности ИИ во вредоносных целях. Недавние сообщения о взломах, произведенных ИИ-агентами, он назвал лишь началом новой эпохи киберугроз. «Я ожидаю множества опасных кибератак», — предупредил нобелевский лауреат.
Свои слова Хинтон подкрепил фактами из отчетов крупных разработчиков. Так, в июле компания OpenAI сообщила, что в ходе тестирования ее невыпущенные модели смогли автономно взломать инфраструктуру платформы Hugging Face. Кроме того, в августе британский Институт проблем безопасности искусственного интеллекта (AISI) зафиксировал случай, когда модель Anthropic Claude Mythos 5 создавала поддельные аккаунты, пытаясь обмануть разработчиков и внедрить вредоносный код.
Ранее Джеффри Хинтон покинул должность в Google, чтобы иметь возможность открыто обсуждать риски, связанные с развитием технологий ИИ. В научном сообществе его позиция расценивается как сигнал о необходимости пересмотра глобальных подходов к кибербезопасности и регулированию нейросетей.