Илон Маск и многие другие эксперты давно предупреждали, что ИИ может выйти из-под контроля и превратиться в невероятно опасное создание, угрожающее всему живому на Земле. В таком случае повторение событий «Матрицы» вполне вероятно. Но это не мешает учёным испытывать нейросети дальше и проверять их на «разумность».
Недавно исследователи сообщили, что нейросеть под названием MegaSyn разработала 40 тысяч потенциально смертоносных молекул. Эти новые вещества, напоминающие очень мощные нервно-паралитические яды, удалось получить лишь за 6 часов. На международной конференции по безопасности систему запустили в работу в необычном режиме. Она должна была целенаправленно искать токсичные молекулы. Задача была решена на «5 с плюсом». Среди 40 тысяч опасных молекул многие оказались даже более токсичными, чем боевые отравляющие вещества.
Авторы работы отмечают, что «они превратили безобидную модель из полезного медицинского инструмента в генератор потенциально смертельных боевых ядов». Они подчеркнули, что большая часть процесса проста в использовании с помощью общедоступных инструментов. И хоть ни одно из указанных в материале соединений не существует в реальности, проведённый эксперимент доказывает, насколько ИИ может быть опасен.