Развитие искусственного интеллекта может привести к гибели человечества уже в ближайшие четыре года. Такое заявление сделал бывший высокопоставленный сотрудник компании-разработчика нейросетей Джейкоб Коксон.
Ученый, недавно уволившийся из-за опасений, связанных с бурным развитием ИИ, заявил в интервью телекомпании CNN, что нынешняя гонка американских корпоративных монстров Anthropic и OpenAI наверняка уже скоро приведет к появлению сверхразума, который люди уже никак не смогут контролировать. Роковой чертой, по мнению эксперта, станет этап, когда нейросети научатся самостоятельно создавать еще более мощные версии себя.
Недавно стало известно, что компанию Anthropic неожиданно покинул еще один специалист по безопасности — Джо Бентон. Он также подчеркнул, что механизмы безопасности не успевают за скоростью развития ИИ, и наша цивилизация может не пережить появление нейросистем, превосходящих людей по интеллекту.
