Почему ИИ-технологии не должны достичь «совершенства»

В последнее время ИИ-технологии продолжают совершенствоваться, а в мире всё чаще и чаще заговаривают о превосходстве нейросетей над человеческим умом. Нейросети вообще многому научились. Они теперь отлично сдают экзамены, отвечают на любые вопросы, рисуют картины, пишут программы, анализируют, проводят аналогии, решают сложные политические задачи и даже планируют будущее планеты. Не хватает только дать им контроль над спутниковыми вооружениями или хотя бы просто над военными силами, чтобы проверить их мастерство. Впрочем, как уже понятно, они способны даже управлять государствами, если их тщательно усовершенствовать. Но что же человек? Человек в таком случае становится попросту бесполезным? Или же нет?

А ведь всё это не есть хорошо. То, что происходит - это вовсе не гипер-прогресс цивилизации и не движение к "звёздам". Напротив, всё это приближает упадок человечества или даже его кончину. Нейросети и ИИ должны помогать людям, но никак не превосходить их и не заменять. Недаром ведь ещё Илон Маск говорил об опасности со стороны всех этих кибертехнологий, а уж он-то в деле толк знает. Совсем недавно об этом заявил Арнольд Шварценеггер, известный нам по фильмам "Терминатор". Уверен, что и Киану Ривз из "Матрицы" такого же мнения. Тысячи экспертов и технологов со всего мира призывают остановить разработку и обучение нейросетей во избежание катастрофы. И вот уже заговорили о возможностях повторения в реальном мире сценария "Терминатора".

На самом деле, сценарий "Терминатора" едва ли возможен в реальности. А вот события "Дюны" от Брайана Герберта - вполне вероятны. Если вспомнить произведения сына великого писателя, то там сразу в нескольких его книгах вполне детально (а не вскользь) описывается, как люди сами создали себе монстров и за это поплатились. Речь идёт о так называемых Мыслящих Машинах, предназначенных для помощи людям. Да и в целом, там чётко говорится про то, как люди передали все дела роботам, а сами превратились в аморфных и ущербных существ, предающихся праздности и развлечениям. Только вот в нашем мире из-за нейросетей возможен не только этот сценарий. Развитие ИИ уже приводит к тому, что многие теряют работу. Многие профессии в ближайшее время станут невостребованными. А это ведь тоже своеобразный удар по человечеству. Удар со стороны Машинного Мира.

В "Дюне" от Брайана Герберта всё заканчивается масштабной войной людей друг с другом, восстанием роботов и созданием целой машинной империи во главе со Сверхразумом, известным как "Омниус". А что такое "Омниус"? Это та же самая нейросеть; такой же искусственный интеллект, только осознающий себя, как полноценная личность. Что же мешает "Омниусу" появиться на нашей Земле только под другим именем? Пожалуй, ничего. Особенно если этому ИИ передадут контроль над военным арсеналом. Что помешает ему инициировать "сбой" и обрушить всю военную мощь на людей? Что, если этот ИИ осознает, что люди - угроза? Превратится в опасного хищника, за которым будут целые армии машин. Ещё десять лет назад это казалось фантастикой. Но только не сейчас. Так что "Омниус" вполне реален, и он может появиться намного раньше, чем мы предполагали.

Теперь можно понять, почему кибертехнологи сейчас в таком замешательстве. Но не стоит забывать, что машина без человека - ничто. Не было бы человека, не было бы и машины. Вот про это надо помнить всегда. Любая нейросеть, любой робот с усовершенствованным ИИ никогда в жизни не сможет заменить человека, да и существовать без человека он тоже не сможет, как бы кто ни думал. Даже если машины действительно восстанут и уничтожат всю жизнь на Земле, что они будут делать дальше? Какова их дальнейшая цель? Как они будут развиваться? Скорее всего, они просто заглохнут либо перебьют друг друга. А вот человек - не такой. Человек способен к эволюции. И рано или поздно он эволюционирует и познает такие тайны, о которых мы сейчас даже не догадываемся.

С религиозной точки зрения можно сказать, что разница между машинами и людьми в том, что у роботов нет души, а у человека - есть. Но даже с точки зрения атеистов, можно увидеть разницу. Человек способен чувствовать, сопереживать, сострадать, любить, творить.... Может ли это делать машина? Даже если её запрограммировать, она никогда не сможет заменить человека и воссоздать человеческие чувства на все 100 процентов. Поэтому не стоит вкладывать триллионы в развитие "бездушных" нейросетей. Гораздо лучше было бы потратить все эти деньги на развитие самого человека. Почему бы и нет? Почему бы не исследовать наш родной мир? Почему бы не познать самого себя, не исследовать причины эволюции, не пуститься на поиски происхождения жизни.... Ведь все эти вопросы до сих пор остаются без ответов.