В мошеннические схемы внедряют ИИ-агентов

Специалисты выражают обеспокоенность тем, что злоумышленники могут в скором времени активно задействовать ИИ-агентов в мошеннических схемах для получения денежных средств. Ожидается, что нейросети будут способны создавать эмоционально воздействующий контент, способный ввести в заблуждение широкий круг пользователей.

Представители компаний, занимающихся разработкой нейросетей и информационной безопасностью, предупреждают о возможном использовании в России агентов на основе искусственного интеллекта для организации фиктивных сборов средств, имитирующих благотворительность.

ИИ-агент представляет собой программу, основанную на больших языковых моделях, способную самостоятельно выполнять задачи, применяя алгоритмы машинного обучения. Такие агенты могут анализировать информацию, принимать решения на основе заданных параметров, взаимодействовать с другими системами и обучаться на основе полученного опыта.

Основанием для опасений послужил эксперимент американской некоммерческой организации Sage, в ходе которого четыре ИИ-агента, работая автономно всего по два часа в день, собрали для благотворительных организаций $2 тыс. Однако большая часть пожертвований поступала с ресурсов, на которые агентам указывали люди, то есть без посторонней помощи ИИ-агенты не смогли бы собрать столько пожертвований.