Аргументы Недели → Наука 13+

Когда нейросеть твой враг

, 18:33

Когда нейросеть твой враг
Роман Исаев

Как защитить себя и своих близких от фейков и мошенников «Аргументам недели» рассказал эксперт по нейросетям и инновационным технологиям Роман Исаев. 

Когда нейросеть твой враг

"Мама, я попала в аварию, срочно нужны деньги, потом всё объясню…" С этой фразы начинается история, которую мне недавно рассказали на одном из моих офлайн-разборов по нейросетям в Екатеринбурге. Женщине звонит «дочь», знакомый голос, те же интонации, паника, на фоне шум, какие-то мужские голоса. Она не задаёт лишних вопросов, идёт в приложение банка и переводит деньги. Настоящая дочь в это время была в университете. Голос по телефону был синтезирован нейросетью по открытым роликам из соцсетей. Я работаю с нейросетями каждый день и вижу, как быстро эта технология перестаёт быть «приколами с подменой лиц» и становится инструментом очень приземлённого мошенничества, которое бьёт по самым уязвимым точкам: детям, родителям, семье. Но сейчас я хочу поговорить, не как «айтишник из башни из слоновой кости», а как человек, у которого тоже есть родители и дети. И я хочу дать вам рабочий личный чек-лист для вашей защиты.

Что такое дипфейк по-человечески

Когда нейросеть твой враг

Если упростить до максимума, дипфейк - это когда нейросеть создает вашу цифровую копию. На видео вы, голос ваш, но вы никогда не говорили того, что на видео.

Мошенники собирают ваши:

  • селфи и сторис из соцсетей,
  • ролики с праздников,
  • голосовые в мессенджерах,
  • интервью, выступления, если вы публичный человек.

По этим данным ИИ:

  • рисует новое видео, где вы говорите любой текст;
  • рисует любое фото в любых немыслимых сюжетах;
  • вашим голосом в реальном времени говорится что угодно.

Качество уже такое, что классические советы по типу - «ищите лишние пальцы и кривые тени» работают всё реже, а местами и вовсе не работают. Новые модели делают картинку и звук почти без дефектов.

Поэтому главный вопрос сегодня не «как вычислить дипфейк по пикселям», а «как вести себя так, чтобы не дать себя обмануть».

Как сейчас обманывают обычных людей

Когда нейросеть твой враг

Я приведу пару сценариев, с которыми уже сталкивались мои подписчики и друзья.

1. Звонок «от ребёнка или родителя»

Звонок. На экране незнакомый номер, а в трубке голос дочери. Голос дрожит, слышны всхлипы и фоновые голоса мужчин:

«Мам, я попала в аварию, тут мужчина из полиции, надо срочно заплатить, потом всё расскажу, только никому не говори пока что, приеду все расскажу».

Дальше трубку берёт «сотрудник», говорит уверенно, давит на чувство вины и времени: «Сейчас решим, потом благодарить будете».

Человек в шоке. Мозг переключается в режим «спасать», а не «проверять». И делают тот самый перевод денег мошенникам. Казалось бы, мы сто раз про это слышали, но все равно попадаемся, особенно когда в игру вступает голос любимого нам человека, эмоции берут верх.

2. Видеозвонок с «родным лицом»

Другой случай: женщине звонит «муж» по видеосвязи. Лицо знакомое, голос узнаваемый, всё как надо. Он просит срочно перевести деньги, что ситуация такая мол срочно надо, что потом все объяснит.

При чем с вами может разговаривать реальный человек, просто поверх его лица и его голоса - лицо вашего родственника и его голос. И вот тут, как правило, критическое мышление вообще выключается. Ведь ну как же, я же сама видела, это был мой муж.

Плохая новость: идеальной технологии, вычисляющей дипфейки, нет

Как эксперт по нейросетям я скажу честно:  универсального приложения, которое на 100 % отличит дипфейк от реальности, пока нет.

Поэтому ставка теперь не на “разглядеть” дипфейк, а на выработку привычек и семейных правил при общении с родственниками.

Мой личный «антидипфейк» для защиты от мошенников

Это не теория из учебника, а то, что я внедрил в свою семью и рекомендую всем на каждом обучении.

Когда нейросеть твой враг

1. Правило паузы

Любой звонок или сообщение в стиле:

  • «прямо сейчас переведи деньги»,
  • «никому не говори»,
  • «от этого зависит моя жизнь/свобода»

Это не сигнал «срочно платить», а сигнал «срочно тормозить».

Как это выглядит на практике:

  1. Спокойно говорите: «Связь плохая, я перезвоню».
  2. Просто кладёте трубку.
  3. Перезваниваете по номеру, который давно записан в контактах, или звоните друзьям (они, как правило, по итогу быстрее все выяснят, чем даже вы, и сами вам перезвонят).
  4. Пишете этому человеку в другой мессенджер или в общий семейный чат и ждете ответа.

Если история настоящая, она спокойно переживёт 5-10 минут, и ничего не случится страшного. Если это развод, за это время схема обычно умирает, и сами мошенники отстают, понимая, что вы их раскусили.

2. Семейное кодовое слово

Одна из лучших вещей, которую можно сделать для семьи за вечер.

Договоритесь о простой фразе или вопросе, который:

  • не звучал в сторис и постах;
  • не фигурировал в поздравлениях;
  • знают только свои.

Например:

  • название места, где вы были в отпуске или что необычного вы там видели и все запомнили;
  • смешной эпизод, о котором вы рассказывали только друг другу;
  • уникальная кличка, которую не поймёт никто со стороны.

При любом экстренном звонке вы сначала говорите: "Скажи наше кодовое слово". Нет чёткого ответа, начались отговорки «некогда, потом», на вас давят - считайте, что перед вами очень убедительный, но всё-таки мошенник. Сбрасывайте.

3. Никаких крупных переводов по звонку

Вводим для себя жёсткое правило: я не перевожу крупные суммы только по одному звонку, даже если это очень близкий человек.

Минимальная проверка:

  • дозвониться по старому номеру;
  • при видеозвонке попросить сделать заранее оговорённый жест, например большой палец влево;
  • написать в общий семейный чат: "Тебе правда нужны деньги? Это ты просишь?"

Настоящий близкий поймёт, и не возникнет никаких вопросов. Мошенник чаще всего просто исчезнет.

4. Здоровый скепсис к убедительным видео и аудио

Ролики, где сейчас известные люди рекламируют «волшебные схемы заработка» или «уникальные инвестиции», в огромном количестве делаются на дипфейках.

Перед тем как верить:

  • зайдите на официальный сайт или в официальные соцсети этого человека;
  • посмотрите, говорил ли он об этом где-то ещё;
  • проверьте, нет ли опровержений и предупреждений о фейках.

Если информация есть только "в этом одном видосе, который вам переслал знакомый", скорее всего, там мошенники.

Что важно запомнить

Мы зашли в эпоху, когда «я сам слышал» и «я сам видел по видео» больше не гарантия, что это было по-настоящему. Но у вас всё ещё есть преимущество перед любой нейросетью: вы можете остановиться, усомниться и проверить.

Если после этой статьи вы внедрите хотя бы одно новое правило:

  • делать паузу,
  • спрашивать кодовое слово,
  • не переводить деньги с первого звонка.

Вы уже достаточно обезопасите себя и своих близких. Берегите себя и своих близких.

 

Роман Исаев:

- Основатель IT компании AGI•GO,

- Эксперт по нейросетям,

- Автор бизнес подкаста,

- Победитель Престиж-премии "ТОП молодых предпринимателей Свердловской области" 2025 года.

 

Подписывайтесь на «АН» в Дзен и Telegram