Цифровой двойник: новая эра обмана

На Петербургском международном экономическом форуме прошла собственная сессия Сбера «Цифровой самозванец: новое оружие массового поражения». Выступивший модератором заместитель Председателя Правления Станислав Кузнецов вместе с участниками наглядно показали, как технологии искусственного интеллекта превращаются в инструмент массового мошенничества. В нестандартном формате живого диалога участники создавали и разоблачали дипфейки на глазах у зрителей.

За полтора года число дипфейков в России выросло в 26 раз. Только в текущем году ущерб от такого мошенничества превысил 2 млрд рублей. Средний чек одной атаки — 16 млн рублей. При этом создать один дипфейк можно не дороже 50 рублей. В теневом интернете уже доступно более 40 тыс. готовых заготовок для различных сценариев. По прогнозам к концу 2026 года Россия может потерять от дипфейков 250 млрд рублей.

Дипфейки сегодня могут дискредитировать политиков, заставить финансового директора перевести миллионы на фальшивом собрании совета директоров (такой случай уже был в Сингапуре), а главное — бить по чувствам людей, например, пожилых родственников, которые верят каждому слову «внука» на видео.

Станислав Кузнецов, заместитель Председателя Правления Сбербанка:

«Если раньше преступник должен был подготовиться, собрать данные, придумать сценарий, добиться доверия, то теперь всю эту работу делает нейросеть. Появляется сообщение, и к нему сразу возникает максимальный уровень доверия. Мы видим колоссальный рост дипфейков. Самое страшное — это когда ваш ребёнок со слезами на глазах просит помочь. Не реагируйте. Какой бы ужасной ни была информация, перезвоните тому, кто якобы прислал сообщение».

На сессии обсудили три типа дипфейков. Первый — «кружочек»: короткое видео, где человек в экстренной ситуации (например, попал в ДТП) просит денег. Второй тип — «фейк-маска»: живой человек надевает чужое лицо и говорит чужим голосом. Подобные фейки, моделирующие негативный контент, могут повлиять на результаты выборов, это угроза доверию. Третий, самый опасный тип — «фейк-аватар»: полностью цифровой персонаж, который сам ведёт диалог, отвечает на вопросы и адаптируется под жертву. К концу года такие аватары станут неотличимы от реальных людей и смогут говорить на разных языках.

Станислав Кузнецов, заместитель Председателя Правления Сбербанка:

«Мы на пороге взрывного роста. Сейчас можно купить готовый дипфейк любого руководителя за 50 рублей и отправить тысячам людей. А что будет, когда появятся синтетические личности без физического исполнителя? Против кого возбуждать уголовное дело? Нам надо защитить цифровую личность так же, как физическую. И делать это надо вместе — государству, бизнесу, науке. Мы в Сбере уже создали сервис с рабочим названием Алетейя — в честь древнегреческой богини истины — он за минуты определяет, фейк перед вами или нет. Сегодня каждый участник форума может им воспользоваться по QR-коду. Но одной технологии мало. Нужны законы, нужно просвещение, нужен цифровой иммунитет».

Участники сошлись во мнении: государство и общество должны оперативно реагировать на фейки, разъяснять и опровергать их, сделать так, чтобы «не наступать на хвосты», а технологически опережать преступников, иначе доверие к цифровой среде рухнет окончательно. Как резюмировал один из спикеров, «подлинность станет самым ценным фактором будущего — и мы будем платить за неё дороже, чем когда-то платили за правду».