Deepfake

Что такое Deepfake, чем опасна эта технология и как себя защитить ?

Разберемся в терминологии.

Deepfake происходит от слов «deep learning», то есть «глубокое изучение» и «fake» - «подделка». Технология появилась в 2014-м. Алгоритм создал студент Стэнфордского университета Ян Гудфеллоу, взяв за основу нейросеть, которая детально изучает лицо человека, а затем подставляет к исходному файлу лицо «реципиента». Таким образом дипфейки используют технологии искусственного интеллекта для синтеза изображений. В подавляющем большинстве случаев, для создания таких видео используют генеративно-состязательные нейросети (Generative Adversarial Network, или GAN). В ней задействовано две нейросети, которые состязаются друг с другом, изучая характеристики учебных наборов данных (например, фотографий лиц) и создавая новые данные на базе этих характеристик (то есть новые «фотографии»). применяются дипфейки практически везде, где можно использовать видео или звук. Фильмы, видео, записи голосов — во всех этих сферах применяются дипфейки.

В чем тут опасность?

С распространением deep fake появилась опасность дискредитации любого пользователя, фото которого есть в сети. Первыми под огонь попали публичные личности, изображений которых достаточно много в открытом доступе. В качестве примера громкого дипфейка можно привести опубликованное в 2018 году фальшивое видео с экс-президентом США Бараком Обамой, где он якобы оскорбляет нынешнего главу американского государства. Видеоролик был сделан при помощи программ FakeApp и Adobe After Effects. В середине 2019 года в Сети появилось сфабрикованное видео с Марком Цукербергом, который будто бы откровенно обрисовал текущее положение дел с персональными данными людей. В том же году в интернете опубликовали дипфейк-видео со спикером палаты представителей конгресса США Нэнси Пелоси. Автор ролика с помощью технологий искусственного интеллекта изменил речь Пелоси так, что она плохо выговаривала слова, и пользователи, посмотревшие видео, посчитали, что политик находится в состоянии алкогольного опьянения. Всё это переросло в большой скандал, и лишь спустя некоторое время было доказано, что речь Пелоси была сгенерирована компьютером Помимо политических информационных войн Deepfake создаёт и риски в области информационной безопасности корпоративного сектора. В качестве примера такой атаки можно привести инцидент, который произошёл в августе 2019 года в одной компании, работающей в сфере энергетики. Было установлено, что киберпреступник использовал технологию создания дипфейков для осуществления мошеннических действий на сумму в 220 000 евро. Злоумышленник вышел на связь с финансовым отделом как управляющий из Германии. Он смоделированным голосом попросил срочно перевести деньги на счёт в Венгрии, и у бизнес-партнеров не было ни единого повода не верить звонящему.

Как компаниям противостоять этим угрозам?

Нужно увеличивать количество эшелонов и параметров проверки голоса, видео или изображения, идентифицирующих личность человека. Простого принятия решения моделью на базе алгоритма машинного обучения недостаточно, она обходится такой же моделью. Поэтому необходимо развивать механизмы защиты моделей ML при помощи "песочниц" (тестовых сред, имитирующих атаку), проводить регулярный пентестинг и аудит политики защиты конфиденциальных данных в организации. Проблема нуждается в системном подходе и должна решаться на регламентационном, технологическом и ментальном уровне. Очень важно оповещать всех сотрудников организации о данном типе мошенничества, оценивать их уровень устойчивости к действиям злоумышленников и компетенции в области информационной безопасности.

Как людям предотвратить создание своих дипфейков?

Сознательное подозрительное отношение ко всему, что касается личных идентифицирующих данных. Необходимо внимательно изучать политику защиты конфиденциальных данных в любой организации, которой вы предоставляете сведения о себе, в том числе биометрические. Проводит регулярный аудит своей коммуникации с внешним миром. Проверять насколько защищены ваши аккаунты или ресурсы, где можно получить данные о вас - голос, изображение и переписку. Повышайте самостоятельно уровень грамотности в области личной информационной безопасности, дисциплинированно меняйте пароли через определенные промежутки времени, интересуйтесь современными и эффективными средствами защиты, используйте дополнительные возможности защиты средств вашей коммуникации, принимайте во внимание инциденты, публикуемые в прессе о компрометации персональных данных в мошеннических целях.

Поиск