Это ты? Глубокое погружение в Deepfakes, часть 1: что такое Deepfakes? — знание

После ухода из кино в марте прошлого года появление Брюса Уиллиса в недавней рекламе российской телекоммуникационной компании «Мегафон» привлекло внимание мировых СМИ. Еще более удивительными были заголовки, которые, казалось, указывали на то, что Уиллис фактически продал права на свое лицо компании Deepcake, которая использовала искусственный интеллект (ИИ).Международная амнистия) и машинное обучение, чтобы превратить российского актера в голливудского супергероя «цифрового близнеца».

По мере того, как технология дипфейка привлекает все большее внимание, как частные лица, так и компании обращаются к передовым технологиям, чтобы изучить возможности и понять их ограничения. Расширяется доступ к сложным алгоритмам и программному обеспечению, облегчающим создание правдоподобных подобий, а также возможность создавать сверхреалистичные, практически незаметные синтетические носители.

Мы подробно рассмотрим мир дипфейков, охватив некоторые ключевые вопросы, возникающие в связи с технологией дипфейков, с точки зрения бренда и интеллектуальной собственности, а также изучим некоторые более широкие юридические последствия этой захватывающей новой технологии. В нашей серии из трех частей мы рассмотрим:

• Что такое технология дипфейк и как ее можно использовать;
• правовые последствия, связанные с дипфейками, и текущее состояние правового ландшафта как здесь, так и за рубежом; И
• Несколько недавних примеров серьезной проблемы с дипфейками (включая российского цифрового двойника Брюса Уиллиса) и несколько практических советов по распознаванию, распространению или защите от дипфейков.

Для начала мы начнем с некоторой предыстории дипфейков.

Дип-торт Дип-торт

Для тех, кто еще не знаком с этой технологией, дипфейк (инструмент подделки глубокого обучения) — это форма цифрового мультимедиа, будь то изображение, видео или аудиофайл, которым манипулировали для создания очень реалистичного, но ложного изображения. Человек или вещь, которые делают или говорят что-то, чего они не делали или не говорили. Хотя технология дипфейка существует примерно с 2017 года, она только недавно получила распространение, поскольку технологические достижения позволили создавать более качественные и убедительные обманы обычных людей или вещей, а также сделали технологию более доступной.

Дипфейки производятся с использованием программного обеспечения ИИ, которое использует большую информационную базу изображений или записей человека для создания дипфейкового контента без необходимости связывать контент информационной базы с целевым сегментом. Это означает, что домашнее видео или фрагменты интервью могут быть использованы для создания фальшивого образа всей голливудской киносцены. Чтобы создать «цифрового близнеца» Брюса Уиллиса, который фигурирует в фейковой рекламе, упомянутой выше, Deepcake использовала 34 000 фотографий актера, в основном взятых из его появления в Живучи И в Пятый элементпридавая имитатору Уиллиса более молодой вид, похожий на его самого в 1980-х и 1990-х годах.

Использование (и злоупотребление) дипфейками

Создание дипфейков требует двух типов машинного обучения или технологии искусственного интеллекта:

1. Автоэнкодер просматривает изображения информационной базы или видеоролики, чтобы понять, как человек или объект выглядит под разными углами, при разном освещении и в разном настроении; И
2. Генеративно-состязательные сети (GAN), а затем обнаруживать недостатки в дипфейке и улучшать его несколькими раундами, делая дипфейк более правдоподобным.

До сих пор дипфейки уже использовались в ряде юмористических способов, включая придание знаменитым картинам новых выражений лица (как видно на изображении ниже), а также позволяя зрителям накладывать свое лицо на культовую сцену с Человеком-пауком. . Еще одно распространенное использование этой техники — переработка сцен фильма с участием любимого фанатами актера или актрисы, которые в конечном итоге не взяли на себя роль. В то время как в большинстве основных применений технологии пользователи обменивались лицами со знаменитостями или создавали видео, где знаменитость говорила или делала что-то, чего они не делали или не говорили, технология также изучается для других интересных приложений, включая обнаружение опухолей.

Примеры дипфейков, используемых для изменения выражений или поз известных произведений искусства

К сожалению, природа этой технологии также поддается более гнусным применениям, поскольку дипфейки также обвиняют в создании ложных политических заявлений, заговоров о неудачах или восстановлении здоровья ключевых общественных деятелей и вымогательских материалов, направленных на значительный ущерб репутации знаменитостей. и мировые лидеры. Комиссар по кибербезопасности Австралии также предупредил, что технология дипфейка может использоваться для создания фальшивых новостей и введения в заблуждение потребителей, а также для потенциального запугивания отдельных лиц или предприятий, что может привести к финансовым потерям, нанести ущерб репутации, подорвать лояльность потребителей или снизить доверять брендам или компаниям. (в том числе от акционеров).