Фейковые видео во время вторжения России в Украину могут подорвать доверие

Новое исследование Исследует темы в Твиттере, обсуждающие дипфейковые видео, связанные с вторжением России в Украину, подчеркивая возможность того, что настоящие видео могут быть перепутаны с дипфейками и дипфейками, что подпитывает теории заговора. Джон Туми из Университетского колледжа Корка, Ирландия, и его коллеги представляют эти результаты в журнале с открытым доступом. Один плюс.

Глубокие фейковые видеоролики, созданные с использованием искусственного интеллекта, обычно показывают, как кто-то говорит и делает то, чего никогда бы не сделал в реальной жизни. Технология дипфейков значительно изменилась, что вызывает обеспокоенность по поводу ее потенциального вреда. Дипфейки, связанные с вторжением России в Украину, представляют собой первые случаи использования дипфейков в попытках повлиять на войну.

Чтобы лучше понять потенциальный вред дипфейков, Туми и его коллеги проанализировали дискуссии в Твиттере о дипфейках, связанных с вторжением. Они использовали качественный подход, известный как тематический анализ, для выявления и понимания закономерностей в дискуссиях, которые включали в общей сложности 1231 твит за 2022 год.

Исследователи обнаружили, что многие твиты выражают негативную реакцию на дипфейковые новости. Например, в некоторых твитах выражалась озабоченность, шок или замешательство по поводу новостей о дипфейке, ложно изображающем президента Украины Владимира Зеленского сдающимся России. Однако некоторые твиты игнорировали потенциальный вред или содержали положительную реакцию на дипфейки, направленные против политических соперников, особенно дипфейки, созданные для насмешек или развлечения.

Некоторые пользователи Твиттера предупредили о необходимости подготовиться к более широкому использованию технологии дипфейков, обсудили, как их обнаружить, или подчеркнули роль СМИ и правительства в их опровержении. Однако в некоторых твитах высказывалось предположение, что дипфейк подорвал доверие пользователей до такой степени, что они больше не доверяли никаким кадрам вторжения. В некоторых твитах дипфейки связывались с очевидной верой пользователей в теории заговора, например, с использованием дипфейков мировых лидеров в качестве прикрытия, когда они на самом деле скрывались, или с тем, что все вторжение было фальшивой антироссийской пропагандой.

Этот анализ показывает, что усилия по информированию общественности о дипфейках могут непреднамеренно подорвать доверие к реальным видео. Авторы предполагают, что их выводы и будущие исследования могут помочь в усилиях по смягчению вреда от дипфейков.

Авторы добавляют: «Многие предыдущие исследования дипфейков были посвящены потенциальному будущему вреду этой технологии. Однако мы сосредоточились на том, как дипфейки уже влияют на социальные сети, как мы видели во время российского вторжения в Украину. Наше исследование показывает, как дипфейки подрывают доверие к реальным СМИ и используются для доказательства фейковых теорий заговора.

-Этот пресс-релиз был представлен Плюс