Трамп арестован? Путинская тюрьма? Поддельные изображения искусственного интеллекта циркулируют в Интернете

НЬЮ-ЙОРК (AP) — Бывший президент Дональд Трамп подвергся наказанию со стороны полицейских Нью-Йорка в защитном снаряжении. Президент России Владимир Путин находится в заключении за тускло освещенной бетонной решеткой.

В последние дни эротические, очень подробные изображения наводнили Твиттер и другие платформы на фоне новостей о том, что Трампу могут быть предъявлены уголовные обвинения. Международный уголовный суд выдал ордер на арест к Путину.

Но ни один из визуальных эффектов не является реальным. Изображения — и десятки вариаций, разбросанных по социальным сетям — были созданы с использованием все более сложных и широко доступных генераторов изображений, работающих на основе искусственного интеллекта..

Эксперты по дезинформации предупреждают, что эти изображения предвещают новую реальность: волны фальшивых фотографий и видео, наводняющие социальные сети после крупных новостных событий, и еще большее размытие фактов и вымысла в критические для общества моменты.

«Это добавляет шума во время кризисных событий. Это также повышает уровень цинизма, — говорит Гевин Уэст, профессор Вашингтонского университета в Сиэтле, специализирующийся на распространении дезинформации. — Вы начинаете терять веру в систему и информацию ты получаешь».

Хотя возможность манипулировать изображениями и создавать поддельные изображения не нова, инструменты создания изображений AI от Midjourney, DALL-E и других еще проще в использовании. Они могут быстро создавать фотореалистичные изображения с подробным фоном в больших масштабах, используя лишь простую текстовую подсказку от пользователей.

Некоторые недавние фотографии Релиз этого месяца Новая версия модели синтеза текста и изображения Midjourney, которая теперь, среди прочего, может создавать привлекательные изображения, имитирующие стиль изображений информационных агентств.

В широко распространенной ветке TwitterЭлиот Хиггинс, основатель Bellingcat, группы журналистов-расследователей, базирующейся в Нидерландах, использовал последнюю версию инструмента, чтобы Десятки драматических фотографий Фальшивый арест Трампа.

На кадрах, которыми поделились и которым лайкнули десятки тысяч раз, видно, как толпа офицеров в форме хватает миллиардера-республиканца и яростно тащит его по тротуару.

Хиггинс, который также стоял за A.J. группа фотографий Об аресте, суде, а затем заключении Путина он говорит, что разместил фотографии без злого умысла. Он даже прямо заявил в своем твиттере, что изображения были сгенерированы искусственным интеллектом.

Тем не менее, по словам Хиггинса, изображений было достаточно, чтобы заблокировать его от сервера Midjourney. Независимая исследовательская лаборатория из Сан-Франциско не ответила на электронные письма с просьбой прокомментировать ситуацию.

«Изображение ареста Трампа действительно соответствовало тому, насколько хорошо и плохо Midjourney показывает реальные сцены», — написал Хиггинс в электронном письме. «Картинки начали формировать своего рода повествование, когда я подключил подсказки к Midjourney, поэтому я объединил их в повествование и решил закончить историю».

Он отметил, что фотографии далеки от совершенства: на некоторых Трамп причудливо изображен с полицейским ремнем. В других случаях лица и руки заметно искажены.

Но таким пользователям, как Хиггинс, недостаточно четко заявить в своих постах, что изображения были сгенерированы искусственным интеллектом и предназначены только для развлекательных целей, говорит Шерин Анлин, эксперт по медиатехнологиям в Witness, нью-йоркской правозащитной организации, специализирующейся на визуальных технологиях. доказательство.

По ее словам, часто другие люди быстро делятся визуальными эффектами без этого важного контекста. На самом деле, пост в Instagram, в котором некоторые фотографии Трампа с Хиггинсом были опубликованы так, как если бы они были подлинными, набрал более 79 000 лайков.

«Вы видите только изображение, и как только вы что-то видите, вы не можете этого видеть», — сказал Анлин.

В другом недавнем примере пользователи социальных сетей поделились синтетическим изображением, на котором якобы изображен Путин, стоящий на коленях и целующий руку китайскому лидеру Си Цзиньпину. Фотография была распространена, когда российский президент приветствовал Си в Кремле на этой неделе.быстро стал необработанным мемом.

Неясно, кто создал изображение или какой инструмент они использовали, но некоторые доказательства выдают подделку. Например, головы и обувь двух вождей были слегка деформированы, а внутренняя часть комнаты не соответствовала помещению. Где произошла настоящая встреча.

Эксперты говорят, что, поскольку синтетические изображения становится все труднее отличить от реальных объектов, лучший способ борьбы с визуальной дезинформацией — повышение осведомленности и просвещения общественности.

«Создавать эти изображения стало так легко и так дешево, что мы должны делать все возможное, чтобы информировать общественность о том, насколько хороша эта технология», — сказал Уэст.

Хиггинс предполагает, что компании, работающие в социальных сетях, могут сосредоточиться на разработке технологий для обнаружения изображений, созданных искусственным интеллектом, и интеграции их в свои платформы.

В Твиттере действует политика, запрещающая «синтетические, сфабрикованные или вырванные из контекста медиа», которые могут быть обманчивыми или вредными. Аннотации из Community Notes, краудсорсингового проекта Twitter по проверке фактов, были прикреплены к некоторым твитам, чтобы включить контекст для изображений Трампа, созданных ИИ.

Когда комментарий был получен в четверг, компания отправила только автоматический ответ по электронной почте.

Meta, материнская компания Facebook и Instagram, отказалась от комментариев. Некоторые из сфабрикованных Трампом изображений были названы либо «ложными», либо «отсутствующими в контексте» сторонней программой проверки фактов, в которой участвует Associated Press.

Артур Холланд Мичелл, член Совета Карнеги по этике в международных делах в Нью-Йорке, занимающийся новыми технологиями, сказал, что он обеспокоен тем, что мир не готов к надвигающемуся наводнению.

Он задается вопросом, как будут регулироваться дипфейки с участием обычных людей — например, вредные поддельные фотографии бывшего партнера или коллеги.

«С точки зрения политики я не уверен, что мы готовы иметь дело с таким объемом дезинформации на всех уровнях общества», — написал Мишель в электронном письме. «Мне кажется, что для того, чтобы наконец положить этому конец, потребуется еще немыслимый технический подвиг».

___

В подготовке этой статьи участвовал корреспондент Associated Press Дэвид Клебер из Вашингтона.