НЬЮ-ЙОРК (AP) — Бывший президент Дональд Трамп подвергся наказанию со стороны полицейских Нью-Йорка в защитном снаряжении. Президент России Владимир Путин находится в заключении за тускло освещенной бетонной решеткой.
В последние дни эротические, очень подробные изображения наводнили Твиттер и другие платформы на фоне новостей о том, что Трампу могут быть предъявлены уголовные обвинения. Международный уголовный суд выдал ордер на арест к Путину.
Но ни один из визуальных эффектов не является реальным. Изображения — и десятки вариаций, разбросанных по социальным сетям — были созданы с использованием все более сложных и широко доступных генераторов изображений, работающих на основе искусственного интеллекта..
Эксперты по дезинформации предупреждают, что эти изображения предвещают новую реальность: волны фальшивых фотографий и видео, наводняющие социальные сети после крупных новостных событий, и еще большее размытие фактов и вымысла в критические для общества моменты.
«Это добавляет шума во время кризисных событий. Это также повышает уровень цинизма, — говорит Гевин Уэст, профессор Вашингтонского университета в Сиэтле, специализирующийся на распространении дезинформации. — Вы начинаете терять веру в систему и информацию ты получаешь».
Хотя возможность манипулировать изображениями и создавать поддельные изображения не нова, инструменты создания изображений AI от Midjourney, DALL-E и других еще проще в использовании. Они могут быстро создавать фотореалистичные изображения с подробным фоном в больших масштабах, используя лишь простую текстовую подсказку от пользователей.
Некоторые недавние фотографии Релиз этого месяца Новая версия модели синтеза текста и изображения Midjourney, которая теперь, среди прочего, может создавать привлекательные изображения, имитирующие стиль изображений информационных агентств.
В широко распространенной ветке TwitterЭлиот Хиггинс, основатель Bellingcat, группы журналистов-расследователей, базирующейся в Нидерландах, использовал последнюю версию инструмента, чтобы Десятки драматических фотографий Фальшивый арест Трампа.
На кадрах, которыми поделились и которым лайкнули десятки тысяч раз, видно, как толпа офицеров в форме хватает миллиардера-республиканца и яростно тащит его по тротуару.
Хиггинс, который также стоял за A.J. группа фотографий Об аресте, суде, а затем заключении Путина он говорит, что разместил фотографии без злого умысла. Он даже прямо заявил в своем твиттере, что изображения были сгенерированы искусственным интеллектом.
Тем не менее, по словам Хиггинса, изображений было достаточно, чтобы заблокировать его от сервера Midjourney. Независимая исследовательская лаборатория из Сан-Франциско не ответила на электронные письма с просьбой прокомментировать ситуацию.
«Изображение ареста Трампа действительно соответствовало тому, насколько хорошо и плохо Midjourney показывает реальные сцены», — написал Хиггинс в электронном письме. «Картинки начали формировать своего рода повествование, когда я подключил подсказки к Midjourney, поэтому я объединил их в повествование и решил закончить историю».
Он отметил, что фотографии далеки от совершенства: на некоторых Трамп причудливо изображен с полицейским ремнем. В других случаях лица и руки заметно искажены.
Но таким пользователям, как Хиггинс, недостаточно четко заявить в своих постах, что изображения были сгенерированы искусственным интеллектом и предназначены только для развлекательных целей, говорит Шерин Анлин, эксперт по медиатехнологиям в Witness, нью-йоркской правозащитной организации, специализирующейся на визуальных технологиях. доказательство.
По ее словам, часто другие люди быстро делятся визуальными эффектами без этого важного контекста. На самом деле, пост в Instagram, в котором некоторые фотографии Трампа с Хиггинсом были опубликованы так, как если бы они были подлинными, набрал более 79 000 лайков.
«Вы видите только изображение, и как только вы что-то видите, вы не можете этого видеть», — сказал Анлин.
В другом недавнем примере пользователи социальных сетей поделились синтетическим изображением, на котором якобы изображен Путин, стоящий на коленях и целующий руку китайскому лидеру Си Цзиньпину. Фотография была распространена, когда российский президент приветствовал Си в Кремле на этой неделе.быстро стал необработанным мемом.
Неясно, кто создал изображение или какой инструмент они использовали, но некоторые доказательства выдают подделку. Например, головы и обувь двух вождей были слегка деформированы, а внутренняя часть комнаты не соответствовала помещению. Где произошла настоящая встреча.
Эксперты говорят, что, поскольку синтетические изображения становится все труднее отличить от реальных объектов, лучший способ борьбы с визуальной дезинформацией — повышение осведомленности и просвещения общественности.
«Создавать эти изображения стало так легко и так дешево, что мы должны делать все возможное, чтобы информировать общественность о том, насколько хороша эта технология», — сказал Уэст.
Хиггинс предполагает, что компании, работающие в социальных сетях, могут сосредоточиться на разработке технологий для обнаружения изображений, созданных искусственным интеллектом, и интеграции их в свои платформы.
В Твиттере действует политика, запрещающая «синтетические, сфабрикованные или вырванные из контекста медиа», которые могут быть обманчивыми или вредными. Аннотации из Community Notes, краудсорсингового проекта Twitter по проверке фактов, были прикреплены к некоторым твитам, чтобы включить контекст для изображений Трампа, созданных ИИ.
Когда комментарий был получен в четверг, компания отправила только автоматический ответ по электронной почте.
Meta, материнская компания Facebook и Instagram, отказалась от комментариев. Некоторые из сфабрикованных Трампом изображений были названы либо «ложными», либо «отсутствующими в контексте» сторонней программой проверки фактов, в которой участвует Associated Press.
Артур Холланд Мичелл, член Совета Карнеги по этике в международных делах в Нью-Йорке, занимающийся новыми технологиями, сказал, что он обеспокоен тем, что мир не готов к надвигающемуся наводнению.
Он задается вопросом, как будут регулироваться дипфейки с участием обычных людей — например, вредные поддельные фотографии бывшего партнера или коллеги.
«С точки зрения политики я не уверен, что мы готовы иметь дело с таким объемом дезинформации на всех уровнях общества», — написал Мишель в электронном письме. «Мне кажется, что для того, чтобы наконец положить этому конец, потребуется еще немыслимый технический подвиг».
___
В подготовке этой статьи участвовал корреспондент Associated Press Дэвид Клебер из Вашингтона.
«Первопроходец в социальных сетях. Музыкальный наркоман. Злой студент. Интроверт. Типичный любитель пива. Экстремальный веб-ниндзя. Телевизионный фанатик».
More Stories
В России никто не смеется над романом Яннуччи «Смерть Сталина». Россия
Фильмы по сказкам о принцессах, снятые в России
Общественная вещательная корпорация Онтарио не будет транслировать документы о российских солдатах из-за протеста TIFF