22 ноября, 2024

SolusNews.com

Последние новости

Трамп арестован? Путинская тюрьма? Поддельные изображения искусственного интеллекта циркулируют в Интернете

Трамп арестован?  Путинская тюрьма?  Поддельные изображения искусственного интеллекта циркулируют в Интернете

НЬЮ-ЙОРК (AP) — Бывший президент Дональд Трамп подвергся наказанию со стороны полицейских Нью-Йорка в защитном снаряжении. Президент России Владимир Путин находится в заключении за тускло освещенной бетонной решеткой.

В последние дни эротические, очень подробные изображения наводнили Твиттер и другие платформы на фоне новостей о том, что Трампу могут быть предъявлены уголовные обвинения. Международный уголовный суд выдал ордер на арест к Путину.

Но ни один из визуальных эффектов не является реальным. Изображения — и десятки вариаций, разбросанных по социальным сетям — были созданы с использованием все более сложных и широко доступных генераторов изображений, работающих на основе искусственного интеллекта..

Эксперты по дезинформации предупреждают, что эти изображения предвещают новую реальность: волны фальшивых фотографий и видео, наводняющие социальные сети после крупных новостных событий, и еще большее размытие фактов и вымысла в критические для общества моменты.

«Это добавляет шума во время кризисных событий. Это также повышает уровень цинизма, — говорит Гевин Уэст, профессор Вашингтонского университета в Сиэтле, специализирующийся на распространении дезинформации. — Вы начинаете терять веру в систему и информацию ты получаешь».

Хотя возможность манипулировать изображениями и создавать поддельные изображения не нова, инструменты создания изображений AI от Midjourney, DALL-E и других еще проще в использовании. Они могут быстро создавать фотореалистичные изображения с подробным фоном в больших масштабах, используя лишь простую текстовую подсказку от пользователей.

Некоторые недавние фотографии Релиз этого месяца Новая версия модели синтеза текста и изображения Midjourney, которая теперь, среди прочего, может создавать привлекательные изображения, имитирующие стиль изображений информационных агентств.

В широко распространенной ветке TwitterЭлиот Хиггинс, основатель Bellingcat, группы журналистов-расследователей, базирующейся в Нидерландах, использовал последнюю версию инструмента, чтобы Десятки драматических фотографий Фальшивый арест Трампа.

READ  Соединенные Штаты отправляют разведывательный самолет над Украиной, поскольку военные действия соседней России продолжают вызывать озабоченность.

На кадрах, которыми поделились и которым лайкнули десятки тысяч раз, видно, как толпа офицеров в форме хватает миллиардера-республиканца и яростно тащит его по тротуару.

Хиггинс, который также стоял за A.J. группа фотографий Об аресте, суде, а затем заключении Путина он говорит, что разместил фотографии без злого умысла. Он даже прямо заявил в своем твиттере, что изображения были сгенерированы искусственным интеллектом.

Тем не менее, по словам Хиггинса, изображений было достаточно, чтобы заблокировать его от сервера Midjourney. Независимая исследовательская лаборатория из Сан-Франциско не ответила на электронные письма с просьбой прокомментировать ситуацию.

«Изображение ареста Трампа действительно соответствовало тому, насколько хорошо и плохо Midjourney показывает реальные сцены», — написал Хиггинс в электронном письме. «Картинки начали формировать своего рода повествование, когда я подключил подсказки к Midjourney, поэтому я объединил их в повествование и решил закончить историю».

Он отметил, что фотографии далеки от совершенства: на некоторых Трамп причудливо изображен с полицейским ремнем. В других случаях лица и руки заметно искажены.

Но таким пользователям, как Хиггинс, недостаточно четко заявить в своих постах, что изображения были сгенерированы искусственным интеллектом и предназначены только для развлекательных целей, говорит Шерин Анлин, эксперт по медиатехнологиям в Witness, нью-йоркской правозащитной организации, специализирующейся на визуальных технологиях. доказательство.

По ее словам, часто другие люди быстро делятся визуальными эффектами без этого важного контекста. На самом деле, пост в Instagram, в котором некоторые фотографии Трампа с Хиггинсом были опубликованы так, как если бы они были подлинными, набрал более 79 000 лайков.

«Вы видите только изображение, и как только вы что-то видите, вы не можете этого видеть», — сказал Анлин.

READ  Мексиканский фильм получил главный приз Московского международного кинофестиваля, поскольку крупные студии бойкотируют Россию

В другом недавнем примере пользователи социальных сетей поделились синтетическим изображением, на котором якобы изображен Путин, стоящий на коленях и целующий руку китайскому лидеру Си Цзиньпину. Фотография была распространена, когда российский президент приветствовал Си в Кремле на этой неделе.быстро стал необработанным мемом.

Неясно, кто создал изображение или какой инструмент они использовали, но некоторые доказательства выдают подделку. Например, головы и обувь двух вождей были слегка деформированы, а внутренняя часть комнаты не соответствовала помещению. Где произошла настоящая встреча.

Эксперты говорят, что, поскольку синтетические изображения становится все труднее отличить от реальных объектов, лучший способ борьбы с визуальной дезинформацией — повышение осведомленности и просвещения общественности.

«Создавать эти изображения стало так легко и так дешево, что мы должны делать все возможное, чтобы информировать общественность о том, насколько хороша эта технология», — сказал Уэст.

Хиггинс предполагает, что компании, работающие в социальных сетях, могут сосредоточиться на разработке технологий для обнаружения изображений, созданных искусственным интеллектом, и интеграции их в свои платформы.

В Твиттере действует политика, запрещающая «синтетические, сфабрикованные или вырванные из контекста медиа», которые могут быть обманчивыми или вредными. Аннотации из Community Notes, краудсорсингового проекта Twitter по проверке фактов, были прикреплены к некоторым твитам, чтобы включить контекст для изображений Трампа, созданных ИИ.

Когда комментарий был получен в четверг, компания отправила только автоматический ответ по электронной почте.

Meta, материнская компания Facebook и Instagram, отказалась от комментариев. Некоторые из сфабрикованных Трампом изображений были названы либо «ложными», либо «отсутствующими в контексте» сторонней программой проверки фактов, в которой участвует Associated Press.

Артур Холланд Мичелл, член Совета Карнеги по этике в международных делах в Нью-Йорке, занимающийся новыми технологиями, сказал, что он обеспокоен тем, что мир не готов к надвигающемуся наводнению.

READ  Рождество в Украине: страна с нетерпением ждет возможности сверкать своей «неукротимой елкой» в год войны с Россией

Он задается вопросом, как будут регулироваться дипфейки с участием обычных людей — например, вредные поддельные фотографии бывшего партнера или коллеги.

«С точки зрения политики я не уверен, что мы готовы иметь дело с таким объемом дезинформации на всех уровнях общества», — написал Мишель в электронном письме. «Мне кажется, что для того, чтобы наконец положить этому конец, потребуется еще немыслимый технический подвиг».

___

В подготовке этой статьи участвовал корреспондент Associated Press Дэвид Клебер из Вашингтона.