На кадрах, которыми поделились и которым лайкнули десятки тысяч раз, видно, как толпа офицеров в форме хватает миллиардера-республиканца и яростно тащит его по тротуару.
Хиггинс, который также стоял за серией фотографий ареста, суда и заключения Путина, говорит, что разместил фотографии без злого умысла. Он даже прямо заявил в своем твиттере, что изображения были сгенерированы искусственным интеллектом.
Тем не менее, по словам Хиггинса, изображений было достаточно, чтобы заблокировать его от сервера Midjourney. Независимая исследовательская лаборатория из Сан-Франциско не ответила на электронные письма с просьбой прокомментировать ситуацию.
«Изображение ареста Трампа действительно соответствовало тому, насколько хорошо и плохо Midjourney показывает реальные сцены», — написал Хиггинс в электронном письме. «Картинки начали формировать своего рода повествование, когда я подключил подсказки к Midjourney, поэтому я объединил их в повествование и решил закончить историю».
Он отметил, что фотографии далеки от совершенства: на некоторых Трамп причудливо изображен с полицейским ремнем. В других случаях лица и руки заметно искажены.
Но таким пользователям, как Хиггинс, недостаточно четко заявить в своих постах, что изображения были сгенерированы искусственным интеллектом и предназначены только для развлекательных целей, говорит Шерин Анлин, эксперт по медиатехнологиям в Witness, нью-йоркской правозащитной организации, специализирующейся на визуальных технологиях. доказательство.
По ее словам, часто другие люди быстро делятся визуальными эффектами без этого важного контекста. На самом деле, пост в Instagram, в котором некоторые фотографии Трампа с Хиггинсом были опубликованы так, как если бы они были подлинными, набрал более 79 000 лайков.
«Вы видите только изображение, и как только вы что-то видите, вы не можете этого видеть», — сказал Анлин.
В другом недавнем примере пользователи социальных сетей поделились синтетическим изображением, на котором якобы изображен Путин, стоящий на коленях и целующий руку китайскому лидеру Си Цзиньпину. Фотография, которая была распространена, когда российский президент приветствовал Си в Кремле на этой неделе, быстро превратилась в грубый мем.
скачать
Неясно, кто создал изображение или какой инструмент они использовали, но некоторые доказательства выявили подделку. Например, головы и обувь двух лидеров были слегка искажены, а интерьер комнаты не соответствовал комнате, в которой происходила реальная встреча.
Эксперты говорят, что, поскольку синтетические изображения становится все труднее отличить от реальных объектов, лучший способ борьбы с визуальной дезинформацией — повышение осведомленности и просвещения общественности.
«Создавать эти изображения стало так легко и так дешево, что мы должны делать все возможное, чтобы информировать общественность о том, насколько хороша эта технология», — сказал Уэст.
Хиггинс предполагает, что компании, работающие в социальных сетях, могут сосредоточиться на разработке технологий для обнаружения изображений, созданных искусственным интеллектом, и интеграции их в свои платформы.
В Твиттере действует политика, запрещающая «синтетические, сфабрикованные или вырванные из контекста медиа», которые могут быть обманчивыми или вредными. Аннотации из Community Notes, краудсорсингового проекта Twitter по проверке фактов, были прикреплены к некоторым твитам, чтобы включить контекст для изображений Трампа, созданных ИИ.
Когда в четверг компания получила комментарий, компания отправила только автоматический ответ по электронной почте.
Meta, материнская компания Facebook и Instagram, отказалась от комментариев. Некоторые из сфабрикованных Трампом изображений были названы либо «ложными», либо «отсутствующими в контексте» сторонней программой проверки фактов, в которой участвует Associated Press.
Артур Холланд Мичелл, член Совета Карнеги по этике в международных делах в Нью-Йорке, занимающийся новыми технологиями, сказал, что он обеспокоен тем, что мир не готов к надвигающемуся наводнению.
Он задается вопросом, как будут регулироваться дипфейки с участием обычных людей — например, вредные поддельные фотографии бывшего партнера или коллеги.
скачать
«С точки зрения политики я не уверен, что мы готовы иметь дело с таким объемом дезинформации на всех уровнях общества», — написал Мишель в электронном письме. «Мне кажется, что для того, чтобы наконец положить этому конец, потребуется еще немыслимый технический подвиг».
АП
Получите прямую записку от нашего инопланетянина корреспонденты О том, что делает заголовки по всему миру. Подпишитесь на еженедельную рассылку What in the World здесь.
«Специалист по телевизионным программам, получивший награды. Любитель зомби. Невозможно печатать в боксерских перчатках. Бекон».
More Stories
Консерваторы понесли огромные потери в совете в ходе последнего испытания перед всеобщими выборами.
Сообщения о смертельном вирусе внезапно прекратились, когда в Антарктиде наступила темнота
Наводнения в Кении: приказ о массовой эвакуации перед циклоном