«Кампании полны лжи»: в США судят политика, создавшего фейки с помощью нейросети

В Нью-Йорке арестовали кандидата в городской совет Джонатана Ринальди по обвинению в подлоге. По версии следствия, он с помощью нейросети создал и распространил фейковую новость о том, что его соперница Линн Шульман якобы выбыла из предвыборной гонки.

Это один из первых случаев в США, когда политику грозит уголовное преследование за использование искусственного интеллекта в агитации.

Ринальди, 47-летний скептик в отношении вакцин, генерировал фейки прямо с телефона, лёжа в кровати.

В октябре прошлого года он опубликовал в соцсетях материал, оформленный под новость CNN, в котором утверждалось, что Шульман «была вынуждена сойти с дистанции из-за серии критических ошибок». На самом деле она продолжила кампанию и в ноябре одержала убедительную победу.

Сам Ринальди называет свои посты «искусством» и «политической сатирой», защищённой свободой слова.

Он настаивает, что не нарушал никаких законов. «Кампании полны лжи, окей? Я не делаю ничего такого, чего не делают другие», - заявил он в интервью.

Согласно материалам дела, Ринальди также сгенерировал изображение, на котором его оппонентка была одета в футболку с надписью «Горячие девчонки за Зорана».

Кроме того, он публиковал фейковые видео и фото, заявляя о поддержке со стороны полицейского участка, учеников начальной школы и еврейской общины, которые в действительности его не поддерживали.

Когда основательница «Еврейского альянса Куинса» Хизер Беннетт-Айделс увидела фейковое сообщение о поддержке Ринальди от её организации, она написала ему. «Публиковать фейки - нечестно», - заявила она. «Это политика», - ответил кандидат.

Этот случай - лишь один из многих примеров использования ИИ в американской политике.

В преддверии ноябрьских промежуточных выборов сгенерированная нейросетями реклама стала массовым явлением.

Кандидаты высмеивают оппонентов в вирусных роликах: один изображал техасского демократа Джеймса Таларико в образе Марии из «Звуков музыки», другой намекал, что конгрессмен из Кентукки Томас Мэсси состоит в отношениях втроём с прогрессивными политиками.

Дональд Трамп также активно использует ИИ-контент. Он публиковал изображения, где представал в образе короля на обложке Time, папы римского и джедая со световым мечом.

Кроме того, Трамп делился спорными видео, например, сгенерированным роликом, где Барак и Мишель Обама изображены в виде обезьян (позже пост был удалён). Совсем недавно он опубликовал ИИ-видео, в котором в образе врача со стетоскопом «излечивал» своих критиков от «синдрома помешательства на Трампе».

Иногда ИИ применяют для прямой дезинформации. В 2023 году губернатор Флориды Рон Десантис опубликовал сгенерированное фото Трампа, обнимающего доктора Энтони Фаучи, которого многие республиканцы критиковали за его стратегию борьбы с пандемией.

А в январе 2024 политический консультант организовал роботизированные звонки тысячам избирателей от имени поддельного Джо Байдена, который убеждал их не ходить на праймериз.

Эксперты предупреждают, что современные нейросети позволяют производить и распространять дезинформацию в промышленных масштабах. Опасения разделяет и общество: согласно опросу PBS News, NPR и Marist, 85% американцев считают, что ИИ-контент будет использоваться для распространения лжи на грядущих выборах. Этот уровень недоверия одинаков среди демократов, республиканцев и независимых избирателей.

Правозащитный «Центр Бреннана за справедливость» призывает Федеральную избирательную комиссию принять меры против «преднамеренно обманчивого контента».

Уже более 30 штатов приняли законы, регулирующие использование дипфейков в политике, - в основном они требуют маркировать такой контент. Однако единой системы нет, а некоторые запреты, как в Калифорнии и на Гавайях, были отменены судами как слишком широкие и нарушающие Первую поправку о свободе слова.

В то же время многие политтехнологи утверждают, что ИИ может иметь и демократизирующий эффект. Дешёвые и доступные инструменты позволяют кандидатам с небольшими бюджетами создавать качественную рекламу, не уступающую кампаниям богатых конкурентов.

Американская ассоциация политических консультантов (AAPC) разработала рекомендации для своих членов.

Они советуют не создавать реалистичные подделки, где оппоненты говорят то, чего никогда не говорили, и раскрывать информацию при использовании ИИ для создания нелестных изображений. При этом в ассоциации считают, что для безобидных целей, вроде перевода речи, маркировка не нужна.

Несмотря на арест и проигрыш на выборах, Джонатан Ринальди не унывает. Теперь он планирует баллотироваться в ассамблею штата. «Я использую имеющиеся в моём распоряжении инструменты, чтобы идти против структуры власти, - говорит он. - И я должен делать то, чего они не ожидают, потому что если я буду делать то же, что и все остальные, у меня нет шансов».