Исламские террористы используют искусственный интеллект, чтобы генерировать ролики о терактах

Через четыре дня после теракта в московском «Крокус Сити Холле» террористическая группировка “Вилаят Хорасан”* (запрещенная в РФ террористическая организация) опубликовала видео о нападении. В ролике продолжительностью 92 секунды ведущий в каске и камуфляже объяснял, что случившееся — не террористический акт, а часть нормального контекста бушующей войны между ИГИЛ* (запрещенная в РФ террористическая организация) и государствами, борющимися против ислама.

Организация по расследованиям международных преступлений SITE Intelligence Group* (признана нежелательно организацией в РФ) установила, что фигура “ведущего” на самом деле была сгенерирована искусственным интеллектом, а само видео — часть пропагандистской программы News Harvest, созданной с использованием ИИ.

Благодаря ИИ исламисты получили возможность быстро и дешево генерировать ролики о терактах. Из-за сходства с обычными новостными программами отслеживать и блокировать их все сложнее

В середине марта 2024 года сторонник “ИГИЛ”* с ником Al Kurdi 500 попытался обосновать единомышленникам необходимость использования ИИ для пропаганды в защищенном мессенджере. “Было бы здорово, если бы братья делали ролики о повседневных событиях в качестве альтернативы текстовым новостям и изображениям, — говорилось в сообщении, к которому получили доступ расследователи. — Медиа важны так же, как настоящая война, если не больше — поскольку обладают очень сильным влиянием на людей”. Al Kurdi предположил, что с помощью технологий можно было бы создавать контент как новостные каналы.

Через неделю после этого сообщения в Москве произошел теракт, в результате которого погибли 145 человек, не менее 550 пострадали. Сторонник “Исламского государства”? с ником Hisad сгенерировал видео о теракте и опубликовал его в защищенном мессенджере 26 марта. Всего после нападения на “Крокус Сити Холл” сторонники исламистов опубликовали шесть выпусков программы News Harvest с рассказами о деятельности ИГИЛ* в Нигере, Камеруне, Ираке, Сирии и Нигерии. Каждый ролик сопровождался логотипом и заставкой. Во всех видео появлялся сгенерированный ИИ ведущий в военной или официальной традиционной одежде, который зачитывал выдержки из публикаций “Исламского государства”*. Выступления сопровождались бегущей строкой и роликами с демонстрацией терактов.

По словам главы SITE Intelligence Group Риты Кац, для ИГИЛ* развитие ИИ — это поворотный момент. “Теперь у них появился быстрый способ доносить информацию о своих кровавых атаках до самых дальних уголков мира, — объяснила Кац в разговоре с Washington Post — Если вы осуществляете крупную атаку, но не рассказываете о ней, ваше достижение становится бесполезным. ИИ позволяет террористам в сжатые сроки создавать столько контента, сколько они хотят”.

Важно, что для вбросов, которые завуалированы под информационные сообщения официальных СМИ можно через средства искусственного интеллекта закамуфлировать даже теракты, которых вовсе не было. Однако подобное сообщение может быть распознано в обществе как реальная угроза на фоне уже “произошедшего события”.

Отмечается, что подобные информационные сообщения, которые размещаются сразу же в социальных сетях, по сути, ничего не стоят в денежном эквиваленте: не нужно нанимать операторов, видеографов, звукорежиссеров, ведущих. Все генерируется автоматически согласно предоставленному ИИ тексту.

* ИГИЛ – запрещенная в РФ террористическая организация
* Исламское Государство – запрещенная в РФ террористическая организация
* Вилаят Хорасан – запрещенная в РФ террористическая организация
* SITE Intelligence Group – нежелательная в РФ организация