Как уничтожить ИГИЛ в Twitter: три простых шага

Эксперты в области изучения данных считают, что Twitter сделал немало для разрушения планов ИГИЛ. Но есть несколько простых шагов, которые позволят значительно снизить сетевую активность экстремистской организации и ее сторонников 24 Март 2015, 16:04

Для Исламского государства (ИГИЛ) сервис Twitter с его 288 миллионами пользователей остается ключевым инструментом в деле поиска сочувствующих, обмена сообщениями и связи в реальном времени. Новый отчет оценивает количество Twitter-аккаунтов, поддерживающих ИГИЛ, в 90 000, что подтверждает распространенное мнение о том, что Twitter не может самоочиститься от присутствия сторонников Исламского государства.

Но недавно опубликованный детальный анализ публично доступных данных, касающихся ИГИЛ, показал, что руководство блог-сервиса таки достигло значительных успехов в увеличении затрат экстремистской организации на поддержание активности в Twitter. В этой же работе были перечислены несколько простых шагов, которые руководство Twitter может предпринять прямо сейчас для того, чтоб еще сильнее усложнить онлайн-деятельность ИГИЛ.

По подсчетам авторов доклада Дж. М. Бергера и Джонатона Моргана (J. M. Berger, Jonathon Morgan), входящих в группу коллективного изучения данных Ushahidi, размеры «вселенной ИГИЛ» в Twitter в период с октября по ноябрь 2014 года составляли около 46 000 аккаунтов, так или иначе поддерживающих деятельность Исламского государства. Бергер и Морган на прошлой неделе организовали обсуждение собственной работы в рамках конференции South by Southwest Interactive в Остине (Техас).

Авторы исследования начали с выборки, состоящей из 450 аккаунтов, которые явно принадлежали ИГИЛ. Затем авторы отследили взаимодействия этих аккаунтов с другими — так были определены размеры сети экстремистов и сочувствующих (те самые «46 000 аккаунтов, впрочем исследователи допускают, что максимальное количество таких аккаунтов может достигать 90 тыс.).
Кроме того, авторы сделали случайную выборку объемом в 2 млн аккаунтов. Для анализа этого набора данных исследователи использовали иную тактику, имеющую в своей основе машинное обучение, что привело к более «зашумленным» результатам.

Вместо исследования содержимого твитов — такая практика используется обычно для анализа использования Twitter сторонниками ИГИЛ — Бергер и Морган обратили внимание на поведение пользователей сервиса: на чьи ленты они подписываются, что ретвитят, на чьи твиты отвечают и т.д. Все эти данные находятся в открытом доступе и, таким образом, в исследование не вошли личные сообщения и приватная информация об аккаунтах.

Портрет Twitter-экстремиста

Сторонники ИГИЛ в Twitter более активны в сравнении с другими пользователями сервиса. Более 80% из них публиковали твиты, во время сбора данных Бергером и Морганом. Кроме того, активность ИГИЛ в Twitter имеет ярко выраженные всплески (резкое увеличение активности).

Пользователи в Twitter-сети ИГИЛ имеют не самое большое количество подписчиков и образуют «кластеры». Средний аккаунт сторонника ИГИЛ имеет больше «фолловеров» чем можно обнаружить у обычного пользователя сервиса, но в целом, эта цифра гораздо ниже, чем у популярных Twitter-блогеров, и составляет около 1000 подписчиков (в Twitter в среднем каждый пользователь имеет 200 «фолловеров»). Но это не означает, что аккаунты, поддерживающие ИГИЛ, популярны в обычном смысле этого слова.
По мнению экстремистов из ИГИЛ, у войны — детское лицо. А лучший способ донести это до "широкой общественности" — Twitter
«На самом деле не существует аккаунтов, поддерживающих ИГИЛ, с количеством «фолловеров», превышающим 100 тысяч», — объяснил Морган в своем выступлении на конференции. Он также добавил, что после «большой чистки» в сентябре прошлого года — когда было заблокировано огромное количество аккаунтов, имеющих отношение к деятельности ИГИЛ — в Twitter не осталось экстремистских аккаунтов, для которых число подписчиков превышало бы 50 тыс., и лишь у считанных пользователей осталось больше 20 тысяч «фолловеров»: «Они не получат большое количество подписчиков. Это вам не Кейт Перри (американская певица, количество «фолловеров» которой в Twitter, на текущий момент составляет 66,5 млн — прим. Defence.Ru). Они могут эффективно работать лишь с небольшим количеством подписчиков».

Это очень плотная сеть — один из пользователей, сочувствующих ИГИЛ, с большой вероятностью знает многих других «соратников», что не является обязательной характеристикой для других групп таких размеров.

В их твитах не только одна лишь пропаганда и сцены казней. Огромное количество хэштегов, используемых в этой группе пользователей, были ссылками на ИГИЛ. На втором месте — хэштеги, связанные с блокировкой аккаунтов. По данным Бергера и Моргана всего было заблокировано около 18 тыс. аккаунтов, имеющих отношение к ИГИЛ.

Исследование также показало, что всего лишь около 20% «игиловских» аккаунтов выбрали в качестве основного языка английский, а на арабском общаются 75%.

Наиболее популярное местонахождение аккаунтов, имеющих отношение к ИГИЛ — Саудовская Аравия, за ней идут Сирия, Ирак и Соединенные Штаты.

Это полезная информация с точки зрения социологии. Но что это дает тем, кто сражается с ИГИЛ в онлайне? Бергер и Морган подготовили данные, которые показали, что даже небольшие изменения тактики Twitter в противодействии ИГИЛ-аккаунтам могут привести к резкому снижению влияния экстремистов в рамках этого сервиса.

Три шага к победе над ИГИЛ в Twitter

1. Использовать сетевой подход к идентификации «про-игиловских» аккаунтов, подлежащих блокированию. Полученные исследователями данные говорят о том, что Twitter все еще рассчитывает на сообщения пользователей о необходимости блокирования тех или иных аккаунтов, но не полагается на анализ сетевого поведения. Результат: после блокировки подозрительного аккаунта пользователь тут же выскакивает в сети под другим именем.
Не гнушаются сторонники ИГИЛ и хакерских "приемчиков". На скриншоте — взломанный Twitter-аккаунт Центрального командования США (CENTCOM)
Бергер считает, что такие сообщения от пользователей лишь отчасти эффективны. Когда блокируется аккаунт с большим количеством «фолловеров», новый аккаунт не сможет быстро набрать такое же количество подписчиков, а его владелец тратит больше времени на обсуждение самой блокировки, а не публикацию пропагандистских материалов, вербовку новых сторонников и т.д. Преобладание хэштегов, связанных с блокированием, говорит о том, что противодействие «Twitter-полицейским» становится все более затратной активностью для ИГИЛ, заставляя его сторонников все чаще менять аккаунты «вместо публикации картинок с изображением казней, что для них предпочтительнее». Бергер также обратил внимание на то, что после волны закрытий аккаунтов, имевшей место в сентябре, «количество созданных «игиловских» аккаунтов резко упало».

Но, как заметил Морган, Twitter «споткнулся» о свой же успех. Если бы его руководство предприняло крупное исследование поведения таких аккаунтов и смоделировало коммуникации между ними (а также проанализировало другие факторы), а не отвечало на отдельные сообщения и твиты о подозрительной деятельности, то у сервиса было бы больше возможностей по ранней и эффективной идентификации «про-игиловских» аккаунтов. В случае анализа поведения, а не явных свидетельств, имеется вероятность ошибочных блокирований, но по мнению Моргана, она не превышает для его сетевой модели 6-7%.

2. Необходимо отдать деятельность по борьбе с ИГИЛ в Twitter тем, кто может делать это эффективно. В 2011 году, спустя некоторое время после активизации ИГИЛ в Twitter Госдеп США запустил кампанию на арабском и урду под названием «Think Again Turn Away» (букв. «Подумай еще раз и откажись»). Комплексное мероприятие, о проведении которого известно немногим, по мнению Бергера, имело относительный успех.
Специальные акции в Twitter вроде Think Again Turn Away работают, но не так эффективно, как хотелось бы...
Основная проблема состоит в том, что Государственный департамент, будучи официальным органом Правительства США, ограничен в способах коммуникаций с такими организациями как ИГИЛ на открытых площадках, каковую представляет собой Twitter. Потенциальные минусы перевешивают плюсы. «У вас есть масса пользователей, которые наблюдают за тем, когда вы потеряете все свои веские доводы», — говорит Бергер. Кроме того, вовлечение и актуальное взаимодействие являются ключевыми для социальных медиа. Госдеп же, ограничивается лишь неэффективными публикациями единичных твитов. Другие специалисты, такие как Рита Кац (Rita Katz) из SITE Intelligence Group, считают, что инициатива Госдепа в лучшем случае говорит о нерешительности, а в худшем — может подстегнуть ИГИЛ к большей активности в Twitter.

«Я считаю, что руководству Twitter стоит обратить внимание на партнерство с организациями, которые могли бы инициировать что-то вроде контр-акций. Сегодня проводятся лишь единичные мероприятия подобного рода», — поделился своим мнением Морган.

Twitter мог бы взять на себя руководящую роль по поиску компаний, специализирующихся на социальных медиа, которые могли бы более эффективно противодействовать ИГИЛ в Twitter.

3. Twitter должен стать более похожим на Facebook и YouTube. В докладе Бергера и Моргана также говорится о том, что Facebook и YouTube «уже провели изменения в политике сервисов, связанные с деятельностью экстремистов». Причем оба сервиса считают, что бороться с экстремистскими организациями лучше на уровнях сообществ, чем на индивидуальных началах.
Летом прошлого года весь мир узнал о "глобальной акции" We love you ISIS ("Мы любим тебя, ИГИЛ"). Чуть позже оказалось, что акция не такая уж и глобальная. В конце концов выяснилось, что практически все доказательства "любви" либо лежали в Сети месяцы и даже годы, либо сфабрикованы, либо вообще не имеют никакого отношения к ИГИЛ
Facebook недавно опубликовал расширенное объяснение стандартных политик сообщества, в которых говорится о том, что «[соцсеть] удаляет контент, в котором содержится поддержка групп, вовлеченных в поведение, связанное с насилием или преступной деятельностью. Поддержка или восхваление лидеров такого рода организаций, а также невоспрепятствование их насильственным действиям недопустимы». Компания также опубликовала правительственный отчет (Government Global Request Report), описывающий ситуации, когда и при каких обстоятельствах руководство соцсети сотрудничает с правоохранительными органами.

Twitter, наоборот, не имеет официальной политики, связанной с поддержкой, рекомендациями и продвижением экстремистских групп. Что касается сотрудничества с правоохранительными органами, то компания заявляет, что «предоставление коммуникационного контента (например, твитов, личных сообщений, фото) возможно лишь в случае предоставления официального запроса от организации с надлежащей юрисдикцией». 

«Twitter, в качестве своей политики, мог бы конкретизировать, что разрешено, а что нет на его платформе», — считает Морган. Сейчас же подход руководства сервисом в работе с правоохранительными органами, правительствами и ИГИЛ, по его словам, смахивает на деятельность секретной службы.

Ни один из трех шагов, описанных выше, не сможет нанести ИГИЛ поражение сам по себе. Но все они способны значительно снизить возможности этой экстремистской организации по привлечению средств и формированию публичного имиджа, что является ключевым в деятельности ИГИЛ: «Привлечение новых членов зависит от демонстрации силы организацией, которая представляет собой совсем не то, чем хочет казаться», — считает Бергер.

Что еще более важно, говорит Морган, те же самые методы, которые он с Бергером использует для понимания принципов работы ИГИЛ, помогут исследователям лучше понять и другие экстремистские организации, которые могут появиться после Исламского государства.

«Мы можем описать радикальные течения языком цифр, — говорит Морган. — Мы уже вплотную подошли к тому, чтобы дать количественное определение вещам, которые кому-то кажутся едва ли не мистическими… Twitter, если его руководство захочет, наверняка сможет изгнать ИГИЛ со своей платформы. Правда, остается открытым вопрос: стоит ли это делать, так как можно извлечь пользу из ухудшения коммуникаций внутри платформы, что снизит возможности экстремистов по вербовке новых людей. Кроме того, нужно учитывать интересы спецслужб и возможности по обнаружению пользователей, которые в перспективе могут примкнуть к радикалам. Если мы сможем измерить процесс радикализации, то найдем и способы ему противодействовать».


Перевод статьи Three Steps To Destroy ISIS on Twitter