Экосистема онлайн-экстремизма

Аналитика онлайн-экстремизма была проведена на основе данных доклада исследовательской организации RAND. Основную роль в докладе занимает описание структуры, позволяющей классифицировать виртуальные платформы по содержанию, чтобы пользователи могли обезопасить себя от экстремистского контента в Интернете. В ходе изучения экосистемы экстремизма была выявлена взаимосвязь роста активности ультраправых экстремистов в интернете с распространением социальных сетей, форумов и других платформ, позволяющих пользователям обмениваться сообщениями. Термин «ультраправые экстремисты» авторы доклада использовали в качестве собирательного образа сторонников идеологии, характеризующейся расовым, этническим или националистическим превосходством, верой в то, что социальное неравенство естественно или желательно, и поддержкой теорий заговора, включающих серьезные угрозы национальному суверенитету и личной свободе. Это понятие охватывает множество групп и движений, включая расовых и этнических приверженцев, таких как неонацисты, организации, которые строят свои идеологические программы на основе предубеждений, связанных с религией, полом, сексуальной ориентацией или иммиграционным статусом.

Для углубленного понимания проблемы была описана структура, позволяющая классифицировать платформы по количеству контента экстремистского характера как мейнстримные, периферийные и нишевые:

• мейнстримные платформы – это платформы, содержащие небольшую часть неуместного материала и экстремистских высказываний. (Facebook, Twitter, Reddit, Tumblr, Discord);
• периферийные платформы представляют собой смесь мейнстримного и экстремистского контента, где пользователь легко может наткнуться на скрытый экстремизм в нативном формате с насильственной и расистской подоплекой. (MyMilitia, InfoWars, Parler, Gab, Infogalactic, Love Shy, Ruqqus, 4chan, You’re Not Alone);
• нишевые платформы открыто и целенаправленно удовлетворяют запросы экстремистской аудитории. (Said it, Incels.co, Incels.net, Stormfront, Voat, 8chan, The Daily Stormer, Iron March, The Northwest Front, Rapeya, American Nazi Party, The National Socialist Movement, Blood & Honour, 9% Productions, David Duke’s website, David Lane 1488).

Интернет для всех: палка о двух концах

Стремительное вхождение технологий в каждый дом внесло коррективы в привычную жизнь. Ежегодный выход новых моделей смартфонов, аксессуаров для умного дома, приложений на любой вкус и цвет, социальных сетей для любой категории пользователей – все это стало появляться раньше запроса от общества, до реального спроса от покупателей, что свело к минимуму возможность контролировать и цензурировать ежесекундно публикуемые материалы во всемирной паутине. В наше время трудно найти человека в развитой стране, который не слышал о YouTube или Facebook (Meta), но что насчет альтернативных платформ, привлекающих новых пользователей новизной, функциональностью и правомерным использованием персональных данных, конфиденциальностью которых злоупотребляют классические приложения?

Отталкиваясь от изначально благой идеи – каждому человеку найти место в Интернете, где понимают его чувства, разделяют идеи и концепции мироустройства, – мы задаемся вопросом, к чему может привести скопление агрессивно настроенных людей, экстремистов, расистов на одной платформе, и как это скажется на общественном порядке. Несмотря на ряд скандалов из-за массовой утечки конфиденциальной информации, блокировки лидеров мнений, представляющих идеи, не соответствующие общепринятым нормам современности, и множества других факторов, подавляющее большинство людей остаются на популярных платформах. Причиной служит масса единомышленников в выбранной социальной сети, друзья, привычный интерфейс и возможность блокировать всех пользователей с девиантным поведением. Как было отмечено ранее, Интернет предоставляет возможность каждому человеку найти подходящую платформу – и все пользователи, заблокированные на традиционных платформах, не уходят из сети, а ищут другие способы коммуникации и место, где их примут. Тем самым альтернативные платформы открывают возможность для развития экстремистских движений, в которых происходит активное привлечение и радикализация новых приверженцев, организация виртуальной и реальной деятельности, а также сбор доходов.

Рассматривая срез альтернативных платформ, исследователи пришли к выводу, что интернет-сообщества могут использовать их как для репрезентации радикальных или нетрадиционных идей, пагубно влияющих на пользователей и общество в целом, так и для распространения идей, ранее считавшиеся запретными или неприемлемыми, привнося их в мейнстрим.

Понимание экосистемы онлайн-экстремизма

Касаясь вопроса традиционных социальных сетей, возникает вопрос, как именно среднестатистический пользователь может определить, потворствует ли платформа экстремистским идеям – или же экстремисты маскируются под мейнстрим? При процветающей «культуре отмены» онлайн-платформы тщательно следят за своей репутацией и общественным мнением в целом. Даже при многочисленных попытках невозможно удовлетворить потребности и запросы 100% пользователей, отсюда происходят многие конфликты и столкновения интересов, после чего часть пользователей, несогласных с политикой платформы, становятся перед выбором альтернативы. Существует несколько вариантов завлечения к себе людей, потерявших доступ/доверие к предыдущей социальной сети:

1. Пиар, выстроенный на культе превосходства, элитарности участников и статусности. Воинственный настрой, радикальные символы, экстремистские настроения.
2. Выраженная борьба за свободу слова, протесты относительно цензуры. Пример: американский сервис микроблогов и социальная сеть Parler рекламировала себя как форум, на котором можно «свободно говорить и открыто выражать свои мысли, не боясь быть заблокированным за свои взгляды».
3. Работа «изнутри» традиционных платформ. Грамотная маскировка и вплетение экстремистских идей в обычные сообщения. Обход модерации контента путем смягчения формулировок для привлечения новых последователей. Разжигание ненависти и недоверия к традиционной платформе в периоды скандалов и происшествий.

Третий вариант по завлечению пользователей присутствует во всех известных социальных сетях, включая Facebook (Meta), Twitter и TikTok. Ко второму варианту относятся многие альтернативные платформы, такие как Gab и Ruqqus, имитирующие традиционные приложения, но являющиеся параллельным онлайн-пространством. Механизмы голосования и дизайн Ruqqus имитируют Reddit, а Gab повторяет функционал Twitter. Некоторые платформы специально разработаны экстремистами для радикального дискурса, другие являются либертарианскими, либо коммерчески ориентированными предприятиями. Во всех случаях присутствуют свои мотивы и предполагаемые результаты, периодически допускается малая часть экстремистских материалов во имя свободы слова, иногда происходит захват площадки экстремистами. Ультраправые экстремисты обладают высокой адаптивностью к современным технологиям, однако их попытки колонизировать новые платформы часто деплатформируются[1] и сдерживаются изменениями в политике модерации контента, которые могут возникать из-за давления на рынок со стороны общественности, рекламодателей или веб-хостингов.

По данным Tech Against Terrorism, инициативы Исполнительного директората Контртеррористического комитета ООН, этот сдвиг ускорился с середины 2020 года, поскольку улучшение модерации контента на платформах социальных сетей и усиление деплатформирования экстремистов привело к тому, что организации и их сторонники переместились на небольшие платформы, что поспособствовало возрождению сайтов, управляемых террористами.

Сетевой анализ показал, что весомое количество ультраправых пользователей присоединилось к Telegram после того, как основные платформы, включая Twitter и Facebook, начали вводить новые запреты в 2019 году. Аналогичный межплатформенный анализ Twitter и Gab показал, что вовлеченность в экстремистский контент на Gab возросла после того, как Twitter ввел волну приостановок. Это подтверждает аналогичный анализ онлайн-активности джихадистов, базирующихся в Испании, который показал, что введение новых барьеров для использования привело к изменениям в том, какие платформы экстремисты использовали с течением времени. Другие считают, что тактика производства контента, используемая ультраправыми группами, может сделать их более устойчивыми.

Онлайн-экстремизм. От первых веб-сайтов до наших дней

Корпорация RAND провела обзор опубликованных исследований, правительственных документов, сообщений прессы, связанных с использованием экстремистами социальных сетей и других виртуальных технологий, начиная с 1980-х годов, чтобы лучше понять эволюцию ультраправой активности в интернете – и выявила более 250 значимых событий в период с 1984 по 2021 год. Было выделено 5 фаз от момента создания первых специализированных веб-сайтов и форумов, появления социальных сетей в середине 2000-х годов до наших дней.

В середине 2000-х годов контент в социальных сетях в большей степени модерировался пользователями, поскольку тогда еще действовала слабая политика модерации. После серии террористических атак, совершенных активными пользователями социальных сетей, и появления скоординированных кампаний преследования, некоторые технологические компании были вынуждены прибегнуть к модерации и цензуре к середине 2010-х годов. Хотя модерация контента в целом была ограниченной и неравномерной, эти ограничения совпали с появлением новых платформ, которые представляли себя в качестве альтернативы популярным социальным сетям.  Начиная примерно с 2020 года, экстремисты использовали социальные сети для мобилизации большого числа сторонников для действий вне сети.

ФАЗА 1. Система досок объявлений и Всемирная паутина, 1983–2003 годы

Освоение сторонниками превосходства белой расы онлайн-платформ началось с момента основания компьютерных сетей в начале 1980-х годов, когда активисты «белой силы», такие как Джордж Дитц, Луис Бим и Том Мецгер, создали публичные системы досок объявлений (BBS). Например, организация «Белое арийское сопротивление» создала свою первую компьютерную доску объявлений в 1985 году; к 1998 году насчитывалось 258 сайтов, посвященных белой силе. Например, сеть Liberty Net Луиса Бима позволяла сторонникам превосходства белой расы обмениваться стратегиями, литературой, материалами, рекламой и потенциальными целями для насилия. Кроме того, эти сайты давали активистам в таких странах, как Германия и Канада, доступ к расистской литературе, которая обычно была запрещена на местном уровне. Данная организация продолжала существовать в 1990-х годах через сети BBS, но в итоге эта практика была вытеснена массовым перемещением во Всемирную паутину (WWW). В мае 1995 года Дон Блэк, бывший лидер «Рыцарей Ку-клукс-клана», перевел свою сеть BBS на WWW и основал один из самых успешных и долгоживущих форумов сторонников превосходства белой расы – Stormfront. Stormfront быстро стал центральным узлом для сайтов белых супремасистов в Интернете, предоставляя пользователям ссылки на другие сайты подобного рода.

ФАЗА 2. Появление социальных медиа; притеснения и троллинг способствуют ограниченному саморегулированию, 2003–2014 годов

В начале и середине 2000-х годов онлайн-экстремисты, сторонники превосходства белой расы присоединились к основным платформам, включая MySpace, Facebook, YouTube и Twitter. Форумы, такие как Stormfront, продолжали существовать, но другие, такие как отдельная нацистская социальная сеть New Saxon, потерпели неудачу, поскольку пользователи перешли на сайты нового поколения. К началу 2010-х годов стало ясно, что Интернет предоставляет экстремистам организационный механизм для воплощения в жизнь своих человеконенавистнических идей, распространения идеологии в беспрецедентных масштабах и причинения вреда в реальном мире. Перед тем как совершить массовые теракты 22 июля 2011 года, в результате которых погибли по меньшей мере 77 человек и сотни были ранены, норвежский террорист и активный пользователь Stormfront Андерс Брейвик отправил свой манифест «2083» по электронной почте двум известным пользователям Stormfront. Позже Брейвик заявил, что его нападения были «маркетинговым ходом», чтобы призвать других белых супремасистов распространять его послание через социальные сети и специализированные сайты.

К сентябрю 2011 года Александр «Славрос» Мухитдинов, российский неонацист, создал сайт Iron March как центр онлайн-коммуникаций для движения милитантов. В этот же период культура анонимных троллей стала важной особенностью Интернета. Организованное преследование в Интернете было популяризировано на таких сайтах, как 4chan и Reddit. На обеих платформах создавался и распространялся анонимный расистский, нацистский и агрессивный женоненавистнический контент. Одной из самых популярных кампаний на 4chan и Reddit стала «Gamergate», которая быстро распространилась на другие социальные платформы, поскольку участники расширили свои оскорбительные действия, включив в них доксинг[2], своттинг[3] и массовые посты, преследующие многих разработчиц игр, феминисток, людей с другим цветом кожи и др. В сентябре 2014 года 4chan запретил подобные организации и запретил обсуждение «Gamergate». Некоторые посчитали это изменение политики предательством, и многие разгневанные пользователи стали использовать 8chan, аналогичную платформу с еще меньшим количеством ограничений.

ФАЗА 3. Усиление саморегулирования платформ сопровождается использованием экстремистами периферийных платформ и превращением социальных сетей в оружие, 2015–2017 годы

«Gamergate» стал поворотным моментом в подходе технологических компаний к модерации контента. Скандал в СМИ привлек внимание общественности к проблеме домогательств в Интернете, подстегнув призывы к руководству социальных сетей для улучшения фильтрации контента и введения более жесткой политики модерации. Скандал продемонстрировал, как терпимость компании по отношению к травле может запятнать ее репутацию и нанести удар по прибыли. В 2016 году несколько корпораций отозвали заявки на покупку Twitter из-за опасений, что сайт не способен модерировать размещаемый контент. В том же году Европейская комиссия опубликовала «Кодекс поведения по противодействию незаконным выражениям ненависти в Интернете», призвав технологические компании предпринимать «быстрые и стабильные» действия для борьбы с расистскими и ксенофобскими высказываниями ненависти в Интернете. Однако, согласно проведенному в том же году мониторингу, только 40% контента с нарушениями по официальным данным и 28% контента с нарушениями по независимым данным были удалены в течение 24 часов. Результатом этих событий стало внесение рядя дополнительных технических функций и введение изменений в политике модерации, направленных на блокирование размещения или просмотра пользователями оскорбительного контента. В 2015 году 8chan, который стал популярным форумом среди сторонников превосходства белой расы, был удален из результатов поиска Google. Начиная с июля 2016 года, Twitter начал запрещать известные аккаунты, которые провоцировали или участвовали в кампаниях преследования, а в ноябре 2016 года Twitter объявил, что будет бороться с разжиганием ненависти на своей платформе. В феврале 2017 года Twitter представил новый набор функций, позволяющих пользователям фильтровать и блокировать вредоносный контент и жаловаться на него.

К важным изменениям в политике социальных сетей привело возникновение «Исламского государства в Ираке и Леванте» (ИГИЛ), которое оказалось более эффективным в пропаганде, чем предшествующие движения «Аль-Каиды». Работая с зарубежными партнерами, правительство США подтолкнуло технологические компании к внедрению мер предосторожности, пресечению деятельности экстремистских организаций и распространению контррадикализационных сообщений. Несмотря на первоначальное сопротивление, в 2017 году Facebook, Microsoft, Twitter и YouTube создали Глобальный интернет-форум по борьбе с терроризмом (GIFCT), чтобы помочь уменьшить возможности террористов и экстремистов в использовании цифровых платформ. Однако смещенный фокус внимания на ИГИЛ позволил развернуться остальным онлайн-экстремистам, одновременно с этим возникли альт-технологические платформы для обслуживания пользователей, разгневанных новыми ограничениями на основных платформах. В отличие от своих предшественников, это новое поколение технологических компаний рекламировало себя как форумы без ограничений. Некоторые сайты были структурированы почти идентично популярным социальным сетям. Созданный в 2014 году аналог Reddit – Voat – стал популярным среди подписчиков, разочарованных ужесточением политики модерации Reddit. В августе 2016 года была создана подражающая Twitter платформа Gab как самопровозглашенная «платформа свободы слова». Эти альтернативные платформы поначалу с трудом привлекали новых пользователей, но в последующие несколько лет обзавелись лояльными пользователями.

ФАЗА 4. Ультраправые площадки, рыночное давление на саморегулирование, насильственные действия, 2017-2019 годы

Митинг «Объединяйтесь, правые» в августе 2017 года в Шарлотсвилле, штат Вирджиния, подтолкнул технологические компании к пресечению организации сторонников превосходства белой расы в Интернете. После этого Facebook, удаливший страницу мероприятия незадолго до демонстрации, начал удалять связанные с ней страницы и ограничивать обмен ссылками на статьи, высмеивающие жертву нападения в Шарлотсвилле. Discord, платформа для текстовых и голосовых чатов, которая начиналась как сообщество геймеров, стала запрещать серверы и блокировать учетные записи белых супремасистов. А Twitter, столкнувшись с обвинениями в содействии организации демонстраций в Шарлоттсвилле, объявил о «новых правилах для снижения ненавистнического поведения и оскорбительных действий», хотя к тому времени многие ультраправые пользователи уже переместились в Gab.

Компания по созданию сайтов и хостингу Squarespace удалила расистские сайты со своей платформы, а Apple и PayPal объявили, что будут работать над тем, чтобы не позволить сторонникам превосходства белой расы использовать их систему для обработки платежей по сбору средств. Сайт Daily Stormer был вытеснен из общедоступного Интернета, который индексируется традиционными поисковыми системами, в отличие от даркнета, который таковым не является – после того, как он был внесен в черный список компаний, предоставляющих хостинг доменов и веб-услуг, включая GoDaddy, Google и Cloudflare. Gab был вынужден перейти к новому регистратору доменов. В ноябре 2017 года Iron March закрылся по неясным причинам, возможно, отчасти из-за атак самосудных хакеров. Однако в последующие годы организация и общение неонацистов и белых супремасистов на различных платформах продолжались. Число насильственных нападений со стороны правых экстремистов стало расти, опережая угрозу со стороны террористов-джихадистов как по количеству нападений, так и по числу погибших – это явление исследователь терроризма Брюс Хоффман назвал «стимулирующим» эффектом социальных медиа. Многочисленные субъекты насилия использовали альтернативные платформы для обмена манифестами и продвижения своих насильственных действий в надежде добиться личной славы и побудить других последовать их примеру.

После того как выяснилось, что исполнителем нападения на синагогу «Древо жизни» в Питтсбурге (штат Пенсильвания) 27 октября 2018 года был антисемитски настроенный пользователь Gab, который за несколько часов до этого разместил на сайте манифест, сайт был запрещен регистратором доменов GoDaddy и хостинговой службой Joyent. Ему также запретили пользоваться услугами Stripe, Medium, Shopify и PayPal и удалили из магазинов приложений Apple и Google. Несмотря на перебои, сеть Gab возобновила работу после недельного перерыва, а позднее в том же году выпустила Dissenter – браузер и веб-приложение, призванные дать пользователям возможность обойти модерацию контента на других платформах. 2019 год принес новую серию расстрелов белыми супрематистами в мечети в Крайстчерче, Новая Зеландия (15 марта), синагоги в Калифорнии (27 апреля) и магазина Walmart в Техасе (3 августа); в каждом случае перед совершением нападения преступник размещал манифест на 8chan. После августовского инцидента компания Cloudflare прекратила предоставлять 8chan защиту от распределенных атак, что заставило 8chan провести ребрендинг под названием 8kun и найти другого регистратора доменов. Генеральный директор Cloudfare заявил, что компания действовала из чувства долга, чтобы попытаться помочь предотвратить будущие атаки, сказав: «Мы наблюдали картину, когда это беззаконное сообщество продемонстрировало свою способность причинять реальный вред и реальный ущерб». Не успокоившись, неонацистские группы продолжали использовать онлайн-платформы на протяжении всего этого периода для организации, рекламы и вербовки сторонников своего дела, а также для расширения связей. В начале 2018 года Sonnenkrieg Division, британское ответвление Atomwaffen Division, объявило о своем создании через Gab. В том же году акселерационистская и неонацистская организация Feuer-krieg Division была создана в Прибалтике, хотя она заявляет о своих членах по всей Европе и в США, а военизированная группа ненависти The Base начала свою деятельность в США и стала набирать сторонников в Интернете с целью организации представительства в Канаде, Европе и Австралии. К началу 2020 года каждая из этих групп столкнулась с неудачами, поскольку активность многих членов в Интернете раскрыла их организацию, что способствовало проникновению правоохранительных органов, антифашистских активистов и привело к арестам.

ФАЗА 5. Устойчивые организованные массовые движения в Интернете, воссоздание экстремистских ячеек и сосредоточение внимания правительства на внутреннем терроризме, с 2020 года по настоящее время

Внутриполитические события в США вызвали в 2020 году устойчивые массовые протестные движения, большинство из которых были организованы в социальных сетях. Некоторые демонстрации, такие как общенациональные протесты против жестокости полиции и неравноправия, были в основном мирными, несмотря на случаи значительного ущерба имуществу. Другие, включая демонстрации против правительственных мер безопасности COVID-19 и закрытия штатов, которые начались в апреле 2020 года, характеризовались периодическими вспышками насилия. В Мичигане в апреле 2020 года, Айдахо в августе 2020 года и Орегоне в декабре 2020 года вооруженные протестующие ворвались в здания Капитолия штата.

Самое заметное событие произошло 6 января 2021 года, когда демонстрации протеста против итогов президентских выборов в ноябре 2020 года вылились в физическое нападение на Капитолий США. Планы штурма Капитолия во время митинга «Остановить воровство» циркулировали в социальных сетях, приложениях для обмена сообщениями и на форумах, включая Gab, Parler, Telegram, Facebook и TheDonald.win, за несколько недель до нападения. В первые дни после восстания Facebook ввел правила против групп и пользователей, распространяющих дезинформацию о выборах, а Twitter начал приостанавливать учетные записи, связанные с массовым заблуждением QAnon. Обе платформы приостановили действие аккаунтов, принадлежащих президенту Дональду Трампу, за подстрекательство к насилию (Facebook – временно, а Twitter – навсегда). Parler был изгнан из сети после того, как Amazon, Apple и Google прекратили сотрудничество с этой платформой из-за того, что на платформе допускались агрессивные призывы и угрозы. Несмотря на то, что многие платформы предпринимают усилия по предотвращению или устранению контента белых супремасистов и других экстремистов, размещаемого на их сайтах, неравномерная политика правоприменения и наличие более мягких платформ альт-технологий позволяют этим движениям продолжать открыто организовывать свои акции в Интернете. После закрытия Parler многие бывшие пользователи перешли на другие бесплатные платформы для обмена сообщениями, такие как Signal, Telegram, Gab, Rumble и MeWe.

После событий 6 января 2021 года администрация Байдена выдвинула новые инициативы по противодействию экстремистской деятельности в Интернете. 7 мая 2021 года Соединенные Штаты одобрили Крайстчерчский призыв к действиям по искоренению террористического и насильственного экстремистского контента в Интернете, присоединившись к коалиции правительств, международных организаций и частных технологических компаний, которые обязались бороться с использованием Интернета злоумышленниками. В своем заявлении Госдепартамент указал, что «противодействие внутреннему насильственному экстремизму – в том числе расово или этнически мотивированному насильственному экстремизму – является непреложным приоритетом». В своей стратегии борьбы с внутренним терроризмом, опубликованной в следующем месяце, Белый дом объявил о планах расширения обмена информацией с владельцами социальных сетей, а также о финансировании, планировании и реализации цифровых программ, направленных на повышение цифровой грамотности и «укрепления устойчивости пользователей к дезинформации в Интернете».

Итоги

Даже если технологические компании будут стремиться ужесточить политику модерации контента, масштабы Интернета, темпы создания новых платформ и адаптивность экстремистских групп будут гарантировать, что соответствующие материалы будут продолжать циркулировать на определенном уровне. По этой причине в Национальной стратегии противодействия внутреннему терроризму до 2021 года подчеркивается важность снижения социального спроса на эти материалы и развития устойчивости к дезинформации и другому вредоносному контенту, который циркулирует в сети.

Исследования распространения дезинформации и теорий заговора показывают, что большинство людей с трудом различают истинный, ложный и вводящий в заблуждение контент в Интернете и поэтому могут непреднамеренно делиться подстрекательскими или пропагандистскими материалами.

Эта проблема, как пишут ученые Дэвид Рэнд и Гордон Пенникук, «вероятно, усугубляется в социальных сетях, где люди быстро прокручивают страницу, отвлекаются на поток информации и сталкиваются с новостями, смешанными с эмоционально привлекательным контентом». Аналогичным образом, пользователи Интернета могут не осознавать, что они занимаются пропагандой или другим манипулятивным контентом, предназначенным для радикализации и вербовки сторонников.

Действительно, некоторые экстремисты намеренно пытаются скрыть право собственности на сайт или авторство цифрового контента, чтобы вызвать доверие и «намеренно замаскировать скрытую политическую повестку дня». Проблема усугубляется, как отметил исследователь СМИ Адам Кляйн, тем, что поисковые системы и социальные сети предоставляют пользователям вредоносную или вводящую в заблуждение информацию, которая «была разработана для них, чтобы казаться образовательной, политической, научной и даже духовной по своей природе». На данный момент существует мало инструментов, которые могли бы помочь пользователям Интернета принять решение о том, какие сайты, приложения или форумы следует использовать в первую очередь. В нынешней среде такие ярлыки, как «мейнстрим» и «альт», часто приписываются бессистемно. Популярность и узнаваемость бренда являются важными атрибутами мейнстримной платформы, но они не должны быть единственными.

В целях повышения цифровой грамотности RAND разработала объективный стандарт для классификации платформ, определила признаки, которые могут сделать платформы более или менее уязвимыми для присвоения и рассмотрела меры, которые отражают последствия того, что платформа становится убежищем для онлайн-экстремистов. Полученные критерии оценивают популярность виртуальных платформ, их доступность, а также терпимость или поддержку онлайн-экстремистов.

Система состоит из четырех основных категорий, каждая из которых включает в себя несколько подкатегорий, которым присвоили ряд числовых значений. Общий балл платформы представляет собой сумму результатов по каждой подкатегории. Чем выше число, тем более мейнстримовой является платформа; чем ниже число, тем более нишевой.

Первая категория – проникновение на рынок; основана на предположении, что проникновение на рынок отражает способность платформы представлять взгляды населения в целом. Было измерено проникновение на рынок с помощью 3 факторов: объем трафика, видимость и доступность платформы через результаты поиска Google.

Объем трафика измерялся по 4-хбалльной шкале с помощью сайта Alexa.com, на котором отображается среднесуточное количество посетителей и просмотров страниц в США за предыдущие 90 дней.

Платформа определялась как крупная и ей присваивали 4 балла, если она входила в 1000 лучших сайтов в Интернете.

Платформе присваивали 3 балла, если за 90 дней ее рейтинг в США входил в число 1 000–50 000 лучших сайтов, 2 балла, если ее рейтинг был ниже 50 000, и 1 балл, если ее веб-трафик в США был неизмеримо мал. Был выбран рейтинг Alexa.com в качестве подходящего показателя объема трафика, а не количества уникальных пользователей, из‑за его стандартности для всех платформ и простоты получения данных по США.

Видимость оценивалась по 3-хбалльной шкале. Платформе присваивали 3 балла, если она была популярной, известной в народе – такой, которую узнали бы даже те, кто не является заядлым пользователем социальных сетей. Платформе присваивали 2 балла, если она часто обсуждалась в крупных национальных СМИ или публиковалась в исследованиях. Платформе присваивали 1 балл, если она была знакома только специализированным сообществам, сосредоточенным на этой теме.

Результаты Google оценивались по 4-хбалльной шкале. Платформе присваивались 4 балла, если первым результатом поиска Google была прямая ссылка на сайт или платформу. Платформе присваивали 3 балла, если прямая ссылка находилась на первой странице (исходя из стандартных предпочтений поиска, первые десять результатов поиска), и 2 балла, если прямая ссылка находилась на второй странице (в пределах результатов 11–20). Начислялся 1 балл, если ссылка была удалена Google или отсутствовала в первых 100 результатах поиска Google. Исследователи проследили за тем, чтобы поиск осуществлялся в режиме инкогнито, чтобы на результаты поиска не влияла история поиска пользователя.

Вторая категория – организационный контроль; предполагает, что прозрачность и самоцензура контента являются стандартной практикой, более характерной для надежных платформ. Был измерен организационный контроль с помощью трех факторов: права собственности, политики в отношении контента, а также мониторинга и модерации контента.

Право собственности оценивалось по 3-хбалльной шкале. Присваивалось 3 балла, если информация о владельцах или руководстве платформы была широко доступна и обнародована. Присваивалось 2 балла, если информация о владельцах или управлении была заметна, но ее нелегко было найти. Присваивался 1 балл, если информация о владельцах не была общедоступной или если были предприняты целенаправленные шаги для сокрытия информации о владельцах – например, владельцы или администраторы назывались только по именам пользователей.

Контентная политика оценивалась по 4-х балльной шкале. Платформе присваивался 1 балл, если она размещала «условия использования» или рекомендации сообщества. Начислялось больше баллов за явные запреты на разжигание ненависти, угрозы насилия или незаконный контент; сайт с правилами пользования, прямо запрещающими все три категории, получал 4 балла. Сайт, на котором не были опубликованы правила пользования или рекомендации, получал 0 баллов.

Признавая, что размещение условий использования не означает, что эти правила соблюдаются, отдельно начислялись баллы за мониторинг и модерацию контента. Платформе присваивалось 3 балла, если контент, нарушающий условия использования или считающийся незаконным, удалялся регулярно, либо потому, что платформа активно нанимала для этого людей, либо использовала алгоритмы для обеспечения соблюдения пользовательских правил, либо и то, и другое. 2 балла присваивалось, если модерация происходила непоследовательно, как правило, потому что контент удалялся только в том случае, если его отмечали пользователи. 1 балл присуждался, если казалось, что на платформе не предпринимается никаких усилий по модерированию контента.

Третья категория связана с тем, в какой степени платформа оказалась уязвимой для внешнего коммерческого давления, исходя из предположения, что чем более сомнителен контент на сайте, тем больше вероятность того, что он будет отклонен рекламодателями или веб-провайдерами, не склонными к риску.

Платформе присваивался 1 балл, если на ней размещалась реклама, и 0 баллов, если известные компании активно решили прекратить рекламу на платформе или если платформа была занесена в черный список рекламными брокерами.

Платформе присваивали 3 балла, если ее никогда не закрывал веб-провайдер, и 0 баллов, если веб-провайдер платформы когда-либо отказывал ей в размещении из-за недопустимого содержания.

Была произведена оценка пользовательской базы платформы с точки зрения того, ориентирована ли платформа на способность пользователя быть анонимом или явно ориентирована на экстремистскую аудиторию.

Анонимность оценивалась по 4-х балльной шкале. Платформе присваивали: 4 балла, если для размещения материала или участия в обсуждении на платформе требовалась идентификационная информация помимо адреса электронной почты (например, настоящее имя или номер телефона); 3 балла, если для размещения материала требовался только адрес электронной почты; 2 балла, если требовалось только самостоятельно сгенерированное имя пользователя; 1 балл, если для участия в обсуждениях на платформе не требовалась регистрация.

Основная программа платформы оценивалась по бинарному критерию: 0 баллов присваивалось, если описание платформы или ее программа включала явные ссылки на супремасистские движения или идеологии, и 3 балла – если не включала.

Бренд также оценивался по двоичной шкале: 0 баллов присуждалось, если платформа была названа в честь экстремистского движения или использовала визуальное оформление, связанное с экстремистскими движениями (например, свастику) в логотипе, описании или программе платформы, и 3 балла – если нет.

Мейнстримные платформы – 32 балла и более, периферийные и нишевые платформы – 31 балл и менее. Наиболее важными переменными для понимания различий между периферийными и нишевыми платформами являются контентная политика, модерация материалов, а также частота и продолжительность закрытия платформы из-за криминального или оскорбительного контента.

Оценочный лист разработан для того, чтобы помочь пользователям Интернета оценить относительный риск столкновения с экстремистским контентом при выборе платформы, но даже мейнстримные приложения и веб-сайты содержат ненавистнические материалы. Мейнстримные платформы, скорее всего, будут более активно удалять или ограничивать распространение экстремистского контента, чем периферийные или нишевые платформы, однако правоприменительная практика неравномерна, и стандарты, определяющие, что считать ненавистью, насилием или экстремизмом, у разных компаний различны.