Вот что должно произойти после утечек данных из Facebook. Ч.2

Разбейте технологию

Неисправная система Facebook черпает свои силы в «модели роста любой ценой», о чем свидетельствуют некоторые показания, данные Хаугеном Конгрессу. Количество пользователей Facebook и растущий объем данных, которые он собирает о них, – главный аргумент в пользу Facebook. Другими словами, вредность Facebook неразрывно связана с его масштабами.

Мы рады видеть антимонопольные дела против Facebook. Требование к Facebook отказаться от Instagram, WhatsApp и, возможно, других приобретений, а также ограничение будущих слияний и поглощений компаний будет иметь большое значение для решения некоторых проблем с компанией и приведет к появлению конкуренции в той сфере, где она подавляется уже много лет. Законопроект, способствующий расчленению сетевой империи, также ожидает решения Палаты представителей и был одобрен Судебным комитетом Палаты.

Пролить свет на проблемы

Некоторые из наиболее подробных документов, которые были опубликованы на данный момент, показывают исследования, проведенные различными командами в Facebook. И, несмотря на то, что оно было проведено самим Facebook, большая часть выводов этого исследования содержит критику собственных сервисов Facebook.

Например, большой процент пользователей сообщают, что видят в Facebook контент, который они считают тревожным или вызывающим ненависть, – ситуацию, которую, как отмечает исследователь, «необходимо изменить». Исследования также показали, что некоторые молодые женщины-пользователи Instagram сообщают, что платформа заставляет их плохо себя чувствовать.

Но одна из проблем с такими документами заключается в том, что невозможно узнать то, чего мы не знаем – мы получаем отчеты по частям и не знаем, какие практические ответы могли быть предложены или протестированы. Кроме того, некоторые исследования не всегда могут означать то, что может указывать на первый взгляд, из-за разумных ограничений или повсеместного распространения самой платформы.

EFF очень долго критиковал непрозрачность Facebook. Например, когда дело доходит до модерации контента, в отчетах компании о прозрачности отсутствуют многие основы: сколько на самом деле существует модераторов-людей и сколько из них охватывают каждый язык? Как обучаются модераторы? Отчет компании о соблюдении стандартов сообщества включает приблизительную оценку того, сколько частей контента из каких категорий будет удалено, но не сообщает нам, почему и как были приняты эти решения.

В некоторых отношениях прозрачность решений повысилась, например, благодаря публичным решениям Наблюдательного совета Facebook. Но разоблачения из документов осведомителей о программе компании «перекрестная проверка», которая дает некоторым «VIP-пользователям» почти полную возможность игнорировать стандарты сообщества, ясно дают понять, что компании еще предстоит пройти долгий путь. Facebook следует начать с принятия Санта-Кларских принципов прозрачности и подотчетности при модерации контента, которые являются отправной точкой для компаний, чтобы правильно указывать способы, которыми они модерируют речь пользователей.

Но модерация контента – это только начало. Facebook постоянно говорит разными уголками своего удручающе большого рта: совсем недавно он объявил, что удалит шаблоны распознавания лиц пользователей Facebook, а затем отказался от этого обязательства в своих будущих начинаниях. С учетом того, насколько двуличной компания всегда была, прозрачность является важным шагом на пути к тому, чтобы у нас было реальное представление о платформе. Компания должна упростить для исследователей как внутри, так и за пределами возможность проведения независимого анализа.

Посмотрите за пределы США

Facebook должен делать больше, чтобы показать уважение своей глобальной пользовательской базе. Facebook – платформа, которая доступна более чем на 100 языках, но компания перевела свои стандарты сообщества только примерно на 50 из них (на момент написания этой статьи). Как компания может рассчитывать на соблюдение правил модерации, если они написаны на языках или диалектах, которые ее пользователи не могут прочитать?

Компания также должна гарантировать, что ее сотрудники, и в частности модераторы контента, обладают культурными знаниями и знанием местных условий. В противном случае для них буквально невозможно надлежащим образом модерировать контент. Но сначала нужно нанять людей с таким опытом. Неудивительно, что компания, как правило, старалась наверстать упущенное, когда кризисы происходили за пределами Америки (где она также не совсем опережала конкурентов).

И, кстати, глубоко разочаровывает то, что документы Facebook были выпущены только для западных СМИ. Мы знаем, что многие документы содержат информацию о том, как Facebook ведет бизнес в глобальном масштабе, и особенно о том, как компания не может использовать соответствующие ресурсы для разработки политики и практики модерации контента в разных частях мира. Предоставление надежных международных публикаций в средствах массовой информации, обладающих опытом и знаниями для предоставления подробного, точного анализа и перспектив, является жизненно важным шагом в этом процессе – в конце концов, большинство пользователей Facebook во всем мире живут за пределами США и Европы.

Не доверяйте простым ответам

Facebook – это интернет-гигант, но это не весь Интернет. Существует более миллиарда веб-сайтов; десятки тысяч платформ позволяют пользователям связываться друг с другом. Любые решения, предлагаемые Конгрессом, должны учитывать это. Хотя Цукерберг может «желать, чтобы каждая другая компания в нашей отрасли делала инвестиции и добивалась результатов, которые есть у [Facebook]», принуждение всех остальных играть по их правилам не приведет нас к желанному онлайн-будущему. Мы не можем исправить Интернет с помощью закона, который поднимает трап за Facebook, оставляя всех остальных на берегу.

Например, законодательство, вынуждающее сайты ограничивать рекомендуемый контент, может иметь катастрофические последствия, учитывая, насколько часто сайты делают (часто полезную) выборку в отношении информации, которую мы видим при просмотре – от рекомендаций ресторанов до маршрутов проезда и результатов поиска. А принуждение компаний к переосмыслению своих алгоритмов или предложению версий «без алгоритмов» может показаться быстрым решением для такого сайта, как Facebook. Но дьявол кроется в деталях и в том, как эти детали применяются ко всей онлайн‑экосистеме.

Facebook, со своей стороны, тоже заинтересован в простых решениях. Ребрендинг и переименование в Meta сводится к тому, что пьяный водитель меняет автомобиль. Уловки, предназначенные для привлечения молодых пользователей для борьбы со стареющей пользовательской базой, – плохая замена размышлениям о том, почему эти пользователи вообще отказываются использовать платформу.

Цукерберг стал очень богатым, заламывая руки каждый год или два и говоря: «Извините. Мне жаль. Я пытаюсь это исправить». Цикл ужасных, плохих, очень плохих новостей, связанных с Facebook, происходит одновременно с тем, что компания сообщила о прибыли в размере 9 миллиардов долларов за квартал.

Цукерберг настаивает, что сейчас мир видит не тот Facebook, который он хотел создать. Но у него было почти два десятилетия более или менее абсолютной власти, чтобы превратить компанию в то, чего он больше всего желал, и вот, чем это обернулось – презренным, опасным и чрезвычайно прибыльным бизнесом. Учитывая этот послужной список, вполне разумно, чтобы мы препятствовали его предложениям во время любого серьезного размышления о том, как решить имеющиеся проблемы.

Мы также не должны ожидать, что политики добьются больших успехов, пока они не начнут прислушиваться к более широкому спектру голосов. В то время как утечки информации определяют повествование о том, где компания подводит своих пользователей, есть много других проблем, которые не попадают в заголовки: например, тот факт, что Facebook продолжает собирать данные о деактивированных учетных записях. Концентрированные и вдумчивые усилия Конгресса должны включать мнения экспертов по политике, которые изучали подобные проблемы в течение многих лет.

Утечки из Facebook должны стать отправной точкой (а не концом) искренних политических дебатов о конкретных подходах, которые сделают Интернет, а не только Facebook, лучше для всех.

Источник