Facebook - Машина Судного дня. Часть 2.

24.12.2020

Начало публикации

Заявленная миссия Facebook – сделать мир более открытым и связанным – всегда казалась мне в лучшем случае фальшивой, а в худшем – империалистической. В конце концов, сегодняшние империи рождаются в сети. Facebook – это государство без границ, с числом пользователей почти таким же большим, как население Китая и Индии вместе взятых, и оно управляется в основном секретными алгоритмами.

Хиллари Клинтон сказала мне в начале этого года, что разговор с Цукербергом похож на переговоры с авторитарным главой иностранного государства. «Это глобальная компания, имеющая огромное влияние, которое мы только начинаем осознавать», – сказала она.

Я вспомнила предупреждение Клинтон несколько недель назад, когда Цукерберг защищал решение не отстранять Стива Бэннона от Facebook после того, как он, по сути, выступал за обезглавливание двух высокопоставленных американских чиновников, врача‑инфекциониста Энтони Фаучи и директора ФБР Кристофера Рэя.

Этот эпизод заставил меня задуматься над вопросом, на который нет ответа, но я все равно продолжаю задавать его людям: сколько насилия в реальном мире никогда бы не произошло, если бы Facebook не существовал?

Один из тех, кого я спрашивала, – это Джошуа Гельцер, бывший сотрудник Белого дома по борьбе с терроризмом, который сейчас преподает в Джорджтаунском университете. В антитеррористических кругах, сказал он мне, люди любят указывать на то, как хорошо Соединенные Штаты сдерживают террористов после 11 сентября. «Это неправильно, – сказал он. – На самом деле, террористы проникают каждый день, каждый час, каждую минуту через Facebook».

Веб-сайт, который, возможно, наиболее известен тем, что поощряет массовое насилие, – это имиджборд 4chan, за которым последовал 8chan, который затем стал 8kun. Эти сайты печально известны тем, что являются местами, где несколько подозреваемых в массовых расстрелах делились манифестами перед убийствами. Те немногие люди, которые готовы безоговорочно защищать эти сайты, делают это с позиции абсолютизма свободы слова.

Данный аргумент заслуживает рассмотрения. Но есть что-то в архитектуре упомянутого сайта, что также заслуживает внимания: на 8kun нет алгоритмов, только сообщество пользователей, которые публикуют то, что хотят. Люди используют 8kun для публикации отвратительных идей, но, по крайней мере, сообщество не притворяется нейтральным.

Крупнейшие социальные платформы утверждают, что они одинаково нейтральны и выступают за свободу слова, однако в них на найдётся и двух человек, которые видят одну и ту же ленту. Алгоритмически настроенные среды поглощают личные данные и манипулируют опытом пользователей, а не действуют с целью их обслуживания. Доказательства реального насилия можно легко проследить как в Facebook, так и в 8kun. Но 8kun не манипулирует своими пользователями или информационной средой, в которой они находятся. Оба сайта вредны. Но Facebook, на самом деле, может быть гораздо опаснее.

«Какой ужасный выбор возникает, когда вы так формулируете вопрос, – сказал мне Гельцер. – Идея доступного для всех контента кажется привлекательной, пока вы не увидите, что предоставляет якобы модерируемый и кураторский набор платформ… Не обязательно вы увидите кровь на экране, но сеть действительно может нанести большой ущерб».

В предыдущие эпохи американские чиновники могли, по крайней мере, изучить, скажем, нацистскую пропаганду во время Второй Мировой Войны и полностью понять, чего нацисты хотели от людей. Сегодня это крайне проблематично. «Я даже не знаю, что видят другие люди с их индивидуальным опытом», – сказал Гельцер.

Другой эксперт в этой области, Мэри Маккорд, юридический директор института конституционной защиты в Джорджтаунском юридическом институте, сказала мне, что, по её мнению, 8kun может быть более откровенным с точки зрения пропаганды насилия, но Facebook «в некотором смысле намного хуже» из-за его масштабного охвата пользователей. «Нет никакого барьера для входа в Facebook, – сказала она. – В каждой ситуации экстремистского насилия, которую мы рассматривали, мы находили сообщения в Facebook. И это видят тысячи людей. Широкий охват – это то, что привлекает множество людей в сообщества, нормализует экстремизм и делает его популярным». Другими словами, именно мегамасштаб делает Facebook таким опасным.

Оглядываясь назад, можно подумать, что путь Цукерберга к мировому господству был неизбежен. Показателен его давний интерес к Римской империи, его одержимость изучением потоков информации и человеческой психологии. Есть история о первом произошедшим с ним интернет-скандале, когда он взломал каталог Гарварда и взял фотографии студентов без их разрешения, чтобы сделать веб-сайт в стиле hot-or-not FaceMash. «Детская игра» – так Цукерберг позже описал метод, с помощью которого он взломал систему Гарварда.

Существует разрыв между его заявлениями об уважении к частной жизни и тем, как он на самом деле работал в Facebook. Цукерберг сказал в приватном чате с другом много лет назад, обсуждая массу данных, которые он получил от первых пользователей Facebook: «У меня есть более 4000 электронных писем, фотографий, адресов… Люди просто отдали их. Не знаю почему. Они "доверяют мне", тупые ублюдки».

В разное время на протяжении многих лет он перечислял следующие интересы в своем профиле в Facebook: устранение желания, минимализм, создание вещей, ломка вещей, революции, открытость, экспоненциальный рост, социальная динамика, доминирование.

Мегамасштаб Facebook дает Цукербергу беспрецедентную степень влияния на население планеты. Если он и не самый могущественный человек на планете, то очень близок к этой вершине. «Это безумие – иметь так много власти, не говоря уже о том, чтобы быть конечным владельцем алгоритмов, определяющих истинность всего в интернете, – сказал мне Гельцер. – То, что он творит, оказывает такое влияние на познание и убеждения людей, что может изменить их действия с ядерным оружием или своими сбережениями».

Новый надзорный совет Facebook, созданный в ответ на негативную реакцию против платформы и уполномоченный принимать решения, касающиеся умеренности и свободы выражения мнений, является продолжением этой власти. «Первые десять решений, которые они примут, окажут большее влияние на высказывания в стране и мире, чем следующие десять решений, вынесенных Верховным Судом США, – сказал Гельцер. – Вот это мощь. Это настоящая власть».

В 2005 году, когда я присоединилась к Facebook, сайт все еще позиционировал себя как онлайн-каталог, предназначенный для «поиска людей в Вашей школе. Посмотрите, как люди узнают друг друга. Найдите людей в своих классах и группах». Тем же летом в Пало‑Альто Цукерберг дал интервью молодому режиссеру, который позже выложил клип на YouTube. В нем вы можете увидеть, как Цукерберг все еще размышляет, каким должен быть Facebook.

Этот разговор напоминает о невероятной юности Цукерберга, когда он запустил Facebook. Тем не менее, в 21 год Цукерберг высказал нечто о своей компании, что было правдой и привело к опасным последствиям: Facebook – это не одно место в сети, а, скорее, «множество различных отдельных сообществ».

Сегодня он включает в себя QAnon и другие экстремистские группировки. В то время это означало в основном подростковое выражение идентичности в таких группах, как «я ходил в государственную школу… сука».

В упомянутом интервью 2005 года Цукерберга спрашивают о будущем Facebook, и его ответ сейчас кажется зловещим: «Многие люди сосредоточены на том, чтобы захватить мир или сделать самую большую вещь, получить больше пользователей. Я думаю, что необходимое условие того, чтобы изменить ситуацию и сделать что-то классное, – это работать интенсивно и сосредоточенно… Я просто хочу, чтобы все сосредоточились и создали действительно классный продукт для колледжей, который будет очень актуален для студентов и содержит много информации, волнующей людей, когда они учатся в колледже».

Ирония в том, что этот «локализованный подход» является ключевой частью того, что сделало возможным мегамасштаб. Ранние ограничения в отношении членства — сначала требование, чтобы пользователи посещали Гарвард, а затем любую школу Лиги Плюща, а затем, чтобы у них был адрес электронной почты, заканчивающийся на .edu, – давали ощущение сплоченности и общности. Это заставляло людей чувствовать себя более комфортно, делясь большей частью самих себя. И увеличение обмена информацией между четко определенными демографическими группами было благоприятно для бизнеса.

В 2004 году Цукерберг заявил, что Facebook запускает рекламу только для покрытия расходов на сервер. Но в течение следующих двух лет Facebook полностью видоизменил и переосмыслил всю рекламную индустрию. Досоциальная паутина уничтожила рекламу, но один­-два удара Facebook и Google уничтожили местные новости и большую часть журнальной индустрии – издания всерьез боролись за цифровые копейки, которые заменили печатные доллары, и социальные гиганты все равно их собрали. Ни одна новостная организация не может конкурировать с мегамасштабом социальной сети. Он слишком огромен.

Исполнительный директор Facebook Крис Кокс однажды говорил о «магическом числе» для стартапов и о том, как после превышения компанией отметки в 150 сотрудников все идет наперекосяк. «Я разговаривал с многими руководителями стартапов, и все они говорят, что после того, как достигнутно это число, начинают происходить странные вещи». Эта идея исходит от антрополога Робина Данбара, который утверждал, что 148 – это максимальное количество устойчивых социальных связей, которые может поддерживать человек. Если бы мы применили ту же логику к стабильности социальной платформы, какое число мы бы получили?

«Я думаю, что мы получим число от 20 до 20 000 человек, – сказал мне писатель и исследователь интернета Итан Цукерман, который провел большую часть своей взрослой жизни, думая о том, как построить лучшую сеть. – После этого трудно иметь хоть какую-то реальную связь».

Другими словами, если число Данбара для управления компанией или поддержания сплоченной социальной жизни составляет 150 человек, то «магическое число» для функциональной социальной платформы составляет, возможно, 20 000 человек. Сейчас у Facebook 2,7 миллиарда пользователей в месяц.

Facebook стремительно растет, и в 2007 году Цукерберг сказал в интервью Los Angeles Times нечто, что теперь приобретает гораздо более мрачный смысл: «Самые мощные вещи – те, которые никогда бы не стали возможны без Facebook».

Из многих дел, которые люди постоянно делают из рук вон плохо, предвидение будущего находится в первом ряду. Этот недостаток стал предметом озабоченности среди интеллектуалов, таких как Герман Кан и его коллеги-экономисты, математики и бывшие военные в корпорации Rand в 1960-х годах. Кан и его коллеги помогли изобрести современный футуризм, который был порожден экзистенциальным страхом, вызванным взрывом атомной бомбы, и укреплен пониманием того, что большая часть инноваций носит горизонтальный характер – это лишь копия того, что уже существует, а не подлинное новшество. Настоящие изобретения чрезвычайно редки – и очень разрушительны.

Логик и философ Олаф Хельмер-Хиршберг, работавший вместе с Каном в Rand и впоследствии основавший Институт будущего, прибыл в Калифорнию после бегства от нацистов, что придало его желанию предвидеть будущее особую остроту. Он утверждал, что ускорение технологических изменений установило необходимость нового эпистемологического подхода к таким областям, как инженерия, медицина, социальные науки и т. д. «Теперь уже не нужно ждать смены нескольких поколений, чтобы могла развиться новая социальная модель, – писал он, – но мы переживаем несколько серьезных изменений прямо сейчас, и наши дети должны будут принять постоянную адаптацию как образ жизни».

В те же годы Кан придумывал свою собственную гипотетическую машину, чтобы обеспечить философское обоснование новых угроз, с которыми столкнулось человечество. Он называл его «Машиной Судного дня», а также «Машиной Пакта об убийстве». Стэнли Кубрик, как известно, позаимствовал эту концепцию для фильма 1964 года «Доктор Стрейнджлав» (кинематографического апофеоза фатализма): он представляет собой картину мира, живущего на волосок от ядерного уничтожения.

Сегодняшний фатализм по поводу пагубности интернета ощущается схожим образом. Мы все еще находимся в начальной стадии тройной цифровой революции этого века интернета, смартфонов и социальных сетей. Мы находимся в опасной и нестабильной информационной среде, бессильной противостоять силам манипуляции и эксплуатации, которые, как мы знаем, действуют на нас, но остаются неуловимыми. «Машина Судного дня» преподает нам урок: мы не должны принимать это нынешнее положение. Ни одна машина не может управлять таким количеством людей.

Если эпоха Просвещения была отчасти реакцией на возникновение печатного станка, а футуризм 1960-х годов – реакцией на атомную бомбу, то нам нужна новая философская и моральная основа для жизни в эпоху социальных сетей – новое Просвещение для информационной эпохи, которое вернет нас к реальности и эмпиризму. Эндрю Босворт, один из давних руководителей Facebook, сравнил эту платформу с сахаром – в том смысле, что он «вкусный», но лучше всего пользоваться им в умеренных количествах. В записке, первоначально опубликованной во внутренней сети Facebook в прошлом году, он отстаивал философию личной ответственности.

Но рассматривая Facebook просто как средство индивидуального потребления, мы игнорируем тот факт, что такое – сеть. Facebook – это также бизнес и место, где люди проводят время друг с другом. Скажем так: если бы вы владели магазином, и кто-то вошел и начал кричать нацистскую пропаганду или вербовать террористов возле кассы, вы, как владелец магазина, отказались бы вмешаться?

Любой, кто серьезно относится к смягчению ущерба, нанесенного человечеству социальной сетью, должен, конечно, рассмотреть возможность от отказа использования Facebook, Instagram, Twitter и любой другой алгоритмически искаженной информационной среды, которая манипулируют людьми. Но нам нужно принять более широкий взгляд на то, что потребуется, чтобы исправить дисфункцию социальной сети. Для этого потребуется бросить вызов логике современных платформ и, в первую очередь, самой концепции мегамасштаба как способа объединения людей.

Если мегамасштаб – это то, что дает Facebook власть, и то, что делает его опасным, то коллективные действия против интернета, как это происходит сегодня, необходимы для изменения ситуации. Существующая логика интернета говорит нам, что социальные платформы хоть бесплатны, но извлекают множество пользовательских данных; что крупные сети обязательно глобальны и централизованы; что именно модераторы устанавливают правила.

Так не должно быть. Нам нужны люди, которые демонтируют эти понятия, создав альтернативы. И нам нужно достаточно людей, чтобы заботиться об этих альтернативах, чтобы разрушить чары венчурного капитала и массового внимания, которые подпитывают мегамасштаб и создают фатализм в отношении интернета, каков он есть сейчас.

Я все еще верю, что интернет полезен для человечества, но лишь вопреки социальным сетям, а не благодаря им. Мы также должны найти способы восстановить те аспекты нашего общества и культуры, которые социальная сеть сильно повредила. Это потребует интеллектуальной независимости, уважительных дебатов и той же бунтарской жилки, которая помогла установить ценности Просвещения столетия назад.

Возможно, мы не в состоянии предсказать будущее, но мы знаем, как оно создается: через вспышки редких и подлинных изобретений, поддерживаемых временем и вниманием людей. Прямо сейчас слишком много людей позволяют алгоритмам и технологическим гигантам манипулировать ими, и в результате реальность ускользает из наших рук. «Машина Судного дня» XXI века здесь, и она работает. Но так не должно быть.

Источник