Будущее человеческой организации

Во многих странах специалисты и эксперты обсуждают возможность применения цифровых технологий, включая искусственный интеллект для организации рабочего процесса, управления и самой жизнедеятельности. В этом отношении представляется интересным анализ, подготовленный Pew Research Center, который включает социальный опрос по указанной теме.

Следует отметить, что, объясняя свои ответы, многие из этих экспертов сказали, что будущее этих технологий будет иметь как положительные, так и отрицательные последствия для человеческой деятельности. Они также отметили, что на протяжении веков люди либо позволяли другим организациям принимать решения за них, либо были вынуждены делать это племенными и национальными властями, религиозными лидерами, правительственными бюрократами, экспертами и даже самими технологическими инструментами.

Кроме того, эти эксперты во многом согласны с тем, что инструменты цифровых технологий будут все больше становиться неотъемлемой частью процесса принятия решений людьми. Эти инструменты будут предоставлять людям все большие объемы информации, которая, как минимум, поможет им в изучении вариантов выбора и использовании опыта по мере того, как они путешествуют по миру.

Эксперты по обе стороны вопроса также согласны с тем, что текущий момент является поворотным моментом, который во многом определит авторитет, автономию и свободу действий людей, поскольку использование цифровых технологий распространяется на все больше аспектов повседневной жизни. В совокупности люди столкнутся с такими вопросами, как: в каких вещах люди действительно хотят свободы воли? Когда им будет удобно обращаться к ИИ для помощи в принятии решений? И при каких обстоятельствах они будут готовы полностью передать решения цифровым системам?

Выборка всеобъемлющих взглядов на человеческую деятельность

Ричард Уотсон , автор книги « Цифровые против человека: как мы будем жить, любить и думать в будущем », прокомментировал: «2035 год — это немного рано, чтобы люди впадали в более глубокую зависимость от машинного «разума» — для этого 2045 год более вероятно. В 2035 году люди будут просто сотрудничать и сотрудничать с машинами, и в важных случаях мы по-прежнему будем доверять человеческому суждению, а не ИИ. Это не означает, что технологические компании не будут пытаться лишить людей свободы воли, и в этом контексте интересна работа Шошаны Зубофф . Как автоматизированное принятие решений может изменить человеческое общество? Как спрашивает Зубофф: кто решает? Кто производит машины и для чего? Кто несет ответственность, когда они идут не так? Какие предубеждения они будут содержать? Я думаю, это была Шерри Терклкоторый спросил, могут ли машины, которые мыслят, привести нас к тому, чтобы стать людьми, которые не мыслят. Это большая вероятность, и мы уже видим ее признаки».

Системы на основе ИИ не будут разработаны таким образом, чтобы люди могли легко контролировать процесс принятия решений. Господствующая парадигма как для фундаментальных исследований, так и для проектирования промышленных продуктов в области ИИ заключается в стремлении разрабатывать системы/модели ИИ, которые соответствуют или превосходят возможности человека. (Роб Райх, профессор политологии и директор Центра этики в обществе Стэнфордского университета)

Экспертные очерки о человеческой деятельности и цифровой жизни

Большинство респондентов этого опроса написали краткие ответы на этот вопрос исследования. Однако некоторые из них написали многослойные ответы в более длинном формате эссе. Этот раздел отчета, посвященный эссе, довольно длинный, поэтому сначала мы предлагаем образец комментариев некоторых из этих эссеистов.

• Пол Саффо предупредил, что вполне вероятно, что в будущем «те, кто управляет нашим синтетическим интеллектом, предоставят вам достаточно свободы действий, чтобы вы не замечали своего плена».

• Джамаис Касио поделился несколькими убедительными сценариями 2035 года, начиная от людей, извлекающих большую пользу из «машин любящей благодати», до цифровой диктатуры, которая может даже включать «полное цифровое копирование печально известного авторитарного лидера прошлых лет».

«Какими бы блестящими ни стали ИИ, аватары и боты, они никогда не будут по-настоящему автономными. Они всегда будут работать на кого-то — и этот кто-то будет их начальником, а не вы, незадачливый пользователь» - Пол Саффо, давний гуру прогнозирования Силиконовой долины.

Он предлагает рассмотреть несколько основных категорий, в которых, скорее всего, будет происходить такая сортировка:

• «Важные личные и жизненно важные решения (образование, брак, дети, трудоустройство, место жительства, смерть): я не вижу полной автоматизации принятия решений в важных личных решениях, хотя поддержка решений могла бы улучшиться, например, с помощью относительно выбора в сфере образования и занятости.

• «Финансовые решения (покупка дома, личные инвестиции и т. д.): финансовые решения будут получать больше поддержки, и я вижу значительное делегирование инвестиционных решений, особенно простых. Но я не вижу, чтобы система ИИ когда-либо решала, какой дом вам купить.

• «Использование основных услуг (здравоохранение, транспорт): поддержка ИИ в здравоохранении и транспорте будет продолжать расти, но я не вижу, чтобы решения о здоровье, связанные с жизнью и смертью, когда-либо были полностью автоматизированы. Я сомневаюсь, что беспилотные автомобили будут работать в больших масштабах, кроме как в контролируемых условиях, пока не появятся высоконадежные системы искусственного интеллекта.

• «Социальные решения (правительство, национальная безопасность): правительство сталкивается с огромными проблемами на многих фронтах. Мы могли бы сэкономить большие суммы и повысить справедливость, упорядочив и автоматизировав сбор налогов, но трудно увидеть желание сделать это до тех пор, пока минимизация государственного управления остается высоким приоритетом для значительной части населения. Я не вижу еще 15 лет, чтобы изменить эту ситуацию. Использование ИИ для национальной безопасности будет продолжать расти и должно оставаться под контролем людей, особенно в наступательных ситуациях. При надлежащем контроле наблюдение на основе ИИ должно фактически уменьшить количество ошибочных атак дронов , таких как те, о которых недавно сообщили крупные новостные организации».

Сценарии на 2035 год и далее, вероятно, будут варьироваться от людей, извлекающих выгоду из «машин любящей благодати», до нахождения под пятой цифровых диктаторов.

Джамаис Касио , выдающийся научный сотрудник Института будущего, предсказал, что к 2035 году в будущем организаций, вероятно, сосуществуют несколько сценариев.

"Сначала я предположил, что условия 2045 года, вероятно, будут значительно отличаться от мира 2035 года. Мир середины века будет эволюцией мира, который мы создали за предыдущие пару десятилетий. К 2045 году, я подозреваю, что наши три сценария будут следующими":

• Нет ИИ, нет крика: по многим причинам к 2045 году настоящих ИИ останется мало, если они вообще останутся, и люди по умолчанию будут принимать важные решения. Это может быть выбор (сознательный отказ от ИИ, возможно, после какой-то глобальной катастрофы) или стечение обстоятельств (последствия климатической катастрофы настолько масштабны, что инфраструктурные технологии, такие как питание, детали и программисты, больше не доступны).

• Все под присмотром машин любящей благодати: полный расцвет второго сценария 2035 года, в котором наши машины/ИИ действительно принимают значительно более разумные и мудрые решения, чем люди, и это нормально. Мы позволяем нашей технологии делать большой выбор за нас, потому что она просто лучше справляется с этой задачей. Это работает.

• Цифровые диктаторы: полный расцвет третьего сценария 2035 года. Здесь мы видим массовую консолидацию власти в руках очень небольшого числа «людей», гибридов ИИ и человеческих предубеждений. Может быть, даже полная цифровая копия печально известного авторитарного лидера прошлых лет, способная жить вечно в каждом устройстве.

Большая часть экспертов, участвовавших в этом опросе, утверждала, что мировая экосистема сетевых знаний, искусственного интеллекта (ИИ) и коммуникаций управляется влиятельными кругами, которые следуют принципам рыночного капитализма или политического авторитаризма.

Темы от тех, кто ожидает, что технологии не будут позволять людям контролировать принятие ключевых решений

У могущественных интересов, создающих эту технологию, мало стимулов уважать человеческую свободу действий.

Большая часть экспертов, участвовавших в этом опросе, утверждала, что мировая экосистема сетевых знаний, искусственного интеллекта (ИИ) и коммуникаций управляется влиятельными кругами, которые следуют принципам рыночного капитализма или политического авторитаризма.

Анонимный респондент написал: «Ваш вопрос должен звучать так: «Будет ли человек контролировать большие системы ИИ?» Корпорации в основном уже являются агентами; на самом деле они были еще в 1970-х и 80-х годах, до того, как компьютеры действительно взлетели. Крупные корпорации — это сущности с собственным разумом, желаниями и этикой, независимыми от работающих на них людей. Меня больше беспокоит монополизация и рыночная власть, чем то, что у ИИ есть собственное мнение. Проблема «Amazon контролирует ИИ, который управляет вашим миром» — это Amazon, а не ИИ».

Темы от тех, кто ожидает, что технологии будут разработаны так, чтобы люди могли контролировать принятие ключевых решений.

Многие эксперты, которые надеются на будущее человеческой деятельности, отмечают, что на протяжении всей истории люди и технологии всегда преодолевали значительные препятствия. Они сказали, что общество вносит коррективы за счет лучшего регулирования, улучшенного дизайна, обновления социальных норм и модернизации образования. Люди склонны приспосабливаться и/или принимать как положительные, так и тревожные аспекты технологических изменений. Эти эксперты предсказывают, что так будет и по мере того, как быстро развивающиеся автономные системы будут получать все более широкое распространение.

Заключительные мысли о человеческой деятельности

Барри Чудаков , основатель и руководитель Sertain Research, написал: "Было бы разумно подготовиться к тому, что означает общее сознание. Сегодня такое совместное использование происходит бессистемно: мы берем инструмент, и как только мы начинаем использовать его и видим, как он запрограммирован, мы можем осознать (и можем быть шокированы), насколько инструмент узурпирует свободу действий. Нам нужно знать, что означает обмен технологиями и людьми, и насколько, если таковые имеются, мы готовы поделиться с данным инструментом. Мы будем все чаще использовать ИИ, чтобы помочь нам решить коварные проблемы изменения климата, загрязнения, голода, эрозии почвы, исчезающих береговых линий, биоразнообразия и т. д. В этом разделении действий люди изменятся. Как мы изменимся?"

Выводы

Достижения в Интернете и онлайн-приложениях позволили людям значительно расширить свои возможности, повысили их способность решать сложные проблемы, позволили им почти мгновенно делиться знаниями и получать доступ к ним, помогли им стать более эффективными и усилили их личную и коллективную способность понимать и формировать. их окружение. Умные машины, боты и системы, основанные в основном на автономном и искусственном интеллекте (ИИ), продолжат этот прогресс. Для того, чтобы они это сделали, есть компромиссы. Некоторые обеспокоены тем, что имело место и будет иметь место разрушительная потеря индивидуальной «свободы воли», их права и/или способности принимать решения в своих интересах, делать выбор, выходящий за рамки параметров, установленных корпоративными или государственными интересами, реагировать на самый широкий спектр вариантов и так далее.

Вопрос: будут ли к 2035 году умные машины, боты и системы на базе искусственного интеллекта спроектированы таким образом, чтобы люди могли легко контролировать большинство принимаемых с помощью технологий решений, имеющих отношение к их жизни? 

Результаты по этому вопросу, касающемуся эволюции человеко-машинного дизайна в отношении человеческой деятельности к 2035 году:

• 56% этих экспертов считают, что к 2035 году умные машины, боты и системы не будут спроектированы таким образом, чтобы люди могли легко контролировать большинство процессов принятия решений с помощью технологий.

• 44% заявили, что надеются или ожидают, что к 2035 году умные машины, боты и системы будут разработаны таким образом, чтобы люди могли легко контролировать большинство процессов принятия решений с помощью технологий.

В демографическом разделе этого опроса 342 из 540 респондентов, ответивших на первоначальный вопрос «да-нет», предоставили письменное объяснение своего ответа. Из экспертов, ответивших на один или несколько демографических вопросов: 73% сообщили, что находятся в Северной Америке, а 27% заявили, что находятся в других частях мира; 75% из 321 респондента, ответивших на вопрос о сексуальной идентичности, заявили, что идентифицируют себя как мужчины, 24% идентифицируют себя как женщины и 0,6% идентифицируют себя как-то иначе. Из 342 респондентов, указавших свою «основную сферу интересов», 37% идентифицируют себя как профессора/преподаватели; 15% в качестве футуристов или консультантов; 15% как ученые-исследователи; 7% как разработчики технологий или администраторы; 9% как защитники или пользователи-активисты; 5% как предприниматели или бизнес-лидеры; 4% как пионеры или создатели Интернета, или онлайн-инструментов; и 8% указали свою основную область интересов как «другое».