Будущее страшнее, чем придумал Оруэлл: создатели экономики внимания опасаются наступления антиутопии

Сотрудники Google, Twitter и Facebook, которые приложили руку к развитию зависимости от технологий, теперь сами отгораживаются от интернета. Поль Льюис (Paul Lewis) рассказывает о «еретиках» Силиконовой долины, встревоженных гонкой за человеческим вниманием.

Сотрудники Google, Twitter и Facebook, которые приложили руку к развитию зависимости от технологий, теперь сами отгораживаются от интернета. Поль Льюис (Paul Lewis) рассказывает о «еретиках» Силиконовой долины, встревоженных гонкой за человеческим вниманием.

Мы убеждаем миллионы людей делать то, чего они делать не собирались

Джастин Розенштейн (Justin Rosenstein) установил на своем ноутбуке блокировку для Reddit, забанил себя в Snapchat (который он сравнивает с героином) и настроил ограничения в использовании Facebook.

Но и этого оказалось недостаточно, и ему пришлось принять более радикальные меры: Розенштайн купил новый iPhone и попросил своего ассистента настроить родительский контроль, запрещающий скачивание этих приложений в дальнейшем.

Он уверен, что лайки — яркий пример «соблазнительных псевдо-удовольствий». Кому как ни ему знать: он был тем самым, кто придумал лайки в Facebook.

Лучшие публикации в Telegram-канале Econet.ru. Подписывайтесь! 

Сегодня он принадлежит к небольшой, но разрастающейся группе «еретиков Силиконовой долины», которые выступают против развития так называемой «экономики внимания»: интернета, ставящего во главу угла успешную работу рекламы. Среди «еретиков» — некоторые основатели и руководители компаний, которые стояли у истоков цифрового мира.

Розенштейн, который также участвовал в создании GoogleChat, сегодня руководит компанией в Cан-Франциско, занимающейся вопросами повышения продуктивности.

Одна из наиболее острых проблем — психологическое воздействие на людей, которые прикасаются к экрану своего телефона в среднем 2617 раз за день.

Обеспокоенность вызывает как зависимость людей от технологий, так и невозможность сконцентрироваться на каком-то одном процессе.

Недавнее исследование показало, что с ростом времени пользования смартфоном снижаются когнитивные способности.

Но это все кажется мелочами в сравнении с возрастающим влиянием социальных сетей на политические системы, считают соратники Розенштейна. Они видят прямую связь между зависимостью от социальных сетей и такими политическими потрясениями как Brexit и избрание Трампа.

Подписывайтесь на наш аккаунт в INSTAGRAM!

В 2007 году Розенштейн был одним из тех, кто предложил нововведение в Facebook: возможность в один клик «послать немного позитива». Пользователи стали активно использовать лайки, потому что это был очень простой способ высказать свое одобрение.

Джастин Розенштейн, Photograph: Courtesy of Asana Communications

Facebook, в свою очередь, стал собирать ценные сведения о предпочтениях пользователей, которые можно было продавать рекламодателям. Twitter, Instagram и бесчисленное множество других приложений и сайтов в дальнейшем использовали этот же механизм.

«Одна из причин, по которой нам особенно важно обсуждать эту проблему — в том, что мы последнее поколение, которое помнит жизнь до социальных сетей и лайков», — считает Розенштейн.

Очень примечательно, что многие из тех, кто стоял у истоков создания социальных сетей, отправляют своих детей в элитные школы в Силиконовой долине, в которых запрещены aйфоны, айпады и даже ноутбуки.

В апреле этого года дизайнеры, программисты и основатели компаний со всего мира собрались на конференцию о том, как манипулировать людьми, чтобы они стали постоянно пользоваться их продуктами. Нир Иал (Nir Eyal), организатор конференции, много лет обучает компании создавать продукты, формирующие у пользователей привыкание.

«Использование технологий сегодня — пример компульсивного поведения, или даже полноценной зависимости», — пишет Иал.

«Это импульсивная реакция посмотреть уведомление о сообщении. Это тяга зайти на YouTube, Facebook или Twitter на пару минут — и через час очнуться и понять, что все это время прокручивал ленту. Ничто из этого не случайно.

Именно так эти продукты были задуманы своими создателями». Он объясняет простые психологические приемы: «скука, одиночество, печаль, неуверенность зачастую довольно болезненны, а бессмысленные действия притупляют неприятные ощущения».

Но на конференции в 2017 году Иал вышел на сцену и объявил, что это мероприятие будет «немного другим». Он выразил свою нарастающую обеспокоенность: технологические манипуляции вредны и аморальны, и предостерег разработчиков от излишне агрессивного использования психологических приемов.

Однако Иал не считает, что корректно сравнивать социальные сети с наркотиками: «Мы не „угощаем“ Фейсбуком и не „вкалываем“ Инстаграм. Ведь мы не ругаем кондитера за то, что он делает слишком аппетитные пирожные? Так что не стоит упрекать разработчиков в том, что они создают столь привлекательный продукт. Компании всегда будут работать именно в этом ключе, и давайте начистоту: разве нам хочется, чтобы было как-то иначе?».

Свое выступление Иал закончил советами о том, как противостоять соблазнам технологий. Например, он предложил использовать DF YouTube, расширение для Chrome, «убирающее многие внешние раздражители», а также приложение Pocket Points, которое не дает пользоваться телефоном, когда вам надо сконцентрироваться. Дома он установил таймер, привязанный к роутеру, который ежедневно в одно и то же время отключает интернет. «Смысл в том, чтобы помнить, что мы не бессильны. Все под контролем».

Но реально ли под контролем?

Если уж сами создатели этих технологий вынуждены предпринимать столь радикальные шаги, чтобы выкроить себе немного свободы, то как всем остальным тренировать свою силу волю?

Тристан Харрис, Photograph: Robert Gumpert for the Guardian

Бывший сотрудник Google Тристан Харрис (Tristan Harris) считает, что мы все на крючке у этой системы.

«Наш разум можно взломать. Наш выбор — не такой уж добровольный, как нам кажется. На самом деле, у сотен миллиардов людей просто нет выбора, использовать ли современные технологии».

Харрис — еще один «еретик». На недавнем TED talk в Ванкувере он открыто высказал свое мнение: «Горстка людей, работающих в технологических компаниях, управляют мнением миллиардов. Я не знаю более серьезной проблемы, чем эта. Технологии изменяют политическую систему и свободы, они меняют нашу возможность выстраивать отношения и общаться с людьми так, как нам хотелось бы».

Все началось в 2013 году, когда он работал продукт-менеджером в Google.

Он исследовал, как LinkedIn использует потребность в социальном признании для установления контактов; как YouTube и Netflix автоматически воспроизводят видеоролики и следующие серии; как Snapchat обеспечивает практически непрерывное общение между подростками.

Воздействие на разных пользователей строится по разным сценариям. Например, из внутреннего отчета Facebook, просочившегося в сеть в этом году, стало известно, что алгоритмы социальной платформы могут определить, когда подростки чувствуют себя «неуверенными», «ненужными» и т. д. Такая информация позволяет очень точечно воздействовать на каждого пользователя в отдельности.

Компании эксплуатируют эти знания, чтобы держать пользователей «на крючке»: получая лайк, грустный подросток становится чуть увереннее в себе.

«Это неэтично», — считает Харрис. Эти же знания используются для успешной продажи рекламы. При этом Харрис считает, что разработчики социальных сетей и популярных приложений не ставили перед собой целью создавать продукты, вызывающие зависимость.

Они работали с рекламодателями, экспериментировали с технологиями привлечения внимание, а иногда совершенно случайно находили высокоэффективные дизайнерские решения.

Photograph: Bloomberg/Bloomberg via Getty Images

Так, например, значок уведомления в Facebook о лайках и запросах на добавления в друзья должен был быть синего цвета — в соответствии с фирменными цветами площадки.

Однако никто не обращал на него внимания, и тогда синий заменили на красный, который стал сразу бросаться в глаза. Теперь эти маленькие красненькие точки в верхнем правом углу иконки повсюду.

Харрис объясняет, что дизайн социальных сетей и приложений эксплуатирует тот же психологический механизм, что и игорная индустрия: переменное вознаграждение.

Когда мы нажимаем на иконку с маленьким красным значком уведомления, мы не знаем, что увидим: интересное письмо, уведомление о лайках или вообще ничего интересного.

Компульсивным поведение становится как раз из-за возможного разочарования. Это же объясняет и постоянное обновление ленты с коротким мигом ожидания. Именно этот прием быстро формирует очень сильную зависимость.

«Каждый раз, когда вы проводите пальцем вниз, чтобы обновить ленту, вы будто запускаете игровой автомат», — говорит Харрис. «Вы не знаете, что увидите: иногда это красивое фото. А иногда — просто реклама».

Лорен Брихтер, Photograph: Tim Knox for the Guardian

Впервые такой механизм обновления ленты появился в Твиттере. Его создатель, Лорен Брихтер (Loren Brichter), говорит, что не ставил перед собой цель развивать зависимость у пользователей, хоть и не отрицает параллель с игровым автоматом.

«Я согласен на 100%. У меня двое детей и я сожалею о каждой минуте, когда не обращаю на них внимания, потому что мой смартфон полностью поглотил меня».

Брихтер считает, что опция обновления контента по нажатию окажется очень долговечной. В эпоху push-уведомлений приложения могут автоматически обновлять контент, без участия пользователя, но это исключит психологический фактор, эффект игровых автоматов. Игра перестанет быть такой затягивающей, если больше не нужно будет жать на рычаг. Похожим образом люди ведут себя в лифте, когда нажимают кнопку «закрыть дверь», просто потому, что им это нравится.

На протяжении последних лет Брихтер много думает о том, оказали ли его разработки хоть какое-то положительное влияние на человечество. Он заблокировал для себя некоторые сайты, отключил push-уведомления, ограничил использование Telegram (он общается там только со своей женой и двумя близкими друзьями) и попытался отучить себя от Twitter.

«Я все еще трачу время на это, — признается он, — просто читая тупые новости, о которых я уже знаю». В 7 вечера он оставляет телефон заряжаться на кухне и не притрагивается к нему до следующего утра.

«Смартфоны — полезные штуки», говорит он. «Но они вызывают зависимость. Обновление ленты вызывает зависимость. Твиттер вызывает зависимость. И это очень плохо. Когда я работал над их созданием, я был недостаточно взрослым и зрелым, чтобы всерьез задуматься об этом. Я не говорю, что сейчас я достаточно зрелый, но я уже сожалею о негативных последствиях».

Правда, не все мучаются чувством вины. Джастин Сантамария (Justin Santamaria) и Крис Марчеллино (Chris Marcellino) из Apple в 2009 году представили технологию push-уведомлений.

Это революционное нововведение изменило наше взаимодействие с приложениями, сделав многое гораздо удобнее. Однако десятки и сотни уведомлений, сыплющихся на пользователей в течение дня, отнимают уйму внимания.

Сантамария не считает, что технологии можно назвать однозначно хорошими или плохими. Эти вопросы перешли в плоскость общественной дискуссии: «Нормально ли отключать телефон на время работы? Нормально ли не отвечать сразу же? Нормально ли не лайкать каждое фото в Instagram?».

Его коллега, Марчеллино, согласен с ним и говорит, что никто не пытался «подсадить пользователей на иглу». Сейчас он учится на нейрохирурга, и в ходе обучения он убедился, что технологии могут влиять на мозг тем же образом, что наркотики и азартные игры.

Такое поведение основывается на возможности получить вознаграждение, при этом активизируется выработка дофамина. Вопросы этичности использования уязвимых сторон человеческой психики вызывает у Марчелло внутренний конфликт, однако он считает, что это не какой-то особо злой план компаний, а просто капитализм. Видимо, в этом и проблема.

Роджер Макнаме (Roger McNamee), венчурный инвестор, очень выгодно вложившийся в Google и Facebook, разочарован обеими компаниями. Он считает, что они далеко ушли от своих первоначальных идей после того как поняли, сколько они смогут зарабатывать на рекламе.

Появление смартфона он считает поворотным моментом, после которого ставки в гонке вооружений за внимание людей сильно возросли.

«Facebook и Google говорят, что они просто дают пользователям то, чего они сами хотят», — говорит Макнаме. «То же самое можно сказать о табачных компаниях и наркодилерах».

Макнаме не только инвестор. Будучи советником Цукерберга, он представил его Шерил Сандберг (Sheryl Sandberg), которая, обладая аналогичным опытом в Google, стала главным операционным директором Facebook и превратила социальную сеть в еще одного рекламного тяжеловеса.

Макнаме тщательно подбирает слова. «Люди, которые управляют Facebook и Google, — хорошие люди, чьи благие намерения привели к ужасающим непредвиденным последствиям», — говорит он. «Проблема в том, что компании ничего не могут сделать, чтобы устранить вред, если только они не откажутся от своих текущих рекламных моделей».

Но как Google и Facebook могут отказаться от бизнес-моделей, которые превратили их в одни из самых прибыльных компаний на планете?

Макнаме считает, что компании, в которые он инвестировал, должны подвергаться более жесткому регулированию, включая новые антимонопольные правила. Однако гиганты уже переросли те методы, которыми можно было бы их остановить. «Недавно ЕС наложил штраф в размере 2,42 млрд долларов за антимонопольные нарушения, а акционеры Google просто пожали плечами», — говорит он.

Розенштейн, один из «отцов» лайков Facebook, считает, что, возможно, необходимо государственное регулирования «психологически манипулирующей рекламы», как, например, регулируется табачная отрасль. «Если мы будем заботиться только о максимизации прибыли, — говорит он, — мы быстро окажемся внутри антиутопии».

Джеймс Уильямс (James Williams) считает, что разговоры об антиутопии вполне обоснованы. Экс-стратег, который разработал систему метрик для глобального рекламного бизнеса Google, описывает ее как «самую большую, наиболее стандартизованную и централизованную форму контроля внимания в истории человечества».

35-летний Уильямс покинул Google в прошлом году и находится на пороге завершения PhD в Оксфордском университете, изучая этику убеждающего дизайна. Сегодня он задумывается о том, сможет ли демократия пережить новый технологический век.

Он говорит, что по-другому взглянул на мир, когда заметил, что его окружают технологии, которые мешают ему сосредоточиться на том, на чем он хотел бы сосредоточиться. Это прозрение случилось с ним, когда он смотрел на отчеты, отражающие, как Google продает рекламодателям внимание пользователей.

«Мы убеждаем миллионы людей делать то, чего они делать не собирались».

Он приступил к нескольким годам независимых исследований, большая часть которых проводилась во время парт-тайм работы Google. Примерно через 18 месяцев он увидел меморандум Google, распространенный Харрисом, и вместе они изо всех сил пытались внести изменения изнутри.

Уильямс и Харрис покинули Google в одно и то же время, а также создали группу Time Well Spent, которая стремится запустить общественную дискуссию. «Восемьдесят семь процентов людей просыпаются и ложатся спать со своими смартфонами», — говорит он. Весь мир теперь смотрит на политику сквозь новую призму, и Уильямс опасается, что последствия очень серьезны.

Уильямсу трудно понять, почему этот вопрос не обсуждается «на главной странице каждой газеты каждый день».

По его словам, те же силы, которые побуждали технические фирмы «подсаживать» пользователей на их продукты, сегодня побуждают эти компании изображать мир определенным образом, вызывая непреодолимое компульсивное желание следить за событиями. «При этом импульсы оказываются сильнее осознанных намерений».

Это означает, что на первый план выходят сенсации, обращение к эмоциям, гневу и возмущению. Средства массовой информации все чаще обслуживают технические компании, добавляет Уильямс, и они должны играть по правилам экономики внимания, чтобы выжить.

Вслед за ошеломительной победой Дональда Трампа многие быстро поставили под сомнение роль так называемых «фальшивых новостей» на Facebook, созданных русскими Twitter-ботами, и других механизмов. Но Уильямс считает это лишь симптомами более глубокой проблемы.

Дело даже не в том, что кто-то эксплуатирует интернет, чтобы изменить общественное мнение. Сама экономика внимания создана для продвижения такого феномена, как Трамп, который мастерски привлекает и удерживает внимание сторонников и возмущает критиков.

Уильямс работал над этим кейсом до избрания президента. В материале, опубликованном за месяц до выборов в США, Уильямс назвал тревожным звонком вопрос, по его мнению, «гораздо более серьезный», чем победа Трампа.

Кампания в формате реалити-шоу ознаменовала собой водораздел, за которым «новая, динамически развивающаяся экономика внимания, наконец, преодолела порог и стала проявляться в политической сфере».

Подобную ситуацию Уильямс видел месяцами ранее во время кампании Brexit, например, внезапную популярность левых политиков, таких как Берни Сандерс и Джереми Корбин, и частые вспышки интернет-возмущений со стороны прогрессивных граждан.

Все это, по словам Уильямса, не только меняет наш взгляд на политику, но со временем может менять наше мышление, делая нас менее рациональными и более импульсивными.

Уильямс считает, что, возможно, антиутопии Оруэлла оказались не слишком правдоподобными. Вероятно, более достоверными окажутся предсказания Хаксли, который предупреждал, что насилие в стиле Оруэлла — меньшая угроза демократии, чем тонкие психологические манипуляции и «почти бесконечное желание человека отвлечься».

После выборов в США Уильямс исследовал еще один феномен нового мира. Если экономика внимания подрывает нашу способность помнить, рассуждать, самостоятельно принимать решения — как можно надеяться на демократию?

«Динамика экономики внимания нацелена на то, чтобы подорвать человеческую волю», — говорит он.

«Если политика — это выражение нашей человеческой воли на индивидуальном и коллективном уровнях, то экономика внимания напрямую подрывает основы демократии».

Если Apple, Facebook, Google, Twitter, Instagram и Snapchat постепенно разрушают нашу способность контролировать собственный разум, придем ли мы к тому, что демократия просто не сможет больше существовать?

«Сможем ли мы осознать это, если/когда это произойдет?» — спрашивает Уильямс. «И если нет, то где гарантии, что это еще не случилось?».

опубликовано econet.ru. Если у вас возникли вопросы по этой теме, задайте их специалистам и читателям нашего проекта здесь

Автор: Поль Льюис (Paul Lewis)

P.S. И помните, всего лишь изменяя свое сознание - мы вместе изменяем мир! © econet