2010-19: «темная сторона» сети

Слушая проповеди техноевангелистов на каком-нибудь TED или презентации нового гаджета легко поверить в то, что технологии несут только благо.

В этом есть большая доля истины, поскольку интернет и компьютерные технологии за последние годы кардинально изменили коммуникации, возможности образования, работы и многие творческие сферы. При этом сеть не превратилась в рай, который открыл массе людей легкий доступ к знаниям, а созидательным персонам — качественно новые возможности для творчества. У сети есть «темная стороны» и это не пресловутый «даркнет», о нем мы еще как-нибудь поговорим.

Интернет-фейки здесь и надолго — и как нам с этим жить?

Начало 2010-х ознаменовалось ростом технооптимизма. 75% взрослых американцев получили доступ к сети, что было значительным скачком по сравнению с началом предыдущего десятилетия — 46%. Люди получили возможность серфить по сети не выходя из дома. Социальные сети только появились на горизонте и набирали популярность особенно среди молодежи. Браузеры настольных систем переставали быть единственным способом быть онлайн — приложения для мобильных устройств набирали все большую популярность.

В начале нового десятилетия XXI века исследовательский центр Pew инициировал опрос. 895 ведущих технологов, исследователей, критиков и других техногуру спросили о том, как будет выглядеть мир с интернетом 2020 года. По одному из вопросов был достигнут подавляющий консенсус: 85% респондентов согласились с тем, что «социальные выгоды от использования Интернета значительно перевесят негативные последствия в течение следующего десятилетия». Также они отметили, что Интернет в целом «улучшает социальные отношения и будет продолжать улучшать так до 2020 года». Эксперты акцентировали внимание на простоте общения и доступ к обширным знания, предоставляемые веком информации. Все это внушало оптимизм.

Что могло пойти не так?

Первый сигнал информационного апокалипсиса прозвенел случаем с Gay Girl из Дамаска. В этом блоге рассказывалось о жизни Амины Арраф, 35-летней сирийской лесбиянки, участвовавшей в восстании против президента Башара Асада. Блог быстро стал популярным в мире. Сетевые пользователи восхищались трогательной прозой Арраф и ярким описанием странной жизни на Ближнем Востоке. Издание The Guardian говорило о ней как о «героине восстания в консервативной стране».

Все это продолжалось до 6 июня 2011 года, когда в блоге появилась паническая новость от двоюродного брата Арраф, в котором говорилось, что три неизвестных мужчины в центре Дамаска похитили ее, бросив в кузов красного минивена. Новости о похищении быстро распространились по всему земному шару. Ведущие агенства — The Guardian, The New York Times, Fox News, CNN и других — опубликовали эту новость. Началась кампания Free Amina. Госдеп начал расследование ее исчезновения.

Через шесть дней после так называемого похищения появилась правда: лесбиянка из Дамаска оказалась 40-летним американцем из Джорджии по имени Том Макмастер.

Блог, аккаунты в социальных сетях и почти шесть лет публикаций на форумах под именем Amina Arraf оказались фальшивкой. Это потрясло блогосферу и стало поворотным моментом — массовая общественность осознала, что такое цифровые фейки. Издание The Washington Post заявило, что это иллюстрирует «легкость фальсификации в Интернете».

Интернет всегда был наводнен обманом, начиная с самых ранних лет. В статье Джудит Донат, исследователя и советника Гарвардского центра Беркмана Кляйна, опубликованной в 1998 году, подробно описывается влияние троллинга и дезинформации в группах Usenet. Проблемы были, в принципе, теми же:

«Тролль мог встрять в дискуссию в группе новостей, давать плохие советы и подрывали чувство доверия к сообществу группы. Ну а в группе, в которой уже нахлебались троллинга многие простодушные вопросы, заданные без задней мысли, могли быть быстро отвергнуты как троллинг… По сравнению с физическим миром, сеть дает больше возможностей для обмана, поскольку здесь не так много признаков идентичности… Еще более удивительным является то, насколько успешными могут быть такие грубые имитации«.

В следующем десятилетии сеть расцветала пышным цветом, и все больше людей получили к ней доступ, эти проблемы в значительной степени остались на поверхности. Но последнее десятилетие масштабы и последствия сетевых фейков стали еще более очевидными.

Недостатки появились прежде всего в ключевых показателях успешности в Интернете — лайках, кликах, количестве подписчиков, просмотрах и тому подобных “мерялках”. В июле 2012 года стартап Long Island попал в заголовки новостей, сообщив, что только один из каждых пяти кликов на его рекламе в Facebook, вероятнее всего, был сделан живыми людьми. Остальные, как утверждала компания, делались ботами. Это утверждение сейчас кажется немного смешным из-за своей очевидности, но в то время это рассматривалось как «взрывная претензия, которая может поставить на паузу сетевые рекламные кампании брендов, пытающихся понять, работает ли реклама в Facebook».

Это обозначило новый этап сомнений в сети. В следующем месяце, в августе 2012, в пятницу, перед праздничными выходными, в типичной манере технологических компаний, Facebook заявил, что обнаружены и удалены поддельные лайки на ряде страниц, которые хотели казаться более популярными, чем были на самом деле.

«Facebook говорит, что эти репрессии станут позитивными для любого, кто использует Facebook». Райан Тейт, писавший тогда для WIRED, утверждал, что это неправда. «Мошенники, очевидно, тоже используют Facebook, отсюда все фальшивые лайки и они будут стремиться обойти фильтры Facebook. Лето заканчивается на этих выходных победой инженеров из Facebook, создавших «лайк», но гонка вооружений только начинается».

В 2013 году YouTube столкнулся с нелицеприятной реальностью. Объем поддельного трафика от ботов, прикидывающихся настоящими зрителями, конкурировал с трафиком реальных людей. Некоторые сотрудники беспокоились о том, что дисбаланс может привести к тому, что они называют «инверсией», когда системы обнаружения манипуляций YouTube могут запутаться и интерпретировать ложные представления как реальные, а также помечать сделанные человеком как подозрительные.

Этот сценарий так и не осуществился, но бич поддельного трафика до сих пор является проблемой для гигантов социальных сетей. Такая практика стала настолько прибыльной и популярной, что сформировались целые подотрасли, которые создают фальшивые лайки, просмотры и подписчиков, так и ловят тех, кто покупает фейковый трафик.

В основе всего этого лежали деньги и вскоре ставки выросли еще больше. В конце 2012 года различные группировки и организации стали использовать соцсети для информационных операций. Талибы становились в Facebook привлекательными женщинами и заводили онлайн-отношения с солдатами в надежде извлечь из них военную информацию. Случаи были редкими, но последствия были признаны серьезными. Как отметил WIRED в то время: «Это были только первые залпы войн в социальных сетях. Следующие акты цифрового шпионажа могут нанести реальный ущерб».

И они есть. В Мьянме (Бирма) дезинформация в Facebook вызвала хаос и замешательство, что привело к насилию и беспорядкам. На Западе российское интернет-агентство нанесло серьезный удар по голосованию Brexit 2016 года и президентским выборам в США. Представители американской разведки утверждали, что подобные акции в следующем 2017 году практически неизбежны.

В мае 2014 года газета The Washington Post выпустила серию под названием «Что было подделкой в ​​интернете на этой неделе» в ответ на то, что она назвала «эпидемией городских легенд и интернет-шуток». С самого начала это был типичный обман в интернете, легкомысленные и фейковые истории про беременных тарантулов, бродящих по улицам Бруклина, или производителей Орео, выпускающих на рынок продукцию с ароматом жареной курицы.

К концу 2015 года серия была отменена — не из-за недостатка фальшивого контента в интернете, а из-за того, что темп и характер дезинформации в Интернете стал выше и намного сложнее. Фейки было легче обнаружить, но они стали собирать все больше трафика. Количество ненависти и злости выросло и это было уже совсем несмешно. Репортер Кейтлин Дьюи писала об этом в своей колонке следующее:

«Для этих изменений есть простое экономическое объяснение: если вы обманщик, то это более выгодно. С начала 2014 года некоторые интернет-предприниматели поняли, что ничто так хорошо не генерирует трафик, как рассказы, которые подтверждают убеждения их читателей и/или разжигают ненависть между ними. Если когда-то это были слухи о смерти знаменитостей или «сатира», то потом появились целые сайты, которые не промышляют ничем иным кроме как троллингом уязвимых сообществ или эксплуатацией грубых стереотипов… Now8News, который публикует ужасные криминальные истории вместе с украденными фотороботами бедных, часто черных, людей. Или, например, World News Daily Report, который публикует статьи об иностранцах, часто мусульманах, занимающихся сексом с животными или убивающими их«.

В течение десятилетия торговать контентом, который поляризует, разжигает и дезинформирует становилось все проще и выгоднее. Была аудитория, и мощные инструменты таргетинга, предлагаемые Facebook и другими техгигантами, которые позволяли достичь цели всего за несколько кликов. Расследование BuzzFeed News 2016 года показало, что в последние месяцы президентской кампании в США вирусные фальшивые новости в Facebook получили больше отзывов и комментариев, чем лучшие статьи The New York Times, The Washington Post и других крупных новостных агентств. Почти во всех фальшивых предвыборных историях с наивысшими показателями были явно настроены про-Трамп или анти-Клинтон.

Мало-помалу фейковые новости стали влиять на реальный мир. Легион ботов в твиттере помог Pizzagate — токсичной теории заговоров, кульминацией которой стал прицельный огонь из пистолета в пиццерии DC в 2016 году, — набрать обороты и получить, по-видимому, больше сторонников в реальном мире, чем это было на самом деле. Российская IRA платила гражданам США за то, что они построили клетку на грузовике и оделись, как Хиллари Клинтон, отбывающей наказание в тюрьме, во время митинга во Флориде. Группа также платила протестующим на митингах, организованных в Нью-Йорке и Пенсильвании, которые рекламировались в Facebook.

Список можно продолжать и продолжать: термин «фейковые новости» каким-то образом стал фейковым; Белый дом опубликовал в твиттере видео от InfoWars, чтобы подтвердить неточную информацию; новости о караване мигрантов, путешествующих через Мексику, были использованы для распространения дезинформации; отредактированное видео Нэнси Пелоси, в котором она представала в пьяном виде, получило миллионы просмотров на Facebook. Deepfakes были выпущены на волю. Политики теперь могут свободно распространять ложную информацию в Facebook, если они покупают там рекламу.

Этого уже достаточно, чтобы закружилась голова. Правдивая информация? Будущее кажется настолько безрадостным, что эксперты переживают экзистенциальный кризис. Хуже всего то, что, похоже, пока нет никаких решений. Распространение дезинформации и разжигающего противоречия контента обусловлено множеством трудно определимых факторов, и многие из наиболее распространенных подходов к решению проблемы затрагивают только один элемент, а не проблему в комплексе.

В опросе Pew, проведенном вскоре после выборов 2016 года, 14% взрослых американцев сообщили, что делятся политическими новостями в интернете, которые, как они знали, были сфабрикованы.

Фейковые новости никуда не пропадут. Интернет, свободный от обмана — иллюзия, пропитанная ностальгией. Ложь всегда была частью цифрового мира с момента его возникновения. Лучшим вопросом может быть вероятный масштаб онлайн-фейков через десять лет. В какой-то момент непристойная ложь больше не будет прибыльной, и некоторые средства массовой информации могут утратить свои репутацию, как жизнеспособные источники информации. Но трудно сказать, будет ли этого достаточно, чтобы остановить волну дезинформации. Во всяком случае, прошедшее десятилетие доказало глупость и наивность попыток предсказать будущее.

Конец цитаты

Вопрос о том, почему произошло так, как произошло, вызывает не меньший интерес. В следующем материале рассказывается о том, что некоторые создатели “нашего цифрового ада” “сожалеют” о сделанном. В отличие от предыдущего материала я не буду приводить перевод целиком. Первые несколько абзацев уже довольно красноречиво говорят о том, почему сеть стала такой как она есть.

Создатели нашего цифрового ада очень сожалеют об этом

Если вам сейчас немного не по себе, вы не одиноки. Это конец не просто года, а десятилетия, и мы не совсем закрываемся на высокой ноте. Там больше дезинформации, чем когда-либо, изменение климата ставит под угрозу будущее человечества, гаджеты разрушают нашу конфиденциальность, а полиция с радостью следит за каждым шагом. Что случилось с интернетом, который нам обещали в начале десятилетия, полного творчества, новых связей и радостей?

Это было растрачено, как отмечают многие авторы, инженерами и генеральными директорами, которые на каждом шагу ставили прибыль выше людей, похоже, не осознавая последствий. Поскольку роль этих людей в создании физического и цифрового мира, основанного на слежке, преследовании и детском труде, стала более ясной, мы стали свидетелями волны псевдо-извинений за разработанные ими инструменты и решения, которые привели нас к нынешнему положению дел. В течение последних нескольких лет мужчины (а это по большей части мужчины), которые создали этот цифровой ад, были в настоящем «туре искупления».

Крис Ветерелл признал, что кнопка retweet в Twitter — плохая идея. Соучредитель Facebook Крис Хьюз признал, что Facebook стал слишком мощным. Другой бывший сотрудник Facebook, Сэнди Паракилас, признал, что компания не была заинтересована в защите пользовательских данных. Этан Цукерман взял на себя ответственность и обвиняет в своей роли в создании рекламы, поддерживаемой рекламой (и в написании первой всплывающей рекламы). Гийом Часло, бывший инженер YouTube, рассказал о том, насколько плохим и предвзятым стали алгоритмы сайта. Лорен Брихтер, который помог изобрести бесконечную прокрутку, принес свои сожаления. Даже Марк Цукерберг произнес слова «извините» в свидетельских показаниях перед Конгрессом.

Тем не менее, все это звучит натянуто. Возможно, это потому, что многие из этих извинений случаются только тогда, когда у этих людей есть что-то еще, например, книга, беседа на TED или новая компания. (Писатель Одри Уоттерс назвал этот прибыльный побочный бизнес «индустрией сожалений».) Возможно, это связано с тем, что большинство этих людей все еще невероятно богаты, во многом благодаря решениям, за которые теоретически извиняются…

Конец цитаты

Подведем итог. Первое и главное. «Экспертное мнение» 85% из почти девяти сотен специалистов оказалось так себе. Они не смогли предсказать негативных последствий развития новых технологи, хотя многие из них были очевидны еще в начале «нулевых». Это то, что вам надо знать о «предсказателях» и прочих «техногуру».

Далее, в вышеприведенных статьях упомянуты не все негативные тренды сети, но, как мне кажется, и этого вполне достаточно. Суть это не меняет. Технические решения, которые сформировали нынешнюю сеть, основывались, главным образом, на повышении прибыльности сетевых сервисов как бизнесов. Все остальные факторы оставались побоку. И речь не только о каких-то «эфемерных» «этических принципах». Если проводить аналогии с другими индустриями, то это все равно, что вы купили автомобиль без надежной тормозной системы и ремней безопасности. Или купили билет на самолет, в котором недостаточно дублирующих систем, которые включаются если вышли из строя основные.

Конечно, не все так страшно и в сети есть масса возможностей, которых не было еще десять лет назад. Но количество проблем, порожденных трендами последних десяти лет во многом нивелируют эти преимущества. Ведь когда вы вводите в поисковик гугля свой запрос, вы уже рассказываете всему миру о себе.

Сможет ли сеть измениться в следующие десять лет к лучшему — попробуем разобраться чуть позже.

Comments

comments

Оставить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *