От Big Data до манипуляции в интернете: как алгоритмы управляют нашими решениями

В начале февраля с. г. на телеканале «Россия» состоялась премьера фильма журналиста Андрея Медведева «Предательство». Мы сознательно оставим за скобками мнение автора этих строк о фильме, больше сконцентрируемся на идее внутри него. Идея вертится не только и не столько вокруг предательства как такового, сколько вокруг того, по какой причине это предательство происходит. Как у Чернышевского: как быть и что делать?

Эпоха интернета, соцсетей, мессенджеров определила новую концепцию войны, где информационные и психологические операции, диверсии и теракты являются продолжением боевых действий на фронте. С начала 2010 года руководство НАТО разработало стратегию сбора и анализа информации в условиях ведения гибридных войн. Соцсети и мессенджеры стали основными источниками информации для кибер-разведок и центров психологических операций.

Известный разведчик Андрей Безруков считает, что НАТО работает совсем не в политическом поле. «...Эти операции начались тогда, когда бизнес, в первую очередь американский, стал понимать, что существует профиль человека. Возраст, социальный статус, что ему можно продать. Глядя на то, что вы читаете, с кем коммуницируете. То есть война идёт за головы».

Генерал-майор ФСБ в отставке Александр Перелыгин говорит, что эти методики подготовлены психиатрами и психологами.

«Там и другие специалисты участвовали, это всё-таки серьёзное научное исследование, разработка такая очень серьёзная». Андрей Безруков считает, что читается весь телефонный трафик: «Любое население можно профилировать и посмотреть, сколько людей не одобряют власть. И почему они не одобряют власть. Они же сейчас пишут, и поскольку всё это читается, я напомню, читается весь наш интернет. Вопрос не про Whatsapp, Telegram, читается телефонный трафик».

Помню, в конце февраля 2022 г., в первые дни начала СВО, работать было архисложно. Мой аккаунт в одной из социальных сетей был завален картинками по типу: «экономика России обваливается», «не молчи, судьба твоего ребёнка в твоих руках, действуй». Когда я стала выяснять, что это такое и почему эти картинку появились в моей соцсети, оказалось, что аккаунты были созданы за две недели до начала СВО.

pb28022601.jpg

pb28022602.jpg

Впоследствии выяснилось, что это были специальные операции ЦиПСО по запугиванию и «оболваниваю» населения. Неудивительно, что власти решили соцсеть заблокировать.

pb28022603.jpg

pb28022604.jpg

Понятное дело, что эти вроде бы обычные фотографии возникли не на пустом месте. IT-гиганты давно и усиленно работают для того, чтобы «продать» нам что-нибудь. Будь то товар или же, например, информационную операцию. В марте 2022 г. ВШЭ подготовили статью «IT-ГИГАНТЫ КАК СУБЪЕКТЫ КОНСТРУИРОВАНИЯ СОВРЕМЕННОГО ПОЛИТИЧЕСКОГО ПРОЦЕССА», в которой пришли к выводу, что за 10 лет упала доля тех, кто просматривает телевизор. Благодаря скачку в технологиях интернет-СМИ перехватили эстафету у телевидения. Пользователи Сети буквально взорвали статистику: с 2010 по 2017 год их число выросло на 243%. Тем временем у зрителей стало меньше охоты смотреть телевизор – за десять лет (2011-2021 гг.) это время сократилось на 7,8%.


pb28022605.jpg

Ниже (рис. 2) на графике видно, как изменилась доля просматривающих телевизор за 10 лет (2011–2021 гг.).

pb28022606.jpg 

Деплатформинг – новейший, до конца не изученный инструмент, используемый для управления политикой. Он означает лишение отдельных людей или групп доступа к основным сетям для распространения информации. Самый яркий пример – выборы в США в 2020 году, когда Дональда Трампа подвергли «остракизму XXI века», заблокировав во всех крупных соцсетях. Это событие породило бурные дискуссии о том, насколько правомерно такое «цифровое изгнание» и где проходит граница между модерацией и нарушением свободы слова. Комментируя произошедшее, руководитель редакционной компании Prfil Агустино Фонтевеккья написал, что «запрет Трампа обнажает как неспособность основных медиаплатформ модерировать свои социальные сети, так и приоритетность их деловых интересов перед целостностью экосистемы цифровой информации».

Около 9 лет назад на Западе произошёл крупный скандал, затмивший почти все новостные поводы. Бывший сотрудник компании Cambridge Analytica (далее CA) Крис Уайли в интервью The Guardian рассказал, что компания использовала данные пользователей запрещённой в России соцсети Facebook* без их ведома, для профилирования и «промывания мозгов». Суть работы состояла в том, чтобы под тем или иным соусом «скармливать» человеку нужные решения. Тогда же Уайли рассказал, что автором и идейным вдохновителем этой концепции был Стив Бенон, доверенный советник Трампа. Именно он придумал проекту название psychological-warfare mindfu@k tool (в примерном переводе – «инструмент для запудривания мозгов»).

Cambridge Analytica и её тогдашний руководитель Александр Никс прекрасно осознавали одну вещь: знание о нас – это ключ к управлению. Они поняли, как можно использовать личные данные, чтобы незаметно подталкивать общественное мнение в нужное русло. Чтобы провернуть это, компания активно привлекала деньги и нанимала лучших инженеров. Их цель была создать софт, который залез бы в душу каждому пользователю: что ты пишешь, с кем дружишь в сети, какой у тебя словарный запас, куда ты ездишь, что любишь смотреть и слушать. На основе этого цифрового портрета они могли точно рассчитать, какую именно фразу, в какой форме и в какой момент нужно «вбросить» человеку, чтобы он принял нужную точку зрения и отреагировал именно так, как требуется их заказчику.

Когда компания начала тестировать свою систему, стало ясно: они попали в яблочко. В компании поняли, что нет единого “волшебного рецепта”. Разные люди – холерики, сангвиники, те, кто любит действовать, и те, кто хочет всё поменять, – реагируют совершенно по-разному. Поэтому, чтобы донести одну и ту же мысль, им приходилось “упаковывать” её по-разному: одному покажут видео чиновника, снятое на скрытую камеру, другому – случайный скриншот из почты Клинтон, а третьему – скучный подкаст малоизвестного блогера. И вот тут магия: конверсия (то есть сколько людей кликнули) была просто ошеломляющей. Система работала идеально!

Cambridge Analytica решила пойти на хитрость, чтобы выжать из пользователей запрещённой в России социальной сети Facebook* максимум личных данных – не только о них самих, но и об их друзьях! Их главная цель – собрать как можно больше информации для создания жутко точных психологических портретов. Для этого они сами и их подрядчики начали массово клепать всякие забавные онлайн-штуки и тесты. Проходишь один, чтобы узнать, какой ты эльф из “Властелина колец” или какой у тебя “настоящий” знак зодиака, а потом с гордостью делишься этим смешным результатом с друзьями. И пока люди развлекаются, компания незаметно собирает урожай личной информации.

Cambridge Analytica доказала, что их «машина по поиску целей» работает, доставлять эти «психологические бомбы» удобнее всего через социальные сети. Главная головоломка оставалась одна – какой именно контент использовать? И здесь их подход оказался шокирующе циничным. Они начали проектировать целые кампании, используя любой материал, который мог сработать: чистый компромат, настоящие факты или откровенную ложь. Сам гендиректор Никс прямо заявил: «Неважно, правда это или нет. Важно, поверят ли люди». В этом и была их бизнес-модель: собрать базу в 50 миллионов человек, разделить их на психологические группы и начать «кормить» каждую группу идеально подобранным сообщением. Одни видели одно, другие – совершенно другое. В итоге люди начинали яростно спорить, но в сухом остатке достигалась главная цель: победа нужного кандидата или успех референдума (как в случае с Брекситом).

Выяснилось, что наши цифровые данные обходятся тому же Facebook* примерно в 40 млрд долларов в год от продажи рекламы. Тот же Трамп потратил на свою первую предвыборную кампанию в интернете 58.6 миллиона долларов.

Глава Института исследований интернета, главный аналитик Российской ассоциации электронных коммуникаций (РАЭК) Карен Казарян рассказал, что японская история выборов не сильно повлияла на мир.

«...Считается, что именно Обама первым эффективно использовал соцсети для целей предвыборной кампании. На самом деле в Азии это делали и раньше. Например, на выборах мэра Токио в нулевых. В Японии долгое время была запрещена политическая реклама в интернете. И там произошла достаточно шумная история, когда заговорили о том, что нужно уже разрешить политическую интернет-рекламу. Потому что появилось поколение кандидатов, которые стали понимать, как общаться с электоратом с помощью новых инструментов. Но японская история не так сильно повлияла на остальной мир, как пример с Обамой».

Своим мнением насчёт того, как оградить от манипуляций в интернете, поделился политолог Никита Мендкович.

«Единственный способ ограничить воздействие ИТ-гигантов на политику стран пребывания – принудительная локализация. То есть сервера, обеспечивающие национальный сегмент их проекта, часть персонала и активов должны находиться в стране. В случае нарушения законов или игнорирования запросов страны пребывания нужно применять санкции.

Мы видим, что сейчас это делают в России. Но аналогичные законы и ограничения для соцсетей внедряются в Испании, Германии, Великобритании.

Интернет был неподконтрольной площадкой в 1990-е годы, пока у него была сравнительно маленькая аудитория, преимущественно академические круги и небольшая часть конторских служащих. После его превращения в массовую коммуникационную среду он не мог не стать объектом регулирования».

Подытоживая, можно сказать, ситуация с манипуляциями общественного мнения может выйти из-под контроля, собственно, что сейчас и происходит. Эти примеры чётко прослеживаются в фильме «Предательство». Идея в том, что каждое преступление, совершённое по заказу, имеет вполне реальное наказание, которое, увы, не исчисляется 3-4 годами. Дают ведь от 10 до 20 лет. Много, да. И всё из-за того, что не научились вовремя «включать» мозги. И думать, много думать.

Полина Беккер