От Сирии до Йемена, от Буркина-Фасо и Мьянмы до Мали и США – конфликт переместился в онлайн-пространство. Признавая этот важный сдвиг, миротворец и стипендиат Ашоки Хелена Пуч Ларраури стала соучредителем Build Up, чтобы изменить способы решения конфликтов в эпоху цифровых технологий.

Констанце Фришен из Ashoka обсудила с Хеленой новые идеи о том, как измерить и уменьшить количество вирусного поляризующего контента, распространяемого через платформы социальных сетей (т.е. их «поляризационный след»), что является постоянной проблемой, в частности, для миротворцев. Полный разговор можно посмотреть здесь . Вот некоторые из основных моментов:

Технологии для мира и цифровых конфликтов

Работая с НПО, агентствами ООН, общественными лидерами и многосторонними организациями, Build Up разрабатывает инновационные технологические решения конфликтов. Это означает, например, использование технологий, чтобы повысить участие граждан в процессах миростроительства, делая результаты более оптимальными и долгосрочными. А это также означает изучение того, как цифровые технологии усугубляют конфликты. Елена иллюстрирует это несколькими примерами.

Почему модерация контента мало помогает

С годами борьба с экспоненциальным ростом вирусного поляризующего контента, распространяемого в социальных сетях, стала насущной задачей для миротворцев. Хелена тщательно проводит различие между различиями во мнениях, которые необходимы для любой демократии, и ростом поляризации, основанной на идентичности, которую команда Build Up называет « аффективной поляризацией ».

Аффективная поляризация усугубляет офлайн-конфликты и, как известно, влияет на избирательные и мирные процессы, поэтому Хелена и ее команда все больше внимания уделяют поиску способов ее уменьшения. Вот почему модерация контента подходит для борьбы с разжиганием ненависти, но не является решением, на котором фокусируется Build Up для уменьшения поляризации.

Как максимизация вовлеченности привела нас сюда

Если модерация контента сама по себе не является решением, то что может быть? Чтобы найти ответы, говорит Хелена, нам нужно взглянуть на базовую бизнес-модель платформ социальных сетей. Короче говоря, вовлеченность — это ключевой показатель успеха для алгоритмов социальных сетей, потому что именно она позволяет платформам таргетировать нас с помощью рекламы и получать от нас больше данных — и то, и другое составляет их основные источники дохода. Широко известно, что поляризация контента очень привлекательна.

Измерение и налогообложение поляризационного следа социальных сетей

Хотя платформы социальных сетей, возможно, и не собираются загрязнять нашу жизнь поляризацией, ставя клики превыше всего остального, это является одним из негативных последствий их бизнес-модели. Что, если бы мы могли измерить количество вирусного поляризующего контента, распространяемого в социальных сетях – то есть их поляризационный след – и потребовать компенсации за причиненный ими вред? Представьте себе налог на поляризацию , аналог налога на выбросы углерода. Установив цену на поляризацию, это, наконец, создаст стимул для компаний очистить загрязнение данных, которое они производят.

Разработка лучших алгоритмов социальных сетей

Давайте не будем забывать, что оптимизация взаимодействия — это только одна из возможных бизнес-моделей. Платформы могли бы разрабатывать алгоритмы, которые оптимизируются для других задач, например, для повышения рейтинга контента, который устраняет разногласия или деэскалирует конфликты . Но Хелена говорит, что эти альтернативы могут набрать обороты только в том случае, если платформы будут заинтересованы в изменении своей бизнес-модели. И вот тут-то нам и пригодится налог на поляризацию!

. . .

Этот разговор является частью сотрудничества Лаборатории воздействия технологий и человечества Ашоки на смягчение социального и экологического вреда экономики данных.