Архітектура маніпуляцій. Чому соцмережі самостійно підсилюють дезінформацію

Чому проблема дезінформації закладена в самій логіці сучасних платформ, чому модерація не вирішує її системно та як можуть виглядати соцмережі нового покоління.

У рамках своєї практики я досліджую дезінформацію, як системне явище: вивчаю когнітивні спотворення, механіки інформаційних атак і інструменти впливу на масову свідомість. Я розглядаю практичні інструменти захисту від координованих інформаційних атак. Це необхідний мінімум для кожного окремого бізнесу. Але у випадку розглядання масштабних дезінформаційних кампаній направлених на широкі маси — це лише боротьба з наслідками. Тож постає інше питання: чому захист від фейкового контенту взагалі перетворився на окрему індустрію вартістю мільярдів доларів? Чому бізнеси, уряди та медіа витрачають дедалі більше ресурсів і дедалі менше встигають за темпами поширення дезінформації?Глобальна проблема не стільки в окремих розповсюджувачах, і навіть не в тому, що платформи запізно їх видаляють. Вона закладена в самій економіці уваги, що є основною логікою функціонування самих соціальних мереж. 

Архітектура соціальних мереж провокує те , з чим веде боротьбу

Соціальні мережі побудовані навколо принципу максимального залучення. Алгоритм просуває те, що викликає реакцію. А фейк, як правило, викликає її швидше, ніж реальний факт: він простіший, емоційніший, більш провокативний. Дослідники з University of Copenhagen та Indiana University підтверджують, що саме низький бар'єр для репостів, можливість швидко поширити контент одним кліком та лайками, не замислюючись про його достовірність — це один із ключових чинників вірусного поширення дезінформації.

Читайте також«Наші випускники працюють у Google і Facebook», – інтерв’ю з ректоркою найбільшого універу УкраїниБізнес-тиждень: інфляція зростає, будинки дешевшають, а Орбан віддає «вкрадене» золотоВихідні під час війни. Чи може Україна дозволити собі знову більше відпочивати

Дослідження George Washington University, опубліковане в журналі Science Advances, показало: навіть коли Facebook змінював алгоритми і видаляв контент для боротьби з дезінформацією, архітектура платформи зводила ці зусилля нанівець. Дослідник David A. Broniatowski сформулював висновок прямо: «Щоб ефективно боротися з дезінформацією, нам потрібно вийти за межі контенту й алгоритмів і зосередитися на дизайні та архітектурі. Видалення контенту або зміна алгоритмів не дає результату, якщо при цьому не змінюється те, для чого платформа спроектована»

Три принципи платформ нового покоління

Підписуйтеся на наші соцмережі

Академічна спільнота пропонує думати не про модерацію, а про архітектуру. Загалом виокремлюють три ключові принципи.

Навмисне уповільнення. Дизайн, який робить поширення контенту трохи складнішим: не один клік, а кілька усвідомлених дій. Дослідження показують, що навіть невелика перешкода радикально знижує швидкість поширення низькоякісного контенту без жодної цензури. Простіше кажучи, замість того, щоб репостнути одним кліком, користувач стикається з невеликою затримкою, наприклад, спливає вікно «ви читали цю статтю?» або потрібно зробити кілька додаткових дій. 
Верифікація особистості. Чим більша аудиторія акаунту, тим важливіше знати, хто за ним стоїть. Анонімний акаунт із десятьма підписниками і анонімний акаунт із кількома тисячами — не одне й те саме. Саме тому верифікація особистості пропорційно до охоплення стає все більш обговорюваною, як регуляторна вимога. Європейський Digital Services Act (DSA) і британський Online Safety Act (OSA) вже рухаються в цьому напрямку. На практиці це може виглядати як KYC — процедура підтвердження особи, яку давно використовують банки і фінансові сервіси, але яка досі майже відсутня в соціальних мережах.

Децентралізація. Усі великі соціальні платформи сьогодні влаштовані як монополії, одна компанія вирішує, який контент показувати, кому і в якому порядку. Якщо Facebook чи TikTok змінює алгоритм — мільярди людей отримують іншу реальність. Децентралізовані платформи мають змогу розподіляти цей контроль між самими користувачами. Немає єдиного центру, на який можна натиснути, чи то заради прибутку, чи під тиском держави.

Практичний досвід

Шукаючи проєкти, що втілюють ці академічні принципи в реальному продукті, я натрапила на Sl8 (Slate) — американську платформу українського походження. Саме вона зацікавила мене, не як комерційний продукт, а як діючий прецедент альтернативної архітектури соціальних мереж і об'єкт для аналізу того, чи справді зміна економічної логіки платформи впливає на поширення дезінформації. В процесі дослідження мені вдалося зв'язатися з засновником проєкту Дмитром Івановим і поставити кілька конкретних запитань про те, як нові принципи можуть працювати у реальному продукті і яку насправді ефективність вони мають.

Відповіді виявилися показовими. Платформа принципово відмовилася від алгоритмічних рекомендацій, саме тих, що у TikTok чи Instagram затягують користувача в «кролячу нору». Репостів на платформі немає взагалі, щоб поширити чужий контент, потрібно докласти зусиль — скопіювати, завантажити, опублікувати заново. Саме таке «навмисне уповільнення» без жодної цензури описують дослідники University of Copenhagen, як один із найефективніших інструментів боротьби з дезінформацією.

Важливо розуміти, що саме дає це ускладнення. Не просто затримку, а момент для усвідомленого вибору. Ті кілька хвилин, які потрібні, щоб скопіювати і розмістити контент заново, змушують людину поставити собі запитання: навіщо я це поширюю, хто або що стоїть за цим матеріалом, чи варто цим ділитися взагалі?І головне, коли допис стає не репостом, а власною публікацією, він перестає бути анонімною ретрансляцією чужої думки і стає особистою позицією з відповідними репутаційними наслідками. Такий принцип, звичайно, не захистить повністю від координованих дезінформаційних атак, але суттєво уповільнить місінформаційні хвилі, саме ті, що народжуються завдяки випадковим користувачам без наміру ввести в оману.

Координовані атаки ботоферм та ризики ШІ

Відповідаючи на питання про ботоферми, Дмитро звернув увагу на просту економічну закономірність: «Боти ніколи не витрачають реальних грошей. А звичайні люди витрачають, саме так їхні акаунти набирають вагу».

Щоб зрозуміти, як це працює і про які кошти йде мова, треба розуміти логіку платформи. Slate побудований на блокчейн-архітектурі, де кожен акаунт прив'язаний до гаманця. Замість того, щоб монетизувати дані користувачів, як це роблять Facebook чи Instagram, платформа передає фінансове управління самим учасникам. Кожен може заробляти на власному контенті, отримувати підтримку від аудиторії і фінансово оцінювати внесок інших. Децентралізація тут не абстрактний принцип, а конкретний економічний механізм.

Саме тому, спроба запустити ботоферму наштовхується на бар'єр. «Акаунти без фінансової історії просто не мають голосу на платформі. Те саме стосується і ризиків штучного інтелекту, які стали чи не найгострішою темою в дискусії про дезінформацію. ШІ-акаунти вже зараз виглядають реалістично, а надалі вони будуть настільки досконалими, що відрізнити їх не зможуть навіть експерти. Але реальних грошей у них все одно не буде. Якщо хтось вирішить створити ботоферму з фінансовою активністю, це стане операцією з непропорційно високою собівартістю. Платформа не робить атаку неможливою. Вона робить її економічно недоцільною. Це свідомий вибір іншої бізнес-моделі», — підсумовує Дмитро.

Висновок: архітектура як імунітет

За підсумками діалогу з Дмитром можна дійти висновку, що суспільство, перенасичене фейками та негативом, потребує невідкладних рішень у зміні архітектури поширення контенту в існуючих платформах. У нас немає часу перевіряти кожний допис, кожний факт, який ми споживаємо, тому можна спрогнозувати, що соціальний тренд буде рухатися у бік децентралізованих соцмереж. Просторів, де користувач не стане обʼєктом полювання алгоритмів та таргетованої реклами.

Великі платформи опиняться під тиском одночасно з кількох сторін: регуляторного тиску, геополітичної фрагментації інтернету і нового рівня ШІ-генерованого контенту, від якого буде майже неможливо відрізнити реальність. Замість безкоштовного доступу в обмін на увагу, поведінковий трекінг і обмежений контроль над власними даними, нова модель створить спільноти, де кожен користувач буде гарантовано захищений від глобального впливу дезінформації, але водночас стане самостійно відповідальним за споживання і поширення інформації.