Як ШІ в соцмережах підштовхує авторів до самоцензури?
Коли я готую новинне або аналітичне відео, мені доводиться думати про ризик обмеження акаунта. Важлива тема може містити згадки про насильство, загибель людей чи війну. І навіть якщо я повідомляю перевірені факти та пояснюю контекст, це не дає впевненості, що платформа правильно зрозуміє матеріал.
Я створюю контент про Україну, Польщу та життя українців за кордоном. Працюю з TikTok, YouTube, Facebook та Instagram. Найгостріше проблему обмежень новинного й аналітичного контенту відчуваю у TikTok і Facebook.
Частину матеріалів прибирають із рекомендацій, інші видаляють, а наслідки можуть стосуватися всього акаунта.
На мою думку, тут виникає небезпечний стимул для авторів: відмовлятися від суспільно важливої теми через страх перед помилкою модерації. Так непрозорі перевірки підштовхують до самоцензури.
Новина потребує контексту
Візьмімо повідомлення про трагедію у Кракові або про російський обстріл України. У такому матеріалі можуть бути слова, які також трапляються у погрозах чи закликах до насильства. Проте мета новинного відео зовсім інша.
Для його оцінки потрібно врахувати, хто говорить, про яку подію, з якими висновками та на підставі яких джерел.
У власній роботі я стикаюся з обмеженнями матеріалів, які вважаю такими, що відповідають правилам спільноти. Найважче в цій ситуації зрозуміти конкретну причину рішення.
Загального посилання на категорію порушень недостатньо, щоб з’ясувати, яка фраза чи який фрагмент відео стали проблемою.
Без такого пояснення автор починає здогадуватися:
- Чи система неправильно витлумачила слово?
- Чи не розпізнала аналітичний контекст?
- Чи претензія стосується зображення, заголовка або висновку?
Коли відповідь недоступна, підлаштувати роботу під зрозумілі правила складно.
Підписуйтеся на наші соцмережі
Апеляція має виправляти помилки
Автоматизовані перевірки давно є частиною модерації. TikTok публічно описує поєднання автоматизованого та людського розгляду. YouTube також говорить про змішану модель і зазначає, що апеляції на рішення щодо контенту перевіряє людина.
Тому було б неточно стверджувати, що кожну апеляцію в усіх соцмережах розглядає виключно ШІ.
Але для мене як автора принципове практичне питання: чи можу я отримати змістовний перегляд рішення з урахуванням контексту?
Ззовні я не бачу, які саме етапи перевірки проходить мій матеріал. Якщо після звернення причина обмеження залишається незрозумілою, довіра до процедури знижується незалежно від того, хто натиснув фінальну кнопку.
Для новин час має особливе значення. Навіть якщо матеріал згодом відновлять, момент, коли аудиторія найбільше потребувала інформації, може вже минути.
Дозвіл знову показувати відео не повертає автоматично втрачену актуальність.
Як страх за акаунт змінює вибір тем
Уявімо вибір між двома відео. Перше стосується важливої, але чутливої новини. Друге присвячене спокійнішій темі.
Якщо автор не розуміє меж застосування правил і побоюється санкцій для всього акаунта, у другого відео з’являється додаткова перевага. Його простіше опублікувати без страху втратити доступ до аудиторії.
Саме цей тиск я відчуваю у своїй роботі. Доводиться оцінювати, чи варто взагалі братися за тему, якщо потім потрібно буде доводити право про неї розповідати.
На кону може бути акаунт, у який роками вкладали час і працю. Для автора, чия робота залежить від соціальних мереж, це суттєвий ризик.
Є різниця між редакційною обережністю та самоцензурою. Перевірити факт, прибрати непідтверджене звинувачення чи відмовитися від зайвих натуралістичних кадрів — нормальна відповідальна робота.
Уникати перевіреної важливої новини через непередбачувану реакцію модерації — проблема доступу до інформації.
Я не можу виміряти, скільки авторів уже відмовляються від таких тем. Але описаний стимул заслуговує на увагу.
Публічний простір може втрачати матеріали ще до того, як вони потраплять на перевірку платформи. У статистиці видалень цих неопублікованих відео не буде.
Якого захисту від помилок бракує авторам
Я бачу кілька змін, які зробили б процедуру зрозумілішою та допомогли б виправляти помилки.
-
1
Пояснювати конкретну причину рішення. Називати правило та показувати фрагмент, до якого виникла претензія. Автор має розуміти, що саме він оскаржує.
-
2
Окремо пояснювати обмеження рекомендацій. Якщо відео дозволене, але не може потрапляти в рекомендації, автору потрібне чітке повідомлення про це рішення. Саме зниження переглядів ще не доводить наявності санкції.
-
3
Давати доступ до перевірки складних випадків людиною. Перегляд має враховувати мову матеріалу, його мету та контекст.
-
4
Враховувати актуальність новин. Швидкість апеляції впливає на те, чи зможе аудиторія отримати інформацію тоді, коли вона найбільше потрібна.
-
5
Скасовувати пов’язані наслідки помилкового рішення. Після визнання помилки потрібно переглядати й попередження або обмеження акаунта, якщо вони виникли через те саме рішення.
Аргумент про те, що штучний інтелект може помилятися, лише посилює потребу в такому механізмі. Автор не може сам виправити рішення чужої системи.
Йому потрібна дієва процедура, а відповідальність за її роботу має залишатися у платформи.
Я хочу підняти цю тему в українській технологічній спільноті, тому що для нас доступ до новин про війну, безпеку та життя українців за кордоном має безпосереднє значення.
Коли автор обирає тему, він повинен розуміти правила й мати реальний спосіб оскаржити помилку. Інакше страх за акаунт дедалі сильніше впливатиме на те, яку інформацію отримає аудиторія.
Для адаптації авторського матеріалу та перевірки довідкової інформації використано ШІ.