Думка: Чи зламана система безпеки Meta?

Майже будь-який творець контенту або активний менеджер соціальних медіа стикається з однією й тією ж проблемою при публікації на Facebook або Instagram останнім часом: допис або аккаунт були заблоковані, ймовірно, з неправильних причин.

Ця неприємна ситуація є лише часткою складної проблеми системи регулювання контенту Meta. Хоча у Meta, здається, є багато контрольних заходів – іноді абсурдних – корінь проблеми все ще не вирішений.

За останні кілька місяців, Meta внесла численні оновлення до своїх керівних принципів контенту і впровадила строгіші правила, спрямовані на створення здоровішого онлайн-середовища. Однією з наслідків стало те, що багато бізнесів, видавців і користувачів були заблоковані, що призвело до сотень скарг на форумах, у чатах і на каналах соціальних мереж. Кілька видавців новин і брендів були видалені з платформ Meta в певних регіонах цього року, викликаючи занепокоєння серед власників бізнесу, журналістів та авторів контенту.

Незважаючи на недавні оновлення Meta, які створюють враження про строгіше модерування та більш уважне вивчення контенту, що розміщується на її платформах, пости, пов’язані з наркотиками, самогубствами, сексуальними домаганнями, булінгом, мовою ненависті, знущанням та фальшивими новинами, продовжують проскакувати крізь алгоритми, потрапляючи до вразливих груп населення.

Не можу не замислитися: що відбувається з системою безпеки Meta?

Аккаунти заблоковані з неправильних причин

Все починається зі схожого повідомлення: “Ваш аккаунт Meta не відповідає нашим правилам.” Багато користувачів Facebook та Instagram були заблоковані або тимчасово виключені зі своїх аккаунтів “за недотримання” правил Meta, навіть коли вони вважали, що дотримуються їх.

Це ситуація, з якою ми стикалися в Wizcase. Система Meta помітила актуальні елементи як недоречні та змусила керівника спільноти пройти процес апеляції та надати документи, видані державними органами.

Сотні користувачів, керівників спільнот і менеджерів облікових записів скаржилися на подібні ситуації на платформах, подібних до Reddit, та інших форумах, чатах та каналах соціальних мереж. У багатьох нещасливих сценаріях користувачі втрачають свої облікові записи, і вони нічого не можуть з цим зробити, і навіть не отримують пояснень.

“Підтримка на Facebook просто жахлива. Не важливо, скільки разів ми їм все розповідаємо або пояснюємо, вони просто не розуміють,” – сказала одна користувачка на Reddit у обговоренні про заблоковані акаунти. “Одне, що я можу сказати відразу: ви не повернете свій акаунт, якщо не витрачали сотні тисяч на день”, – додала інша.

Ця проблема, хоча може здатися, що вона торкається лише творців контенту, насправді є лише малою частиною більшого виклику.

Meta проти позовів

Протягом багатьох років, Meta вкладає кошти в модерацію контенту та розробку нових стратегій, щоб зробити платформу безпечнішою для користувачів і захистити себе від подальших судових позовів – найновіший з них від кенійських модераторів контенту, які в даний час вимагають 1,6 мільярда доларів компенсації за масові звільнення та компенсацію за стресовий матеріал, з яким їм доводилося стикатися, аналізуючи контент для Facebook.

Технологічна компанія покладається на треті сторони для допомоги з регулюванням контенту та розробляє інструменти для визначення порушень правил платформи. Однак цих заходів виявилося недостатньо, і ситуація вибухнула, особливо серед неповнолітніх користувачів.

У 2021 році Meta впровадила нові функції захисту, але це не вплинуло на рішення Сенату включити Instagram та Facebook до переліку платформ, які вважаються шкідливими для дітей минулого року. Технологічний гігант став об’єктом спільного позову, який подали 33 штати в Сполучених Штатах через його маніпулюючий та шкідливий алгоритм.

Від січня Meta ділиться оновленнями щодо нових інструментів контролю безпеки. У червні, компанія вдосконалила свій інструмент протидії домагань, щоб захистити підлітків на Instagram за допомогою функції “Близькі друзі” з опцією “Обмеження”, так що тільки справжні друзі та родина могли взаємодіяти з контентом, опублікованим молодими користувачами.

Всього кілька днів тому компанія оголосила про створення нових Акаунтів для підлітків з метою захисту підлітків та “заспокоєння батьків, що їхні діти отримують безпечний досвід”. Чи буде цього достатньо, щоб захистити дітей? А що зі старшими користувачами?

Небезпечне середовище

Facebook, Instagram і WhatsApp все ще засмічені шкідливим контентом, який вражає користувачів усіх віків, професій та соціальних груп, і це вряд чи буде вирішено в найближчий час.

Дослідження, проведене Центром протидії цифровій ненависті (CCDH), аналізувало понад 500 мільйонів коментарів в Instagram, залишених на сторінках 10 жіночих політиків з США, і виявило, що Meta не видала або не вжила заходів щодо 93% цих коментарів.

Численні судові позови проти Meta буквально довели, що компанія має проблеми з захистом користувачів від шкідливого вмісту, а також завдає шкоди творцям, видавцям і брендам через несправедливі фільтри та неправильно впроваджені інструменти безпеки.

Звичайно, це складне та глибоке питання, яке має бути розглянуте детально, але, можливо, вже час прийняти, що Meta не змогла впоратися з цією ситуацією. Пластирні рішення не вирішать систему, яка в корені зламана. Тепер справжнє питання звучить так: скільки ще користувачів повинні бути несправедливо заблоковані, введені в оману або маніпульовані, перш ніж відбудуться справжні зміни?