Півдюжини нинішніх і колишніх співробітників розповіли The Washington Post, що вони побоюються, що нові звільнення цього тижня можуть поставити під загрозу модерацію контенту
Три місяці тому компанія “Meta” повідомила про нещодавні перемоги у виявленні все більш потужних кампаній, що проводяться російськими пропагандистами з метою прихованого впливу на світову політику після початку війни в Україні.
Президент з глобальних питань Нік Клегг заявив журналістам під час прес-брифінгу, що, незважаючи на звільнення десятків тисяч співробітників, компанія “Meta” має всі можливості для продовження боротьби з іноземними кампаніями впливу, дезінформацією та іншим проблемним контентом.
За його словами, Meta може стати більш ефективною і запропонувати “провідні в галузі заходи щодо забезпечення доброчесності та безпеки в межах усієї компанії”.
Зараз оптимізм Клегга піддається критиці, оскільки цього місяця медіа гігант готується масово звільняти працівників своїх бізнес-підрозділів, включаючи команди, які займаються модерацією контенту, політикою та регуляторними питаннями.
Очікується, що працівники, яких це торкнеться, отримають повідомлення в середу, за словами людини, знайомої з ситуацією, це частина багатомісячного плану зі зменшення штату.
Але щонайменше півдюжини нинішніх і колишніх співробітників Meta, які працювали над питаннями конфіденційності та безпеки, кажуть, що серйозні скорочення в цих підрозділах можуть зашкодити здатності компанії реагувати на вірусну політичну дезінформацію, кампанії іноземного впливу та регуляторні виклики. Вони кажуть, що занепокоєні тим, що скорочення, які, як очікується, вдарять по бізнес-підрозділу компанії сильніше, ніж по інженерному, можуть зробити Facebook, Instagram і WhatsApp більш небезпечними в особливо гострий час геополітичного напруження.
Наступного року компанія братиме участь у десятках виборчих кампаній, включно з президентськими виборами в США, в той час як приховані кампанії впливу з боку Росії та Китаю стають дедалі агресивнішими у своїх спробах вплинути на політику в інших регіонах світу. Уряди по всьому світу ухвалюють закони, які вимагають від соціальних мереж дотримуватися їхньої політики щодо контенту.
2024 рік стане роком великих виборів, а занепокоєння щодо модерації контенту досягає свого піку саме у передвиборчі роки.
Речник Meta Енді Стоун (Andy Stone) заявив: “Ми залишаємося зосередженими на просуванні наших найкращих у галузі стандартів доброчесності і продовжуємо інвестувати в команди та технології для захисту нашої спільноти”.
Meta є частиною більш широкої тенденції серед технологічних гігантів, які скорочують штати на тлі спаду в галузі, приєднуючись до Google, Amazon і Microsoft, які скорочують десятки тисяч робочих місць.
Зокрема, Meta зіткнулася зі зростанням конкуренції на ринку реклами з боку платформи коротких відео TikTok, тоді як нові правила конфіденційності, прийняті Apple, та глобальні економічні виклики завдали шкоди бізнесу цифрової реклами Meta. За останні кілька років компанія витратила значні кошти на створення так званого Метавсесвіту — терміну, що використовується для опису цифрових світів із ефектом занурення, доступ до яких здійснюється за допомогою доповненої та віртуальної реальності.
Загалом компанія заявила, що ліквідує 21 000 робочих місць, включаючи останній раунд скорочення в 10 000 осіб. Засновник компанії Марк Цукерберг оголосив 2023 рік “роком ефективності”, оскільки прагне трансформувати компанію, щоб вона стала ощадливішою і прибутковішою.
Meta почала збільшувати свої команди, які займаються питаннями політики та безпеки, зокрема, після негативного розголосу навколо скандалу з Cambridge Analytica 2018 року, коли політичний консультант отримав доступ до персональних даних мільйонів користувачів Facebook, а також після того, як стало відомо, що Росія використовувала соціальні мережі компанії, щоб вплинути на президентські вибори 2016 року. Відтоді Meta посилила свою політику щодо лобізму, модерації контенту та фактчекінгу.
Сервіси Meta, що працюють на основі штучного інтелекту, і невелика армія контрактників ухвалюють більшість рішень про видалення певних постів чи акаунтів у мережі. Але штатні працівники команд довіри і безпеки відіграють вирішальну роль у формуванні реакції компанії на складні політичні і культурні ситуації в усьому світі, стверджують нинішні і колишні співробітники, більшість з яких побажали залишитися анонімними, обговорюючи внутрішні питання.
Різноманітні команди працюють над усіма питаннями, від визначення того, що є контентом, який порушує правила, наприклад, мовою ворожнечі, до навчання алгоритмів, які допомагають позначати контент, що передається на перевірку тисячам сторонніх контрактних працівників компанії. Фахівці з аналізу шукають іноземні кампанії впливу або злочини, а інші керують відносинами з державами та політиками — всі вони працюють над тим, щоб захистити платформу від можливих катастроф.
“Кошмарний сценарій — це постійна деградація процесів, про які ніхто не думає, адже все й так працює”, — сказав один із працівників.
Meta заявила, що минулого місяця скоротила близько 4 000 працівників зі своїх технічних підрозділів, а це означає, що до кінця третьої хвилі скорочень, ймовірно, буде звільнено близько 6 000 працівників нетехнічних спеціальностей. У березні Цукерберг заявив, що хоче повернути компанію до “більш вдалого співвідношення інженерів та фахівців інших напрямків”.
“Для всіх відділів важливо, щоб наші технологічні групи стали більш компактними та ефективними”, — сказав він у своїй тодішній заяві. “Ми подбаємо про те, щоб продовжувати виконувати всі наші критичні та юридичні зобов'язання, оскільки ми шукаємо шляхи для більш ефективної роботи”.
Скорочення в Meta може означати, що у компанії буде менше людей, які зможуть впоратися з новими загрозами або складними політичними питаннями, які вона не хоче перекладати на системи зі штучним інтелектом і підрядників з модерації контенту нижчих рівнів.
Брайан Фішман, який свого часу очолював напрямок боротьби Meta з тероризмом та розпалюванням ненависті в соціальній мережі, каже, що компанія часто не поспішала з прийняттям важливих рішень.
Наприклад, співробітники Meta роками обговорювали, як поводитися з користувачами, які використовують арабський термін "шахід", що часто перекладається як "мученик", для опису терористів або інших груп людей зі списку небезпечних організацій та осіб. Компанія забороняє відкриту похвалу особи чи групи осіб зі списку небезпечних осіб та організацій.
Раніше цього року Meta звернулася до Наглядової ради, незалежної групи експертів, яка переглядає рішення компанії щодо модерації контенту, з проханням висловити свою думку з цього приводу. Фішман назвав це позитивним зрушенням у багаторічних дебатах у компанії.
За словами деяких співробітників, Meta потребуватиме експертних консультацій, оскільки авторитарні уряди все частіше висувають юридичні вимоги щодо видалення певних типів контенту або ухвалюють нові правила, які мають на меті надати їм більший контроль над модерацією контенту, що надається компанією.
Регіональна експертиза може бути особливо необхідною наступного року, коли відбудеться щонайменше 65 виборів у 54 країнах, зокрема в США та Індії, де контент може заподіяти людям шкоди в офлайні, зазначила Кеті Харбат, колишня директорка з юридичних питань в Meta, а нині консультантка з питань технологічної політики.
Нещодавні інновації в галузі генеративного штучного інтелекту (технології, яка може створювати оригінальний контент, подібний до людського) означає, що тепер набагато легше створювати витончені фейкові зображення або текст, які можуть спричинити політичну кризу під час інформаційної мінливості.
Головні технологічні компанії, такі як Meta, суттєво не змінили свою політику щодо “діпфейків” з 2019 року. Хоча Meta заявила, що робить великий поштовх для "пришвидшення" своїх інвестицій у штучний інтелект, компанія вже звільнила співробітників, які працювали над проблемами ШІ.
Я думаю, що ми побачимо мізінформацію і дезінформацію такого рівня і масштабу, з яким ми ніколи ще не зустрічалися, бо процес виробництва такого контенту все більше спрощується.
