Якщо вам подобаються мої матеріали, то буду вдячний за підписку на мій Телеграм канал. Там ще більше цікавого!
Розгортання алгоритмів для максимального залучення користувачів — це спосіб, за допомогою якого великі технологічні компанії максимізують акціонерну вартість, причому короткострокові прибутки часто переважають над довгостроковими бізнес-цілями. Тепер, коли штучний інтелект готовий прискорити розвиток платформної економіки, терміново потрібні нові правила і структури управління, щоб захистити суспільство.
У новому судовому позові проти компанії Meta 41 штат і округ Колумбія стверджують, що два соціальні медіапродукти компанії - Instagram і Facebook - не просто викликають залежність, але й шкодять дітям. Meta звинувачують в участі у "схемі експлуатації молодих користувачів з метою отримання прибутку", в тому числі шляхом показу шкідливого контенту, який утримує їх прикутими до екранів.
За даними одного з нещодавніх опитувань, 17-річні підлітки в США проводять 5,8 годин на день у соціальних мережах. Як до цього дійшло? Відповідь одним словом - "залученість".
Хоча Facebook починався як базовий сервіс, який об'єднував друзів і знайомих в Інтернеті, його дизайн поступово еволюціонував не для задоволення потреб і вподобань користувачів, а для того, щоб утримати їх на платформі та відгородити від інших. Переслідуючи цю мету, компанія регулярно ігнорувала явні споживчі уподобання щодо того, який контент користувачі хотіли б бачити, їхньої приватності та обміну даними.
Ставити на перше місце негайний прибуток означає орієнтувати користувачів на "кліки", хоча такий підхід зазвичай сприяє поширенню низькопробних, сенсаційних матеріалів, а не справедливому винагородженню учасників ширшої екосистеми творців контенту, користувачів і рекламодавців. Ми називаємо ці прибутки "алгоритмічною рентою уваги", оскільки вони генеруються пасивним володінням (як в орендодавця), а не підприємницьким виробництвом для задоволення потреб споживачів.
Рента в сучасній економіці вимагає розуміння того, як домінуючі платформи використовують свій алгоритмічний контроль над користувачами. Коли алгоритм погіршує якість контенту, який він просуває, він експлуатує довіру користувачів і домінуючу позицію, яку посилюють мережеві ефекти. Саме тому Facebook, Twitter та Instagram можуть безкарно заповнювати свої стрічки рекламою та "рекомендованим" контентом, що викликає звикання. Як барвисто висловився технічний письменник Корі Доктороу, "окультурення платформи виходить зі ствола алгоритму" (який, своєю чергою, може спиратися на незаконні практики збору та обміну даними).
Позов проти Meta, зрештою, стосується її алгоритмічних практик, які ретельно розроблені, щоб максимізувати "залучення" користувачів — утримувати їх на платформі довше та провокувати більше коментарів, вподобань та репостів. Часто хорошим способом зробити це є показ шкідливого та межуючого з незаконним контенту, а також перетворення перебування на платформі на нав'язливу активність за допомогою таких функцій, як "нескінченна прокрутка" та безперервні сповіщення й попередження (багато з тих самих методів з великим ефектом використовуються в азартній індустрії).
Зараз, коли досягнення в галузі штучного інтелекту вже перевантажують алгоритмічні рекомендації, роблячи їх ще більш залежними, існує нагальна потреба в нових структурах управління, орієнтованих на "загальне благо" (а не на вузьке поняття "акціонерної вартості") і симбіотичне партнерство між бізнесом, урядом і громадянським суспільством. На щастя, в силах політиків змінити ці ринки на краще.
По-перше, замість того, щоб покладатися лише на конкуренцію та антимонопольне законодавство, політики повинні впроваджувати технологічні інструменти, які унеможливлять несправедливе блокування платформ користувачами та розробниками. Одним із способів запобігти антиконкурентним "огорожам" є обов'язкове забезпечення можливості перенесення даних та інтероперабельності цифрових послуг, щоб користувачі могли безперешкодно переходити з однієї платформи на іншу, залежно від того, де їхні потреби та вподобання найкраще задовольняються.
По-друге, необхідна реформа корпоративного управління, оскільки саме максимізація акціонерної вартості підштовхнула платформи до алгоритмічної експлуатації своїх користувачів. З огляду на добре відомі соціальні витрати, пов'язані з цією бізнес-моделлю — оптимізація для кліків часто означає посилення шахрайства, дезінформації та політично поляризаційних матеріалів - реформа управління вимагає алгоритмічної реформи.
Першим кроком на шляху до встановлення більш здорової базової лінії є вимога до платформ розкривати інформацію (у щорічних звітах 10-K, що подаються до Комісії з цінних паперів і бірж США), для чого оптимізуються їхні алгоритми, а також те, як їхні користувачі отримують монетизацію. У світі, де керівники технологічних компаній щороку приїжджають до Давосу, щоб поговорити про "мету", належне розкриття інформації змусить їх робити те, про що вони говорять, а також допоможе політикам, регуляторам та інвесторам відрізнити зароблені прибутки від незаробленої ренти.
По-третє, користувачі повинні мати більший вплив на алгоритмічне визначення пріоритетів інформації, яку їм показують. Інакше шкода від ігнорування вподобань користувачів зростатиме, оскільки алгоритми створюватимуть власні цикли зворотного зв'язку, підштовхуючи користувачів до маніпулятивних клікбейтів, а потім помилково роблячи висновок, що вони віддають перевагу саме їм.
По-четверте, галузевий стандарт "A/B-тестування" має поступитися місцем більш комплексним довгостроковим оцінкам впливу. Неправильна наука про дані призводить до алгоритмічної короткостроковості. Наприклад, A/B-тестування може показати, що показ більшої кількості оголошень у стрічці матиме позитивний короткостроковий вплив на прибуток без надмірної шкоди для утримання користувачів; але при цьому ігнорується вплив на залучення нових користувачів, не кажучи вже про більшість інших потенційно шкідливих довгострокових ефектів.
Наука про дані показує, що оптимізація систем рекомендацій для довгострокової, відкладеної винагороди (наприклад, задоволеність клієнтів, утримання та залучення нових користувачів) є найкращим способом для компанії стимулювати довгострокове зростання та прибутковість — за умови, що вона зможе перестати зосереджуватися в першу чергу на наступному квартальному звіті про прибутки. У 2020 році команда Meta визначила, що менша кількість нав'язливих сповіщень буде кращою як для використання додатків, так і для задоволеності користувачів протягом більш тривалого періоду часу (один рік). Довгострокові ефекти різко відрізнялися від короткострокових.
По-п'яте, державний ШІ слід використовувати для оцінки якості результатів роботи алгоритмів, зокрема реклами. З огляду на значну шкоду, яку завдають платформи, що знижують стандарти прийнятної реклами, рекламний наглядовий орган Великої Британії відтепер використовуватиме інструменти ШІ для ретельної перевірки реклами та виявлення тих, хто робить "неправдиві заяви". Інші органи влади повинні наслідувати цей приклад. Не менш важливо, щоб AI-оцінювачі були частиною відкритості платформ для зовнішнього аудиту результатів роботи алгоритмів.
Створення цифрового середовища, яке заохочує створення цінності шляхом інновацій і карає за вилучення цінності внаслідок ренти (особливо на ключових цифрових ринках), є фундаментальним економічним викликом нашого часу. Захист здоров'я користувачів великих технологій та всієї екосистеми означає, що алгоритми не повинні залежати від миттєвих інтересів акціонерів щодо отримання прибутку. Якщо бізнес-лідери серйозно ставляться до цінності для стейкхолдерів, вони повинні визнати необхідність створювати цінність у принципово інший спосіб — спираючись на п'ять наведених вище принципів.
Майбутній судовий процес над Meta не може виправити минулих помилок. Але, готуючись до наступного покоління продуктів зі штучним інтелектом, ми повинні встановити належний алгоритмічний нагляд. Алгоритми на основі ШІ впливатимуть не лише на те, що ми споживаємо, але й на те, як ми виробляємо і створюємо; не лише на те, що ми обираємо, але й на те, що ми думаємо.
