Meta заменя модертаторите на съдържание с AI

Meta заменя модераторите с изкуствен интелект. Не метафорично — буквално. Компанията обяви глобалното разгръщане на AI системи за content enforcement и постепенното изоставяне на аутсорсинг партньорите, осигурявали хиляди модератори за платформите ѝ досега. Процесът ще отнеме няколко години, уточнява компанията, и няма да означава пълно изоставяне на човешки надзор. Хората ще продължат да вземат решения по „най-сложните и най-рисковите случаи" — жалби срещу деактивирани акаунти и сигнали до правоохранителните органи. Но посоката изглежда необратима: живите хора отпадат, машините ги заменят.

Числата, с които Meta подкрепя решението си са впечатляващи. AI системите засичат и неутрализират 5 000 опита за фишинг дневно — случаи, които човешките екипи са пропускали изцяло. Засичат двойно повече нарушения, свързани с порнографско съдържание. Намаляват с над 80% докладите за фалшиви профили на известни личности. Редуцират грешките при прилагане на правилата с над 60%. За рекламодателите има и конкретна цифра: излагането на реклами до измамно съдържание е паднало с 7%. Логиката на Meta зад преходе ясна. AI се справя по-добре с повторяеми прегледи на графично съдържание и с бързо адаптиращи се заплахи — измамни схеми за кражба на пароли, нелегална търговия с наркотици, тероризъм, експлоатация на деца. Там злонамерените участници постоянно сменят тактиките си и скоростта на реакция е критична. Машините не се уморяват, не развиват вторична травма и не се влияят от политически промени в ръководството. Хиляди аутсорсинг модератори от Accenture, Concentrix и Teleperformance постепенно ще бъдат заменени. Meta не назовава партньорите по име, но посланието е недвусмислено.

Това не е само технологично решение — то е и финансово. Наскоро Reuters съобщи, че Meta обмисля съкращаване на над 20% от работната си сила, за да балансира огромните разходи за AI инфраструктура. Компанията отрече. Но ако автоматизацията на модерирането се разгърне в пълен мащаб, тя може да означава края на цели отдели от живи хора — независимо от официалната позиция.

Има и по-неудобен прочит на цялата стратегия. През последната година Meta системно разхлабва правилата за съдържание — премахна програмата за проверка на факти, въведе Community Notes модел по подобие на X, вдигна ограниченията около „теми от масовия дискурс." Политическият контекст е очевиден: компанията се адаптира към новия климат във Вашингтон след завръщането на Тръмп. Паралелно се защитава в съдебни дела за вреди върху деца и млади потребители — тема, директно свързана с провалите в модерирането.

По-рано през март кенийски работници, наети от подизпълнител на Meta, се озоваха в центъра на скандал след разкрития за интимни записи, направени с умните очила на компанията. Човешките модератори, колкото и несъвършени, осигуряват един вид надзор отвън. Заменянето им с вътрешни AI системи означава, че Meta упражнява по-пряк контрол върху процесите — без посредници и без потенциални свидетели на вътрешните практики.

Всичко това се случва на фона на най-показателния стратегически обрат в историята на компанията. Meta обяви затварянето на Horizon Worlds — метавселената, заради която преименува цялата си компания и в която вля над $80 млрд. за пет години. Залогът сега е „superintelligence." Моделът е познат: докато текущите проблеми с платформите остават нерешени, вниманието и милиардите се насочват към следващата голяма идея.

За маркетинг специалистите и рекламодателите промяната има конкретни измерения. Кампания, спряна от AI без ясно обяснение. Съдържание, свалено автоматично по логика, която не отчита локален контекст или езикови нюанси. Жалба, обработена от система, а не от човек, който може да разбере разликата между провокативна комуникация и реално нарушение. По-малко произволност от една страна, но и по-малко гъвкавост и прозрачност от друга.

Meta залага, че машините се справят по-добре с мащаба. Може и да е така. Но когато нещата се объркат, отговорността се размива между алгоритми, инженери и корпоративни политики. Това не е технологичен проблем. Това е проблем с властта над публичното пространство.