Что произошло
Компания Meta к 2025 году заменила примерно половину всех запросов на модерацию контента алгоритмами на основе больших языковых моделей (LLM) — AI Digest следит за такими кейсами. Планы ещё амбициознее: к концу года доля автоматизации для отдельных типов контента должна превысить 90 процентов. Об этом сообщает Financial Times со ссылкой на внутренние документы и источники внутри компании.
Как это работает и почему компания торопится
Традиционные системы модерации — классические алгоритмы машинного обучения — плохо справляются с сарказмом, иронией и постоянно меняющимся сленгом. Языковые модели обучены понимать контекст и нюансы, поэтому компания утверждает, что с марта её системы допускают на 13 процентов меньше ошибок, чем живые модераторы, и при этом находят на 10 процентов больше реальных нарушений. Подробнее о больших языковых моделях — в нашем материале. Экономия исчисляется миллиардами долларов в год.
Параллельно внутри Meta происходит технологическая рокировка: ранее компания использовала модель Gemini от Google для модерации и поддержки пользователей, однако недавно перевела персонал на собственную разработку — базовую модель Muse Spark. Новая модель обучена на исторических решениях, принятых человеческими модераторами, и, по данным FT, работает быстрее, но её качество вызывает вопросы у тех, кто участвовал во внутренних обсуждениях.
Что говорят сотрудники
Картина изнутри менее радужная. По словам источников, алгоритмы по-прежнему удаляют или ограничивают безобидный контент — например, ошибочно принимают шутку за оскорбление или художественное описание насилия за призыв к действию. Критики из числа сотрудников указывают на недостаточный контроль при столь стремительном переходе: решения принимаются автоматически, а механизм обжалования работает медленнее, чем скорость блокировок. Кроме того, переход уже приводит к сокращениям — в первую очередь среди внешних подрядчиков, которые ранее выполняли эту работу вручную. По оценкам аналитиков, модерация контента — один из крупнейших источников рабочих мест в сфере технологий для развивающихся рынков.
Что известно о Muse Spark
Базовая модель Muse Spark была представлена как замена Gemini для внутренних задач Meta. Ключевое отличие: Muse Spark обучалась на решениях собственных модераторов компании, а не на открытых данных. Это позволяет более точно воспроизводить политики контента Meta, но одновременно увеличивает риск систематических ошибок — если модераторы систематически ошибались в чём-то, модель унаследует и усилит эти ошибки. Сотрудники, знакомые с проектом, указывают именно на это как на главную проблему.
Почему это важно
Случай с Meta — одна из крупнейших реальных замен человеческого труда алгоритмами в индустрии. Если система работает как заявлено, это станет аргументом для других платформ. Если нет — могут последовать публичные скандалы, связанные с неправомерным удалением легитимного контента, как это уже было с историческими случаями цензуры в соцсетях. Пока же отрасль находится в режиме эксперимента без чётких правил: никаких обязательных аудитов точности модерации не существует, а ответственность за ошибки остаётся размытой.
Что дальше
Опрошенные FT аналитики ожидают, что крупные технологические компании продолжат вытеснять живых модераторов алгоритмами. Это тренд, который Meta лишь формализовала цифрами. Вопрос в том, насколько быстро индустрия научится контролировать точность таких систем и возьмёт ли на себя ответственность за ошибки, когда алгоритм удалит легитимный пост или пропустит реальное нарушение. Пока же модерация остаётся зоной с минимальным регуляторным контролем — никаких обязательных аудитов точности не существует. Meta от официальных комментариев отказалась.
