Глава Instagram: если не хотите AI-контент — «не надо его добавлять в ленту»

Глава Instagram: если не хотите AI-контент — «не надо его добавлять в ленту»

Глава Instagram Адам Моссери заявил, что платформа не должна фильтровать контент, созданный с помощью AI. Вместо этого пользователям предлагается просто не подписываться на такие материалы. Позиция вызвала дискуссию о том, как социальные сети должны обращаться с AI-генерируемым контентом.

Что сказал Моссери об AI-контенте?

«Я не думаю, что мы должны фильтровать AI-контент», — сказал Моссери в интервью подкасту Lenny Rachitsky. По его словам, достаточно просто уведомлять пользователей, что контент создан с помощью AI. При этом Моссери подчёркивает разницу между сортировкой контента и полным запретом AI на платформе. Он считает, что пользователи, которые любят AI-контент, «должны иметь возможность видеть ленту, полную AI-материалов».

Instagram, как и TikTok, YouTube и Facebook, уже маркирует AI-генерируемый контент — но не даёт возможности отфильтровать его из ленты. Моссери признал, что обнаружение AI-контента — сложная задача: по мере улучшения моделей Instagram может «потерять способность» определять AI-посты. Он также предположил, что «практичнее» было бы маркировать наоборот — контент, снятый на реальную камеру, а не AI-генерированный. В этом есть логика: проще доказать, что видео снято на реальную камеру (через метаданные, сертификацию устройства), чем перебирать все способы создания AI-контента. На практике это означает сдвиг бремени доказывания: вместо «этот контент сделан AI» — «этот контент снят на камеру».

Какие риски создаёт Muse Spark для пользователей Instagram?

Несмотря на призывы к осторожности, Instagram продолжает активно использовать AI-технологии. После запуска AI-генератора изображений Meta Muse Spark пользователи Instagram могут добавлять других людей в AI-изображения просто отметив их тегом. Эксперты уже указали на риски: Хейли Макнамара, директор Национального центра по сексуальной эксплуатации, заявила, что функция создаёт «очевидные и предсказуемые возможности для эксплуатации, сексуального насилия, домогательств и мошенничества с личностью». Проблема усугубляется тем, что Muse Spark генерирует убедительные изображения, которые сложно отличить от фотографий — а автоматическая маркировка, о которой говорит Моссери, не останавливает злоумышленников.

Что такое AI-маркировка контента и чем она отличается от фильтрации?

AI-маркировка — автоматическая отметка в посте, которая говорит, что изображение или видео созданы с помощью AI. Социальные сети добавляют такие метки, чтобы пользователи понимали природу контента. Однако маркировка не мешает видеть этот контент — она только информирует. Фильтрация же предполагает, что пользователь может полностью скрыть такой контент из ленты. Подробнее о том, как платформы используют AI.

Почему это важно

Вопрос о том, как платформы должны обращаться с AI-контентом, становится всё острее. С одной стороны, AI-генерируемые изображения и видео становятся неотличимыми от настоящих. С другой — запрет или фильтрация затрагивают свободу слова и творчества. Позиция Моссери — прагматичная, но она возлагает ответственность на пользователя, а не на платформу. Остаётся открытым вопрос: что делать, когда AI-контент становится спамом или инструментом манипуляции? Пока Instagram выбирает путь информирования, а не ограничения, — и это ставка на зрелость аудитории.