TikTok тестирует инструмент обнаружения AI-образа: что известно

Что происходит

Платформа TikTok начала тестирование инструмента, который позволяет авторам обнаруживать использование их AI-образа (likeness) в сгенерированном контенте. Система сканирует видео на предмет признаков искусственно созданных копий внешности автора и даёт возможность сообщить о несанкционированном использовании. Пока функция доступна ограниченному числу американских авторов, о чём сообщил представитель платформы Закари Кайзер. Консультант по социальным сетям Мэтт Наварра первым обратил внимание на нововведение.

Как работает проверка

Для участия в тестировании авторам необходимо пройти верификацию личности через сервис Jumio — в реальном времени делается селфи-скан и проверка удостоверения личности. TikTok подчёркивает, что не хранит документы, удостоверяющие личность, а данные о лице используются исключительно для сопоставления с образами в контенте и выявления потенциально несанкционированного использования. Это важная деталь: для создателей контента риск использования их внешности без согласия становится всё более актуальным по мере совершенствования инструментов генеративного AI.

После верификации система анализирует контент и выявляет видео, потенциально использующие AI-образ автора. Автор может просмотреть результаты и отправить жалобу на нарушение. Для платформ это шаг в сторону ответственного подхода к AI, аналогичный тому, как компании решают проблемы безопасности AI-агентов.

Контекст: почему это важно

Создание deepfake-видео с использованием внешности знаменитостей и обычных пользователей стало одной из главных проблем социальных платформ. Инструменты генеративного AI позволяют относительно легко синтезировать реалистичные видео, где человек говорит или делает то, чего не делал. Для создателей контента это означает риск репутационного ущерба и распространения ложной информации от их имени. Ответы платформ на эту угрозу пока остаются разрозненными.

TikTok — не первая платформа с таким инструментом. YouTube работает над аналогичной технологией и недавно сделал её доступной для всех взрослых пользователей. Запуск подобных инструментов на крупных платформах отражает растущее давление регуляторов и общественности в отношении прозрачности AI-контента. Для понимания контекста полезно разобраться в принципах работы AI-агентов и их ограничениях.

Ограничения и вопросы

Эксперты отмечают, что инструменты обнаружения AI-контента пока несовершенны и могут давать как ложные срабатывания, так и пропуски реальных deepfakes. Точность таких систем зависит от качества обучающих данных и постоянно совершенствующихся методов генерации. Параллельно законодатели в нескольких странах обсуждают обязательную маркировку AI-контента, что может дополнительно повлиять на требования к платформам.

Что дальше

Если тестирование пройдёт успешно, TikTok планирует расширить доступ к инструменту. Для этого может потребоваться обновление политик модерации и взаимодействие с регуляторами в разных юрисдикциях. Вопросы о точности определения, ложных срабатываниях и обработке данных пока остаются открытыми — но направление движения платформ уже очевидно.

Пока же главный вопрос остаётся без ответа: насколько биометрическая верификация способна противостоять технологиям, которые уже научились обходить и более сложные системы защиты. Если создатели deepfakes адаптируются к новым требованиям платформ так же быстро, как они это делали с предыдущими инструментами детекции, пользователям придётся искать новые способы защиты своей цифровой личности.