Apple удалила 8 AI-приложений из App Store после требования прокурора Сан-Франциско

Что произошло

Прокурор Сан-Франциско Дэвид Чиу (David Chiu) направил официальные предупреждения (cease-and-desist letters) компаниям Apple и Google с требованием удалить из App Store и Play Market приложения категории «nudify» или «undress» — сервисы, которые используют генеративный ИИ для создания реалистичных изображений обнажённых людей на основе предоставленных фотографий без их согласия. Под расследование попали 13 приложений: восемь в App Store и пять в Google Play. Ранее мы подробно разбирали, как Apple использует AI в своей экосистеме.

Сколько приложений под ударом?

Одно из исследованных приложений насчитывает более миллиона загрузок. На сайте компании представлено более дюжины стилей генерируемых AI-изображений — от «бикини» до «кинематографической интимности», многие из которых демонстрируют сексуализированные изображения женщин. Другое из указанных приложений заявляет о возможности создавать «бесплатные и без цензуры» видео. Все приложения формально рекламируются как инструменты «замены лица» (face-swapping), однако их фактическая функциональность — создание дипфейков сексуального характера без согласия изображённых людей.

Apple оперативно отреагировала на запрос. В официальном заявлении для СМИ компания сообщила: «App Store был создан как безопасное и надёжное место для пользователей, и мы всегда строго запрещали приложения, предназначенные для генерации, распространения или потребления порнографии. Приложения категории «nudification» противоречат нашим правилам App Review Guidelines. Мы удалили три приложения из числа указанных и находимся в процессе блокировки их аккаунтов разработчиков. С четырьмя другими ведём работу по устранению нарушений, в противном случае они также будут удалены».

Почему это важно

Ранее Apple и Google неоднократно подвергались критике за недостаточный контроль над приложениями, использующими генеративный ИИ для создания неконсенсусного контента. Новое расследование прокурора Сан-Франциско — один из наиболее масштабных юридических шагов против подобных сервисов на уровне города. Параллельно законодатели по всему миру обсуждают прямые запреты на создание дипфейков сексуального характера: в США федеральный закон о дипфейках был принят в начале 2026 года, однако правоприменение остаётся проблемой.

Технология генерации дипфейков стала доступна массово с 2023–2024 годов, и с тех пор число случаев неконсенсусного использования изображений выросло в разы. Особую озабоченность вызывает тот факт, что жертвами становятся в первую очередь женщины и подростки. Помимо федерального уровня, ряд штатов США уже приняли собственные законы о дипфейках, а города вводят собственные механизмы давления на платформы. Этот случай с App Store — первое крупное применение городских полномочий в сфере AI-регулирования.

Что дальше

Apple подтвердила удаление трёх приложений и ведёт работу с ещё четырьмя. Оставшиеся приложения из списка прокурора, вероятно, ожидает аналогичная участь. Окончательное решение по каждому из восьми App Store-приложений определит ход проверки политик Apple и скорость реакции разработчиков на требования об удалении. Для рынка мобильных приложений этот случай — сигнал о ужесточении контроля за AI-инструментами, способными создавать вредоносный контент. Подробнее о регулировании AI-ассистентов в ЕС — в нашем материале.