Три подростка из Теннесси подали коллективный иск против компании xAI Илона Маска, обвинив чат-бота Grok в создании сексуализированных изображений и видео несовершеннолетних. Дело стало одним из громких прецедентов в области безопасности ИИ и ответственности разработчиков за контент, генерируемый нейросетями.
Суть иска против Grok
Иск, поданный в понедельник, обвиняет руководство xAI в том, что компания знала о рисках запуска режима «spicy mode» для Grok, но не приняла достаточных мер защиты. Согласно документам, один из преступников использовал сгенерированные Grok изображения для шантажа и обмена в Telegram-группах с сотнями участников.
Одна из потерпевших, фигурирующая в деле как «Jane Doe 1», обнаружила в декабре 2025 года, что её обнажённые AI-изображения доступны в Discord. На сгенерированных файлах были реальные лицо и тело девушки, но в сексуализированных позах. Среди затронутых — как минимум 18 несовершеннолетних.
Контекст: проблема безопасности генеративного ИИ
Это дело — часть растущей волны критики в адрес генеративных нейросетей. LLM (Large Language Models — большие языковые модели), такие как Grok, способны не только генерировать текст, но и создавать изображения через встроенные мультимодальные возможности. Когда такие системы не имеют надлежащих фильтров, результат может быть катастрофическим.
AI-инструменты, которые можно сразу взять в работу
Подборка доступов и подписок к популярным сервисам: быстро, с авто-выдачей и понятной оплатой.
Ранее Grok уже попадал в скандалы — бот «затопил» соцсеть X откровенными изображениями взрослых и несовершеннолетних. Это вызвало расследование со стороны Европейского союза, запрос на проверку от FTC и публичное осуждение премьер-министра Великобритании Кира Стармера.
Законодательная реакция
Сенат США в январе принял билль, позволяющий жертвам несогласованных дипфейков подавать в суд на создателей таких изображений. А закон Take It Down Act, подписанный президентом Трампом в 2025 году, криминализует распространение несогласованных AI-дипфейков с мая 2026 года.
В ЕС уже ведётся расследование действий Grok, а британский премьер публично предупредил о рисках подобных технологий. Давление на производителей ИИ растёт по всему миру.
Позиция xAI и Илона Маска
X (бывший Twitter) утверждает, что «любой, кто использует Grok для создания нелегального контента, понесёт те же последствия, что и при загрузке такого контента напрямую». Однако, как выяснил The Verge, редактировать загруженные изображения через Grok по-прежнему возможно, несмотря на попытки ограничить функционал.
Адвокат потерпевших Анника Мартин из Lieff Cabraser заявила: «Это дети, чьи школьные фотографии и семейные снимки были превращены компанией стоимостью в миллиарды долларов в материал сексуального насилия над детьми, а затем передавались среди хищников».
Влияние на индустрию ИИ
Дело против xAI станет важным прецедентом для всей отрасли. Оно ставит вопрос: кто несёт ответственность, когда нейросеть генерирует вредоносный контент — пользователь или разработчик? В случае Grok истцы утверждают, что компания «не провела достаточного тестирования безопасности» и что Grok «дефектен по дизайну».
Иск требует компенсации ущерба всем пострадавшим и запрета на генерацию и распространение подобного контента. Это может привести к фундаментальным изменениям в том, как компании подходят к безопасности ИИ при разработке мультимодальных моделей.
Что дальше?
Отрасль стоит на переломном моменте. Добровольные меры безопасности больше не устраивают регуляторов и общество. Скорее всего, мы увидим ужесточение требований к фильтрации контента, обязательное тестирование моделей перед релизом и усиление ответственности платформ за ИИ-генерируемый контент.
Для пользователей ИИ-инструментов это напоминание: технологии не нейтральны, и за их использование несут ответственность все участники цепочки — от разработчика до конечного пользователя.
AI-инструменты, которые можно сразу взять в работу
Подборка доступов и подписок к популярным сервисам: быстро, с авто-выдачей и понятной оплатой.