Государственная финансовая помощь для студентов колледжей в США — тысячи долларов в семестр на человека. Оказалось, что эту систему можно использовать с помощью AI: зарегистрировать вымышленного студента, написать за него работы с помощью ChatGPT или другой нейросети и получить деньги. Профессор истории из Лос-Анджелеса заметил эту схему несколько лет назад — и картина его встревожила.
Что произошло
По данным The New Yorker, на которые ссылается The Decoder, мошенники в США массово регистрируют вымышленных студентов в местных колледжах (community colleges). После регистрации они подают заявки на федеральную финансовую помощь (Pell Grant и другие программы) — деньги, которые правительство выделяет студентам из малообеспеченных семей. Затем мошенники используют AI для выполнения обязательных курсовых работ и получают «стипендию» за учёбу, которая по сути не ведётся.
Профессор Дэвид Сонг (David Song) из East Los Angeles College рассказал, что заметил проблему несколько лет назад. В его курсе истории начали появляться студенты с «типичными англо-саксонскими именами», хотя основной контингент колледжа — латиноамериканцы и азиаты. Заявления этих студентов о пройденных курсах по темам азиатско-американских исследований не выдерживали проверки.
Почему это стало возможным именно сейчас
До появления доступных LLM написание курсовых работ требовало либо реального участия, либо найма человека. Сейчас достаточно иметь аккаунт в ChatGPT. Мошеннику не нужно даже владеть английским на хорошем уровне — нейросеть напишет текст за несколько минут. Подробнее о том, как Visa использует AI для борьбы с мошенниками, — в нашем отдельном материале.
Почему community colleges — главная мишень
Открытый набор без строгой верификации личности, значительные суммы финансовой помощи, высокая нагрузка на администрацию и относительно низкий уровень контроля за подлинностью работ. Плюс — удалённое обучение стало нормой, и онлайн-подача работ стала стандартом. Как показал аналогичный случай с bug bounty, AI может использоваться для заполнения систем мусором — и в этом случае схожая уязвимость.
Что дальше
По данным The New Yorker, масштаб проблемы растёт. Колледжи и регуляторы пока не нашли эффективного ответа. Стандартные антиплагиатные инструменты не определяют AI-текст, если мошенники добавляют минимальные правки.
Вопрос, который задаёт профессор Сонг: «Было ли всегда так, что половина наших студентов жульничала бы, если бы это было достаточно просто?» Ответ на него, похоже, теперь придётся искать не только преподавателям, но и регуляторам образования.
