Глава OpenAI Сэм Альтман считает, что при нехватке оперативной памяти выгоднее добиваться её максимальной загрузки в дата-центрах, чем распределять по личным компьютерам. В подкасте Cheeky Pint он оспорил идею, что запуск открытых моделей ИИ у себя на устройстве сам по себе снимает потребность в облачной инфраструктуре.
Что именно критикует Альтман
Отвечая на вопрос о дефиците комплектующих, Альтман заговорил о локальном запуске ИИ — когда модель обрабатывает запросы на компьютере пользователя, а не на удалённом сервере. По его словам, многие рассчитывают, что открытые модели позволят работать на своих устройствах и обходиться без мощностей дата-центров.
Альтман смотрит на это с позиции распределения ограниченного мирового запаса DRAM — оперативной памяти, в которой компьютер держит данные во время работы. Он назвал «ужасным» вариант, при котором у каждого в личном компьютере находится часть этого запаса и используется лишь 5% времени. Это число из его рассуждения, а не приведённый в интервью результат замеров всех домашних ПК.
Его аргумент — загрузка оборудования
В условиях острого ограничения поставок, считает Альтман, нужно добиваться максимального использования памяти в облаке. Иными словами, его довод касается не того, можно ли запустить модель дома, а того, где ограниченный ресурс будет меньше простаивать.
Эти вопросы легко смешать. Возможность пользоваться открытой моделью на своём компьютере и эффективность распределения памяти в мировом масштабе — не одно и то же. Альтман спорит со вторым, а не объявляет первый вариант технически невозможным.
Где заканчивается этот довод
Речь идёт о позиции руководителя OpenAI в разговоре о дефиците, а не о новом правиле для владельцев компьютеров. Из заявления не следует, что любую домашнюю память нужно перенести в дата-центр или что облачный вариант лучше для каждой личной задачи.
Само по себе рассуждение о загрузке оборудования не даёт сравнения стоимости, качества ответов или условий работы с данными для конкретного пользователя. Поэтому делать из него универсальную рекомендацию отказаться от локального ИИ было бы слишком смелым выводом.
Что учитывать пользователю
Практический вывод скромнее: наличие открытой модели ещё не отвечает на вопрос, как распределять дефицитную память. А предпочтение облака на уровне инфраструктуры не заменяет выбор подходящего инструмента для своей задачи.
Если вы решите попробовать облачный сервис из России, начните с проверки доступа, регистрации и условий оплаты нейросетей. Это отдельный вопрос: довод Альтмана об эффективности памяти ничего не обещает о доступности конкретного сервиса в вашем регионе.
