Google представила TPU 8tx и TPU 8i Max — две новые системы для вычислений искусственного интеллекта. Первая рассчитана на работу с конфиденциальными данными, вторая — на задачи, которым нужно много памяти. По заявлению Google, компания впервые выпустила четыре системы TPU за один год. Но это не четыре новых поколения процессоров: обе новинки используют уже существующие чипы.
TPU 8tx: защита не только при хранении данных
TPU — специализированные процессоры Google для задач ИИ. Вариант 8tx адресован компаниям и государственным организациям, которые обрабатывают чувствительную информацию. Обычно данные шифруют при хранении и передаче, а для вычислений раскрывают в памяти. Google заявляет, что в TPU 8tx данные и параметры модели остаются защищёнными и изолированными также во время работы.
По словам компании, одна такая система позволяет дообучать модели, переносить возможности больших моделей в меньшие и обучать ИИ-агентов методом поощрений, не перемещая чувствительные данные между разными группами серверов. Это заявленные возможности Google, а не результат независимого испытания. Сопоставимую функцию конфиденциальных вычислений предлагает и Nvidia.
TPU 8i Max: больше ресурсов в той же стойке
У TPU 8i Max другая задача — работа с большими объёмами данных. Например, когда ИИ-агенты одновременно анализируют крупные наборы программного кода или многочасовое видео, ограничением может стать скорость обмена с памятью.
Google разместила два чипа TPU 8i на одной подложке. По заявлению компании, это удваивает вычислительную мощность, объём памяти и её пропускную способность в прежнем формате серверной стойки. Речь о ресурсах системы, а не об обещании, что любая пользовательская задача будет выполняться вдвое быстрее.
Новые варианты отличаются компоновкой, сетевыми соединениями и устройством памяти вокруг существующих процессоров. Google объясняет, что такой подход позволяет выпускать новые конфигурации за месяцы, а не годы.
Конкуренция за повседневную работу моделей
Google развивает TPU не только как внутренний инструмент: компания сообщает почти о 100 внешних клиентах. Здесь важна не только тренировка моделей, но и их ежедневная работа — обработка запросов и выдача ответов. Это называют инференсом.
Для разработчиков Google открыла исходный код TorchTPU: по замыслу компании, он должен позволять запускать программы на PyTorch с минимальными изменениями. Также заявлена поддержка vLLM и SGLang — инструментов для обслуживания запросов к моделям.
TPU не следует путать с самим ИИ-помощником: оборудование выполняет вычисления, а модель определяет работу сервиса. Разницу помогает понять обзор Google Gemini и его возможностей.
Для заказчика ключевое различие между новинками — защита чувствительной информации у 8tx и ресурсы памяти у 8i Max. Цены, подробные условия доступа и независимые сравнения в сообщении не приведены. Поэтому по этому анонсу нельзя заключить, что переход с оборудования Nvidia уже даст экономию.
