NVIDIA Groq 3 LPX в серии: 3400 токенов/с на длинном контексте — в 4 раза быстрее конкурентов; Nebius станет первым ИИ-облаком с LPX

На конференции Hot Chips NVIDIA рассказала о расширении экосистемы инференса вокруг платформы Vera Rubin: ускоритель NVIDIA Groq 3 LPX (результат интеграции технологий Groq) вышел в полномасштабное производство, а в бенчмарке Artificial Analysis на агентной открытой модели Gemma 4 31B он выдал 3400 выходных токенов/с при контексте 100 тыс. токенов — в 4 раза быстрее ближайшей альтернативной платформы. Архитектура LPX рассчитана на низколатентную генерацию токенов в связке с rack-системами Vera Rubin NVL72, а сеть NVIDIA Spectrum-X Ethernet (включая уже продакшен-развернутый в CoreWeave вариант Spectrum-X Multiplane) переносит потоки данных между стойками. Первой ИИ-облаком, внедрившим Groq 3 LPX, стал Nebius: ускоритель добавят в Nebius Token Factory для интерактивных агентных и кодинговых приложений. SpaceXAI, в свою очередь, заявила, что её ИИ-архитектура будущего — от наземных дата-центров до орбитальных спутников — будет строиться на Vera Rubin с CPU Vera для агентных нагрузок.