Ты понял очень интересную стратегию NVIDIA? Они приобрели бизнес по производству чипов для инференса компании Groq за 200 миллиардов долларов, и теперь становится гораздо более очевидным, зачем они это сделали.

Меня особенно привлекло объяснение Хуана Жэньсуна о логике этой покупки. В основном, рынок инференса сегментируется. Раньше все сосредоточились только на одном: увеличении пропускной способности. Но затем коммерческая ценность токенов значительно изменилась, и разные пользователи готовы платить разные цены в зависимости от скорости отклика.

Это примерно так: если я могу обеспечить более быстрые ответы инженерам, позволяя им работать эффективнее, они будут готовы платить за это больше. И спрос на низкую задержку относительно нов, на рынке.

Здесь и вступает Groq. Их архитектура LPU известна именно низкой детерминированной задержкой, что идеально дополняет подход высокопропускной способности GPU NVIDIA. Когда выпустили Groq 3 LPU на 4 нм, показали, что способность инференса на мегаватт в моделях триллионов параметров в 35 раз превосходит Blackwell NVL72. Это немало.

То есть NVIDIA заполнила важную нишу в своей линейке продуктов. Теперь они охватывают как сегмент с высокой пропускной способностью, так и сегмент с низкой задержкой и высокой ценностью за единицу. Расширение Парето, как называют некоторые. Одинаковая модель, разные цены в зависимости от времени отклика. Меньшая пропускная способность, но цена за единицу компенсирует.

Это стратегия: не конкуренция, а дополнение. И это очень логично, учитывая, как развивается рынок ИИ.