

Наприкінці 2025 року компанія Nvidia стала об'єктом обговорення в пресі завдяки придбанню за $20 мільярдів підрозділу Groq, що спеціалізується на інференційних технологіях штучного інтелекту. Це інвестування, яке спочатку деякі аналітики в галузі визнали несподіваним. Проте генеральний директор Nvidia, Дженсен Хуанг, продемонстрував чітке бачення щодо інтеграції передових технологій Groq у наявну архітектуру штучного інтелекту Nvidia. Хуанг оголосив про злиття процесорів низької затримки Groq з інфраструктурою штучного інтелекту Nvidia з метою досягти трансформаційних результатів. Ця стратегічна інтеграція призвела до створення революційного інференційного акселератора Groq 3 LPX, який був представлений менш ніж через три місяці після придбання. Інференція штучного інтелекту, процес, завдяки якому навчені моделі ШІ приймають рішення в реальному часі на основі нових даних, знаходиться в основі багатьох технологічних новацій. Від чат-ботів, що генерують специфічні для користувача відповіді, до автономних транспортних засобів, які інтерпретують дані датчиків, інференція є ключовим компонентом функціоналу штучного інтелекту. Новий інференційний акселератор Groq 3 LPX використовує технологію Groq Language Processing Unit (LPU), відому своєю здатністю обробляти природні мовленнєві входи та виходи на надзвичайній швидкості. Поєднуючи інтерактивність технології Groq з потужним пропускним обсягом і продуктивністю GPU Rubin від Nvidia, новий акселератор обіцяє чудові можливості для моделей інференції ШІ. Попри різницю в обсязі пам'яті—500 МБ LPU Groq проти 288 ГБ GPU Rubin—Groq 3 LPU перевершує завдяки 150 ТБ на секунду пропускної здатності пам'яті проти 22 ТБ на секунду Rubin GPU. Синергія між технологією LPU Groq і GPU Rubin від Nvidia дозволяє інференційному акселератору Groq 3 LPX забезпечити неперевершену продуктивність агентської системи ШІ для моделей мовленнєвої інференції. Nvidia стверджує, що ця інновація надає у 35 разів вищий пропускний обсяг на мегават для моделей ШІ з мільярдом параметрів порівняно з його попередником, Blackwell NVL72. Такі досягнення важливі не лише для зменшення споживання енергії, але й для підтримки конкурентоспроможності на ринку ШІ. Бізнеси, що прагнуть залишатися на передовій технології чат-ботів ШІ, ймовірно, шукатимуть високу продуктивність, яку пропонує остання інновація Nvidia, що переведеться в збільшення продажу та частки ринку для технологічного гіганта. Завдяки цій стратегічній покупці та інтеграції продуктів, Nvidia укріплює свої позиції як лідера серед виробників чипів для ШІ, демонструючи свої неперевершені здібності у використанні передових технологій для задоволення зростаючих потреб ринку.