AI-чип новичок Groq: скорость вывода в 10 раз быстрее, чем у NVIDIA, привлек 640 миллионов долларов финансирования

AI-чип новичок и грозный соперник NVIDIA

Groq - американская стартап-компания по производству чипов искусственного интеллекта, основанная в 2016 году, специализирующаяся на разработке высокопроизводительных ускоряющих чипов для ИИ. Недавно компания объявила о получении финансирования в размере 640 миллионов долларов, что оценивает ее в 2,8 миллиарда долларов.

Основным продуктом Groq является чип LPU (Language Processing Unit), разработанный специально для больших языковых моделей. Этот чип демонстрирует отличную производительность в задачах вывода, утверждается, что он в 10-100 раз быстрее обычных GPU и TPU.

Основатель компании Джонатан Росс ранее был ключевым разработчиком проекта TPU в Google. Пионер глубокого обучения Ян ЛеКун является техническим консультантом компании.

Технологические преимущества Groq в основном проявляются в следующих аспектах:

  1. Высокопараллельная архитектура процессора с большим количеством вычислительных блоков для одновременной обработки огромных объемов данных.

  2. Оптимизированный дизайн путей данных и кэша, значительно снижающий задержки передачи данных.

  3. Гибкие варианты конфигурации для настройки вычислительных ресурсов под конкретные приложения.

  4. Аппаратная оптимизация для алгоритмов глубокого обучения, повышающая эффективность обучения и вывода моделей.

  5. Хорошая масштабируемость, поддерживающая создание крупномасштабных вычислительных кластеров.

Однако Groq также сталкивается с некоторыми проблемами:

  1. Чипы LPU имеют небольшой объем памяти, что может потребовать значительных аппаратных ресурсов для развертывания больших моделей, увеличивая затраты.

  2. Высокая специализация, но недостаточная универсальность может ограничить применение в более широком спектре задач ИИ.

  3. Как стартап, компании еще предстоит работать над зрелостью технологии, признанием рынка и построением экосистемы.

В будущем, с развитием технологий ИИ, спрос на высокопроизводительные чипы ИИ будет продолжать расти. Groq планирует выпустить 108 000 LPU к концу марта 2025 года, что, если будет реализовано, дополнительно укрепит ее позиции на рынке. Стоит следить за тем, сможет ли компания добиться технологических инноваций и коммерческого успеха в условиях жесткой конкуренции.