OpenAI работает в партнерстве с Cerebras

Cerebras разрабатывает специализированные ИИ-системы, оптимизированные для ускорения генерации длинных ответов моделей. Их ключевое преимущество — уникальная архитектура, объединяющая вычислительные ресурсы, память и пропускную способность на одном монолитном чипе сверхбольшого размера и устраняющая ограничения, замедляющие инференс на традиционном оборудовании. 

 Интеграция решений Cerebras в нашу вычислительную инфраструктуру направлена на то, чтобы ИИ отвечал значительно быстрее. Каждый раз, когда вы задаете сложный вопрос, генерируете код, создаете изображение или запускаете ИИ-агента, за кулисами запускается цикл: запрос отправляется, модель его обрабатывает и возвращает результат. Когда ИИ реагирует мгновенно в режиме реального времени, пользователи глубже вовлекаются в работу, дольше остаются в сервисе и решают более значимые задачи.

Мы будем поэтапно интегрировать эти мощности с низкой задержкой в нашу инфраструктуру инференса, постепенно расширяя их применение для разных типов нагрузок.  

«Стратегия OpenAI в области вычислений — создавать гибкую и устойчивую инфраструктуру, где каждая задача выполняется на оптимальной системе. Интеграция Cerebras добавляет в нашу платформу специализированное решение для инференса с низкой задержкой. В результате мы получаем более быстрые ответы, более естественное взаимодействие и прочную основу для масштабирования ИИ в реальном времени для миллионов пользователей», — отметил Сачин Катти из OpenAI.

«Мы рады сотрудничеству с OpenAI, объединяя лучшие в мире ИИ-модели с самым быстрым ИИ-процессором. Как когда-то широкополосный интернет преобразил сеть, инференс в реальном времени меняет ИИ, открывая совершенно новые форматы создания и использования ИИ-моделей», — сказал Эндрю Фелдман, сооснователь и генеральный директор Cerebras. 

Мощности будут вводиться в эксплуатацию поэтапно вплоть до 2028 года.