OpenAI працює в партнерстві з Cerebras

Cerebras розробляє спеціалізовані системи ШІ, оптимізовані для прискорення генерації довгих відповідей моделей. Їхня головна перевага — унікальна архітектура, що об'єднує обчислювальні ресурси, пам'ять і пропускну здатність на одному монолітному чипі надвеликого розміру та усуває обмеження, які уповільнюють інференс на традиційному обладнанні. 

 Інтеграція рішень Cerebras у нашу обчислювальну інфраструктуру спрямована на те, щоб ШІ відповідав значно швидше. Щоразу, коли ви ставите складне запитання, генеруєте код, створюєте зображення або запускаєте ШІ-агента, за лаштунками запускається цикл: запит надсилається, модель його опрацьовує та повертає результат. Коли ШІ реагує миттєво в режимі реального часу, користувачі глибше залучаються до роботи, довше залишаються в сервісі та розв'язують більш значущі завдання.

Ми поетапно інтегруватимемо ці потужності з низькою затримкою в нашу інфраструктуру інференсу, поступово розширюючи їх застосування для різних типів навантажень.  

«Стратегія OpenAI у сфері обчислень — створювати гнучку та стійку інфраструктуру, у якій кожне завдання виконується на оптимальній системі. Інтеграція Cerebras додає до нашої платформи спеціалізоване рішення для інференсу з низькою затримкою. У результаті ми отримуємо швидші відповіді, більш природну взаємодію та надійну основу для масштабування ШІ в режимі реального часу для мільйонів користувачів», — зазначив Сачін Катті з OpenAI.

«Ми раді співпраці з OpenAI, поєднуючи найкращі у світі ШІ-моделі з найшвидшим ШІ-процесором. Як колись широкосмуговий інтернет докорінно змінив мережу, так інференс у режимі реального часу трансформує ШІ, відкриваючи цілком нові формати створення та використання ШІ-моделей», — сказав Ендрю Фелдман, співзасновник і генеральний директор Cerebras. 

Потужності вводитимуться в експлуатацію поетапно до 2028 року.