OpenAI сарађује са Cerebras

Cerebras гради наменске AI системе за убрзавање дугих излаза из AI модела. Његова јединствена брзина потиче од обједињавања огромне рачунарске снаге, меморије и пропусног опсега на једном гигантском чипу и уклањања уских грла која успоравају инференцију на конвенционалном хардверу. 

 Интеграција Cerebras-а у наш скуп рачунарских решења има за циљ да наш AI одговара много брже. Када поставите тешко питање, генеришете код, креирате слику или покренете AI агент, у позадини се одвија циклус: шаљете захтев, модел размишља и шаље вам одговор. Када AI одговара у реалном времену, корисници раде више с њим, остају дуже и покрећу вреднија оптерећења.

Овај капацитет са ниском латенцијом интегрисаћемо у наш стек за инференцију у фазама, ширећи га на различита оптерећења.  

„Стратегија рачунарске инфраструктуре OpenAI-ја је изградња отпорног портфолија који усклађује праве системе са правим оптерећењима. Cerebras додаје нашој платформи наменско решење за инференцију са ниском латенцијом. То значи брже одговоре, природније интеракције и јачу основу за скалирање AI-ја у реалном времену на много више људи“, рекао је Sachin Katti из OpenAI-ја.

„Одушевљени смо што сарађујемо са OpenAI-јем и доносимо водеће AI моделе на најбржи AI процесор на свету. Као што је широкопојасни интернет преобразио интернет, инференција у реалном времену преобразиће AI, омогућавајући потпуно нове начине за изградњу и интеракцију са AI моделима“, рекао је Andrew Feldman, суоснивач и генерални директор компаније Cerebras. 

Капацитет ће бити пуштан у рад у више транши до 2028. године.