OpenAI se udružuje sa Cerebras.
OpenAI se udružuje sa Cerebrasom kako bi dodali 750MW ultra niske latentnosti UI računalne snage na našu platformu.
Cerebras gradi namjenske UI sisteme kako bi ubrzala dugačke izlaze iz UI modela. Njegova jedinstvena brzina dolazi od objedinjavanja masivne računarske snage, memorije i propusnog opsega na jednom ogromnom čipu i uklanjanja uskih grla koja usporavaju inferencu na konvencionalnom hardveru.
Integracija Cerebrasa u našu kombinaciju računarskih rješenja ima za cilj da naš UI reaguje mnogo brže. Kada postavite teško pitanje, generirate kod, kreirate sliku ili pokrenete AI agenta, u pozadini se odvija petlja: pošaljete zahtjev, model razmišlja i pošalje nešto nazad. Kada AI odgovara u stvarnom vremenu, korisnici rade više s njim, ostaju duže i pokreću radna opterećenja veće vrijednosti.
Kapacitet sa niskom latentnošću ćemo integrirati u naš inference stack u fazama, proširujući ga na radna opterećenja.
„OpenAI-jeva strategija računalne snage je izgraditi otporan portfelj koji usklađuje prave sisteme sa pravim radnim opterećenjima. Cerebras dodaje namjensko rješenje za inferencu s niskom latentnošću na našu platformu. To znači brže odgovore, prirodnije interakcije i snažniju osnovu za skaliranje UI u realnom vremenu na mnogo više ljudi,” rekao je Sachin Katti iz OpenAI.
„Drago nam je što smo u partnerstvu s OpenAI-jem, donoseći vodeće UI modele na najbrži UI procesor na svijetu. Kao što je širokopojasni internet transformirao internet, inferencija u realnom vremenu će transformirati AI, omogućavajući potpuno nove načine za izgradnju i interakciju s AI modelima,” rekao je Andrew Feldman, suosnivač i izvršni direktor Cerebrasa.
Kapacitet će biti pušten u rad u više faza do 2028.
Nastavite čitati
