Revolut rulează propriul model AI chinezesc GLM-4.5 pe servere proprii

Compania de fintech Revolut folosește acum modelul cu ponderi deschise (open-weight) GLM-4.5, dezvoltat de Zhipu AI. Modelul rulează pe 56 de GPU-uri Nvidia B200, iar costul de inferență a scăzut la aproximativ 0,30 USD per milion de tokeni, potrivit unui comunicat al companiei.

Potrivit Revolut, performanțele s-au îmbunătățit odată cu această schimbare.

Ce s-a schimbat concret

Revolut nu cumpără pur și simplu acces la un chatbot chinezesc. Compania descarcă modelul și îl rulează pe propriile servere, folosind infrastructură proprie. Este o diferență față de modelul în care o firmă plătește un furnizor de inteligență artificială pentru fiecare utilizare.

GLM-4.5 este folosit exclusiv pentru generarea de text și cod. Pentru sarcinile legate de imagini, Revolut se bazează în continuare pe modele găzduite în cloud, cum ar fi Gemini de la Google.

Ce înseamnă pentru companie

Prin rularea modelului pe infrastructură proprie, Revolut nu mai plătește fiecărui furnizor de IA la tarifele comerciale practicate de aceștia. Compania își controlează infrastructura și volumul de utilizare.

De asemenea, inginerii pot folosi inteligența artificială mult mai frecvent, fără plafoane stricte de tokeni.

Costuri care rămân

Soluția are însă și costuri proprii: cele 56 de procesoare Nvidia, infrastructura aferentă și personalul tehnic. Din acest motiv, cei 0,30 de dolari per milion de tokeni nu trebuie interpretați ca un tarif universal, valabil pentru orice companie.

Ce urmează

Revolut folosește deja modelul GLM-4.5 pentru text și cod, iar pentru imagini continuă să apeleze la servicii cloud precum Gemini. Materialul sursă nu precizează alte etape sau planuri viitoare.

Sursa: www.economica.net