Meta a finalizat prima fază de construcție a unui nou supercomputer AI. Odată ce AI Research SuperCluster (RSC) va fi complet construit la sfârșitul acestui an, compania crede că va fi cel mai rapid supercomputer AI de pe planetă, capabil să „performeze la aproape 5 exaflopi de calcul de precizie mixtă”.
Meta spune că acest supercomputer AI RSC va ajuta cercetătorii să dezvolte modele AI mai bune care pot învăța din trilioane de exemple. Printre altele, modelele vor putea să construiască instrumente de realitate augmentată mai bune și să „analizeze fără probleme text, imagini și videoclipuri, toate la un loc”, potrivit Meta. O mare parte din această muncă este în serviciul viziunii sale pentru metavers, în care se spune că aplicațiile și produsele bazate pe inteligență artificială vor avea un rol cheie.
„Sperăm că RSC ne va ajuta să construim sisteme AI complet noi care pot, de exemplu, să permită traduceri vocale în timp real către grupuri mari de oameni, fiecare vorbind o altă limbă, astfel încât să poată colabora fără probleme la un proiect de cercetare sau să joace un joc AR împreună”,
au scris managerul tehnic de program Kevin Lee și inginerul software Shubho Sengupta într-o postare pe blog.RSC are în prezent 760 de sisteme Nvidia DGX A100 cu un total de 6.080 de GPU. Meta crede că iterația actuală este deja printre cele mai rapide supercomputere AI de pe planetă. Pe baza benchmark-urilor timpurii, susține că RSC poate, în comparație cu configurația mai veche a companiei, să ruleze fluxuri de lucru de computer vision de până la 20 de ori mai rapid, iar Biblioteca de comunicații colective NVIDIA de peste nouă ori mai rapid.
Meta spune că RSC poate antrena și modele de procesare a limbajului natural la scară largă de trei ori mai rapid. Ca atare, modelele AI care determină dacă „o acțiune, un sunet sau o imagine este dăunătoare sau benignă” (de exemplu, pentru a elimina discursul instigator la ură) pot fi antrenate mai rapid. Potrivit companiei, această cercetare va ajuta la protejarea oamenilor ce folosesc serviciile actuale precum Facebook și Instagram, precum și în metavers.
Pe lângă crearea infrastructurii fizice și a sistemelor pentru a rula RSC, Meta a spus că trebuie să se asigure că există controale de securitate și confidențialitate pentru a proteja datele din lumea reală pe care le utilizează. Compania spune că, prin utilizarea datelor din lumea reală din sistemele sale de producție, în loc de seturi de date disponibile public, își poate folosi mai eficient cercetarea, de exemplu, identificând conținut dăunător.
În acest an, Meta plănuiește să crească numărul de GPU-uri în RSC la 16.000. Acest lucru ar putea să crească performanța antrenamentului AI de peste 2,5 ori. Compania, care a început să lucreze la proiect la începutul lui 2020, dorea ca RSC să antreneze modele AI pe seturi de date de până la un exabyte (echivalentul a 36.000 de ani de videoclipuri de înaltă calitate).
Alte sisteme exascale sunt construite în SUA. Supercomputerul Aurora de la Laboratorul Național Argonne al Departamentului de Energie este de așteptat să atingă 2 exaflopi, în timp ce supercomputerul El Capitan, care va gestiona stocul nuclear al SUA, este de așteptat să depășească 2 exaflopi când va fi lansat anul viitor.
