Depășirea „zidului memoriei”
În universul extrem de competitiv al hardware-ului pentru inteligență artificială, „zidul memoriei” a devenit cel mai dificil obstacol pentru industrie. Pe măsură ce modelele AI ating dimensiuni gigantice, de ordinul trilioanelor de parametri, transferul de date între unitățile de calcul și memorie a devenit un proces ineficient energetic și limitat din punct de vedere fizic. Designul actual al GPU-urilor este constrâns de spațiul limitat de pe marginea cipurilor, ceea ce forțează utilizarea memoriei cu lățime de bandă mare (HBM) în imediata apropiere a procesorului. Volantis, un startup din San Francisco finanțat de Sam Altman, propune renunțarea la interconexiunile electrice tradiționale în favoarea fotonicii.
Prin utilizarea unui interpozor optic, Volantis intenționează să decupleze memoria de die-ul de calcul, permițând modulelor de memorie să fie amplasate la centimetri distanță, în loc de câțiva milimetri. Această schimbare structurală promite o extindere semnificativă a capacității, compania vizând atingerea a 10 TB de memorie per pachet. Renunțând la traseele electrice, care întâmpină dificultăți în menținerea integrității semnalului la viteze și distanțe mari, Volantis urmărește să atingă o lățime de bandă impresionantă de 240 TB/s, ceea ce ar permite, teoretic, rularea unor modele de 20 de trilioane de parametri la o viteză de 10.000 de token-uri pe secundă.
Acceleratorul A-1 și integrarea VCSEL
Piesa centrală a acestei inovații este acceleratorul A-1, care se concentrează în principal pe designul interpozorului optic. Volantis a adoptat o strategie de „licențiere pentru restul componentelor”, parteneriind cu furnizori de IP consacrați pentru elementele esențiale de calcul și memorie, în timp ce păstrează arhitectura optică drept tehnologie proprietară. Această abordare permite echipei să își direcționeze resursele de inginerie către obiectivul cu risc ridicat și recompensă pe măsură: integrarea fotonicii direct în procesul de împachetare.
Un element diferențiator critic în designul A-1 este utilizarea laserelor micro-VCSEL (vertical-cavity surface-emitting lasers). În timp ce designurile bazate pe fotonică se bazează adesea pe surse laser externe, Volantis integrează aceste micro-VCSEL-uri direct în interpozor. CTO-ul Roy Meade subliniază o filosofie de design „lată și eficientă”, inspirată de succesul arhitecturilor HBM. În loc să forțeze viteze extreme care ar compromite fiabilitatea, Volantis optează pentru un design de bus ultra-lat. Această strategie prioritizează stabilitatea și eficiența energetică, vizând un consum de 1 picojoule per bit pe o magistrală de 24 Gbps.
De ce contează
- Depășirea limitelor fizice: Ghidurile de undă optice elimină limitarea tradițională a spațiului de pe marginea cipurilor, permițând stocuri de memorie considerabil mai mari per cip.
- Licențiere strategică: Concentrându-se exclusiv pe interpozorul fotonic, Volantis reduce riscurile asociate cu timpul de lansare pe piață, inevitabile în cazul proiectării procesoarelor de la zero.
- Eficiență la scară: Abordarea arhitecturală „lată și eficientă” sugerează o cale mai sustenabilă pentru alimentarea următoarei generații de centre de date AI masive.
- Integrare verticală: Spre deosebire de competitorii care doar își licențiază tehnologia fotonică, Volantis construiește un produs finit pentru inferență, transformând conceptul teoretic într-o realitate practică.
Drumul către producție
Compania a obținut recent o finanțare de 88 de milioane de dolari, un capital esențial care îi va permite să treacă de la actualele demonstratoare optice de laborator la un prototip funcțional. CEO-ul Tapa Ghosh recunoaște complexitatea demersului, în special provocarea de a integra diverse blocuri IP licențiate într-un sistem coerent și performant. Obiectivul este trecerea de la stadiul de planșă la un produs minim viabil (MVP) în următoarele 12-18 luni.
Deși piața hardware este aglomerată cu companii care încearcă să rezolve criza interconexiunilor — inclusiv eforturi notabile din partea unor firme precum Lightmatter și Celestial AI — Volantis se diferențiază prin concentrarea pe produsul accelerator finit, nu doar pe IP-ul fotonic de bază. Dacă va avea succes, această tranziție către comunicarea bazată pe lumină ar putea reconfigura fundamental modul în care sunt construite centrele de date, punând capăt, eventual, erei în care scalarea AI este limitată de memorie.
