LinkedIn: Investimenti stabili in GPU per il prossimo anno fiscale

LinkedIn ha comunicato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato, così come l’impronta di calcolo e storage della piattaforma.

Secondo Erran Berger, CTO dell’ingegneria, la società ha raddoppiato l’efficienza delle GPU esistenti in circa sei mesi, grazie a miglioramenti nell’utilizzo delle risorse, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. Questi progressi consentiranno a LinkedIn di utilizzare il margine operativo per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware.

Questo approccio si colloca in un contesto in cui LinkedIn è controllata da Microsoft dal 2016, ma adotta una strategia diversa rispetto all’espansione infrastrutturale del colosso tecnologico. Infatti, Microsoft ha registrato 41 miliardi di dollari di spesa in conto capitale nell’ultimo trimestre, aggiungendo 31 data center nel trimestre e 88 nell’anno, con previsioni di spesa superiori ai 50 miliardi nel trimestre corrente.

In precedenza, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. La società ha quindi deciso di puntare su data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere senza incremento storage e compute per un anno è «non una piccola impresa» e ha richiesto un lavoro significativo. I miglioramenti ottenuti sono presentati come il risultato di un processo cumulativo, piuttosto che di una singola innovazione tecnologica. Tra le misure adottate ci sono un migliore utilizzo delle GPU, la riallocazione dei carichi, la distillazione di modelli più grandi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.

Questa strategia è anche motivata dalla crescente pressione dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la scelta di mantenere invariati gli investimenti hardware rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware. La sua efficacia dipenderà dalla capacità del programma di efficienza di resistere nel tempo.