LinkedIn: Stabilità degli Investimenti in GPU per il Prossimo Anno Fiscale

LinkedIn ha recentemente comunicato che non prevede di aumentare in modo significativo la spesa per l’hardware dedicato all’intelligenza artificiale nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente piatto, e l’impronta di calcolo e storage sarà mantenuta invariata. Questa decisione si basa su un incremento dell’efficienza delle GPU esistenti, che è stata raddoppiata in circa sei mesi grazie a miglioramenti nell’utilizzo, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro.

Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo mentre si introducono funzionalità più esigenti dal punto di vista computazionale. Questo approccio si distingue nettamente da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa di 41 miliardi di dollari in conto capitale, aggiungendo 31 data center nell’ultimo trimestre e 88 nell’anno, con previsioni di oltre 50 miliardi nel trimestre corrente.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, la società ha scelto di investire in data center propri situati in Oregon, Texas e Virginia. Questo controllo sull’intero stack tecnologico è considerato un fattore abilitante, in quanto consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere per un anno senza un incremento di storage e compute è «non una piccola impresa» e ha richiesto un notevole sforzo. I miglioramenti ottenuti sono il risultato di un approccio cumulativo, piuttosto che di una singola innovazione tecnologica. Ciò include un utilizzo più efficiente delle GPU, una riallocazione dei carichi di lavoro, la distillazione di modelli più grandi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.

Questa strategia è stata motivata anche dalla crescente dinamica dei costi: il costo per singola query era in aumento mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la scelta di mantenere stabile l’investimento in hardware rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware. La sua efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.