LinkedIn non aumenta l’investimento in GPU per il prossimo anno fiscale

LinkedIn ha recentemente comunicato che non prevede di aumentare in modo significativo la spesa per hardware AI nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente invariato, così come l’impronta di calcolo e storage della piattaforma. Questa decisione è il risultato di un significativo miglioramento nell’efficienza delle GPU esistenti, che la società afferma di aver raddoppiato in circa sei mesi.

Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo mentre si introducono nuove funzionalità più esigenti dal punto di vista computazionale. Questo approccio si discosta da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari, con l’aggiunta di 31 data center nell’ultimo trimestre.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, ma questo è stato sospeso nel 2022. La società ha quindi deciso di investire in data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato fondamentale per monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere per un anno senza incremento di storage e compute è un’impresa notevole, che ha richiesto un notevole sforzo. I miglioramenti ottenuti non sono frutto di una singola innovazione, ma piuttosto di un accumulo di progressi, come un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro e la distillazione di modelli più grandi in versioni più piccole.

Questa strategia è stata motivata anche dalla crescente pressione dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la scelta di non aumentare la spesa per hardware rappresenta un’alternativa alla tendenza prevalente di crescita proporzionale dell’hardware.

La rilevanza di questa strategia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo, in un contesto in cui la domanda di servizi digitali continua a crescere.