Il liquid cooling diventa una piattaforma per l’AI

Tuan Hoang, head of Cooling Technology and Product Development di Schneider Electric, segue lo sviluppo delle tecnologie di raffreddamento per i data center ad alta densità. Con lui abbiamo discusso il passaggio dall’aria al liquido, il ruolo del controllo software e il legame sempre più stretto tra raffreddamento e alimentazione.

Perché il raffreddamento ad aria non basta più per i workload ad alta densità?

Il punto di partenza è la densità. Concentrando una quantità molto elevata di potenza computazionale in uno spazio ridotto, il calore generato diventa sempre più difficile da rimuovere con il solo movimento dell’aria. A un certo punto bisognerebbe spostare così tanta aria da trasformare la sala in una galleria del vento, senza la certezza di estrarre il calore in modo efficace dal dissipatore. Per questo serve un fluido con densità e massa termica superiori. L’acqua, a parità di volume, trasporta calore in misura enormemente maggiore rispetto all’aria e permette di trasferire energia termica dal server verso la dissipazione con più efficacia. Ecco perché negli ultimi due anni il liquid cooling è passato da ambito specialistico a tecnologia sempre più rilevante per sostenere i nuovi carichi. Con il direct-to-chip il liquido arriva vicino ai componenti che generano più calore: le piastre collocate su CPU e GPU lo assorbono e lo cedono al fluido, che lo porta a una CDU e poi all’infrastruttura di dissipazione.

Che cosa cambia nella gestione operativa quando il liquido arriva fino al rack?

Cambia il rapporto tra infrastruttura IT e infrastruttura meccanica. In un data center tradizionale il server è un apparato che si scollega, si sposta o si sostituisce con procedure consolidate. Quando il liquido arriva al rack questo approccio va rivisto: occorre formare le persone, aggiornare le procedure e gestire correttamente connessioni, fluido, monitoraggio, manutenzione e sicurezza dell’intervento. Cambia anche il tempo di reazione, perché in ambienti ad alta densità, se si perde il flusso del liquido, la temperatura del server può salire molto rapidamente. Il sistema va quindi monitorato e controllato con precisione: la densità termica rende il cooling un’infrastruttura da governare in modo continuo, più che da verificare a posteriori.

Il futuro sarà interamente liquid cooling o resterà un modello ibrido?

Il raffreddamento ad aria resterà necessario. La domanda riguarda il rapporto tra aria e liquido più che la scomparsa dell’air cooling. Anche nelle architetture direct-to-chip una parte del carico termico resta gestita dall’aria, perché non tutti i componenti sono collegati al circuito liquido e perché alcune aree continueranno a richiedere raffreddamento tradizionale. Il ruolo del liquid cooling crescerà nelle zone ad alta densità e per i rack più intensivi diventerà la scelta naturale, anche per ragioni energetiche: muovere un fluido in una tubazione richiede meno energia che spostare un volume d’aria equivalente, perché le pompe assorbono meno dei ventilatori a parità di carico termico. Questo incide sui costi operativi. Oggi alcuni progetti restano costosi perché nascono come conversione di data center pensati per l’aria, mentre in un’infrastruttura progettata fin dall’inizio per il liquido il costo operativo può scendere sotto quello di un modello basato solo sull’aria.

Il retrofit dei data center esistenti è uno dei passaggi più complessi. Da che cosa dipende la difficoltà della transizione?

Dal punto di partenza. Se un data center è stato progettato solo per l’aria e non dispone di tubazioni per l’acqua refrigerata verso i sistemi di raffreddamento e l’acqua di condensazione verso l’esterno, la transizione al liquido può risultare più costosa. Esistono siti che lavorano al 100% su aria esterna o raffreddamento adiabatico, e in quei casi portare il liquido all’interno richiede un intervento rilevante. Soluzioni comunque ci sono: per esempio le CDU liquid-to-air trasferiscono il calore verso un sistema ad aria, anche se il costo per kW resta più alto rispetto a una CDU liquid-to-liquid installata dove è già presente una rete idraulica. Se l’infrastruttura idraulica esiste la transizione è più semplice, perché la centrale di raffreddamento può restare in parte la stessa, adattando le temperature al workload, e si affiancano o sostituiscono le unità di trattamento aria con CDU che portano la distribuzione ai rack. La complessità dipende quindi dall’impianto esistente, dallo spazio disponibile, dalla capacità di dissipazione e dalla flessibilità del sito.

Nel dibattito sui data center per l’AI si parla anche di evoluzione dell’alimentazione verso la corrente continua a elevata tensione. Qual è il rapporto con il cooling?

La trasformazione del cooling è già avvenuta con il passaggio dall’aria al liquido. Il passaggio successivo riguarda l’alimentazione, ed è qui che si colloca l’800 V DC. Per noi conta soprattutto un punto: quando la potenza per rack cresce in questo modo, la distribuzione elettrica e il raffreddamento smettono di essere due progetti distinti. La densità del rack condiziona il modo di portare energia e, allo stesso tempo, l’integrazione dei componenti di raffreddamento, dalla posizione delle CDU ai percorsi del liquido. È un tema di architettura complessiva, da impostare fin dalla progettazione del sito.

Quanto diventano importanti software, monitoraggio e controllo?

Diventano prioritari. Senza visibilità e controllabilità il sistema non si ottimizza. I workload ad alta densità sono dinamici: cambiano e fluttuano in funzione dell’attività computazionale e il raffreddamento deve adattarsi a ciò che il server richiede e alle condizioni ambientali esterne. Bisogna decidere quando attivare le pompe, quando spegnere i compressori, quando modulare il sistema e quando sfruttare il clima per dissipare calore nel modo più efficiente. Schneider Electric dispone di un portafoglio software che gestisce la soluzione end-to-end, dal bisogno del server fino alla dissipazione termica. Abbiamo osservato miglioramenti di efficienza nell’ordine del 15-20% introducendo un sistema di controllo ottimizzato, capace di modulare l’intero sistema meccanico. 

Qual è il ruolo di Schneider Electric in questa trasformazione?

Schneider Electric è Energy Technology Partner uno dei maggiori provider infrastrutturali per data center, con un portafoglio che copre power, cooling, monitoraggio, software e servizi. Questo comporta la responsabilità di aiutare i clienti ad applicare le tecnologie end-to-end, migliorando efficienza dei costi, efficienza operativa, consumo energetico e ottimizzando il consumo di acqua. Sul cooling lavoriamo su più livelli: offriamo CDU best in class per i server raffreddati a liquido e i workload AI, continuiamo a investire nell’air cooling, che resta necessario per gli spazi attorno ai carichi ad alta densità, e curiamo l’efficienza della dissipazione verso l’esterno con chiller air cooled ad alta efficienza ed economizer. Mettiamo poi a disposizione, attraverso il nostro CTO office, white paper, reference design e risorse tecniche per aiutare le aziende a comporre architetture coerenti con le nuove generazioni di server.

Come vede il mercato italiano?

L’Italia è un mercato importante per lo sviluppo dei data center. Milano concentra una parte significativa degli investimenti, come accade in altre grandi città europee, mentre emergono anche altre aree, tra cui Roma, e il Paese può avere un ruolo rilevante nelle nuove infrastrutture digitali del Mediterraneo. Per Schneider Electric l’Italia ha anche un elemento specifico, il cooling excellence center per data center di Conselve, in provincia di Padova, dove si concentrano attività di ricerca e sviluppo, produzione e competenze tecniche sulle tecnologie di raffreddamento, incluse le soluzioni per ambienti IT ad alta densità. In un mercato in cui AI, densità e sostenibilità stanno ridefinendo la progettazione dei data center, la disponibilità di competenze locali nel campo delle tecnologie di raffreddamento diventa un importante elemento di valore.

Il nodo del consumo d’acqua

La sostenibilità entra nel quadro dei data center per l’AI in modo concreto e oggi un dibattito acceso riguarda il consumo d’acqua delle grandi installazioni. Il liquid cooling, tuttavia, non comporta automaticamente un maggiore utilizzo delle risorse idriche. Le architetture possono essere realizzate in circuito chiuso o integrate con sistemi di dissipazione che riducono o evitano il consumo d’acqua, mentre l’innalzamento dei set point aumenta le ore di economizzazione e diminuisce il ricorso a soluzioni più energivore. Rispetto ad alcuni modelli tradizionali basati su raffreddamento evaporativo, un data center con liquid cooling può quindi ridurre in misura significativa il prelievo idrico. Molte soluzioni Schneider Electric operano senza consumo d’acqua, perché la migliore efficienza d’utilizzo si ottiene evitando l’uso idrico non necessario. La sostenibilità dipende dalla progettazione complessiva, dalla scelta dei sistemi di dissipazione e dalle ore in cui il sito può lavorare in economizzazione.

La temperatura di esercizio più alta migliora l’efficienza

Le architetture liquid cooling lavorano con set point più elevati rispetto a molti sistemi tradizionali ad aria e questo cambia l’intera catena del raffreddamento. Sul lato facility le richieste si collocano spesso intorno 28 °C in mandata e 38 °C in ritorno, con valori ancora più alti sul lato server, dove molte progettazioni superano i 30 °C e alcuni fornitori di chip indicano massimi fino a 45 °C. Rispetto alle architetture tradizionali, che lavorano con acqua refrigerata a temperature più basse, lo spostamento di circa 10 °C aumenta in modo sensibile le ore in cui è possibile sfruttare l’effetto di raffreddamento gratuito (il cosiddetto free cooling) offerto dall’aria ambientale, riducendo il ricorso al raffreddamento meccanico e, in alcune configurazioni, anche il consumo d’acqua. Di conseguenza, l’efficienza del liquido deriva sia dalla maggiore capacità di trasportare energia termica sia dalla possibilità di far lavorare l’intera catena a temperature più favorevoli.