Il rapido sviluppo del calcolo AI sta spingendo i processori dei server verso un maggiore consumo energetico e una maggiore densità di flusso termico. Poiché il calcolo basato su GPU diventa sempre più importante per l'addestramento e l'inferenza AI, la gestione termica non è più semplicemente una questione di selezionare un dissipatore di calore più grande. L'interfaccia termica tra la sorgente di calore e la struttura di raffreddamento può avere un impatto significativo sulle prestazioni complessive del sistema.

Per i server AI ad alta densità, componenti diversi generano diversi livelli di calore e hanno diverse geometrie di interfaccia. I package di GPU e CPU possono richiedere una resistenza termica estremamente bassa, mentre la memoria e i componenti ausiliari possono necessitare di materiali sottili e conformabili. I componenti di alimentazione PCB possono richiedere sia conducibilità termica che isolamento elettrico, mentre le strutture a livello di sistema possono beneficiare della diffusione laterale del calore.

Questo caso cliente dimostra come una combinazione di TIM a metallo liquido, materiale a cambiamento di fase, pad termici e materiali di interfaccia termica a base di grafene possa essere utilizzata per costruire una strategia di gestione termica multilivello per sistemi di calcolo AI ad alta densità.

I moderni server AI integrano più GPU, CPU, dispositivi di memoria, componenti di alimentazione e altri elementi che generano calore ad alte prestazioni in uno spazio relativamente compatto.

Ciò crea diverse sfide termiche.

I processori ad alte prestazioni generano calore concentrato in aree relativamente piccole. Con l'aumento del consumo energetico delle GPU, la resistenza termica tra il chip e la struttura di raffreddamento diventa sempre più importante.

Anche quando una piastra fredda o un dissipatore di calore ha una capacità di raffreddamento sufficiente, un'interfaccia mal progettata può limitare il trasferimento di calore.

Le architetture dei server AI contengono componenti con diverse altezze di package e geometrie superficiali. Piccoli spazi tra un componente che genera calore e la sua struttura di raffreddamento possono introdurre sacche d'aria, aumentando la resistenza termica.

Il TIM deve quindi fornire sufficiente conformabilità e riempimento degli spazi senza introdurre uno spessore di materiale non necessario.

I componenti di alimentazione e gli assemblaggi PCB possono richiedere la gestione termica mantenendo l'isolamento elettrico. Un materiale con elevata conducibilità termica da solo potrebbe non essere sufficiente.

Possono anche essere presi in considerazione la conformabilità meccanica, le prestazioni di compressione, il metodo di assemblaggio e le proprietà dielettriche.

Più GPU che operano contemporaneamente possono creare zone termiche concentrate. Se il calore non può essere distribuito efficacemente, possono svilupparsi hotspot localizzati sul dissipatore di calore, sul telaio o su altre strutture termiche.

Ciò rende la diffusione del calore una parte importante della progettazione termica complessiva dei server AI.

Invece di utilizzare un unico TIM per ogni componente, il progetto ha adottato una strategia di materiali specifica per l'applicazione.

Ogni interfaccia termica è stata valutata in base alla sua generazione di calore, allo spazio dell'interfaccia, all'obiettivo di resistenza termica, ai requisiti meccanici e ai requisiti elettrici.

L'architettura risultante ha combinato quattro diverse tecnologie TIM:

Questo approccio consente a ciascun materiale di svolgere la funzione per cui è più adatto.

Le GPU e le CPU sono tipicamente tra i componenti più esigenti dal punto di vista termico in un server AI.

Per queste interfacce, l'obiettivo principale è minimizzare la resistenza termica tra il package del semiconduttore e la struttura di raffreddamento.

Il progetto ha utilizzato il TIM a metallo liquido della serie TIG78 per interfacce ad alta potenza.

Secondo i dati del caso forniti, il materiale offre:

• Conducibilità termica fino a 78 W/m·K

• Impedenza termica riportata fino a 0,02 °C·in²/W

• Intervallo di temperatura operativa di -45°C a 200°C

La combinazione di elevata conducibilità termica e bassa impedenza termica riportata aiuta a stabilire un percorso di trasferimento del calore efficiente dal processore al dissipatore di calore o alla struttura di raffreddamento.

Il TIM a metallo liquido può essere particolarmente interessante per applicazioni ad alta potenza in cui ogni incremento di resistenza termica dell'interfaccia è importante.

Tuttavia, gli ingegneri devono anche considerare l'isolamento elettrico, la compatibilità dei materiali, il processo di applicazione, il contenimento e l'affidabilità a lungo termine quando progettano un'interfaccia a metallo liquido.

Non tutte le interfacce termiche in un server AI richiedono l'estrema bassa resistenza termica associata al metallo liquido.

La memoria e i componenti ausiliari hanno spesso requisiti termici diversi e possono beneficiare di un materiale di interfaccia molto sottile in grado di conformarsi alle superfici di accoppiamento.

Il materiale a cambiamento di fase TIC800 è stato selezionato per queste applicazioni.

Le specifiche fornite includono:

• Conducibilità termica: 5,0 W/m·K

• Intervallo di spessore: 0,102–0,305 mm

Durante il funzionamento, il comportamento a cambiamento di fase consente al materiale di conformarsi all'interfaccia in condizioni appropriate, contribuendo a minimizzare gli spazi d'aria microscopici.

Per architetture di server AI compatte, un'interfaccia sottile a cambiamento di fase può fornire un equilibrio pratico tra prestazioni termiche, conformabilità dell'interfaccia e integrazione a livello di package.

I requisiti di gestione termica sono diversi attorno all'elettronica di potenza e ai componenti PCB.

Queste aree possono presentare superfici irregolari o variazioni di altezza dei componenti e possono anche richiedere isolamento elettrico.

Il pad termico TIF800TU-16W è stato utilizzato per queste applicazioni.

I dati del prodotto forniti riportano:

• Conducibilità termica: 16 W/m·K

• Durezza: 45 Shore 00

• Opzioni di spessore: 0,5–5,0 mm

• Caratteristiche di isolamento termico ed elettrico

Rispetto al metallo liquido, un pad termico fornisce un'interfaccia allo stato solido più conveniente per applicazioni in cui sono importanti il riempimento degli spazi, la conformabilità meccanica, l'isolamento e l'efficienza di assemblaggio.

La possibilità di selezionare diversi spessori consente inoltre al materiale di adattarsi a diversi spazi tra componenti e dissipatori di calore.

Gestire il calore all'interfaccia chip-dissipatore è solo una parte della sfida termica.

Nei sistemi AI ad alta densità, il calore localizzato può accumularsi anche nei dissipatori di calore, nelle strutture del telaio e in altre parti del percorso termico.

Per queste applicazioni, i materiali di interfaccia termica a base di grafene possono fornire una funzione aggiuntiva di diffusione del calore.

I dati del progetto forniti riportano una conducibilità termica in piano fino a:

130 W/m·K

L'obiettivo principale non è semplicemente trasferire il calore verticalmente attraverso l'interfaccia. Al contrario, l'elevata conducibilità termica in piano aiuta a distribuire il calore localizzato su un'area più ampia.

Le potenziali applicazioni includono:

• Piastre di base del dissipatore di calore

• Diffusione termica del telaio

• Sistemi multi-GPU

• Gestione degli hotspot localizzati

• Equalizzazione della temperatura

Poiché i materiali termici a base di grafene possono presentare un comportamento termico anisotropo, gli ingegneri dovrebbero valutare sia le prestazioni termiche in piano che quelle attraverso il piano in base alla direzione effettiva del flusso di calore.

Un errore comune nella progettazione termica è selezionare un TIM basandosi solo sulla sua conducibilità termica.

In realtà, le prestazioni termiche dipendono dall'interfaccia completa.

Ad esempio, un materiale con conducibilità termica estremamente elevata potrebbe non essere la scelta migliore se l'applicazione richiede:

• Riempimento di grandi spazi

• Isolamento elettrico

• Elevata comprimibilità

• Facilità di assemblaggio

• Conformabilità complessa della superficie

• Dispensing automatizzato

• Basso stress meccanico

Al contrario, un pad termico con conducibilità termica moderata potrebbe essere più appropriato per un componente di alimentazione PCB se l'isolamento elettrico e la compensazione degli spazi sono critici.

Pertanto, il processo di selezione dovrebbe iniziare con il requisito dell'interfaccia termica, piuttosto che chiedere semplicemente quale TIM abbia il valore W/m·K più alto.

Una strategia di selezione semplificata per la gestione termica dei server AI è:

Considerare un TIM a bassa resistenza come il metallo liquido quando l'applicazione supporta le condizioni elettriche, meccaniche, di compatibilità e di affidabilità richieste.

I materiali a cambiamento di fase possono fornire un'interfaccia sottile e conformabile per spazi controllati.

I pad termici possono fornire una combinazione di trasferimento termico, isolamento elettrico, riempimento degli spazi e conformabilità meccanica.

I materiali di interfaccia termica a base di grafene possono aiutare a distribuire il calore lateralmente e ridurre la concentrazione di temperatura.

Ciò crea un'architettura termica in cui ogni materiale ha un ruolo chiaramente definito.

Secondo i materiali del progetto forniti, le soluzioni di gestione termica sono state valutate in applicazioni di server AI e centri di calcolo intelligenti.

Un progetto di server AI riportato per un provider di servizi cloud ha ottenuto:

Temperatura del chip: 88°C → 65°C

Lo stesso materiale del caso ha riportato un miglioramento del 28% delle prestazioni di calcolo.

In un altro progetto di ottimizzazione del raffreddamento di un centro di calcolo intelligente, i dati forniti hanno riportato:

PUE: 1,42 → 1,08

I materiali del progetto hanno anche riportato risparmi energetici annuali superiori a 5 milioni di kWh.

Per un server AI ad alte prestazioni auto-sviluppato, il materiale del caso fornito ha riportato:

• 10.000 ore di funzionamento continuo

• Fluttuazione di temperatura di ≤ ±2°C

• Zero guasti segnalati

Questi dati dovrebbero essere verificati rispetto alle condizioni di test applicabili, ai rapporti di prova, alle approvazioni dei clienti e alle specifiche finali del prodotto prima della pubblicazione esterna.

La lezione più importante di questo progetto è che la gestione termica dei server AI deve essere considerata come un percorso termico completo.

Il sistema di raffreddamento include più della GPU e della piastra fredda.

Include anche:

Semiconduttore → TIM → Diffusore di Calore / Piastra Fredda → Dissipatore di Calore → Telaio → Sistema di Raffreddamento

Qualsiasi resistenza termica significativa all'interno di questo percorso può influire sulla temperatura finale del sistema.

Ecco perché diverse tecnologie TIM possono lavorare insieme all'interno dello stesso server.

Il metallo liquido può ridurre la resistenza termica alle interfacce di chip ad alta potenza.

Il materiale a cambiamento di fase può fornire interfacce sottili e conformabili.

I pad termici possono adattarsi a spazi più grandi fornendo isolamento elettrico.

I materiali a base di grafene possono diffondere il calore lateralmente e migliorare l'uniformità della temperatura.

Insieme, queste tecnologie forniscono un approccio più flessibile alla gestione termica dei server AI ad alta densità.

Una strategia termica multi-materiale correttamente progettata può fornire diversi vantaggi:

• Minore Resistenza Termica dell'Interfaccia

• Migliore Compensazione degli Spazi

• Maggiore Sicurezza Elettrica

• Migliore Uniformità della Temperatura

• Maggiore Flessibilità di Progettazione

Poiché i server AI continuano a evolversi verso una maggiore densità di potenza delle GPU, architetture compatte e sistemi di raffreddamento avanzati, i materiali di interfaccia termica giocheranno un ruolo sempre più importante nel mantenere le prestazioni di calcolo e l'affidabilità del sistema.

La chiave non è semplicemente scegliere il TIM con la più alta conducibilità termica.

Una soluzione di gestione termica di successo deve considerare la combinazione completa di:

Conducibilità Termica + Resistenza Termica + Spazio + Compressione + Isolamento Elettrico + Processo di Assemblaggio + Affidabilità

In questo progetto cliente, una combinazione di metallo liquido TIM, materiale a cambiamento di fase, pad termici ad alta conducibilità termica e materiali di interfaccia termica a base di grafene è stata utilizzata per affrontare diverse interfacce termiche in un server AI ad alta densità.

Questo approccio specifico per l'applicazione fornisce un percorso flessibile per la gestione sia degli hotspot a livello di chip che della distribuzione del calore a livello di sistema, supportando lo sviluppo continuo di un'infrastruttura di calcolo AI ad alte prestazioni.

Non esiste un TIM universalmente migliore. Per le interfacce GPU-raffreddamento ad alta potenza, i materiali a bassa resistenza termica come il metallo liquido possono essere considerati quando l'applicazione soddisfa le condizioni elettriche, meccaniche, di compatibilità e di affidabilità richieste.

I pad termici rimangono utili per le interfacce che richiedono riempimento degli spazi, isolamento elettrico, conformabilità meccanica e praticità di assemblaggio. Sono particolarmente adatti per applicazioni PCB e componenti di alimentazione.

I materiali a cambiamento di fase possono fornire un'interfaccia sottile migliorando la conformabilità alle superfici di accoppiamento in condizioni operative appropriate. Possono essere utili per la memoria e altri interfacce di componenti compatti.

I materiali di interfaccia termica a base di grafene possono essere utilizzati per la diffusione laterale del calore e l'equalizzazione della temperatura. La loro elevata conducibilità termica in piano li rende particolarmente interessanti per la gestione degli hotspot e la distribuzione termica a livello di sistema.

Lo spessore del TIM dovrebbe basarsi sullo spazio effettivo dell'interfaccia, sulla tolleranza del componente, sulla compressione richiesta e sull'intervallo di applicazione raccomandato dal produttore. Troppo poco materiale può lasciare spazi d'aria, mentre uno spessore eccessivo può aumentare la resistenza termica.

Sì. Componenti diversi hanno requisiti termici e meccanici diversi. Una strategia multi-TIM può combinare metallo liquido, materiali a cambiamento di fase, pad termici, gel termici e materiali a base di grafene all'interno di diverse parti della stessa architettura termica.

ZIITEK fornisce molteplici tecnologie di interfaccia termica e può valutare la selezione del TIM in base a conducibilità termica, resistenza termica, spazio, durezza, isolamento elettrico, processo di assemblaggio, temperatura operativa e requisiti di affidabilità.