Che cosa sono le NPU e quali telefoni le utilizzano
Le NPU esistono da tempo
La NPU, acronimo di neural processing unit, rappresenta un modulo di elaborazione all’interno del SoC (system-on-chip) di uno smartphone, accanto a CPU e GPU. Diversi modelli recenti di SoC come Snapdragon, Exynos, Dimensity e le serie A di Apple, nonché alcuni processori Intel, AMD e Apple per desktop e mobile, includono tale tecnologia.
Le NPU sono presenti nei SoC da diversi anni. Qualcomm ha introdotto il suo AI Engine con Snapdragon 820 nel 2015, mentre Apple ha lanciato il suo Neural Engine con il chip A11 Bionic nel 2017. Questi moduli stanno acquisendo più rilevanza grazie all’interesse crescente verso l’Intelligenza Artificiale e le sue funzionalità.
Perché le NPU sono importanti
Il compito principale di una NPU è quello di accelerare i processi legati all’intelligenza artificiale e alle applicazioni di machine learning. Tra gli esempi troviamo il riconoscimento di persone e oggetti, la generazione di testo e immagini, la conversione della voce in testo, la traduzione in tempo reale e la previsione delle parole che un utente potrebbe voler digitare.
Sebbene non sia necessario avere una NPU per eseguire queste operazioni, la sua presenza consente di velocizzare il processo, migliorare l’efficienza energetica e ridurre la dipendenza dal cloud computing. La specificità dei calcoli richiesti dalle attività AI rende sensata l’ottimizzazione di un’unità di elaborazione per tali compiti.
Differenze tra CPU e NPU
La CPU è un’unità di elaborazione generale in grado di eseguire operazioni matematiche complesse con alta precisione, ma non è ottimizzata per l’esecuzione parallela di molte operazioni. La GPU risulta più adatta in tal senso, mentre la NPU si distingue per la sua alta efficienza, eseguendo operazioni simili con un consumo energetico ridotto. Questo la rende estremamente vantaggiosa per i dispositivi mobili a batteria.
Vantaggi dell’intelligenza artificiale on-device
Un altro aspetto positivo del processo on-device è che alcune operazioni di AI vengono eseguite direttamente sul dispositivo piuttosto che nel cloud, il che può risultare più rapido. Questo è particolarmente vantaggioso per attività leggere come la conversione della voce in testo e il riconoscimento degli oggetti nelle fotografie. Inoltre, l’IA locale contribuisce a garantire la privacy degli utenti, poiché i dati sensibili non vengono rilasciati all’esterno.
Caratteristiche tecniche delle TPU nei Google Pixel
Per quanto riguarda il Google Pixel 9, noto per le sue innovative funzionalità AI, non si fa riferimento a una NPU, bensì a una TPU (tensor processing unit). Questa unità, progettata esclusivamente da Google, è ottimizzata per le applicazioni di machine learning e AI, essendo utilizzata solo nei dispositivi Google e nei loro datacenter.
Cosa sono i TOPS delle NPU
Un paragone con la potenza dei motori
La performance delle NPU viene misurata in TOPS (trilioni di operazioni al secondo). Quest’unità indica la capacità di eseguire calcoli. Fattori quali la frequenza operativa e il numero di unità di operazione MAC influenzano i TOPS di una NPU. Ad esempio, il chip Snapdragon 8 Gen 3 raggiunge 45 TOPS, mentre i chip Nvidia di alta gamma superano i 1.300 TOPS. È importante notare che le richieste di TOPS per diverse applicazioni AI non sono sempre specificate.
Il futuro delle NPU
Le NPU non hanno l’intento di sostituire CPU o GPU, ma di migliorare l’efficienza degli SoC mobili, gestendo i compiti legati all’intelligenza artificiale e risparmiando energia. Con l’integrazione dell’AI negli smartphone, ci si aspetta un crescente uso delle NPU in futuro.
Lascia un commento