C’è un modo per far scalare l’AI senza contribuire eccessivamente al riscaldamento globale?
L’Intelligenza Artificiale ha un impatto crescente nelle emissioni del settore digitale, perché dipende dall’utilizzo di enormi quantità di computazione. Quindi mi sono chiesto: quanta CO2 emette ChatGPT? Naturalmente, non lo sa nessuno fuori da Open AI e Microsoft, ma possiamo provare ad arrivarci indirettamente partendo dal numero di Gpu (foto in evidenza) usate e dal loro consumo di elettricità.
L’analista Dylan Patel, esperto di semi-conduttori, ha provato a costruire un modello per calcolare quante Gpu, sarebbero necessarie se tutte le ricerche internet venissero eseguite usando ChatGPT. Il modello è altamente speculativo, basato su indizi e parte dal numero di ricerche eseguite da Google e dall’ipotesi che siano necessarie circa 28 mila Gpu per far usare ChatGPT ai suoi 100 milioni di utenti. Con queste due ipotesi, il modello porta a concludere che, per 320.000 query al secondo, servirebbero circa 4.100.000 Gpu, un numero gigantesco!
Ora calcoliamo l’impronta ecologica. Le Gpu che utilizza Open AI sono le Nvidia A100. Ho scoperto che una Gpu A100, usata al 100% per 24 ore, emette circa 2 tonnellate di co2 all’anno. Questa stima è approssimata per difetto ma anche approssimato per eccesso: non è detto che ciascuna singola Gpu lavori sempre al massimo regime. Quindi, 4 milioni di A100 emetterebbero 8 milioni di tonnellate di C02 / anno. A livello energetico, è come la nascita di una città statunitense da 500 mila abitanti, con tutti i loro consumi (i cittadini Usa producono circa 14t di CO2 all’anno ciascuno). Non è una prospettiva ragionevole né auspicabile: se vogliamo cogliere le opportunità di sistemi sempre più intelligenti, dobbiamo trovare un modo per farlo in maniera più frugale, perché la strada muscolare, creare reti sempre più grandi e aggiungere Gpu, non è una strada percorribile per molto tempo.
Alla fine dei conti, l’intelligenza artificiale è una risorsa preziosa, quindi anche costosa. Dobbiamo trovare il modo per potercela permettere.
Vittorio DI TOMASO, Imprenditore settore ICT