È 1.000 volte più efficiente. O almeno questo è il discorso.
L’intelligenza artificiale non convenzionale ha presentato un nuovo modello chiamato Un-0. Genera immagini senza il tipico lavoro pesante digitale. Invece di transistor al silicio che attivano e disattivano i bit, questo sistema utilizza la fisica. Nello specifico, una rete di oscillatori fisici.
L’azienda è stata lanciata da ex pezzi grossi del MIT, Stanford, Google e Databricks. Affermano che questo approccio “super efficiente” potrebbe rimodellare il modo in cui pensiamo all’infrastruttura informatica. I dettagli sono stati rilasciati il 25 giugno. Il modello è open source su GitHub.
Ma cosa significa concretamente questo per la bolletta energetica? E per il futuro dell’IA generativa?
La fisica della generazione delle immagini
Diamo un’occhiata a come siamo arrivati qui. I generatori di immagini AI standard come DALL-E o Midjourney si basano sull’elaborazione tradizionale. Usano miliardi di minuscoli interruttori. Transistor.
Questi interruttori si attivano/disattivano. SU. Spento. SU. Spento.
Eseguono calcoli complessi. Il sistema inizia con un rumore statico. Cerca di sottrarre quel rumore. Prevede quali pixel mancano. Lo ripete dalle 20 alle 100 volte. Ogni passaggio perfeziona l’immagine. È una faticaccia. Uno matematico.
Un-0 fa qualcosa di diverso. Si basa sul modello Kuramoto.
Ciò coinvolge gli oscillatori. Dispositivi che producono onde continue. Come un metronomo. Immagina due pendoli collegati da una molla. Alla fine si sincronizzano. I loro ritmi si allineano.
Un-0 lo amplia. Migliaia di oscillatori collegati tra loro.
Come Un-0 genera immagini
Il processo non è basato su codice. È dinamico.
Diversi modelli di angoli dell’oscillatore rappresentano diverse classi di immagini. Scarpe. Treni. Gatti.
Il modello inizia con un ampio gruppo di oscillatori casuali. Quindi introduce un gruppo “di controllo” più piccolo. Questo gruppo è impostato su un angolo specifico. Funziona come un prompt.
Questi gruppi sono fisicamente collegati. Quando inizia il movimento, il gruppo di controllo allinea gli altri. Col tempo. Il sistema si assesta in uno schema.
Poi arriva l’istantanea.
Gli angoli di tutti gli oscillatori diventano una griglia di numeri. Un decodificatore traduce quella griglia in pixel colorati. Viene visualizzata un’immagine. Non è richiesta alcuna moltiplicazione massiccia della matrice. Solo dinamica fisica.
L’efficienza energetica è l’obiettivo principale
Perché affrontare il problema? Consumo energetico.
I modelli di intelligenza artificiale tradizionali sono affamati. Capovolgono i transistor trilioni di volte al secondo. Ogni lancio costa energia. Il costo cumulativo è sconcertante.
L’addestramento del GPT-3 di OpenAI ha richiesto 1.287 megawattora. Abbastanza per alimentare una casa media del Regno Unito per 475 anni. Questo è solo un modello. E ci alleniamo di più ogni giorno.
Un-0 afferma di utilizzare molta meno energia. L’idea è semplice. Lascia che la corrente scorra senza ostacoli. Utilizzare circuiti chiusi in cui il percorso naturale crea l’oscillazione. Nessuna forzatura. Nessun capovolgimento. Fluisci e basta.
Efficienza teorica. Potenziale del mondo reale.
Risultati del benchmark
Il team ha testato Un-0 rispetto a parametri di riferimento standard. CIFAR-10 e ImageNet 64×64.
Hanno utilizzato la distanza di inizio Fréchet (FID) come metrica. Più basso è meglio. Maggiore precisione.
Nei test CIFAR-10:
* 1.024 oscillatori hanno ottenuto 11,01.
* 4.096 oscillatori hanno ottenuto un punteggio di 8,76.
ImageNet 64×64 era più difficile.
* 6.656 oscillatori hanno ottenuto un punteggio di 8,41.
* 16.384 oscillatori hanno ottenuto un punteggio di 6,74.
Questi punteggi sono paragonabili alle prime generazioni di GAN. Come BigGAN o iDDPM. Non stanno battendo DALL-E 3. Ancora.
“Consideriamo Un-0 come un primo approccio promettente”, ha osservato il team. La qualità si sovrappone a modelli consolidati di anni fa. I generatori convenzionali sono ancora più potenti in termini di qualità assoluta. Il divario rimane. Ma la direzione è nuova.
Il controllo della realtà dell’hardware
C’è un problema.
Al momento, Un-0 funziona su hardware tradizionale. È una simulazione.
L’obiettivo è costruire veri e propri chip basati su oscillatori. Hardware che sfrutta le leggi fisiche anziché la logica binaria. È qui che si materializzerebbero i guadagni di efficienza. Fino ad allora, vediamo la logica. Non il prodotto finale.
Il team ha rilasciato i pesi del modello. Gli script di formazione. Gli studi sull’ablazione. Vogliono che altri lo mettano alla prova. Per eseguire simulazioni.
“Consideriamo Un-0 come una promettente prima prova di concetto”, hanno scritto. “Punta nella direzione di un nuovo computer.”
Uno che sfrutta la fisica. Per raggiungere l’efficienza energetica.
È questa la fine dell’era dei transistor? Probabilmente non domani. Ma è un inizio. Un inizio diverso.
Il codice è aperto. La fisica è valida. Il resto è ingegneria.
Vedremo se i chip riusciranno a tenere il passo con la teoria.
