C’est 1 000 fois plus efficace. Ou du moins c’est le pitch.
L’IA non conventionnelle a dévoilé un nouveau modèle appelé Un-0. Il génère des images sans les lourdes tâches numériques typiques. Au lieu de transistors en silicium activant et désactivant les bits, ce système utilise la physique. Plus précisément, un réseau d’oscillateurs physiques.
La société a été lancée par d’anciens poids lourds du MIT, Stanford, Google et Databricks. Ils affirment que cette approche « ultra-efficace » pourrait remodeler notre façon de concevoir l’infrastructure informatique. Les détails ont été publiés le 25 juin. Le modèle est open source sur GitHub.
Mais qu’est-ce que cela signifie concrètement pour votre facture d’énergie ? Et pour l’avenir de l’IA générative ?
La physique de la génération d’images
Voyons comment nous en sommes arrivés là. Les générateurs d’images IA standard comme DALL-E ou Midjourney s’appuient sur l’informatique traditionnelle. Ils utilisent des milliards de minuscules interrupteurs. Transistors.
Ces commutateurs basculent. Sur. Désactivé. Sur. Désactivé.
Ils effectuent des calculs complexes. Le système démarre avec du bruit statique. Il essaie de soustraire ce bruit. Il prédit quels pixels manquent. Il répète cela 20 à 100 fois. Chaque passage affine l’image. C’est une corvée. Une question mathématique.
Un-0 fait quelque chose de différent. Il s’appuie sur le modèle Kuramoto.
Cela implique des oscillateurs. Appareils qui produisent des ondes continues. Comme un métronome. Imaginez deux pendules reliés par un ressort. Ils finissent par se synchroniser. Leurs rythmes s’alignent.
Un-0 augmente cela. Des milliers d’oscillateurs reliés entre eux.
Comment Un-0 génère des images
Le processus n’est pas basé sur du code. C’est dynamique.
Différents modèles d’angles d’oscillateur représentent différentes classes d’images. Chaussures. Les trains. Chats.
Le modèle commence avec un grand groupe d’oscillateurs aléatoires. Ensuite, il introduit un groupe « témoin » plus petit. Ce groupe est défini selon un angle spécifique. Il agit comme une invite.
Ces groupes sont physiquement liés. Lorsque le mouvement commence, le groupe de contrôle aligne les autres. Au fil du temps. Le système s’installe dans un modèle.
Vient ensuite le cliché.
Les angles de tous les oscillateurs deviennent une grille de nombres. Un décodeur traduit cette grille en pixels de couleur. Une image apparaît. Aucune multiplication matricielle massive requise. Juste une dynamique physique.
L’efficacité énergétique est l’objectif principal
Pourquoi se donner du mal ? Consommation d’énergie.
Les modèles d’IA traditionnels ont faim. Ils retournent les transistors des milliards de fois par seconde. Chaque lancer coûte de l’énergie. Le coût cumulé est stupéfiant.
La formation du GPT-3 d’OpenAI a nécessité 1 287 mégawattheures. De quoi alimenter en électricité une maison britannique moyenne pendant 475 ans. Ce n’est qu’un modèle. Et nous nous entraînons davantage chaque jour.
Un-0 prétend utiliser beaucoup moins d’énergie. L’idée est simple. Laissez le courant circuler sans obstruction. Utilisez des boucles fermées où le chemin naturel crée l’oscillation. Pas de forçage. Pas de retournement. Il suffit de couler.
Efficacité théorique. Potentiel du monde réel.
Résultats de référence
L’équipe a testé Un-0 par rapport à des références standard. CIFAR-10 et ImageNet 64×64.
Ils ont utilisé la distance de démarrage de Fréchet (FID) comme mesure. Plus bas, c’est mieux. Une plus grande précision.
Dans les tests CIFAR-10 :
* 1 024 oscillateurs ont obtenu une note de 11,01.
* 4 096 oscillateurs ont obtenu une note de 8,76.
ImageNet 64×64 était plus difficile.
* 6 656 oscillateurs ont obtenu une note de 8,41.
* 16 384 oscillateurs ont obtenu une note de 6,74.
Ces scores sont comparables à ceux des premières générations de GAN. Comme BigGAN ou iDDPM. Ils ne battent pas DALL-E 3. Pour l’instant.
“Nous considérons Un-0 comme une première approche prometteuse”, a noté l’équipe. La qualité chevauche celle des modèles établis d’il y a des années. Les générateurs conventionnels sont encore plus puissants en qualité absolue. L’écart demeure. Mais la direction est nouvelle.
La vérification de la réalité matérielle
Il y a un piège.
À l’heure actuelle, Un-0 fonctionne sur du matériel traditionnel. C’est une simulation.
L’objectif est de créer de véritables puces basées sur des oscillateurs. Matériel qui exploite les lois physiques plutôt que la logique binaire. C’est là que les gains d’efficacité se matérialiseraient. En attendant, nous voyons la logique. Pas le produit final.
L’équipe a publié les poids du modèle. Les scripts de formation. Les études d’ablation. Ils veulent que d’autres le testent. Pour exécuter des simulations.
“Nous considérons Un-0 comme une première preuve de concept prometteuse”, ont-ils écrit. “Cela pointe vers un nouvel ordinateur.”
Celui qui exploite la physique. Pour atteindre l’efficacité énergétique.
Est-ce la fin de l’ère des transistors ? Probablement pas demain. Mais c’est un début. Un autre type de départ.
Le code est ouvert. La physique est saine. Le reste est de l’ingénierie.
Nous verrons si les puces peuvent suivre la théorie.
