1000krát účinnější. Nebo alespoň to je základní sdělení.
Nekonvenční umělá inteligence představila nový model Un-0, který generuje snímky bez tradiční digitální zátěže. Namísto křemíkových tranzistorů přepínajících bity tento systém využívá fyziku. A sice síť fyzických oscilátorů.
Společnost byla založena bývalými předními odborníky z MIT, Stanfordu, Googlu a Databricks. Tvrdí, že tento „ultraefektivní“ přístup by mohl změnit způsob, jakým přemýšlíme o počítačové infrastruktuře. Podrobnosti byly zveřejněny 25. června. Model je dostupný jako open source na GitHubu.
Co to ale ve skutečnosti znamená pro váš účet za elektřinu a budoucnost generativní umělé inteligence?
Fyzika generování obrazu
Podívejme se, jak jsme se k tomuto bodu dostali. Standardní generátory obrazu AI, jako je DALL-E nebo Midjourney, spoléhají na tradiční výpočetní techniku. Používají miliardy malých spínačů nazývaných tranzistory.
Tyto spínače se zapínají a vypínají.
Provádějí složité matematické výpočty. Systém začíná s náhodným šumem, snaží se jej eliminovat, předpovídá chybějící pixely a proces opakuje 20 až 100krát. Každý průchod zlepšuje kvalitu obrazu. Je to vyčerpávající matematická práce.
Un-0 dělá věci jinak. Spoléhá na Kuramotův model.
Zahrnuje oscilátory – zařízení, která produkují spojité vlny, jako metronom. Představte si dvě kyvadla spojená pružinou. Postupem času se synchronizují, jejich rytmy se sladí.
Un-0 měří tento princip. Tisíce oscilátorů propojených dohromady.
Jak Un-0 generuje obrázky
Proces není založen na kódu v tradičním smyslu, je dynamický.
Různé vzory úhlů oscilátoru představují různé třídy obrázků: boty, vlaky, kočky.
Model začíná velkou skupinou náhodných oscilátorů. Poté je představena menší „kontrolní“ skupina. Je instalován v určitém rohu a funguje jako výzva.
Tyto skupiny jsou fyzicky propojeny. Když pohyb začne, řídící skupina vtáhne ostatní do synchronizace. Postupem času se systém stabilizuje v určitém vzoru.
Zde se vyskytuje snímek stavu.
Úhly všech oscilátorů jsou převedeny na mřížku čísel. Dekodér převádí tuto mřížku na barevné pixely. Objeví se obrázek. Není vyžadováno masivní násobení matrice. Pouze fyzická dynamika.
Energetická účinnost je hlavním cílem
Proč všechna tato složitost? Spotřeba energie.
Tradiční modely umělé inteligence mají hlad. Spínají tranzistory bilionkrát za sekundu. Každý spínač vyžaduje energii. Kumulované náklady na tyto náklady jsou ohromující.
Školení GPT-3 OpenAI vyžadovalo 1 287 megawatthodin. To stačí k napájení průměrné britské domácnosti na 475 let. Toto je pouze jeden model a každý den trénujeme nové.
Un-0 si nárokuje významné úspory energie. Myšlenka je jednoduchá: nechte proud volně proudit. Použijte uzavřené smyčky tam, kde přirozená cesta vytváří vibrace. Žádné nucené přepínání. Žádné překlápění. Jen proudit.
Teoretická účinnost. Skutečný potenciál.
Výsledky testu
Tým testoval Un-0 proti standardním benchmarkům: CIFAR-10 a ImageNet 64×64.
Použitá metrika byla Fréchet Inception Distance (FID). Čím nižší hodnota, tím lepší přesnost.
V testech CIFAR-10:
* 1 024 oscilátorů vykázalo výsledek 11.01.
* 4 096 oscilátorů vykázalo výsledek 8,76.
ImageNet 64×64 se ukázal jako obtížnější.
* 6 656 oscilátorů vykázalo výsledek 8,41.
* 16 384 oscilátorů ukázalo výsledek 6,74.
Tyto výsledky jsou srovnatelné s dřívějšími generacemi GAN, jako je BigGAN nebo iDDPM. S DALL-E 3 ale zatím nekonkurují.
„Považujeme Un-0 za slibný první přístup,“ poznamenal tým. Kvalita se překrývá s modely vytvořenými před několika lety. Tradiční generátory jsou stále lepší než Un-0 v absolutní kvalitě. Mezera zůstává, ale směr pohybu je nový.
Hardwarová realita
Existuje nuance.
V tuto chvíli běží Un-0 na tradičním hardwaru. Toto je simulace.
Cílem je vytvořit skutečné čipy založené na oscilátorech. Hardware, který místo binární logiky používá fyzikální zákony. Zde by se měly projevit výhody efektivity. Zatím vidíme logiku, ne konečný produkt.
Tým zveřejnil modelové váhy, tréninkové skripty a ablační studie. Chtějí, aby to ostatní otestovali, spustili simulace.
„Považujeme Un-0 za slibný první důkaz konceptu,“ napsali autoři. “Ukazuje to směrem k novému počítači.”
Počítač, který využívá fyziku k dosažení energetické účinnosti.
Je to konec éry tranzistorů? Zítra asi ne. Ale to je začátek. Jiný druh začátku.
Kód je otevřený. Fyzika je spolehlivá. Zbytek je úkolem inženýrství.
Uvidíme, zda čipy dostojí teorii.
