É 1.000 vezes mais eficiente. Ou pelo menos esse é o tom.
A IA não convencional revelou um novo modelo chamado Un-0. Ele gera imagens sem o típico trabalho pesado digital. Em vez de transistores de silício ligando e desligando bits, este sistema usa física. Especificamente, uma rede de osciladores físicos.
A empresa foi lançada por ex-pesaços do MIT, Stanford, Google e Databricks. Eles afirmam que esta abordagem “supereficiente” poderia remodelar a forma como pensamos sobre a infraestrutura computacional. Os detalhes foram divulgados em 25 de junho. O modelo é de código aberto no GitHub.
Mas o que isso realmente significa para sua conta de energia? E para o futuro da IA generativa?
A física da geração de imagens
Vejamos como chegamos aqui. Geradores de imagens de IA padrão, como DALL-E ou Midjourney, dependem da computação tradicional. Eles usam bilhões de pequenos interruptores. Transistores.
Essas opções alternam. Sobre. Desligado. Sobre. Desligado.
Eles realizam matemática complexa. O sistema inicia com ruído estático. Ele tenta subtrair esse ruído. Ele prevê quais pixels estão faltando. Ele repete isso de 20 a 100 vezes. Cada passagem refina a imagem. É uma tarefa árdua. Um matemático.
Un-0 faz algo diferente. Baseia-se no modelo Kuramoto.
Isso envolve osciladores. Dispositivos que produzem ondas contínuas. Como um metrônomo. Imagine dois pêndulos conectados por uma mola. Eles eventualmente sincronizam. Seus ritmos se alinham.
Un-0 aumenta isso. Milhares de osciladores interligados.
Como Un-0 gera imagens
O processo não é baseado em código. É dinâmico.
Diferentes padrões de ângulos do oscilador representam diferentes classes de imagens. Sapato. Trens. Gatos.
O modelo começa com um grande grupo de osciladores aleatórios. Em seguida, introduz um grupo de “controle” menor. Este grupo está definido para um ângulo específico. Ele atua como um prompt.
Esses grupos estão fisicamente ligados. Quando o movimento começa, o grupo de controle alinha os outros. Ao longo do tempo. O sistema se estabelece em um padrão.
Depois vem o instantâneo.
Os ângulos de todos os osciladores tornam-se uma grade de números. Um decodificador traduz essa grade em pixels coloridos. Uma imagem aparece. Nenhuma multiplicação massiva de matrizes é necessária. Apenas dinâmica física.
A eficiência energética é o objetivo principal
Por que passar por problemas? Consumo de energia.
Os modelos tradicionais de IA estão famintos. Eles giram os transistores trilhões de vezes por segundo. Cada jogada custa energia. O custo cumulativo é impressionante.
O treinamento do GPT-3 da OpenAI consumiu 1.287 megawatts-hora. O suficiente para abastecer uma casa média no Reino Unido durante 475 anos. Esse é apenas um modelo. E estamos treinando mais a cada dia.
Un-0 afirma usar significativamente menos energia. A ideia é simples. Deixe a corrente fluir desobstruída. Use circuitos fechados onde o caminho natural cria a oscilação. Sem forçar. Sem inversão. Apenas flua.
Eficiência teórica. Potencial do mundo real.
Resultados de referência
A equipe testou o Un-0 em relação aos benchmarks padrão. CIFAR-10 e ImageNet 64×64.
Eles usaram a distância inicial de Fréchet (FID) como métrica. Menor é melhor. Maior precisão.
Nos testes CIFAR-10:
* 1.024 osciladores pontuaram 11,01.
* 4.096 osciladores pontuaram 8,76.
ImageNet 64×64 foi mais difícil.
* 6.656 osciladores pontuaram 8,41.
* 16.384 osciladores pontuaram 6,74.
Essas pontuações são comparáveis às das primeiras gerações de GANs. Como BigGAN ou iDDPM. Eles não estão vencendo o DALL-E 3. Ainda.
“Vemos o Un-0 como uma primeira abordagem promissora”, observou a equipe. A qualidade se sobrepõe aos modelos estabelecidos de anos atrás. Os geradores convencionais são ainda mais potentes em qualidade absoluta. A lacuna permanece. Mas a direção é nova.
A verificação da realidade do hardware
Há um problema.
No momento, o Un-0 está rodando em hardware tradicional. É uma simulação.
O objetivo é construir chips reais baseados em osciladores. Hardware que aproveita leis físicas em vez de lógica binária. É aí que os ganhos de eficiência se materializariam. Até então, estamos vendo a lógica. Não é o produto final.
A equipe divulgou os pesos do modelo. Os roteiros de treinamento. Os estudos de ablação. Eles querem que outros testem. Para executar simulações.
“Vemos o Un-0 como uma primeira prova de conceito promissora”, escreveram eles. “Isso aponta na direção de um novo computador.”
Aquele que explora a física. Para alcançar a eficiência energética.
Será este o fim da era dos transistores? Provavelmente não amanhã. Mas é um começo. Um tipo diferente de começo.
O código está aberto. A física é sólida. O resto é engenharia.
Veremos se os chips conseguem acompanhar a teoria.
