Ini 1.000 kali lebih efisien. Atau setidaknya itulah nadanya.
AI yang tidak konvensional telah meluncurkan model baru yang disebut Un-0. Ini menghasilkan gambar tanpa beban berat digital yang khas. Alih-alih transistor silikon menghidupkan dan mematikan bit, sistem ini menggunakan fisika. Secara khusus, jaringan osilator fisik.
Perusahaan ini diluncurkan oleh mantan pemain berat dari MIT, Stanford, Google, dan Databricks. Mereka mengklaim pendekatan “super efisien” ini dapat mengubah cara kita berpikir tentang infrastruktur komputasi. Detailnya dirilis pada 25 Juni. Model ini bersumber terbuka di GitHub.
Tapi apa sebenarnya pengaruhnya terhadap tagihan energi Anda? Dan untuk masa depan AI generatif?
Fisika pembuatan gambar
Mari kita lihat bagaimana kita sampai di sini. Generator gambar AI standar seperti DALL-E atau Midjourney mengandalkan komputasi tradisional. Mereka menggunakan miliaran saklar kecil. Transistor.
Sakelar ini beralih. Pada. Mati. Pada. Mati.
Mereka melakukan matematika yang rumit. Sistem dimulai dengan kebisingan statis. Ia mencoba mengurangi kebisingan itu. Ini memprediksi piksel apa yang hilang. Ini mengulanginya 20 hingga 100 kali. Setiap lintasan menyempurnakan gambar. Ini sulit. Yang matematis.
Un-0 melakukan sesuatu yang berbeda. Itu bergantung pada model Kuramoto.
Ini melibatkan osilator. Perangkat yang menghasilkan gelombang terus menerus. Seperti metronom. Bayangkan dua pendulum dihubungkan oleh sebuah pegas. Mereka akhirnya melakukan sinkronisasi. Ritme mereka selaras.
Un-0 meningkatkan skala ini. Ribuan osilator saling terhubung.
Bagaimana Un-0 menghasilkan gambar
Prosesnya tidak berbasis kode. Itu dinamis.
Pola sudut osilator yang berbeda mewakili kelas gambar yang berbeda. Sepatu. Kereta api. Kucing.
Model ini dimulai dengan sekelompok besar osilator acak. Kemudian mereka memperkenalkan kelompok “kontrol” yang lebih kecil. Grup ini diatur ke sudut tertentu. Ini bertindak sebagai prompt.
Kelompok-kelompok ini terhubung secara fisik. Saat gerakan dimulai, kelompok kontrol menarik yang lain agar sejajar. Seiring waktu. Sistem ini menjadi sebuah pola.
Lalu muncullah cuplikannya.
Sudut semua osilator menjadi kisi-kisi angka. Dekoder menerjemahkan kisi tersebut menjadi piksel berwarna. Sebuah gambar muncul. Tidak diperlukan perkalian matriks secara besar-besaran. Hanya dinamika fisik.
Efisiensi energi adalah tujuan utama
Mengapa harus melalui masalah? Konsumsi energi.
Model AI tradisional sedang lapar. Mereka membalik transistor triliunan kali per detik. Setiap lemparan membutuhkan energi. Biaya kumulatifnya sangat mencengangkan.
Pelatihan GPT-3 OpenAI memakan waktu 1.287 megawatt-jam. Cukup untuk memberi daya pada rata-rata rumah di Inggris selama 475 tahun. Itu hanya satu model. Dan kami berlatih lebih banyak setiap hari.
Un-0 mengklaim menggunakan daya yang jauh lebih sedikit. Idenya sederhana. Biarkan arus mengalir tanpa hambatan. Gunakan loop tertutup di mana jalur alami menciptakan osilasi. Tidak ada paksaan. Tidak membalik. Mengalir saja.
Efisiensi teoritis. Potensi dunia nyata.
Hasil tolok ukur
Tim menguji Un-0 terhadap tolok ukur standar. CIFAR-10 dan ImageNet 64×64.
Mereka menggunakan Fréchet Inception Distance (FID) sebagai metrik. Lebih rendah lebih baik. Akurasi lebih tinggi.
Dalam tes CIFAR-10:
* 1.024 osilator mencetak skor 11,01.
* 4.096 osilator mencetak skor 8,76.
ImageNet 64×64 lebih sulit.
* 6.656 osilator mencetak skor 8,41.
* 16,384 osilator mencetak 6,74.
Skor ini sebanding dengan GAN generasi awal. Seperti BigGAN atau iDDPM. Mereka belum mengalahkan DALL-E 3.
“Kami memandang Un-0 sebagai pendekatan pertama yang menjanjikan,” kata tim tersebut. Kualitasnya tumpang tindih dengan model yang sudah ada sejak bertahun-tahun yang lalu. Generator konvensional masih lebih bertenaga dalam kualitas absolut. Kesenjangannya masih ada. Tapi arahnya baru.
Pemeriksaan realitas perangkat keras
Ada tangkapan.
Saat ini, Un-0 berjalan pada perangkat keras tradisional. Ini adalah simulasi.
Tujuannya adalah untuk membangun chip berbasis osilator yang sebenarnya. Perangkat keras yang memanfaatkan hukum fisik, bukan logika biner. Di sinilah keuntungan efisiensi akan terwujud. Sampai saat itu tiba, kami melihat logikanya. Bukan produk akhir.
Tim merilis model bobot. Skrip pelatihan. Studi ablasi. Mereka ingin orang lain mengujinya. Untuk menjalankan simulasi.
“Kami memandang Un-0 sebagai bukti konsep pertama yang menjanjikan,” tulis mereka. “Ini menunjuk ke arah komputer baru.”
Salah satu yang mengeksploitasi fisika. Untuk mencapai efisiensi energi.
Apakah ini akhir dari zaman transistor? Mungkin tidak besok. Tapi ini adalah permulaan. Awal yang berbeda.
Kodenya terbuka. Fisikanya bagus. Sisanya adalah rekayasa.
Kita akan melihat apakah chip tersebut dapat mengikuti teorinya.
