Fotoni umjesto elektrona: Britanska tvrtka ima optičko računalo za AI
Iris Nova navodno može pomoći tvrtkama u isporuci usluga zaključivanja umjetne inteligencije uz do 90 posto manju potrošnju energije.
Oxfordska tvrtka Lumai lansirala je prvi optički računalni sustav na svijetu koji može pokretati veliki jezični model (LLM) s milijardu parametara u stvarnom vremenu. Iris Nova navodno može pomoći tvrtkama u isporuci usluga zaključivanja umjetne inteligencije uz do 90 posto manju potrošnju energije.
Standardni sustavi koriste silicij za računanje, koji se već neko vrijeme približava granicama svoje učinkovitosti, što ima veliki utjecaj na njegovu skalabilnost i potrošnju energije. Svaka nova generacija tradicionalnih procesora sada je u stanju isporučiti više računanja, ali samo uz eksponencijalni porast potrošnje energije.
Očekuje se kako će podatkovni centri koji se grade kako bi služili nadolazećoj eri umjetne inteligencije trošiti više energije nego ikad prije. Procjene sugeriraju kako će se globalna potražnja za energijom udvostručiti do kraja ovog desetljeća.
No, Lumai to želi promijeniti s optičkim računalnim sustavom koji je skalabilan i spreman za implementaciju odmah. Pri razvoju su pozornost usmjerili na fotone, umjesto na elektrone.
Iris Nova koristi svjetlost kako bi zaobišao ograničenja dvodimenzionalnih silicijskih čipova, postižući masivni prostorni paralelizam. Poslužitelj je opremljen hibridnim procesorom koji koristi optički tenzorski mehanizam za matematičko računanje i digitalnu obradu za upravljanje sustavom.
Korištenjem svjetlosti u trodimenzionalnom volumenu, sustav može istovremeno izvoditi milijune operacija. Lumaijevi optički procesori omogućuju brže zaključivanje i veću učinkovitost izvršavanja, pružajući značajne uštede energije.
Kako bi demonstrirao svoje mogućnosti, Lumai je nedavno proveo zaključivanje na modelima Llama 8B i 70B u stvarnom vremenu. Osim Iris Nova, u ponudi imaju još dva poslužitelja, Aura i Tetra.
