Microsoft je predstavio Surface Laptop Ultra s Nvidijinim procesorom RTX Spark, do 128 GB objedinjene memorije i punom podrškom za CUDA-u. Uređaj je namijenjen razvojnim inženjerima, kreativnim profesionalcima i korisnicima koji žele lokalno pokretati velike modele, kompiliranje, 3D obradu i druge zahtjevne poslove. Kompanija navodi do jednog petaflopsa računalne snage za umjetnu inteligenciju, no cijena i točan početak prodaje po tržištima određivat će koliko se taj koncept može odmaknuti od uske profesionalne niše.
RTX Spark temelji se na Nvidijinoj arhitekturi Blackwell, a njegova je najvažnija značajka pristup velikoj zajedničkoj memoriji. Uobičajeni prijenosnik odvojeno upravlja radnom memorijom sustava i memorijom grafičkog procesora. Kod modela koji zauzimaju desetke gigabajta takva podjela brzo postaje ograničenje. Objedinjeni prostor omogućuje da procesor i GPU rade nad istim skupom podataka bez čestog preslikavanja, premda ukupna brzina i dalje ovisi o propusnosti memorije i izvedbi softvera.
Puna podrška za CUDA-u daje Microsoftu pristup alatu na kojem je izgrađen velik dio današnjeg AI softvera. Razvojni tim može na prijenosniku pripremiti i provjeriti kod koji će poslije raditi na Nvidijinim poslužiteljima. Time se smanjuje razlika između lokalnog prototipa i produkcijskog okruženja, ali se ne uklanja potreba za podatkovnim centrom kada treba trenirati velik model ili istodobno posluživati mnogo korisnika.
Surface Laptop Ultra zato nije zamjena za cloud, nego pokušaj da se dio posla obavi prije slanja u udaljeni sustav. Lokalna obrada smanjuje kašnjenje, može zaštititi povjerljive dokumente i izbjegava trošak svakog pojedinačnog upita. Korisna je pri radu izvan mreže, analizi internog koda ili obradi velikih medijskih datoteka. Ograničenje postaju potrošnja električne energije, hlađenje i činjenica da prijenosnik mora održati performanse bez razine buke i topline tipične za stolnu radnu stanicu.
Microsoft navodi da je toplinski kapacitet uređaja dva i pol puta veći nego kod 15-inčnog Surface Laptopa. Veći rashladni sustav potreban je kako bi GPU dulje radio pod opterećenjem bez smanjivanja takta. Vršni rezultat u kratkom testu ne govori koliko je uređaj brz nakon dvadeset minuta renderiranja ili višesatne inferencije. Za poslovne kupce bit će važni upravo kontinuirana brzina, stabilnost upravljačkih programa i mogućnost rada na bateriji između zahtjevnih zadataka.
Novi model mijenja i položaj procesorskih dobavljača u Windows prijenosnicima. Intel, AMD i Qualcomm posljednjih godina naglašavaju neuralne procesore ugrađene u glavne čipove, ponajprije za videopozive, sažimanje sadržaja i lakše lokalne modele. Nvidijin pristup cilja znatno teže radne procese i postojeći CUDA ekosustav. U praksi će računalo koristiti različite akceleratore: energetski učinkovit NPU za pozadinske funkcije, a snažniji GPU kada je potrebna veća propusnost.
Velika memorija može omogućiti izvođenje modela s desecima milijardi parametara, ali sama veličina ne određuje uporabljivost. Model mora biti prilagođen lokalnoj inferenciji, a brzina stvaranja odgovora mora biti dovoljna za interaktivan rad. Kvantizacija smanjuje memorijski otisak, no može utjecati na točnost. Korisnik zato ne kupuje samo deklarirani broj parametara, nego cijeli lanac od modela i razvojnih biblioteka do upravljanja podacima.
