NVIDIA: zašto je računarska platforma više od čipa

Od računarske snage do korisnog rada. Konceptualna ilustracija generirana umjetnom inteligencijom.

Zamislite da od računara tražite da pronađe slične prizore među hiljadama fotografija. Kupovina snažnog čipa samo je jedan dio onoga što je potrebno da se to ostvari. Neko mora pripremiti slike, osigurati odgovarajući model, zadati hardveru šta da izračuna i pretvoriti rezultat u nešto što možete koristiti. NVIDIA je važna zato što pruža nekoliko dijelova tog radnog lanca.

Čipu treba način da postane koristan

Grafički procesor, odnosno GPU, može istovremeno obavljati mnogo izračuna pogodnih za paralelnu obradu. To pomaže pri iscrtavanju slika, ali i pri numeričkim operacijama unutar mnogih modela umjetne inteligencije. Ipak, čip ne odlučuje šta vaše fotografije znače. Model i program određuju zadatak.

NVIDIA-ina platforma CUDA povezuje programe s njenim GPU-ovima. Dokumentacija platforme CUDA opisuje alate za razvoj, izvršavanje i ispitivanje tog rada. Biblioteke pružaju operacije koje se mogu ponovo koristiti, a kompajler prevodi kod u upute koje računar može izvršiti. Programeri ne moraju svaku operaciju graditi od početka.

Platforma obuhvata cijeli radni lanac

Zamislite radionicu: sposobna mašina korisnija je kada se alati, upute i metode rada međusobno uklapaju. U računarstvu, okvir za umjetnu inteligenciju pomaže programerima da sastave model, numeričke biblioteke obavljaju uobičajene operacije, a upravljački programi omogućavaju softveru da koristi hardver. Zahvaljujući tim slojevima, specijalizirana računarska obrada postaje dostupna većem broju ljudi.

Ta pogodnost stvara i zavisnosti. Program se može oslanjati na određenu biblioteku ili sadržavati kod napisan za jednu vrstu uređaja. Promjena čipa zato može značiti izmjenu i provjeru softvera, a ne samo zamjenu komponente.

PyTorchov vodič za instalaciju, na primjer, nudi različite računarske opcije, uključujući CPU, CUDA i ROCm. To pokazuje da alternative postoje. Ne znači da se svaki model, proširenje ili prilagođena operacija mogu prenijeti s jedne na drugu bez izmjena.

Procjenjujte obavljeni zadatak, a ne samo čip

Vratimo se fotografijama. Ako učitavanje i premještanje slika oduzimaju većinu vremena, brža aritmetika sama po sebi možda neće bitno skratiti čekanje. I sama NVIDIA u svom vodiču za performanse traži od programera da ispitaju aplikaciju i smanje nepotrebne prijenose između CPU-a i GPU-a.

Korisna pitanja su konkretna: koliko traje cijeli posao, jesu li rezultati dovoljno dobri i koliko koštaju izvršavanje i održavanje? Odgovori zavise od stvarnog radnog opterećenja. Istaknuti podatak o brzini jedne komponente sam po sebi ne može odgovoriti na njih.

Birajte korisne alate i sačuvajte prostor za promjenu

Dobro integrirana platforma može danas uštedjeti posao. Kako se oko nje gomilaju softver, podaci i iskustvo tima, prelazak na drugu platformu sutra može zahtijevati više rada. Prije nego što to ulaganje naraste, korisno je znati koji se dijelovi mogu prenijeti, koje treba ponovo napisati i kako bi se provjerila alternativa. To je praktično pitanje očuvanja izbora, a ne razlog za odbacivanje korisne tehnologije.

Prateći članak o Jensenu Huangu objašnjava put GPU-a od grafike do umjetne inteligencije. Lu Heng postavlja dublje pitanje o ovlastima u internetskoj infrastrukturi: ko može odlučivati o budućim promjenama? U Bilješci 65 zagovara pravila koja se mogu lokalno provjeriti i dobrovoljno prihvatanje u koordinaciji interneta. To je zaseban prijedlog, a ne opis NVIDIA-e. Čitaocima pruža još jedan način da razmotre infrastrukturu: pogledati šta radi, a zatim se zapitati ko zadržava mogućnost izbora.