Sadržaj:
Umjetna inteligencija i strojevi koji mogu učiti poboljšati će se stvari koje koristimo svakodnevno. Google i Android su sve s AI preko Google Assistant-a i strojnog učenja, pa je važno znati kako djeluje stražnji dio, kako su stigli tamo i kakva oprema sve to omogućuje. I stvarno je super!
Ljudi koji će graditi ovu tehnologiju budućnosti trebat će joj alate za to. 2017. godine NVIDIA radi svoj dio, a Jetson TX2 utjelovljenje je ove ideje. Programerima je potreban hardver koji nije samo sposoban za računanje i razmišljanje (da, kažem to) koje će trebati našoj pametnijoj budućnosti, već je i za jednostavno korištenje i implementaciju.
AI na rubu.
NVIDIA ovo naziva "isporukom AI na rubu" i to je prikladan opis. TX2 je kompletan superračunalo. Može samostalno obraditi podatke u mjestu i vremenu u kojem se zapravo događa, umjesto na tisućama milja daleko putem interneta. Povezivanje uzimamo zdravo za gotovo zbog načina na koji ga trenutno koristimo, ali ima dosta slučajeva u kojima je čekanje na obilazak podataka sa pametnih strojeva tek predugo čekanje. A veliki dio ovog plavog mramora na kojem živimo nema vezu s internetom i neće dugo vremena.
Malo računalo koje može raditi gotovo sve i obrađivati sve podatke koje sam prikupi je način rješavanja ovih problema. Čini se da ga je NVIDIA ovdje zabila.
Što je ovo?
To nije nešto što na Best Buyu možete pronaći za stvari koje radite sa svojim telefonom. Ne radi Android (ali to sigurno ne bi bilo teško popraviti), a nešto što većina nas neće kupovati. Ali to je još uvijek vrlo važan dio stvari koje volimo.
Jetson TX2 je razvojni alat. Jetson TX2 je također terenski modul za napajanje bilo koje opreme utemeljene na AI. To je računalo veličine kreditne kartice sa svim ulazima i izlazima koje "redovno" računalo ima. Kad TX2 modul priključite u posebno dizajniranu podlogu (to je dio razvojnog kompleta), on se uglavnom pretvara u tipično računalo s malim oblikovnim faktorom, zajedno sa svim priključcima i utikačima na kojima postoji i vaša radna površina.
Programeri mogu ovo upotrijebiti za izgradnju opreme oko sebe i zapravo korištenje samog Jetson-a za pokretanje demonstracija i simulacija. To je sposoban mali stroj koji može obaviti sve proračune što može učiniti mnogo veće, dok za to koristi minimalnu snagu. Tehničke specifikacije su impresivne.
- NVIDIA Parker serije Tegra X2: 256-jezgreni Pascal GPU i dvije 64-bitne Denver CPU jezgre uparene s četiri Cortex-A57 CPU-a u HMP konfiguraciji
- 8 GB 128-bitnog LPDDR4 RAM-a
- 32 GB eMMC 5.1 ugrađenog prostora za pohranu
- 802.11b / g / n / ac 2x2 MIMO Wi-Fi
- Bluetooth 4.1
- USB 3.0 i USB 2.0
- Gigabitni Ethernet
- Utor za SD karticu za vanjsku pohranu
- SATA 2.0
- Kompletan višekanalni PMIC
- 400-polni industrijski standardni I / O priključak za velike i niske brzine
Najbolja tehnička specifikacija je da je Jetson TX2 čep za zamjenu pinova u zamjeni za prošlogodišnji Jetson TX1. Uključite se na malo - programeri koji koriste postojeća NVIDIA TX1 računala kako bi napajali mozak iza svoje opreme moći će stvari ugasiti, izvući staru ploču i staviti novu. Softver za TX1 ažurirat će se na isti softver koji koristi TX2, tako da će doslovno doći do pada zamjene. Ako ste ikada radili bilo kakve terenske ili tvorničke radove na opremi koja košta puno novca kada je bilo zastoja, shvatit ćete koliko je to važno. Dok se oprema sljedeće generacije razvija, koristi hardver koji 100% funkcionira s postojećom generacijom.
Tajna je ovdje u NVIDIA-inim Pascal GPU jezgrama. Iz istog razloga što se Pascal jezgre koriste u vrlo vrhunskim video karticama dizajniranim za VR i 4K 3D igre je razlog zašto se koriste za Jetson TX2. GPU jezgre učinkovitiji su način za krčenje brojeva. Brži su i troše puno manje energije.
Sveti gral računarstva je umjetna inteligencija (AI): ako je stroj tako inteligentan, može učiti samostalno bez izričite upute. Duboko učenje je presudan sastojak u postizanju suvremenog AI. Duboko učenje omogućuje AI "mozgu" da opazi svijet oko sebe; stroj uči i na kraju donosi odluke sam. U akademskim krugovima i industriji danas je široko poznato da su GPU-ovi najsuvremeniji u treningu dubokih neuronskih mreža (DNN), zbog prednosti brzine i energetske učinkovitosti u usporedbi s tradicionalnijim platformama temeljenim na CPU-u.
NVIDIA GPU računala već rade neke nevjerojatne stvari. Voze duboko učenje koje se koristi za samostalno vođenje automobila, podučavajući robote motoričkim vještinama sličnim ljudskim potrebama kao što su hodanje i hvatanje, velikom brzinom analiziraju videozapise kako bi pružili tekstualne titlove, pa čak i igrali Go. I tukući zaista dobre ljudske protivnike.
GPU jezgre mogu raditi isti posao koristeći manje energije kao tradicionalno računanje procesora.
Pravi test AI i mozga koji ga može voziti je na horizontu. Autonomni roboti i bespilotne letjelice razvijaju se za poslove poput industrijske inspekcije, prijenosnih medicinskih uređaja koji se mogu izvući na terenu kako bi se pomoglo onima kojima je pomoć očajnički potrebna, a uskoro će čak i pametne sigurnosne kamere koje mogu analizirati ono što vide i poduzeti odgovarajuće mjere. biti stvarnost. Ove ideje trebaju računalstvo koje može pokrenuti AI pomoću algoritama dubokog učenja i sposobnost samostalne analize prikupljenih podataka neuronske mreže. Ne mogu ih priključiti na kabel i koristiti će se na mjestima gdje čak i Verizon nema pokrivenost.
Osim što je moćno, računalo dizajnirano da bude malo i prijenosno mora biti i energetski učinkovito. Ispitivanje pokazuje (.pdf datoteka) da računanje na bazi NVIDIA GPU-a može biti ekvivalentno Intel Core i7 6700K CPU-u i koristi 6 vati snage u usporedbi sa 60. To je važno za opremu koja nije spojena na električnu mrežu.
Izvršili smo neke referentne vrijednosti koristeći AlexNet i GoogLeNet - CV softverski program za klasifikaciju i otkrivanje, a rezultati su bili fantastični. U režimu Max-P (velike snage), Jetson TX2 bio je u stanju analizirati prosječno 641 sliku u sekundi pomoću mreže AlexNet dok je koristio samo 13 vata snage. GoogLeNet je testirao prosječno 278 slika u sekundi dok je koristio 14 W snage. Max-Q (niska snaga) testovi postigli su prosječno 481 sliku u sekundi na AlexNetu i 191 sliku u sekundi na GoogLeNetu dok su koristili samo 7 vati snage. Ovo je otprilike dvostruko više nego što je prošlogodišnji Jetson TX1 mogao isporučiti, a bio je i prilično dobar u tome.
Kada informacije možete brzo obraditi i točne na licu mjesta, veza s oblakom nije ograničavajući faktor koji je nekada bio.
U laboratoriju
Jetson TX2 trebao bi biti vrlo sposoban na terenu. To je prvi stroj nove generacije koji će učiti radeći bez povezivanja s oblakom i značajnom nadogradnjom postojeće opreme. Ali ima i značajke koje će programerima voljeti.
Računski modul veličine kreditne kartice može se priključiti na kompletnu ploču nosača koja je dostupna kao dio razvojnog kompleta Jetson TX2. Nosiva ploča koristi 400 I / O pinova na Jetson modulu za osiguranje standardnih veza na radnoj površini. Programer za softver može upotrijebiti standardnu USB tipkovnicu i miš, standardni monitor i Jetson TX2 za stvaranje kompletnog razvojnog okruženja.
Radeći na Ubuntu 16.04 zasnovanom Linux4Tegra operativnom sustavu, svi alati koji bi vam mogli trebati za razvoj i uklanjanje pogrešaka AI aplikacija za dubinsko učenje uključeni su kao dio NVIDIA-inog JetPack softvera. Programeri mogu preuzeti paket sa NVIDIA-ove Developer Zone, kao i slijediti udžbenike i znanje zajednice da vide što Jetson može učiniti, a zatim početi raditi na vlastitim idejama. Softver uključen u JetPack unaprijed je konfiguriran za optimizirano pokretanje u TX2 sustavu za obradu:
- cuDNN - knjižnica primitiva za duboke neuronske mreže koje ubrzava GPU.
- NVIDIA VisionWorks softverski je razvojni paket za Computer Vision (CV) i obradu slike.
- CUDA Toolkit - sveobuhvatno razvojno okruženje za programere C i C ++ koji grade GPU-ubrzane aplikacije.
- TensorRT - vrijeme izvedbe dubokog učenja s visokim učinkom za klasifikaciju slike, segmentaciju i neuronske mreže za otkrivanje objekata.
- NVIDIA Nsight Eclipse - potpuno opremljeni i prilagođeni Eclipse IDE za razvoj, uklanjanje pogrešaka i profiliranje CUDA-C aplikacija.
- Tegra System Profiler i Tegra Graphics Debugger - alati za profiliranje i uzorkovanje aplikacija pomoću OpenGL-a.
- Potrebno jamstvo i imovina za razvoj i dizajn hardvera pomoću NVIDIA Jetson TX2.
Korištenje iste platforme za izgradnju i uklanjanje pogrešaka bilo koje aplikacije je neophodno za sve zamršeno i komplicirano. To je jedan od načina kako programeri mogu pojednostaviti postupak i sve što može pomoći u olakšavanju stvari čini sretnijim programerima. Iako Jetson TX2 možda nije osmišljen kao jedini razvoj i izrada računala koje bi koristila bilo koja grupa, znanje da je sposoban je povod za instalaciju i rad na terenu. Izvođenje malih podešavanja i promjena može se obaviti na Edgeu na isti način kao i obrada bez slanja podataka natrag u drugu banku računala na obradu i povratak.
Oprema se može dizajnirati korištenjem dostupnih hardverskih sredstava i crteža kako bi se smanjila složenost, ali i omogućilo jednostavno sučelje koristeći lako dostupne periferne uređaje i softver. Naoružan prijenosnim računalom i USB kabelom, inženjer ili terenski tehničar ima sve što je potrebno da se po potrebi ponovo izgradi od temelja.
Softver NVIDIA Jetpack znači da se programeri mogu usredotočiti na svoj rad, ne postavljajući okruženje za gradnju.
Čak je i instalacija NVIDIA-inog Jetpacka pojednostavljena. Recenzenti su dobili instaliranu ažuriranu verziju, a nakon nekoliko jednostavnih uputa kroz pametni GUI, izvršena je potpuna obnova svih softvera dovršenih sa samo nekoliko koraka i šalicom kave. Opet vidimo da NVIDIA olakšava stvari pa se programeri mogu fokusirati na svoj rad, a ne na održavanje samog okruženja za gradnju.
Nakon nekoliko dana postavljanja stvari i testiranja svega, otišao sam vrlo impresioniran onim što NVIDIA nudi ovdje. Prvi Jetson TX1 bio je izvrstan proizvod koji je ispunio potrebu za brzim razvojem koristeći GPU jezgre za snažno podizanje aplikacija za neuronske mreže dubokog učenja. U vrlo kratkom vremenu, NVIDIA je podigla traku s nasljednikom koji može razbiti ovisnost o oblaku koristeći iste poznate razvojne alate i tehnike.
Tehnologija budućnosti će nas uzbuditi i nadahnuti. Proizvodi poput Jetson TX2 ono su što će omogućiti ovu budućnost. NVIDIA Jetson TX2 Developer Kit nalazi se na 599 USD za maloprodajne narudžbe i 299 USD za studente.
Pogledajte portal NVIDIA Embedded Developers
