Vedoucí platforma na světě, jako je NVIDIA Jetson, je sekvence vestavěných počítačových desek, která se používá hlavně v autonomních strojích a dalších vestavěné aplikace . Tato deska obsahuje především moduly Jetson, což jsou vysoce výkonné počítače. Jetson se dobře hodí s podobným softwarem AI a cloudovým nativním pracovním postupem, který se používá na jiných platformách NVIDIA a poskytuje zákazníkům energeticky efektivní výkon při sestavování softwarových autonomních strojů. NVIDIA Jetson se používá pro aplikace počítačového vidění. Tento článek tedy pojednává o přehledu NVIDIA Jetson – práce a jejích aplikací.
Co je NVIDIA Jetson?
NVIDIA Jetson je pokročilá vkládací systém deska, která se používá k vytváření inovativních produktů AI v několika odvětvích. NVIDIA Jetson je jednou z předních hardwarových platforem, která je velmi užitečná pro technologické nadšence i studenty, aby získali praktické zkušenosti prostřednictvím řady inovativních projektů AI. Tato deska je velmi efektivní deska pro umělou inteligenci, která zahrnuje modulární, maloformátové a vysoce výkonné okrajové počítače. Kromě toho tato deska obsahuje také JetPack SDK, který se používá pro softwarovou akceleraci, a také kompletní ekosystém, který pomáhá při zrychlení postupu vývoje vlastních projektů AI.
Architektura NVIDIA Jetson
Víme, že modul Nvidia Jetson od Nvidie je sekvence vestavěných počítačových desek. Všechny modely Jetson TX1, TX2 a TK1 nesou procesor SoC nebo Tegra od Nvidie, který obsahuje CPU s architekturou ARM. Zde je Jetson nízkoenergetický systém určený především k urychlení aplikací strojového učení.
Architektura NVIDIA Jetson Xavier NX je zobrazena níže. Je to nejpokročilejší a malý superpočítač s umělou inteligencí používaný pro zařízení edge computingu autonomní robotika . Tento modul má kapacitu pro nasazení výkonu serverové třídy v rámci solidního formátu 70 x 45 mm a také poskytuje až 21 TOP výpočtů pod 15 W výkonu, jinak až 14 TOP výpočtů pod 10 W.
Výše uvedený diagram obsahuje integrovanou 384jádrovou NVIDIA Volta GPU včetně 6jádrového 64bitového CPU NVIDIA Carmel ARMv8.2, 48 jader Tensor, 8 GB 128bitového LPDDR4x, kodérů a dekodérů videa 4K, duálních enginů NVDLA (NVIDIA Deep Learning Accelerator), kamery až pro šest okamžitých vysokých rozlišení toky senzorů, duální Display Port nebo displeje HDMI 4K, rozšíření PCIe Generation 3, USB 3.1 a GPIO s I2C, SPI, I2S, UART & CAN sběrnicí.
Specifikace NVIDIA Jetson zahrnují následující.
- Výkon je 10W nebo 15W režimy a 5V vstup.
- CPU je 6jádrový NVIDIA Carmel 64-bit ARMv 8.2 na 1400 MHz.
- GPU je 384jádrový NVIDIA Volta na 1100 MHz přes 48 Tensor Cores.
- DL je duální motory NVDLA.
- Paměť je 8 GB 128-bit LPDDR4x při 1600 MHz.
- 16GB úložiště eMMC 5.1.
- Kamera je 12x MIPI CSI-2 pruhy | 3×4 nebo 6×2 kamery.
- Až 6 kamer (36 přes virtuální kanály).
- Teploty od -25°C do 90°C.
- Displej je DP 1.4 nebo eDP 1.4 nebo HDMI 2.0 a/b při 4Kp60.
- Ethernet je 10 nebo 100 nebo 1000 BASE-T Ethernet.
- USB 3.1 a USB 2.0.
Tento modul je podporován celým softwarovým stackem CUDA-X NVIDIA a také JetPack SDK pro vývoj AI. Spouští velmi oblíbené rámce strojového učení a obtížné DNN na několika proudech senzorů s vysokým rozlišením najednou, kromě počítačového vidění, grafiky a multimediálních aplikací v reálném čase v rámci kompletního desktopového prostředí Linuxu.
V současné době začali vývojáři navrhovat aplikace AI pro Jetson Xavier NX s pomocí Jetson AGX Xavier Developer Kit. Pokud použijete patch zařízení poblíž JetPack, zařízení bude fungovat jako Jetson Xavier NX. Tím se upraví počet jader GPU a CPU dosažitelných pomocí softwaru a nastaví se taktovací frekvence i napětí jader v systému.
Patch je zcela reverzibilní, což se používá k přiblížení výkonu Jetson Xavier NX. Tento modul bude klasifikovat výchozí režimy výkonu 10W a 15W dosahující špičkového výkonu mezi 14 a 21 TOP na základě aktivního režimu. Nástroj nvpmodel se používá ke zpracování výkonových profilů k úpravě nejvyšších frekvencí CLK pro GPU, CPU, různé takty SoC a řadič paměti spolu s různými clustery CPU.
Na základě pracovní zátěže vyrovnává regulátor DVFS (Dynamic Voltage & Frequency Scaling) frekvence za běhu až do jejich nejvyšších limitů, jak je popsáno v aktivním modelu nvp, takže využití energie je sníženo při nečinnosti a na základě provozu procesoru. Nástroj nvpmodel pomáhá při vytváření a úpravě nových režimů napájení na základě TDP a požadavků aplikace.
Modul NVIDIA Jetson přináší výkon superpočítače na hranici s malým tvarovým faktorem SOM (system-on-module). Rovná 21 TOPS zrychleného počítání posílá výkon k paralelnímu běhu současných neuronových sítí a zpracovává data z různých senzorů s vysokým rozlišením. Tento modul je ideální pro vysoce výkonné systémy umělé inteligence, jako jsou lékařské přístroje, komerční roboti, vestavěné systémy AIoT, chytré kamery, automatizovaná optická kontrola, senzory s vysokým rozlišením, chytré továrny atd.
Software
Modul NVIDIA Jetson je jednoduše podporován prostřednictvím kombinovaných softwarových architektur, takže vývojářům softwaru výrazně usnadní práci. Tento kombinovaný přístup jednoduše šetří vývojářům potíže s opakovaným kódováním a zároveň zlepšuje jejich formace na jiných modulech Jetson.
NVIDIA JetPack SDK je k dispozici s operačním systémem Linux, akcelerovanými knihovnami CUDA-X a rozhraními API pro různé oblasti strojového učení, jako je počítačové vidění, hluboké učení atd. Podporuje také rámce strojového učení, jako jsou Caffe, TensorFlow, Keras a OpenCV. knihovny.
NVIDIA Jetson nabízí různé softwarové nástroje pro své moduly, které jsou popsány níže.
NVIDIA JetPack SDK
Balíčky softwaru platformy Jetson jako TensorRT, CUDA Toolkit, cuDNN, GStreamer, OpenCV a Visionworks jsou všechny sestaveny na L4T prostřednictvím jádra LTS Linux.
Balíček ovladačů pro Linux NVIDIA Jetson
Poskytuje linuxové jádro, ovladače NVIDIA, bootloader, ukázkový souborový systém, flashovací nástroje a mnoho dalších pro platformu Jetson.
NVIDIA DeepStream SDK
Jedná se o sadu rozhraní API a knihoven, které pomáhají vývojářům při navrhování a uspořádání silných řešení IVA (inteligentní analýzy videa) na platformě Jetson. Používá se k vytváření složitých aplikací, jako je kódování, snímání obrazu, dekódování, odvození s TensorRT atd.
NVIDIA Isaac SDK
Jedná se o sadu knihoven, API, ovladačů a dalších nástrojů, které přidají AI robotům nové generace pro navigaci, vnímání a manipulaci. Pomáhá tedy při vytváření a zavádění robotiky poháněné umělou inteligencí.
Typy NVIDIA Jetson
Modul NVIDIA Jetson je dodáván s pamětí, GPU, CPU, vysokorychlostními rozhraními, správou napájení atd. Tyto moduly jsou dostupné v různých výkonech, energetické účinnosti a variantách tvarových faktorů, aby byly využitelné v různých průmyslových odvětvích. K dispozici jsou různá zařízení NVIDIA Jetson, která jsou popsána níže.
NVIDIA Jetson Nano
Modul NVIDIA Jetson Nano je vhodný pro vývojáře nebo studenty a také pro začátečníky, protože je určen především pro praktické učení a výuku. Velikost tohoto modulu je malá, ale jeho energetická účinnost a výkon jsou vysoké, takže je ideální pro současné spuštění více paralelních neuronových sítí, pracovní zátěže AI a zpracování dat ze senzorů s vysokým rozlišením najednou. Modul Jetson Nano je tedy velmi oblíbené okrajové zařízení, které se používá k výrobě embedded produktů a řešení AI.
Tento modul je ideální pro aplikace počítačového vidění založené na AI a provádí úkoly AI vidění, jako je detekce objektů, segmentace obrazu, klasifikace obrazu atd. Tento modul je velmi kompatibilní s open-source softwarem počítačového vidění a knihovnami strojového učení OpenCV.
Řada NVIDIA Jetson TX2
Modul NVIDIA Jetson řady TX2 je navržen ve velikosti kreditní karty. Mezi vlastnosti tohoto modulu patří především GPU NVIDIA Pascal, paměť až 8 GB, šířka pásma paměti 59,7 GB/s a standardní hardwarová rozhraní. Tento modul poskytuje až 2,5násobný výkon ve srovnání s modulem NVIDIA Jetson Nano.
Tento modul velmi efektivně provozuje hluboké neuronové sítě na okrajových zařízeních pro dosažení vyšší přesnosti. Moduly, které jsou k dispozici v řadě, zahrnují především Jetson TX2 4GB, Jetson TX2i, Jetson TX2 a Jetson TX2 NX. Modul NVIDIA Jetson TX2 NX jednoduše sdílí kompatibilitu pinů a tvarových faktorů prostřednictvím Jetson Xavier NX a Jetson Nano.
Zbývající tři moduly budou mít stejný tvar jako původní modul Jetson TX2. Využití řady TX2 se jednoduše pohybuje v různých průmyslových odvětvích, jako je zemědělství, výroba, biologické vědy, maloobchod atd. Modul Jetson TX2i ze zbývajících modulů je nejvhodnější pro vysoce výkonná zařízení AI, jako jsou lékařská zařízení, kamery pro strojové vidění a průmyslové roboty, protože svým silným designem.
Tento modul je velmi rychlé vestavěné výpočetní zařízení s umělou inteligencí, které nabízí vysokou energetickou účinnost, jako je 7,5 W, superpočítačové možnosti hlavně pro okrajová zařízení AI a také různá hardwarová rozhraní, která lze snadno začlenit do různých produktů a tvarových faktorů.
NVIDIA Jetson Xavier NX
Modul NVIDIA Jetson Xavier NX je velmi malý ve srovnání s kreditní kartou s vysokým výkonem a energetickou účinností. Toto je také známé jako nejmenší AI superpočítač pro edge & embedded systémy na světě. Tento modul pomáhá zejména při provozu kompletních systémů AI.
Funkce Jetson Xavier NX také podporují cloudové nativní technologie, takže je pro vývojáře snadné upgradovat a spravovat produkty AI. Tento modul podporuje všechny populární modely a rámce umělé inteligence. Tento modul tedy zcela vyhovuje vysoce výkonným systémům umělé inteligence, jako jsou chytré kamery, systémy vidění s vysokým rozlišením s umělou inteligencí, drony, komerční roboti nebo lékařské vybavení.
Modul NVIDIA Jetson Xavier NX poskytuje 21 tera operací za sekundu nebo TOPS pro spouštění aktuální zátěže AI při spotřebě 10 W energie. Tvarový faktor tohoto modulu je kompaktnější ve srovnání s kreditní kartou. Modul Xavier NX provozuje různé neuronové sítě najednou a zpracovává data z různých senzorů s vysokým rozlišením. Tento typ modulu se používá k navrhování aplikací pro embedded a okrajová výpočetní zařízení, která vyžadují vysoký výkon, i když se značnými omezeními hmotnosti, velikosti a výkonu.
Řada NVIDIA Jetson AGX Xavier
Modul NVIDIA Jetson AGX Xavier Series je vyvinut hlavně pro autonomní inteligentní stroje nové generace. Tento modul poskytuje až 32 TOPS nebo Tera operací za sekundu výkonu AI při použití pouhých 10 wattů. Vývojáři softwaru mohou jednoduše rychle uspořádat neuronové sítě pomocí sady softwarových nástrojů AI společnosti NVIDIA.
Tento modul poskytuje různé specifikace a funkce funkčního zabezpečení, takže vývojáři vytvářejí bezpečnostní nebo průmyslově certifikované produkty. Díky vysokému výkonu tohoto modulu jsou vhodné pro řadu autonomních strojů, jako jsou logistické a průmyslové roboty, tovární systémy a velké drony.
Vývojářská sada Jetson Xavier NX
Vývojová sada jetson xavier nx obsahuje solidní energeticky účinný modul Xavier NX používaný pro okrajová zařízení s umělou inteligencí. Tento modul má některé funkce, jako je cloudová nativní podpora a zrychluje sadu softwaru NVIDIA na pouhých 10 W s více než 10násobným výkonem než Jetson TX2. Tuto vývojářskou sadu používají výrobci inteligentních strojů, začínající umělci a vývojáři aplikací k navrhování moderních produktů s kompaktním, vysoce přesným odvodem umělé inteligence a energeticky účinným tvarovým faktorem.
Jetson AGX Xavier Industrial
Modul Jetson AGX Xavier Industrial je součástí řady AGX Xavier. Konstrukce tohoto modulu je tvarový faktor kompatibilní s piny, který ovládá nejnovější modely umělé inteligence v náročných aplikacích. Tento modul poskytuje rozšířené specifikace vibrací, otřesů, teplot, pokročilé bezpečnostní funkce, až 4krát větší paměť a 20krát vyšší výkon než modul TX2i.
Tento modul je velmi užitečný pro návrháře při navrhování automatizace, robotiky a dalších inteligentních produktů. Kromě toho také navrhuje bezpečnostní certifikované a odolné produkty pro poskytování vysokého výkonu pro průmyslové, AI vestavěné funkční a bezpečnostní aplikace v designu odolného a zároveň energeticky účinného provedení.
Výhody
The výhody NVIDIA Jetson zahrnout následující.
- NVIDIA Jetson je vhodná pro studenty, jednotlivé vývojáře a různé organizace.
- Platforma Jetson je velmi oblíbená, protože přichází s různými výhodami, jako je modulární flexibilita, jednotný software a podpora cloudových nativních technologií.
- Tato deska poskytuje sadu modulů, které jsou velmi užitečné pro vše od základních aplikací umělé inteligence až po velmi složitá zařízení poháněná umělou inteligencí.
- Tato deska je poháněna pomocí jednotné softwarové architektury, která vývojářům pomáhá od opakovaného kódování. Jakmile potřebují kapacitu AI/ML, mohou do zařízení zahrnout související modul Jetson a ten se postará o těžké zvedání.
- Platforma NVIDIA Jetson jednoduše podporuje cloudové nativní technologie a pracovní postupy, jako je orchestrace a kontejnerizace, a poskytuje vývojářům možnost rychle vyvíjet a rozšiřovat produkty AI.
- NVIDIA JetPack SDK je k dispozici s operačním systémem Linux, rozhraními API a akceleračními knihovnami CUDA-X pro různé oblasti strojového učení, jako je počítačové vidění a hluboké učení. Poskytuje také podporu pro rámce strojového učení, jako jsou Caffe a Keras, TensorFlow a OpenCV knihovny počítačového vidění.
Nevýhody
Při zohlednění ceny má velmi málo nevýhod
- Nano modul NVIDIA Jetson není k dispozici s wifi uvnitř.
- Nano modul NVIDIA Jetson obsahuje pouze dva piny PWM na desce.
Aplikace
Aplikace NVIDIA Jetson zahrnují následující.
- Modul NVIDIA Jetson nabízí vynikající systémy pro zabudování, které se používají k výrobě produktů AI pro různé scénáře. Jedná se o energeticky účinný modul používaný pro umělou inteligenci, který zahrnuje vysoce výkonné, modulární a maloformátové okrajové počítače.
- Desky Nvidia Jetson jsou určeny hlavně pro použití ve vestavěných systémech, jako jsou drony, roboty a další zařízení, která vyžadují výkonné zpracování v malém provedení. Mezi běžné aplikace desek Jetson patří především zdravotnická zařízení, autonomní vozidla, digital signage, AR/VR headsety, aplikace pro chytré město atd.
- Tento modul podporuje jednotné softwarové architektury, aby byla práce vývojářů softwaru mnohem jednodušší.
Moduly a zařízení NVIDIA Jetson jsou optimalizovaná okrajová zařízení používaná k vývoji systémů Edge AI. - NVIDIA Jetson Nano Developer Kit je velmi výkonný a malý počítač, který provozuje několik neuronových sítí paralelně pro různé aplikace, jako je detekce objektů, klasifikace obrazu, zpracování řeči a segmentace.
- Modul NVIDIA Jetson Nano je ideální pro aplikace počítačového vidění založené na AI a provádějí úkoly AI vidění, jako je segmentace obrazu, klasifikace obrazu, detekce objektů atd.
- Nano moduly NVIDIA Jetson přinášejí neuvěřitelné nové možnosti tisícům energeticky účinných a malých systémů umělé inteligence.
- Modul NVIDIA Jetson Nano je kompatibilní s knihovnami strojového učení OpenCV a open source softwarem pro počítačové vidění.
Q). Jaká je spotřeba energie modulů Jetson?
A). Spotřeba energie modulu Jetson se liší v závislosti na modelu a použití. Například modul Jetson Xavier má typickou spotřebu energie kolem 15 W až 30 W, zatímco Jetson TX2 může mít spotřebu mezi 7 W až 15 W.
Q). Lze Jetson použít pro detekci a sledování objektů v reálném čase?
A). Ano, platformy Jetson zvládnou detekci a sledování vidění. Nano modul je vysoce výkonný GPU - s platformou edge computing lze použít hlavně pro detekci, počítání a sledování.
Q). S jakými typy senzorů může Jetson komunikovat?
A). Obrazové senzory se používají pro propojení Jetson s různými rozhraními kamer, jako je USB, MIPI CSI a Ethernet. Mohou také komunikovat s lidarem, ultrazvukovým senzorem a dalšími typy pomocí různých typů rozhraní, jako je I2C, SPI atd.
Q). Jaký je rozdíl mezi Jetsonem a Raspberry Pi?
A). Hlavní rozdíl mezi těmito dvěma deskami je; NVIDIA Jetson byla vyvinuta tak, aby zvládala náročné úkoly v oblasti umělé inteligence a počítačového vidění, zatímco deska Raspberry Pi 4 má multimediální GPU s nízkou spotřebou energie, která se používá pro všeobecné účely výpočetní techniky a vzdělávání. Jetson lze použít pro pokročilejší funkce, jako je hardwarově akcelerované dekódování a kódování videa pomocí výkonného GPU (Graphical Processing Unit) a CPU (Central Processing Unit).
Q). Lze Jetson použít pro aplikace autonomní robotiky?
A). Autonomní robotika a průmysl zítřka budou poháněny pomocí NVIDIA Jetson for Intelligent Machines & Robotics.
Tedy, toto je přehled NVIDIA Jetson – výhody a jejich aplikace. Tento modul je přední platformou po celém světě, kterou používají vývojáři k výrobě pokročilých produktů AI ve všech odvětvích. Tyto moduly také používají studenti a také nadšenci, aby získali praktické zkušenosti s učením AI a mohli vytvářet úžasné projekty. Platforma Jetson se skládá především z energeticky účinných, malých vývojářských sad a výrobních modulů. Zde je pro vás otázka, co je NVIDIA?
