Jetson serisi, demystified
NVIDIA'nın Jetson ailesi on yıldır endüstriyel-AI'ın temel taşı. 2026 manzarası: Xavier yeni tasarımlar için emekliye-yakın, Orin aktif hat ve seçimler Nano / NX / AGX'e iniyor. Aralarında gerçekten nasıl seçtiğimiz şu.Orin Nano (8 GB)
Compute: 40 TOPS'a kadar sparse INT8.Güç: 7-15 W zarfı.
Bellek: GPU ile paylaşılan 8 GB LPDDR5.
Doğru cevap olduğu yer: 1080p'de tek kameralı görü inference'ı, < 4 GB modeller, > 30 ms gecikme bütçesi. Bunlarda çok sayıda YOLOv8s + sınıflandırıcı pipeline çalıştırıyoruz.
Olmadığı yer: bellek aç her şey. OS, uygulama ve model arasında paylaşılan 8 GB tek modele yeter, aynı anda iki büyük modele yetmez.
Orin NX (16 GB)
Compute: 100 TOPS'a kadar sparse INT8.Güç: 10-25 W.
Bellek: 16 GB LPDDR5.
Çoğu endüstriyel deploy için tatlı nokta. Bir detection modelini + bir anomaly modelini + küçük bir OCR modelini eş zamanlı çalıştırmaya yetecek bellek. Güç zarfı hâlâ pasif soğutmaya uygun. Nano'nun yaklaşık 2 katı maliyet, tipik iş yüklerimizde yaklaşık 2.5 katı throughput.
Bugün yeni bir görü istasyonu spec'liyorsanız, aksini gerektiren spesifik bir nedeniniz yoksa varsayılan budur.
Orin AGX (32 / 64 GB)
Compute: 275 TOPS'a kadar sparse INT8.Güç: 15-60 W.
Bellek: 32 GB veya 64 GB LPDDR5.
Çoklu kameralı sistemler, büyük modeller (ağır transformerlar, edge'de çalışan ön-eğitimli foundation modeller) veya inference yanında gerçek GPU compute gerektiren uygulamalar için. Bunları tek bir inference motoruna besleyen 4+ kameralı hücreler için ve özel CUDA kernel çalıştıran her deploy için kullanıyoruz.
Aktif soğutma gerekli. 64 GB SKU'su zor bulunuyor.
Yaygın tuzaklar
- Termal throttling. Güç zarfı içinde bile heatsink yeterince büyük değilse SoC throttle eder. Yetersiz spec'li heatsink'li hücrelerin yazın ~%20 inference performansı kaybettiğini görüyoruz.
- eMMC vs SD vs NVMe. SD kart yıpranması 7/24 deploylarda 6-12 aylık bir problem. eMMC OS ve ikililer için iyi ama küçük (Nano dev kit'te 16 GB). Yerel görüntü yazan her deploy için NVMe — ve hepsi bir noktada yazar.
- JetPack sürüm drift'i. JetPack 6 vs 5 gerçek bir fark (CUDA, TensorRT, OS tabanı). Proje başına JetPack sürümünü sabitlemek deploy manifest'imizin parçası.
- CUDA-only kütüphaneler. Proje yalnızca CUDA backend'i gönderen bir kütüphaneye bağımlıysa (çok sayıda tıbbi / bilimsel kod), Jetson bunu çalıştıran tek ARM edge platformu. Hailo / Coral çalıştıramaz.
Karar ağacı
- Tek küçük model, >30 ms gecikme uygun, güç önemli → Orin Nano.
- 2-3 model eş zamanlı, 10-30 ms gecikme, dengeli güç → Orin NX.
- Foundation modeller, çoklu kamera, özel CUDA → Orin AGX.
- Mühürlü muhafazada mutlaka pasif soğutma gerekiyor → bunun yerine Hailo değerlendirin.
Artık denemediğimiz bir desen
Jetson'ı "nefes alsın diye" kabin dışına koymak. Toz ingress'i altı ayda heatsink'i öldürür. Kabin içinde, düzgün kanallandırılmış, Jetson'a adanmış tek bir 80 mm fan ile — sürekli kalan deploy budur.Varsayılan Jetson'unuz nedir? 2026'da NX adoption'ını mı yoksa yerleşik hücreler için Xavier NX'te kalanları mı merak ediyoruz.
The Jetson lineup, demystified
NVIDIA's Jetson family has been an industrial-AI staple for a decade. The 2026 picture: Xavier is end-of-life-ish for new designs, Orin is the active line, and choices come down to Nano / NX / AGX. Here's how we actually pick between them.Orin Nano (8 GB)
Compute: up to 40 TOPS sparse INT8.Power: 7-15 W envelope.
Memory: 8 GB LPDDR5, shared with GPU.
Where it's the right answer: single-camera vision inference at 1080p, models < 4 GB, latency budget > 30 ms. We run a lot of YOLOv8s + classifier pipelines on these.
Where it isn't: anything memory-hungry. 8 GB shared between OS, application, and model is enough for one model and not enough for two large ones at once.
Orin NX (16 GB)
Compute: up to 100 TOPS sparse INT8.Power: 10-25 W.
Memory: 16 GB LPDDR5.
The sweet spot for most industrial deployments. Enough memory to run a detection model + an anomaly model + a small OCR model concurrently. Power envelope is still passive-cool friendly. Costs about 2x Nano, gets about 2.5x the throughput in our typical workloads.
If you're spec'ing a new vision station today, this is the default unless you have a specific reason otherwise.
Orin AGX (32 / 64 GB)
Compute: up to 275 TOPS sparse INT8.Power: 15-60 W.
Memory: 32 GB or 64 GB LPDDR5.
For multi-camera systems, large models (heavy transformers, pre-trained foundation models running on edge), or applications that need genuine GPU compute alongside inference. We use these for cells with 4+ cameras feeding a single inference engine, and for any deployment that runs a custom CUDA kernel.
Active cooling required. 64 GB SKU is hard to source.
Common gotchas
- Thermal throttling. Even within power envelope, the SoC will throttle if the heatsink is undersized. We see cells with under-spec heatsinks lose ~20 % inference performance in summer.
- eMMC vs SD vs NVMe. SD card wear-out is a 6-12-month problem in 24/7 deployments. eMMC is fine for OS and binaries but small (16 GB on Nano dev kit). NVMe for any deployment that writes images locally — and they all do at some point.
- JetPack version drift. JetPack 6 vs 5 is a real difference (CUDA, TensorRT, OS base). Pinning JetPack version per project is part of our deployment manifest.
- CUDA-only libraries. If the project depends on a library that only ships CUDA backends (a lot of medical / scientific code), Jetson is the only ARM edge platform that runs it. Hailo / Coral can't.
The decision tree
- Single small model, latency > 30 ms is fine, power matters → Orin Nano.
- 2-3 models concurrent, latency 10-30 ms, balanced power → Orin NX.
- Foundation models, multi-camera, custom CUDA → Orin AGX.
- Anything that absolutely needs to be passively cooled in a sealed enclosure → consider Hailo instead.
One pattern we no longer try
Putting the Jetson outside the cabinet to "let it breathe". The dust ingress kills the heatsink in six months. Inside the cabinet, properly ducted, with a single 80 mm fan dedicated to the Jetson — that's the deployment that lasts.What's your default Jetson? Curious about NX uptake in 2026 vs sticking with Xavier NX for established cells.
