Kare kare nesne tespiti, görüntü sınıflandırma ve poz tahmini buradaki doğal iş yüküdür. SSD-MobileNet ve YOLO ailesinden, zaten int8'e nicemlenmiş ve silikon için üretilmiş ağlar, veri makinenizden hiç ayrılmadan milisaniyeler içinde sonuç verir.
Her modül yalnızca birkaç watt çeker; böylece arkasındaki Xeon asıl uygulamanızı çalıştırırken bir kamera veya sensör akışı gün boyu puanlanabilir. Bu yük boşaltma, parçanın tüm amacıdır: aritmetik taşınır, ana makine serbest kalır.
İki modül de nicemlenmiş olsun ya da olmasın milyarlarca parametreyle ölçülen bir modeli tutamaz ve bu sayfadaki hiçbir şey aksini iddia etmez. Belirli bir modelin neye ihtiyaç duyduğunu hesaplamak LLM barındırma konusudur; bunu karşılayan ayrık kartların fiyatları GPU özel sunucular sayfasındadır.
Google, Coral’ın Edge TPU'sunu 8 bit tam sayılarda 4 TOPS olarak, yaklaşık iki watt güç tüketimiyle derecelendirir. Bu değer Google’ın kendi değeridir ve burada yayımlandığı haliyle tekrarlanmıştır — parçayı kendimiz test etmedik.
Pratikte sağladığı şey: önceden int8'e nicemlenmiş ve Edge TPU derleyicisinden geçirilmiş TensorFlow Lite modelleri, işlemci yerine modül üzerinde çalışır. Bir ağ ya bunun için derlenir ya da derlenmez — yerleşik görü modelleri derlenir ve bu derleme adımı işin asıl giriş bedelidir.
Hailo’nun Hailo-8 için kendi derecelendirmesi 8 bit tam sayılarda 26 TOPS’a kadardır; sayıyı üreticinin yayımladığı haliyle, kendi testimiz olmadan tekrarlıyoruz. İki seçenek arasındaki güçlü olanıdır ve Coral sınıfı bir ağ yetersiz kalmaya başladığında işaretlenecek olandır.
Bir ağ TensorFlow veya ONNX'ten Hailo’nun Dataflow Derleyicisi aracılığıyla gelir ve derlenen sonuç, seçtiğiniz işletim sisteminde HailoRT tarafından sunulur. Coral gibi yalnızca sinir ağlarını hızlandırır, başka hiçbir şeyi değil — yedek genel amaçlı işlem gücü değildir.
İki hızlandırıcı da kendi başına bir ürün değildir. Her biri, bir kartuşun yapılandırıcısındaki tek bir seçenek satırıdır ve orada onu taşıyan makinenin yanında fiyatlandırılır — bu sayfada hiçbir rakam yazmaz, çünkü güncel olanı sipariş formu tutar.
Yuva, HPE Moonshot donanımına biner: dört çekirdekli Xeon E3-1585L v5 üzerinde m710x veya Xeon D üzerinde m510 — D-1548 olarak sekiz çekirdek, D-1587 olarak on altı çekirdek. Önce ana makineyi seçin, sonra modülü ona ekleyin.
Root yetkili tek kiracılı çıplak donanım. Satıcı yığını — Coral için Edge TPU çalışma zamanı, Hailo-8 için HailoRT — sizin tarafınızdan, kendi işletim sisteminize, sabitlediğiniz sürümlerde kurulur. Hiçbir şey makineyi arkanızdan güncellemez.
Bir M.2 modülünün ötesindeki adım, iki modül değil ayrık bir karttır. Rafladığımız her kart, makinesiyle birlikte GPU özel sunucular sayfasında listelenir; birden fazla kart — veya birden fazla makine — HPC alanına girer.
