Assembly Vision algoritmalarını Ascend NPU'ya taşımak için hangi adımlar gereklidir?

Teknik makale

Montaj vizyonu algoritmasının Ascend NPU'ya taşınması, orijinal model dosyalarının Atlas cihazına kopyalanması anlamına gelmez; model formatı, operatörler, giriş ve çıkış, çalışma zamanı arayüzü ve kabul kriterlerinin sistem özelleştirmesinin tamamlanması anlamına gelir. Tipik yol şudur: Orijinal model temelini düzeltin, ONNX'yi dışa aktarın, grafik yapısını ve operatörleri kontrol edin, Ascend hedef işlemcisi için OM modelini oluşturmak için ATC'yi kullanın, AscendCL aracılığıyla çıkarıma erişin ve ardından işleme, algılama sonuçları, çalıştırma performansı ve sürüm dağıtımı öncesinde ve sonrasında tutarlılığın doğrulamasını tamamlayın.

Winge Technology'nin montajlara yönelik görsel inceleme yazılımı ve algoritma uygulamaları halihazırda Huawei Ascend Atlas 200I DK A2'de çalışmaktadır. Sınıflandırma, nesne algılama veya segmentasyon modellerini kullanan projeler için Ascend NPU modeli çıkarım bağlantıları, mevcut kamera erişimine, ROI yapılandırmasına, sonuç kaydına ve yerel dağıtıma dayalı olarak eklenebilir.

Geçişten önce hangi girişlerin düzeltilmesi gerekiyor?

Geçişe başlamadan önce en azından aşağıdakileri içeren tekrarlanabilir bir temel paket oluşturulmalıdır:

Orijinal eğitim çerçevesi, model yapısı, ağırlıklar ve dışa aktarma komut dosyaları;
ONNX modelleri için giriş adı, giriş boyutu, veri türü ve dinamik boyut gereksinimleri;
Görüntü renklerini sıralama, ölçeklendirme, kırpma, normalleştirme ve tensörleme yöntemleri;
Sınıflandırma etiketleri, tanıma çerçevesi kod çözme, güven eşikleri, NMS veya bölümleme sonrası işleme kuralları;
Sabit bir OK, NG ve limit numune seti ve bunların beklenen sonuçları;
Target Atlas cihazı, Ascend işlemci modeli, işletim sistemi, CANN ve operatör paketi versiyonu;
Doğruluk, yanlış pozitifler, yanlış pozitifler, benzersiz zaman tüketimi, üretim ve depolama gibi proje kabul göstergeleri.

Bu girdilere değinilmezse model dönüşümü başarılı olsa bile geçiş öncesi ve sonrası farkın modelden mi, ön işlemeden mi, son işlemeden mi yoksa sürüm oluşturma ortamından mı kaynaklandığı belirlenemez.

1. Adım: Orijinal model sonuçlarının temel çizgisini oluşturun

Orijinal modeli çalıştırmak ve giriş tensörlerini, orijinal çıktıyı, işlem sonrası sonuçları ve nihai iş kararlarını depolamak için aynı kabul görüntüleri setini kullanın. Nesne algılama projesi aynı zamanda algılama çerçevesini, kategoriyi, güveni ve NMS sonuçlarını da kaydetmelidir; Segmentasyon projesi maske boyutunu, kategori eşlemesini ve kontur sonuçlarını saklamalıdır.

Taban çizgisinin rolü tekdüze bir doğruluk oranı sağlamak değil, daha ziyade sonraki ONNX ve OM sonuçları için örnek bir karşılaştırma temeli sağlamaktır. Proje göstergeleri müşteri örneklerine, kusur tanımlarına ve işyeri koşullarına göre belirlenmelidir.

2. Adım: ONNX modelini dışa aktarın ve doğrulayın

ONNX'yi eğitim çerçevesinden aktardıktan sonra aşağıdakileri doğrulamanız gerekir:

Giriş ve çıkış düğüm adları sabit mi?
Giriş boyutunun sabit bir boyut mu yoksa dinamik bir boyut mu olduğu;
Operatör versiyonunun ve grafik yapısının hedef dönüşüm ortamına uygun olup olmadığı;
Yalnızca eğitim aşamasında kullanılan düğümlerin dahil edilip edilmeyeceği;
ONNX çalıştırma sonuçlarının ve orijinal model sonuçlarının kararlaştırılan hata aralığında olup olmadığı.

Bu adımda öncelikle modelin ihracat problemini çözmeli, daha sonra kaynak modeldeki farklılıkların cihaz tarafına aktarılmasını önlemek için Ascend tarafında dönüşüm yapmalısınız.

3. Adım: Operatör uyumluluğunu ve grafik yapısını kontrol edin

ATC dönüşümünden önce modelin kullandığı operatörler, nitelikler, veri türleri ve şekil kısıtlamaları kontrol edilmelidir. Desteklenmeyen operatörler veya kombinasyonlar varsa grafiğin yeniden yazılması, eşdeğer operatör değiştirilmesi, bölme ve son işleme veya model yapısına bağlı olarak özel operatörler arasında seçim yapabilirsiniz. Özelleştirmenin tamamlanması için kriter olarak yalnızca "dönüştürme komutunun yürütülmesi tamamlandı" seçeneğini kullanmamalısınız.

Dinamik yığınlar, dinamik görüntü boyutu veya dinamik boyutlar için ilgili dişlilerin gerçek iş istasyonu girişine göre yapılandırılması gerekir. Sabit kameralara ve sabit yakalama boyutlarına sahip montaj istasyonları, çalışma süresi dallanmasını azaltmak ve kabulü kolaylaştırmak için başlangıçta genellikle sabit şekiller kullanabilir.

Adım 4: Bir OM modeli oluşturmak için ATC'yi kullanın

Huawei'nin resmi Ascend belgeleri, ATC'nin ONNX gibi açık kaynak çerçeve modellerini Ascend AI işlemcisi tarafından tanınabilen OM çevrimdışı modellerine dönüştürmek için kullanıldığını belirtir. Tipik bir komut yapısı aşağıdaki gibidir:

“Bah

atc --model=model.onnx

--çerçeve=5

--output=model_atlas

--input_shape="resimler:1,3,H,W"

--soc_version=<Ascend işlemci modelini hedefle>

Gerçek parametreler model girişi, hedef işlemci ve proje ortamıyla eşleşmelidir. Dönüştürme sırasında, OM modeli oluşturma sürecini izlemek ve yeniden oluşturmak için ATC komutu SHA-256, ortam sürümü, dönüştürme günlüğü, inceleme raporu ve oluşturulan dosya kaydedilmelidir.

Adım 5: AscendCL çıkarım bağlantısına bağlanın

OM modeli oluşturulduktan sonra cihaz tarafındaki uygulamanın kaynak başlatma, cihaz seçimi, model yükleme, giriş ve çıkış belleği yönetimi, model yürütme, sonuç okuma ve kaynak serbest bırakma işlemlerini tamamlaması gerekir. Bir montaj görüş sistemi için tam veri yolu tipik olarak şöyledir:

Endüstriyel kamera veya görüntü dosyaları

-> Kod çözme, kırpma ve görüntü kalitesini kontrol etme

-> Yeniden boyutlandırma, renk dönüştürme, normalleştirme ve tensör düzenlemesi

-> OM modeli mantığı

-> Sınıflandırmanın, tespit çerçevesinin veya segmentasyon sonucunun kodunun çözülmesi

-> Montaj iş kurallarıyla yatırım getirisi

-> GEÇTİ / FAIL / BİLİNMİYOR

-> Kanıt tablosu, sonuç günlüğü ve iş istasyonu arayüzü

Çıkarım arayüzü yalnızca model hesaplamasından sorumludur ve son iş istasyonu tespiti aynı zamanda tetik tekilleştirmeyi, görüntü kalitesini, sonuç kanıtını, anormal durumu, PLC veya I/O arayüzünü ve veri izlemeyi de yönetir.

Adım 6: İşlem öncesi ve sonrası tutarlılığı kontrol edin

Geçiş projelerindeki ortak farklılıklar mutlaka modelin kendisinden kaynaklanmaz. Renk sırası, enterpolasyon yöntemi, normalizasyon katsayısı, nicemleme yöntemi, tensör düzeni, koordinat ölçekleme ve NMS parametreleri çıktıyı değiştirebilir.

Aşağıdaki düzeylerde karşılaştırma yapılması önerilir:

- Giriş katmanı: Tensör girişini orijinal model ve OM modeliyle karşılaştırın. - Çıktı katmanı: Modelin orijinal çıktısının şeklini, değer aralığını ve düğüm sırasını karşılaştırın. - Algoritma düzeyi: kategorileri, algılama alanlarını, maskeleri ve güveni karşılaştırın; - İş katmanı: Her örneğin PASS, FAIL veya BİLİNMEYEN sonuçlarını karşılaştırın. - Kanıt Düzeyi: Aynı iş parçasına karşılık gelip gelmediklerini belirlemek için kusur konumlarını, açıklama haritalarını ve sonuç kayıtlarını karşılaştırın.

Yalnızca farklılıkları katman katman tespit ederek model dönüştürmenin, veri işlemenin veya iş kurallarının ayarlanması gerekip gerekmediğine karar verebiliriz.

7. Adım: Cihaz performansı ve kararlılık kontrolünü tamamlayın

Performans testleri Atlas hedef cihazları, resmi görüntü boyutları ve gerçek işleme bağlantıları üzerinde aşağıdakiler arasında ayrım yapılarak gerçekleştirilmelidir:

- görüntü yakalama veya kod çözme süresi; - ön işlem süresi; - Tek bir model için çıkarım süresi; - İşlem sonrası süre ve iş kuralları; - Kanıt görüntüleri ve sonuç dosyalarını yazma zamanı; - Uçtan uca iş istasyonu yanıt süresi.

Test sonuçları aynı zamanda model sürümünü, OM dosyası karmasını, CANN sürümünü, işlemci modelini, giriş boyutunu, toplu işi, hassas modu, ısınma sayısını ve örnek sayısını da kaydetmelidir. Doğruluk, üretim çevrim süresi ve uzun vadeli istikrar, belirli projelerin ve sürekli çalışma koşullarının bağımsız denetimleri ile doğrulanır.

8. Adım: Döndürülebilir bir sürüm teslimatı oluşturun

Resmi teslimat en azından aşağıdakileri içermelidir:

- Kararlaştırılan kapsamdaki orijinal model veya model kaynak dosyaları; - ONNX modeli ve dışa aktarma talimatları; - OM modeli, ATC komutu, dönüştürme protokolü ve kontrol değeri; - Ön işleme, çıkarım, son işleme ve iş arayüzü kodu; - İşletim sistemi, CANN, operatör paketi ve bağımlı sürüm listesi; - Numune doğrulama sonuçları, fark kayıtları ve performans testi raporları; - Yapılandırma, hizmet başlatma, günlüğe kaydetme, yükseltme, yedekleme ve geri alma talimatları.

Winge Technology kameralar, optikler, ROI ile birlikte model taşıma işi yapabilir,

Göç sonuçlarını etkileme olasılığı en yüksek olan sorunlar nelerdir?

| Soru | Yaygın Belirtiler | İşleme yönü | |---|---|---| | Giriş tanımları tutarsız | Sonuçlarda genel değişiklik veya anormal güven düzeyi | Renk, boyut, normalleştirme ve tensör düzeni düzeltildi | | Operatör veya form uyumlu değil | ATC dönüşümü başarısız oluyor veya çıktı yapısı değişiyor | Grafikleri yeniden yazma, operatörleri, dinamik dişlileri veya özel operatörleri değiştirme | | Tutarsız son işlem | Tanıma çerçevelerinin sayısı, konumu veya kategorisi farklı | Birleşik kod çözme, eşikleme, NMS ve koordinat kurtarma | | Sürüm kombinasyonu sabit değil | Aynı model farklı ortamlarda farklı davranır | Sabit sistem, CANN, operatör paketi ve OM yapım kaydı | | Sadece modeli test etmek zaman alıyor | Canlı ritim hala gereksinimleri karşılamıyor | Ölçüm alımından sonuç çıktısına kadar eksiksiz bağlantı | | Bağımsız doğrulama koleksiyonu eksik | Geçişin iş sonuçlarını sürdürüp sürdürmeyeceğini belirlemenin bir yolu yok | Tamam, NG kullanın ve parametre optimizasyonuna dahil olmayan örnekleri sınırlayın |

SSS

### ONNX modelleri doğrudan Ascend NPU'da çalışabilir mi?

Tipik olarak, ONNX modelini hedef Ascend işlemcisine ve CANN ortamına dayalı bir OM çevrimdışı modeline dönüştürmek için ATC'nin kullanılması ve ardından AscendCL gibi cihaz tarafı arayüzleri aracılığıyla yüklenip çalıştırılması gerekir.

### OM dosyalarını oluşturmak için yapılan dönüştürme, geçişin tamamlandığı anlamına mı geliyor?

Hemen değil. Ayrıca giriş ve çıkış yerleştirme, işlem öncesi ve sonrası tutarlılık, rastgele sonuç karşılaştırması, cihaz tarafı performans testi, istisna yönetimi ve sürüm teslim doğrulamasının tamamlanması da gereklidir.

### Tüm geleneksel görüş kurallarının sinir ağlarına dönüştürülmesi gerekiyor mu?

Gerek yok. Sabit konumlara ve net sınırlara sahip yatırım getirisi kuralları hâlâ korunabilir; Kategori değişikliklerini, karmaşık arka planları ve anlamsal tanıma görevlerini yönetmek için sınıflandırma, nesne algılama veya bölümleme modelleri kullanılır ve her ikisi de aynı Atlas uygulamasında birleştirilebilir.

### Aynı OM modeli tüm Atlas cihazları için doğrudan kullanılabilir mi?

OM modelinin dönüştürme parametreleri Ascend hedef işlemcisi ve yazılım ortamıyla ilgilidir. Proje hayata geçirilirken hedef cihaza göre işlemci modeli, CANN ve operatör paketi sürümü doğrulanmalı ve ilgili build kayıtları tutulmalıdır.

### Taşıma öncesi ve sonrası sonuçların tutarlı olup olmadığı nasıl değerlendirilir?

Giriş tensörünü, modelin orijinal çıkışını, algoritma sonuçlarını ve nihai iş yargısını katman katman karşılaştırmak için sabit örnekleme kullanılmalıdır. Kabul, her iki tarafça onaylanan hata, doğruluk ve iş istasyonu kurallarına dayanmalıdır. Az sayıdaki tanıtım görsellerini karşılaştıramazsınız.

resmi kaynaklar

- Huawei Ascend: ONNX modeli https://www.hiascend.com/document/detail/zh/CANNCommunityEdition/81RC1beta1/quickstart/quickstart/quickstart_18_0010.html OM modeline geçti - Huawei Ascend: ATC komut satırı parametreleri ve operatör kısıtlamaları https://www.hiascend.com/document/detail/tr/canncommercial/850/devaids/atctool/atlasatc_16_0039.html - Huawei Ascend: AscendCL model yapısı ve uygulama geliştirme https://www.hiascend.com/document/detail/zh/canncommercial/850/appdevg/acldevg/aclcppdevg_000027.html

Atlas, Ascend, CANN, AscendCL ve ilgili isimler telif hakları sahiplerine aittir. Bu makalede Winge Technology tarafından sağlanan Assembly Vision projeleri için özelleştirme yöntemleri açıklanmaktadır. İlgili hak sahiplerinin belirli bir projeye katıldığı veya desteklediği anlamına gelmez. Ekipman ve alet yetenekleri ilgili resmi yayın belgelerine tabidir ve proje sonuçları gerçek modellere, numunelere, ekipmanlara ve kabul koşullarına tabidir.