TinyML Benchmark: Tamamen Bağlantılı Sinir Ağları

Tensorflow Lite sinir ağlarını çalıştırmak için popüler mikrodenetleyici kartlarının ne kadar hızlı olduğunu hiç düşündünüz mü? Bu yazıda, Tamamen bağlantılı sinir ağlar için bu bilgilere bakacağız.

Bu yazıda Tensorflow Lite Sinir Ağlarını çalıştırma göreviyle ilgili farklı geliştirme kartlarını karşılaştıracağız.

Listedeki geliştirme kartları:

• Arduino Nano 33 BLE Sense (Cortex M4 @ 64 MHz)
• ESP32 (Xtensa çift çekirdekli @ 240 MHz)
• Tüy M4 Ekspres (Cortex M4F @ 200 MHz)
• STM32 Nucleo H743ZI2 (Cortex M7 @ 480 MHz)
• Arduino Portenta (Cortex M7 @ 480 MHz)
• Teensy 4.0 (Cortex M7 @ 600 MHz)
• Raspberry Pi Pico (Rp2040 / Cortex M0+ @ 125 MHz)

Gördüğünüz gibi, CPU ve saat frekansı açısından farklılık gösterirler.

Karşılaştırmalı ağ topolojisi, 3 tür tam bağlantılı ağdır:

• 10 nöronlu 1 katman
• Biri 10 nöronlu, diğeri 50 nöronlu 2 katman
• Her biri 10 nöron içeren 10 katman

Tahmin Süreleri

Aşağıdaki çizelgeler, lineer ve logaritmik ölçekte her bir geliştirme kartı için farklı ağların çıkarım süresini (mikrosaniye cinsinden) göstermektedir.

Tam bağlantılı kıyaslamalar Çıkarım süresi doğrusal ölçeği, Rpi Pico dahil

Tam bağlantılı kıyaslamalar Rpi Pico olmadan çıkarım süresi doğrusal ölçeği

Tam bağlantılı karşılaştırma ölçütleri En yavaşsız çıkarım süresi, doğrusal ölçeği

Tam bağlantılı kıyaslamalar Çıkarım zaman günlüğü ölçeği, Rpi Pico dahil

Karar nedir?

• Teensy 4.0, daha hızlı saatinden bekleyebileceğiniz gibi en hızlısıdır.
• Arduino Portenta ve Nucleo H743ZI2, aynı aileden iki CPU’yu paylaştıklarından oldukça eşittir, ancak Nucleo tüm topolojilerde daha hızlıdır.
• Fiyat/performans olarak bakarsak, ESP32 hala harika bir performans / fiyat oranına sahip.
• Raspberry Pi Pico, en yavaş saate sahip olmamasına rağmen en yavaş olanıdır (ancak Arduino Nano 33 BLE Sense, Cortex M4 CPU’ya sahiptir)

İşlenmemiş Veriler