نشر TinyML متعدد الأجهزة: مقارنة أداء واستهلاك طاقة على Cortex‑M وESP32 وRISC‑V

مقدمة: لماذا تهم المقارنة بين الأجهزة الصغيرة في عالم TinyML؟

TinyML هو نهج لتشغيل نماذج تعلم آلي مصغرة مباشرة على متحكّمات دقيقة وأجهزة حافة منخفضة الطاقة، ليقدّم استدلالاً فورياً مع استهلاك طاقة منخفض وحماية خصوصية البيانات. هدف هذا المقال هو تقديم مقارنة عملية بين ثلاث فئات أجهزة شائعة عند مهندسي الـTinyML: عائلة ARM Cortex‑M (مثل سلسلة STM32)، منصات ESP32 (بما في ذلك S3)، ومعالجات/نُظُم مبنية على RISC‑V (بما في ذلك وحدات مزوّدة بمعجّلات عصبية NPU مثل Kendryte).

سنغطي منهجية قياس موحَّدة (زمن الاستدلال، الطاقة المستهلكة لكل استدلال، الذاكرة المستخدمة)، أدوات النشر الشائعة (TensorFlow Lite for Microcontrollers، CMSIS‑NN، مكتبات مزوَّدة من المصنع مثل ESP‑NN)، وخلاصة عملية لاختيار الجهاز المناسب للتطبيق. هذه الرؤية تستند إلى تجارب ومقارنات حديثة في المجتمع والصناعة حول أداء TinyML على متحكّمات دقيقة.

منهجية المقارنة: نماذج، أدوات، وقياسات

للمقارنة العملية نُوصِي باتباع خطوات ثابتة:

• اختيار أحجام نموذج ممثلة: KWS (keyword‑spotting) أو شبكة CNN خفيفة (مثلاً نسخة مُكمّشة من LeNet أو MobileNetV2‑Micro) مُجمَّعة إلى int8/Quantized.
• استخدام نفس شروط الاختبار: تردد التشغيل، حالة الذاكرة (RAM/Flash)، اتصال الشبكة مع تعطيلها عند قياس طاقة الاستدلال إن أمكن.
• أدوات التنفيذ: TensorFlow Lite for Microcontrollers (TFLM) كقاعدة عامة، وCMSIS‑NN لتسريع دوال الـARM Cortex‑M، أما على ESP32 فاستعمل السلاسل المحسّنة مثل ESP‑NN أو TFLM مع SIMD إن وُجدت؛ وعلى RISC‑V استخدم واجهات الـNPU المورّدة (Kendryte SDK أو API المعالج).
• قياسات الطاقة: استخدم مقياس قدرة بدقة (مثل Monsoon Power Monitor أو مقياس تيّار/فولت دقيق) لقياس متوسط الطاقة أثناء الاستدلال (أو الطاقة لكل استدلال = الطاقة × الزمن)، وسجل زمن الاستدلال (ms) ومؤشر الذاكرة.

المؤشرات المهمة عند اتخاذ القرار: زمن الاستدلال (latency)، الطاقة لكل استدلال (uJ أو mJ)، واستهلاك الذاكرة (RAM arena + Flash). هذه المقاييس هي التي تحدد ما إذا كان التطبيق يعمل لساعات/أيام على بطارية أم يحتاج إلى مصدر طاقة أكبر.

ملاحظات ونتائج رئيسية من المقارنات العملية

ARM Cortex‑M (مثال: عائلة STM32 وCMSIS‑NN)
عندما تُستخدم مكتبات مُحسَّنة مثل CMSIS‑NN أو محركات استدلال متخصصة، تُظهر معالجات Cortex‑M (وخاصة الطرازات عالية الأداء مثل H7) كفاءة حسابية جيدة وزمن استدلال منخفض بالنسبة لنماذج الـint8—مما يؤدي إلى طاقة أقل لكل استدلال في حالات كثيرة مقارنةً بمنصّات عامة أخرى. دراسات تجريبية أظهرت أن متحكّمات ARM أسرع وأوضح كفاءة طاقة في سيناريوهات حسابية نقية، خصوصاً إذا كانت الذاكرة داخلية وسرعات الوصول منخفضة التأخير.

ESP32 / ESP32‑S3
منصات ESP32 جذّابة لأنها تجمع بين اتصالات (Wi‑Fi/BLE) ومتحكّم ثنائي‑النواة بتكلفة منخفضة، ويدعم S3 تعليمات SIMD وتحسينات برمجية (ESP‑NN) لتسريع بعض دوال TFLM. على الرغم من ذلك، قد تُعيق سعات الوصول إلى الذاكرة الخارجية (Quad‑SPI flash) أداء الاستدلال وتزيد الوقت المستغرق إذا لم تُحمل النماذج داخل الـRAM بشكل فعّال. في تجارب عملية قَسّت استهلاك طاقة مستمر لبعض تطبيقات TinyML على ESP32‑S3 عند حدود عدة مئات من الملي واط (مثال قياس ~0.66W في تجربة نموذجية)، لذلك ESP32 مناسب للتطبيقات التي تحتاج توازناً بين الاتصال والذكاء المحلي، لكنه قد لا يكون الأفضل من حيث الطاقة لكل استدلال في سيناريوهات حسابية نقية.

RISC‑V مع مُسرِّعات NPU (مثل Kendryte K210 / K510 أو تصميمات بحثية)
المنصّات المبنية على RISC‑V وتُزوَّد بمعجّلات عصبية أو وحدات مُخصَّصة تُظهر كفاءة طاقة عالية جداً للاستدلال الكثيف: وحدات NPU مصممة خصيصاً للـMACs يمكن أن تحقق طاقة لكل استدلال في نطاق µJ لعدد من الشبكات المخفَّضة، وتتفوق في بعض الحالات على المعالجات العامة. منتجات مثل Kendryte K210 تقدّم قدرة رؤية ومعالجة صوتية بأرقام طاقة منخفضة نسبياً، وأبحاث حديثة تُظهر مسرِّعات RISC‑V مُصمَّمة تحقق تكلُفة طاقة متدنية للغاية (uJ/inference) وكفاءات TOPS/W مرتفعة. هذا يجعلها خياراً ممتازاً إذا كانت حاجة التطبيق تشغيل نماذج أكبر أو معدّلات استدلال عالية مع قيود طاقة صارمة.

ملاحظة حول التخطيط العملي: الاختيار ليس دائماً عن الأفضلية المطلقة—بل عن التوازن: إذا احتجت اتصالاً دائماً وI/O متكاملًا بسرعة منخفضة للتكلفة، ESP32 قد يكون الأنسب؛ إذا رغبت أقصى كفاءة طاقة لنماذج بسيطة مع دعم أداة مُتينة، فـCortex‑M (مع CMSIS‑NN/TFLM) غالباً خيار جيد؛ وإن تطلبت تطبيقك نماذج أكبر أو تصنيف فيديو/صوت مُتقدّمًا، فـRISC‑V مع NPU يعطي أفضلية واضحة عند كلٍّ من الأداء والطاقة لكل استدلال.

أمثلة عملية ونصائح لنشر نموذج TinyML متعدِّد الأجهزة

خطوات عملية مختصرة للنشر وقياس الأداء:

1. تحضير النموذج: درّب النموذج على الخادم ثم نفّذ Post‑Training Quantization إلى int8 أو استخدم Quantization‑Aware Training للنماذج الحساسة.
2. اختيار إطار العمل: استخدم TensorFlow Lite for Microcontrollers كقاعدة ثم فعّل المكتبات المحسَّنة: CMSIS‑NN لـARM، ESP‑NN أو تسريعات vendor‑specific لـESP32، أو SDK المخصَّص لمعالجات RISC‑V (مثل Kendryte SDK) عند وجود NPU.
3. قياس الأداء بدقّة: قيّم زمن الاستدلال على الجهاز، ثم قِس استهلاك التيار أثناء حلقة الاستدلال باستخدام مقياس دقيق. احسب الطاقة لكل استدلال (Power_avg × Latency) وأدرج زمن النوم والـwake‑up إن كان التطبيق duty‑cycled.
4. تحسينات برمجية: فعّل دوال مُحسّنة (CMSIS‑NN, SIMD ops)، قلّل تحريك الذاكرة (preload model in RAM if possible)، استعمل تجزئة/تقليم وpruning إذا لزم.
5. تصميم للطاقة: استخدم duty‑cycling، استدعاءات مؤقتة، وايقاف الاتصالات اللاسلكية أثناء التنفيذ إن أمكن لتقليل الاستهلاك الإجمالي لبطارية العقدة.

خلاصة مُوجَزة: لا توجد إجابة موحّدة—Cortex‑M متميّز في الكفاءة الحسابية عند نماذج صغيرة مع مكتبات مُحسّنة، ESP32 يوفر توازناً ممتازاً بين الاتصال والتعقيد عند تكلفة منخفضة، أما RISC‑V مع NPU فيعتبر الأفضل إذا كان هدفك أداء أعلى لكل واط على نماذج الرؤية أو الصوت المعقّدة. ابدأ بمقارنة بسيطة (KWS أو CNN صغيرة)، قِس زمن الاستدلال والطاقة، ثم قرّر حسب متطلبات التطبيق (دورية العمل، زمن الاستجابة، التكلفة، والاتصال).

إذا رغبت، أستطيع تزويدك بمخطط اختبار جاهز (脚本/قائمة أوامر) لقياس الطاقة والزمن على لوحة محددة (مثلاً STM32H7 vs ESP32‑S3 vs Maix K210) مع أمثلة كود لتحميل نموذج TFLM وقياس الاستدلال خطوة‑بــخطوة.