Tiny Machine Learning: Kemajuan dan Masa Depan [Feature]

Tiny machine learning (TinyML) adalah batas baru machine learning. Dengan memadatkan model deep learning ke dalam miliaran perangkat IoT dan mikrokontroler (MCU), kami memperluas cakupan aplikasi dan memungkinkan kecerdasan yang ada di mana-mana. Namun, TinyML menantang karena keterbatasan perangkat keras: sumber daya memori yang kecil sulit menampung model deep learning yang dirancang untuk platform cloud dan seluler. Dukungan kompiler dan mesin inferensi untuk perangkat bare-metal juga terbatas. Oleh karena itu, kami perlu merancang bersama algoritma dan tumpukan sistem untuk memungkinkan TinyML. Tinjauan ini membahas definisi, tantangan, dan aplikasi TinyML, meninjau kemajuan terkini, memperkenalkan MCUNet, meluas ke pelatihan on-device, dan menyajikan arah masa depan.

Para penulis mengadopsi pendekatan tinjauan sistematis, memeriksa lanskap TinyML dari keterbatasan perangkat keras hingga solusi algoritmik. Mereka menekankan perlunya merancang bersama algoritma dan tumpukan sistem untuk mengatasi keterbatasan memori dan komputasi MCU. Tinjauan ini mencakup kemajuan terkini dalam deep learning pada MCU, termasuk kompresi model, arsitektur efisien, dan mesin inferensi khusus. Kontribusi utamanya adalah pengenalan MCUNet, kerangka perancangan bersama sistem-algoritma yang memungkinkan aplikasi AI berskala ImageNet pada perangkat IoT. Metodologi ini meluas dari inferensi ke pelatihan, memperkenalkan teknik pelatihan on-device kecil yang memungkinkan model beradaptasi pada perangkat dengan sumber daya terbatas.