小型IoTデバイスにおける機械学習のメモリ使用効率化技術

Photo courtesy of the researchers.

機械学習は、パターンや動作を識別および予測し、自動運転からウェアラブルデバイスなど、広範に応用されている。そのため、膨大な量のメモリや計算を必要とする。

多くの研究者が、機械学習のデバイスを、IoTデバイスに用いられているマイクロコントローラーユニット(MCU)のレベルまで小さくすることに取り組んでいる。 MCUは、簡単なコマンドを実行するミニコンピュータで、比較的安価かつ低電力でAIにより有用性を拡大させることができる。この分野はTiny Machine Learning(TinyML)と呼ばれている。

MITとMIT-IBM Watson AI Labの共同研究チームは、TinyMLデバイスで、ライブビデオでの画像認識のパフォーマンスを向上させながら、必要なメモリ量を削減する手法を開発した。成果はAI分野におけるトップカンファレンス『NeurIPS(Neural Information Processing Systems)』で報告された。

TinyMLは、データがローカルデバイスで処理されるため、プライバシーが保証され、高速で、省エネルギー、低コストである。「TinyML技術により、AIをより環境に優しく、より速く、そして誰もがアクセスしやすくすることができる」とMITのSong Han助教授は述べる。

ただし、MCUはメモリとデジタルストレージが小さいため、効率的なメモリ使用が大きな課題になる。そこで、研究チームはメモリの使用を最適化するため、さまざまな畳み込みニューラルネットワーク(CNN)を実行するMCUで、メモリがどのように使用されるかを分析した。そして、メモリ使用率の不均衡がボトルネックを引き起こしていることを発見した。解決策として、新しい推論手法とニューラルアーキテクチャを開発することで、ピークメモリ使用量を4〜8倍削減することに成功。さらにこの手法を、カメラを搭載し人間や物体の検出が可能な独自のTinyMLビジョンシステムに展開し、「MCUNetV2」という次世代モデルを作った。

高精度と低消費電力および低コストにより、MCUNetV2は新しいIoTアプリケーションへの道を開く。研究チームは、ヘルスケア、スポーツ、農業、機械分野など、さまざまな分野への応用展開を検討している。

関連リンク

Tiny machine learning design alleviates a bottleneck in memory usage on internet-of-things devices

関連記事

アーカイブ

fabcross
meitec
next
メルマガ登録
ページ上部へ戻る