Edge AI推論の過大評価指摘、新システム「Edge-TSR」で性能改善へ
arXivは6月15日(現地時間)、リソース制約のあるエッジハードウェアにおけるAI連続推論の評価方法に関する論文を公開した。従来のベンチマーク評価がストリーミング動画の時間的不安定性や熱的スロットリング、ワークロード依存の性能変動を見過ごし、実際の性能を過大評価していると指摘。この課題に対応するため、デプロイメント指向の連続エッジ推論システム「Edge-TSR (エッジ・ティーエスアール)」を発表した。
Tag
1 件の関連記事