Hugging Face、LLMのエネルギー消費予測「SIMPLE Law」を発表
Hugging Faceは11月1日(現地時間)、大規模言語モデル（LLM）の推論におけるエネルギー消費量を予測する新しい分析モデル「SIMPLE Inference Model to Predict LLMs Energy (SIMPLE)」を提唱しました。このモデルは、LLMのアーキテクチャや入出力トークン数に基づき、生成されるトークンあたりのエネルギー消費量（Etok）を予測します。既存手法に比べ高精度な予測を可能にし、特に長文入力やエージェント的な利用でのエネルギー特性を明らかにしました。