グラフ生成モデルに新アテンション層、GPUメモリを約65%削減し処理能力向上
Vincent Jung氏らの研究チームは2026年10月20日(現地時間)、オンラインプレプリントリポジトリ「arXiv cs.LG」で研究成果を公開し、グラフ生成モデルにおけるグラフ固有のトランスフォーマー (Transformer) アーキテクチャが抱える課題に対処するため、新たなエッジアウェアアテンション層を提案したと発表した。この新提案により、ピーク時のGPUメモリ使用量を約65%削減し、トレーニングおよびサンプリングのスループットを大幅に向上させることに成功したという。