Kun Liu (クン・リウ) 氏らは2026年10月21日(現地時間)、アセンブリ言語モデル (ALM) における数値オペランドの表現に関する新たな研究成果をarXiv cs.CRで公開した。この研究は、ALMのトークンレベルインターフェースで不明瞭になりがちな数値様のオペランドの課題を解決するため、NumAnchor (ニューマンカー) と呼ばれる入力境界アダプターを提案する。NumAnchorは、回復可能な数値様オペランドを型付けされ正規化されたプログラムエンティティとして表現する手法である。
アセンブリ言語モデル (ALM) は、自動バイナリ解析においてその重要性を増している。しかし、これらのモデルが持つトークンレベルのインターフェースでは、数値様のオペランドが不明瞭になるという課題が指摘されていた。この数値様のオペランドは、2つのコーパスにおいてオペランド出現の45.7%および40.9%を占めており、分岐ターゲット、グローバルデータ、スタックスロット、定数、または未解決のポインタ由来の値を示す可能性がある。
既存の正規化戦略では、これらのオペランドのアイデンティティおよび構造的関係がしばしば失われることが問題となっていた。本研究で提案されたNumAnchorは、この課題に対処するための入力境界アダプターであり、回復可能な数値様のオペランドを、型付けされ正規化されたプログラムエンティティとして表現する。
NumAnchorは、コード、データ、スタックのコンテキストをコンパクトな構造的サイドディスクリプターとしてエンコードする。これにより、ホストシーケンス長を増加させることなく、エンティティのアイデンティティと局所性が保持される。これらのディスクリプターは、最初のTransformer (トランスフォーマー) 層の前に埋め込みに融合されるため、ホストアーキテクチャ、事前学習目的、およびダウンストリームプロトコルに変更は加わらない。
凍結された命令レベルの埋め込みをプロービングした結果、NumAnchorは98.7%の階層的位置精度を達成した。また、ジャンプおよびコールターゲットのアライメントでは、AUROC (Area Under the Receiver Operating Characteristic curve) スコアでそれぞれ0.932および0.907を示し、エンコードされた構造情報が回復可能であることを実証した。さらに、複数のALMファミリーにわたる評価では、10k候補の関数検索においてRecall@1で最大35.0%の相対的な改善、MRR (Mean Reciprocal Rank) で最大31.7%の相対的な改善を達成した。実行認識型回復においても、最大5.2 F1ポイントの改善が見られた。アブレーション研究からは、コード、データ、スタックの各ディスクリプターが相補的な利益をもたらすことが示されており、オーバーヘッドはわずかであるとされている。本研究はICSE 2027での採択が決定している。
参考: arXiv cs.CR — 2026年10月22日 13:00 (JST)
原文ハイライト"NumAnchor, an input-boundary adapter that represents recoverable numeric-like operands as typed, canonicalized program entities."