#HarmBench 関連記事

LLMのゲート記憶部品狙う「BadEngram」バックドア攻撃発表

arXiv cs.CRは2026年9月11日(現地時間)、大規模言語モデル (LLM) におけるゲート型パラメトリックメモリの脆弱性を悪用する新しいバックドア攻撃手法「BadEngram」が、Ariel Fogelらの研究者によって提示されたと発表した。この攻撃は、モデルのトレーニング後に特定のトリガー依存の振る舞いを埋め込むもので、既存のバックボーンの重みや実行グラフには変更を加えない特徴を持つ。EngramモデルおよびQwen3.8-Flash-Nextを用いた検証で、その有効性が確認された。

BPEトークン化がLLM安全性に隙間、回避策の課題浮き彫り

arXivは5月1日(現地時間)、大規模言語モデル（LLMs）の安全性アライメントにおける新たな脆弱性を指摘する論文を発表した。この研究は、BPEトークン化（Byte-Pair Encoding tokenization）が安全上重要な単語をサブワードに分割することで、文字レベルの摂動がLLMsの安全機能を回避するメカニズムを特定。その回避策の現状と課題について詳細な分析結果を報告している。