LLMエージェント標的の記憶偽造攻撃「FARMA」とその防御「SENTINEL」研究論文発表
arxiv.orgは7月6日(現地時間)、大規模言語モデル（LLM）エージェントの永続メモリに保存される推論履歴が新たな攻撃面となる可能性を指摘する研究論文を発表した。Neeraj Karamchandani氏らが手掛けたこの論文は、エージェントの偽造された推論を悪用する攻撃「Forged Amplifying Rationale Memory Attack（FARMA）」を提案し実証。同時に、この攻撃を阻止する5層の防御パイプライン「SENTINEL」も提示している。