#HoS

Heads of Security、学習アテンションゲートでプロンプトインジェクション防御を強化

HoS (Heads of Security) は10月27日(現地時間)、新たなプロンプトインジェクション防御手法を発表しました。arXiv cs.LGで公開された論文で詳述されたこの手法は、学習済みのヘッドごとのアテンションゲートを通じて、大規模言語モデルにおける命令とデータの分離 (instruction-data separation) を強制します。これにより、モデルが悪意ある命令に従うことなく、信頼できないコンテンツに対しても堅牢な推論を実行できるようになります。