Tag
3 件の関連記事
arXiv cs.CRは2026年10月22日(現地時間)、İpek Abasıkeleş Turgut (イペク・アバシケレシュ・トゥルグット)氏とEdip Gümüş (エディップ・ギュミュシュ)氏らが執筆した論文を公開しました。この論文では、言語モデルツール仲介用のフェイルクローズドゲートウェイ「バービカン (BARBICAN)」の評価結果を報告。設定不備のトークナイザーが原因で、ニューラル分類器が機能不全に陥る可能性を著者らは指摘しています。
arXivは2026年5月6日(現地時間)付けで、Tejasvi C. Addagada氏による論文「Semalith v1.4: A Calibrated 184M Safety Classifier Achieving State-of-the-Art Prompt-Injection Detection at 44x Fewer Parameters than Llama-Guard-3-8B」を公開した。同論文によると、Semalith v1.4は1億8400万（184M）パラメータの安全性分類器であり、大規模言語モデル (LLM) のプロンプトインジェクション検出において、Llama-Guard-3-8Bと比較して44分の1のパラメータ数で最先端の性能を達成したとされる。
Simon Willison's Weblogは2026年6月22日(現地時間)、チャールズ・イェ (Charles Ye) 氏らが発表した論文「Prompt Injection as Role Confusion」についての解説記事を公開した。この研究は、大規模言語モデル (LLM) が自身の特権的なシステムメッセージと信頼できないユーザー入力を区別する際の課題に焦点を当てている。モデルがテキストの内容よりも書き方を重視する傾向にあるため、プロンプトインジェクションへの脆弱性が指摘されている。