#Prompt-Injection 関連記事

Semalith v1.4、Llama-Guard-3-8Bを凌駕する安全分類器

arXivは2026年5月6日(現地時間)付けで、Tejasvi C. Addagada氏による論文「Semalith v1.4: A Calibrated 184M Safety Classifier Achieving State-of-the-Art Prompt-Injection Detection at 44x Fewer Parameters than Llama-Guard-3-8B」を公開した。同論文によると、Semalith v1.4は1億8400万（184M）パラメータの安全性分類器であり、大規模言語モデル (LLM) のプロンプトインジェクション検出において、Llama-Guard-3-8Bと比較して44分の1のパラメータ数で最先端の性能を達成したとされる。

リサーチ・論文 6月24日 00:20

LLMのプロンプトインジェクション対策、モデルのロール認識が鍵

Simon Willison's Weblogは2026年6月22日(現地時間)、チャールズ・イェ (Charles Ye) 氏らが発表した論文「Prompt Injection as Role Confusion」についての解説記事を公開した。この研究は、大規模言語モデル (LLM) が自身の特権的なシステムメッセージと信頼できないユーザー入力を区別する際の課題に焦点を当てている。モデルがテキストの内容よりも書き方を重視する傾向にあるため、プロンプトインジェクションへの脆弱性が指摘されている。