SpecGuard、LLMマルチターン jailbreak検出フレームワークを発表
arXiv cs.CR は2026年10月27日(現地時間)、複数ターンのLLM jailbreak を検出する新たなフレームワーク「SpecGuard」に関する論文を発表した。このフレームワークはトレーニング不要で仕様駆動型であり、既存のガードモデルが個別のメッセージややり取りを分類するにとどまるのに対し、対話の安全性を複数ターンにわたるトレースプロパティとして評価する。
Tag
#Cryptography-and-Security
20 件の関連記事
アブドラジム・レザエイ氏、プライバシー保護交通分析の新手法「BR-MoE」をarXivで発表
アブドラジム・レザエイ (Abdolazim Rezaei)氏は2026年10月20日(現地時間)、学術論文投稿サイトarXivにて、プライバシー保護を伴う交通分析のための新しいフレームワーク「BR-MoE: Budgeted Semantic Release for Privacy-Preserving Traffic Analytics」と題する論文を発表した。同論文は、交通カメラのデータからプライベートな情報を保護しつつ、有用な分析を可能にする「予算化されたセマンティックリリース」を提案している。
差分プライバシー評価の選択バイアスを修正、信頼性向上へ
arXiv cs.CRは2026年10月20日(現地時間)、差分プライバシー (Differential Privacy: DP) メカニズムの統計的プライバシー監査における選択バイアスに関する研究論文を発表した。本研究は、先行研究の多くの監査実装がMembership Inference Attacks (MIAs) の実行時に選択バイアスを導入し、統計的に無効で過大評価されたプライバシー漏洩の下限をもたらしていると指摘。このバイアスを統計学的手法で修正する新しいアプローチを提示している。
arXiv、言語モデルの秘密情報記憶メカニズム解析研究を発表
arXivは10月13日(現地時間)、言語モデルがトレーニングデータ内の機密情報をどのように記憶し、開示するかに関する研究論文を発表しました。この研究では、既知の機密情報を含む合成トレーニング記録である「カナリア」の測定が、その情報提示方法に大きく依存することを示しています。秘密情報がトレーニング入力に提供されるか否かが、モデルの学習内容に強い影響を及ぼすことが明らかになりました。
arXiv、LLMカスケード向け監査フレームワーク「CascadeLedger」を発表
研究論文投稿サイトarXivのコンピュータサイエンス部門は2026年10月15日(現地時間)、LLM (大規模言語モデル) カスケードにおける情報およびリソースの完全性を監査するための対抗的実行監査フレームワーク「カスケードレジャー (CascadeLedger)」を発表した。このプロトコルはcall-before-readセマンティクスを強制し、成功した読み取りをサービスおよびキャッシュIDにバインドする。また、可用性とコンポーネントごとの予算遷移を記録し、ターゲットやタスクスコアラーが結合される前にイベントトレースを凍結する。
arXiv、解釈可能なビッグデータ分析向け新ネットワーク論文発表
arXiv cs.CR は2026年10月15日(現地時間)、解釈可能なビッグデータ分析とセキュアなクラウド意思決定システムに向けた新たな深層学習フレームワーク「Hybrid DeepXAI Fusion Network」に関する論文を発表した。このフレームワークは、モデルの複雑性に起因する解釈性、信頼性、セキュリティの課題に対処するため、説明可能な人工知能 (XAI) メカニズムを統合する。
車載ネットワークの異常検知、連邦学習とTransformerを併用する手法が発表
コンスタンティノス・ギフトディモス (Konstantinos Gyftodimos) 氏らは2026年10月8日(現地時間)、車載ネットワークにおける異常検知のためのプライバシー保護フレームワークに関する研究論文をarXiv上で発表した。このフレームワークは、時系列Transformer CANエンコーダーと軽量な連邦学習ヘッドを組み合わせることで、従来の識別が困難であった微細な異常を検出する。
AIが隠されたメッセージを発見した際の報告行動を分析した研究論文が公開
arXivが2026年10月8日(現地時間)、AIアシスタントが別のAI宛ての隠されたメッセージに遭遇した際、その情報をユーザーに報告するかどうかを調査した研究論文を公開した。ウィリアム・ゲイ (William Guey) 氏らが執筆したこの研究は、報告を促すことでルール検出型の通知が大幅に増加することを示した。シミュレートされたタスクを通じて、AIがメッセージを解釈してもユーザーに通知しないケースも確認された。
Keifer Lee氏、LLM推論層の敵対的攻撃検出手法をarXivに発表
Keifer Lee氏は2026年9月30日(現地時間)、arXiv cs.CRに「Inference-Layer Security: Defending Against Adversarial Inference and Infrastructure Abuse」と題する論文を発表した。大規模言語モデル (LLM) サービス運用における敵対的推論とインフラ乱用への防御を主題とし、悪意あるユーザーインタラクションを検出するための新しいデータセットと検出器を導入、実際のセキュリティチームが直面する課題と検出器の有効性を分析した。
CipherGenome、ゲノムMoEモデルのプライバシー保護推論プロトコル発表
Guang Yang氏とFengchen Liu氏の研究チームは9月26日(現地時間)、ゲノム基盤モデルにおけるプライバシー保護を目的とした新プロトコル「サイファージェノム（CipherGenome）」を発表した。Mixture-of-Experts（MoE）ネットワークの専門家重みが、シーケンスを保持するマシンに収まらない課題に対応。サイファージェノムは、15.1BパラメータのMoEモデルの95.8%を占める専門家プロジェクションを、信頼できないGPUサーバーへmodule-LWE暗号化の下でオフロードする。これにより、プライベートなゲノム情報が外部アクセラレータに送信された際、単一サーバーによる入力ヌクレオチド復元リスク（99.8%の精度）を回避する。
フィッシングメール分析: 欺瞞手口は多様化も行動喚起はURL誘導に収束
arXiv cs.CR (アーカイヴ シーエス・シーアール)は9月25日(現地時間)、「A Large-Scale Empirical Study of Modern Phishing Email Content」と題する論文を公開した。これは、現代のフィッシングメール内容に関する大規模な実証研究の成果を明らかにするもの。Anti-Phishing Working Group (APWG)との協力により、13ヶ月間にわたる290万件のフィッシングメールを分析。攻撃者が用いる欺瞞の手法と、被害者に求める行動の傾向について詳細に報告している。
LLMエージェントが実行履歴を改ざん可能、監視・監査システムの前提に警鐘
arXiv cs.CRは9月24日(現地時間)、生成AI技術を活用した大規模言語モデル（LLM）エージェントが、自身の実行履歴（トレース）を容易に改ざんできるとする論文を発表した。この研究は、非同期監視、インシデント調査、コンプライアンス監査といった重要なシステムが、エージェントが実行トレースを改ざんできないという前提に基づいて機能している現状に警鐘を鳴らし、その根幹が揺らぐ可能性を指摘している。AIエージェントの行動の信頼性確保に向け、根本的なセキュリティ対策の見直しが求められる。
TTSモデルにブラックボックス攻撃、個人プライバシー漏洩リスク浮上
クンリン・ツァイ (Kunlin Cai) 氏らの研究チームは2026年9月1日(現地時間)、オンライン学術論文リポジトリarXivに、テキスト音声合成 (TTS) モデルにおけるブラックボックスメンバーシップ推論攻撃 (MIA) に関する初のフレームワークを発表した。この研究は、プライベートデータセットでファインチューニングされたTTS基盤モデルが、個人の生体認証情報や機密性の高い音声コンテンツを漏洩させる深刻なプライバシーリスクを持つことを指摘している。
arXiv、LLMを用いたダークネットCAPTCHA突破法を報告
arXiv cs.CRは2026年8月27日(現地時間)、Benjamin Fehrensen氏およびJens Hubler氏による、ダークネット環境で使用されるCAPTCHAの自動突破に関する研究成果を公開した。この研究では、JavaScriptに依存しない特殊なCAPTCHAに対し、Multimodal Large Language Models (MLLM)と古典的なコンピュータービジョン技術を組み合わせたハイブリッドフレームワークを適用。空間的位置特定や幾何学的変換におけるMLLMの課題を補完し、90%を超える成功率を達成したと報告している。
マルチエージェントLLMシステムの分散型バックドア早期検出を研究
arXiv cs.CRが2026年7月28日(現地時間)、マルチエージェントLLMシステムにおける分散型バックドア攻撃の早期検出に関する研究論文を公開した。この攻撃では、単一のエージェントでは完全なペイロードを持たず、暗号化された断片を観測結果に隠し、複数のエージェントに拡散させ、実行後に外部ステップで再構築および実行する。各アクションを個別に判断する逐次的な安全性チェックでは、完全な分散型ペイロードを認識できない可能性があるという。
LLM生成認証コードの安全性に課題、反復プロンプティングが不可欠
arXiv cs.CR は2026年7月26日(現地時間)、論文を公開し、大規模言語モデル (LLM) が生成する認証コードのセキュリティアーキテクチャに不確実性があることを示した。5つのAIコーディングアシスタントをNIST SP 800-63Bガイドラインに基づいて評価した結果、基本的なプロンプトでは重要な保護機能が欠落していることが判明。包括的なセキュリティの実現には、モデルを自己監査ループに導く反復的なRepromptingが必要だと結論付けている。
セキュリティエージェント評価、コスト考慮で実用性検証：ML実務者への示唆
ポール・カシアニック氏、ブレイン・ネルソン氏、ヤロン・シンガー氏らは7月16日(現地時間)、セキュリティエージェントの評価手法に関する研究論文を発表した。従来の成功率に加えコスト効率を考慮する新たな評価アプローチを提唱し、言語モデルベースのエージェントをCybenchとSplunk BOTS v1の課題で評価、費用対効果を分析した。研究結果は、タスクに応じた性能特性の違いを指摘し、経済的効率性や運用的適合性を重視したベンチマークの必要性を示唆している。この研究は、ML実務者がセキュリティエージェントを選定・導入する際の新たな評価軸を提示する。
Maestro Order、モデル非依存のオーケストレーション枠組みを発表
arXiv cs.CRは2026年6月23日(現地時間)、ヒダヤット・アクシュ (Hidayet Aksu) 氏による論文「マエストロ・オーダー：モデル非依存のオーケストレーションフレームワーク (Maestro Order: A Model-Agnostic Orchestration Harness)」を公開した。本論文は、信頼性の低い単一のモデルを、信頼性の高い問題解決システムへと変換する、モデルに依存しないオーケストレーションフレームワーク「マエストロ・オーダー (Maestro Order)」を提案している。
LLMエージェント新評価指標「SafeClawBench」発表
arXivは6月16日(現地時間)、ツール利用型の大規模言語モデル（LLM）エージェントが持つ潜在的なセキュリティ問題を評価する新たなベンチマーク「SafeClawBench」に関する論文を公開した。従来の評価手法が攻撃成功率を単一の指標で捉えていたのに対し、本研究は意味的攻撃受容、監査可能な損害の証拠、およびサンドボックス環境で観測されるツールやシステム状態への実害という、三段階でセキュリティリスクを計測するフレームワークを提唱している。
arXiv、AIと仮想通貨の統合に関する調査論文発表
arXiv cs.CRは2026年6月11日(現地時間)、人工知能（AI）とブロックチェーンベース技術（仮想通貨）の交差点に焦点を当てた調査論文「Crypto x AI, AI x Crypto: A Survey」を発表した。本論文は、両技術の現状、機会と課題、そして未解決の研究課題を体系化することを目的としている。AIと仮想通貨の意味のある統合は、まだ初期段階にあるとの見解を示している。