AI Edgeline
最新
リサーチ・論文 トーバルズ氏、AIデバッグと「頑固さ」語る リサーチ・論文 Google、ウェアラブルデータ向けAIバイオマーカー発見ツール発表 VC・資金調達 アンドリーセン・ホロウィッツ、競合企業取締役会席巡り米司法省の調査対象に VC・資金調達 Crunchbase News、AI・防衛技術に大規模資金調達を報告 VC・資金調達 a16z、CursorとOpenRouterの大型売却で80億ドル超の成果 リサーチ・論文 Google Research、モビリティデータ活用で言語モデルの場所理解を深化 ポッドキャスト・動画 プールサイドAI、NVIDIAと60億ドル規模のライセンス契約 リサーチ・論文 AEGIS、フェデレーテッドLLMの勾配逆転攻撃を阻止：三重チャネルマスクでプライバシー保護 リサーチ・論文 自動運転の事故原因推論、新データセット「CAViAR」でAIの課題浮き彫りに リサーチ・論文 VLMs高速化と堅牢化の新アルゴリズム「ClustRS」発表 リサーチ・論文 Zero-Shot VLM、デプロイメントシフト下で安全性保証に深刻な欠陥 リサーチ・論文 Holtercare-Bench発表：MLLM向け長期ECG分析ベンチマーク リサーチ・論文 AI意識の不確実性に対処、arXivが新たな視点提示 リサーチ・論文 SceneGTMM、高精度で転送可能なマップマッチングの新手法を提案 リサーチ・論文 プライバシー保護型フェデレーテッド学習、スマホでの口腔がんスクリーニングに適用
1 / 15

Tag

#ジェイルブレイク

2 件の関連記事

リサーチ・論文

LLMジェイルブレイク評価の新手法「JailMeter」発表

Qingjia Huang、Jingyu Zhangら研究者チームは2026年7月20日(現地時間)、大規模言語モデル (LLMs) へのジェイルブレイク攻撃を評価するための新たなフレームワーク「JailMeter」に関する論文をarXivに公開した。現在の評価手法が抱える、基準や方法の不整合による信頼性の低い成功率推定の課題に対し、JailMeterは攻撃の有効性をより忠実に測定することを目指している。

arXiv cs.CR
リサーチ・論文

Anthropic、LLM防御の新技術発表 計算コスト減と堅牢性向上

Anthropicは1月9日(現地時間)、大規模言語モデル（LLM）に対する「ユニバーサルジェイルブレイク」攻撃への防御を強化する新技術「Constitutional Classifiers++」の詳細を新たな論文で発表しました。第1世代と比較して、計算コストを大幅に削減しつつ、高い堅牢性と低い拒否率を実現したと説明されています。この次世代分類器は、モデルの入出力を監視するセーフガード層の強化と、推論時の計算効率の向上を両立させることを目指します。

anthropic.com