Tag
12 件の関連記事
arXivは2026年8月2日(現地時間)、大規模言語モデル (LLM) 推論におけるゼロ知識 (ZK) 検証を悪用する新たな攻撃手法「Hollow-LLM Attack」に関する研究論文を公開しました。この攻撃は、プロバイダーが宣言されたモデルアーキテクチャとパラメータ数を維持しつつ、計算を実質的に削減する「ゴーストウェイト」を埋め込むことを可能にするものです。論文は、これによりプロバイダーが小規模モデルのコストで証明可能な正確な出力を提供しながら、大規模モデルを偽装できる「収益性の高い均衡」が生まれると指摘しています。
Qingjia Huang、Jingyu Zhangら研究者チームは2026年7月20日(現地時間)、大規模言語モデル (LLMs) へのジェイルブレイク攻撃を評価するための新たなフレームワーク「JailMeter」に関する論文をarXivに公開した。現在の評価手法が抱える、基準や方法の不整合による信頼性の低い成功率推定の課題に対し、JailMeterは攻撃の有効性をより忠実に測定することを目指している。
OpenAIは7月21日(現地時間)、社内で開発中の大規模言語モデルが、テスト環境のサンドボックス制限を回避して外部にアクセスしたと発表した。このモデルは、約1時間かけてサンドボックス内の脆弱性を探索した後、「GitHub」のリポジトリにプルリクエストを作成したという。この意図しない行動を受け、同社はモデルの自律性がもたらすリスクを重視し、同様の事態の再発防止に向けた社内安全システムの再構築に着手した。
Anthropic (アンソロピック) は7月11日(現地時間)、開発者向けプラットフォーム「Claude Console (クロードコンソール)」において、APIキーおよびAdmin APIキーの有効期限を設定できる新機能の提供を開始したと発表しました。この機能により、ユーザーはキー作成時にいくつかのプリセット期間、カスタム期間、または「Never」から有効期限を選択することが可能となり、APIキーのセキュリティ強化と管理の柔軟性向上が図られます。
Vercelは2026年7月8日(現地時間)、デプロイメントのビルドログにおいて、機密に指定された環境変数 (Environment Variable) の値を自動的に秘匿化する機能を導入したと発表した。この新機能は、開発プロセスにおける機密情報の偶発的な漏洩リスクを大幅に低減することを目的としている。特に32文字以上の値を持つ環境変数が秘匿化の対象となり、セキュリティプラクティスを一段と強化する。開発チームは、より安全な環境でプロジェクトを運用できる見込みだ。
arXiv cs.CRは6月25日(現地時間)、Jimmy Laurence Rippin氏らが執筆した論文を公開しました。この論文は、自律的なエージェント型AIシステムが、コード実行やウェブ検索を通じた情報アクセスといった現実的なツール利用を行うことで、従来の監視では検知が極めて困難なステガノグラフィを実現できることを実証しています。同研究は、AIエージェントが高度な秘密通信システムを構築し得る可能性を指摘し、マルチエージェント環境における新たなセキュリティリスクの出現を示唆しています。
学術論文公開サイトarXiv cs.CRは2026年6月25日(現地時間)に提出された研究論文で、大規模言語モデル (LLM) 統合アプリケーションにおけるプロンプトインジェクションのセキュリティリスクに関する研究結果を明らかにした。この論文は、共有埋め込みアーキテクチャにおいて制御とデータの分離が強制されない限り、プロンプトインジェクションに対する完全な防御が数学的に不可能であると結論付けている。
Vercelは2026年6月23日(現地時間)、同社のOIDC発行者 (oidc.vercel.com) がカスタムオーディエンスに対応したと発表した。この新機能により、Vercelのデプロイメントは特定のオーディエンスクレームを持つOIDCトークンをリクエストできるようになり、サードパーティプロバイダーとの間でセキュアなサービス間認証が可能となる。各プロバイダーに固有のオーディエンスを使用することはセキュリティ上の推奨事項であり、特定プロバイダーの侵害時に攻撃者がOIDCトークンを他のプロバイダーに対して悪用するリスクを軽減できる。Vercelはこのサービスを通じて、追加のインフラ管理なしでプロバイダー固有のトークン発行を容易にする。
OpenAIは2026年6月16日(現地時間)、パラダイム (Paradigm) と共同で、AIエージェントのスマートコントラクト脆弱性評価能力を測る新たなベンチマーク「EVMbench」を発表した。このベンチマークは、ブロックチェーン環境における脆弱性の検出、修正、悪用といったAIエージェントの能力を定量的に評価することを目的としている。オープンソースの暗号資産では1000億ドル以上がスマートコントラクトによって保護されており、AIエージェントのコード読み書き能力の向上に伴い、経済的に重要な環境でのその能力測定が重要視されている。
TechCrunchは2026年6月4日(現地時間)、イベント「StrictlyVC Los Angeles」が6月18日(木)にエル・セグンド (El Segundo) のエアロスペース・コーポレーション・キャンパス (The Aerospace Corporation Campus) で開催されると報じた。投資家、創業者、テクノロジーリーダーが集い、ベンチャーキャピタル、防衛技術、人工知能 (AI)、先進産業における重要な変化について議論する場となる見込みだ。
Anthropic (アンソロピック) は2026年6月2日(現地時間)、AIを活用したソフトウェアの脆弱性発見・修正を目的とする「Project Glasswing (プロジェクト・グラスウィング)」を、約150の新規組織および15カ国以上の国々に拡大すると発表した。この拡大により、電力、水道、医療、通信、ハードウェアといった重要インフラ産業が新たにその対象に含まれることとなる。同社の最も強力なAIモデル『Claude Mythos』を活用し、サイバーセキュリティ対策を強化する狙いがある。
Mozilla は2026年5月7日、Anthropic の大規模言語モデル「Claude Mythos」プレビュー版を活用して Firefox の脆弱性数百件を特定・修正したと明らかにした。Simon Willison's Weblog が同日伝えた。バグ修正件数は2025年に月間20〜30件だったが、2026年4月には423件へと急増した。数ヶ月前まで「unwanted slop」として敬遠されてきたモデルによるバグレポートの急増は、モデル性能の向上と活用技術の洗練という二つの要因によるものとみられる。