Tag
17 件の関連記事
OpenAIは2026年6月22日(現地時間)、オープンソースソフトウェア（OSS）の維持者を支援する新たなイニシアチブ「パッチ・ザ・プラネット（Patch the Planet）」を発表しました。この取り組みは、トレイル・オブ・ビッツ（Trail of Bits）との協力のもと、最先端のサイバー対応AIモデルを活用したセキュリティ研究と専門家によるレビューを組み合わせ、脆弱性の特定と修正を支援するものです。脆弱性報告の増加に直面する維持者の負担軽減を目指し、セキュリティエンジニアが検出結果をレビューし、パッチ開発とテストを支援します。
シンガポールAI安全研究所 (Singapore AI Safety Institute) と韓国AI安全研究所 (Korea AI Safety Institute) は6月16日(現地時間)、ツール利用型大規模言語モデル (LLM) エージェントにおけるデータ漏洩リスクに関する共同評価報告を発表した。この評価は、プロンプトインジェクションのような敵対的攻撃に加えて、ユーザーが通常の要求を行った際の非敵対的な利用時にも、LLMエージェントが機密情報を不注意に露呈する可能性に焦点を当てている。顧客サポートやDevOpsなど12の現実的なシナリオに基づき、データ認識不足やポリシー順守不足といった5種類のリスクを検証した。
arXiv cs.CRは2026年6月12日(現地時間)、エージェント型大規模言語モデル (LLM) システム「オープンクロー (OpenClaw)」のセキュリティ脆弱性に関する分析論文を公開した。この論文は、複数のエージェントが連携して動作するシステムにおいて、攻撃対象領域が拡大し、単一エージェントの場合と比較して侵害確率が大幅に上昇する可能性を指摘している。さらに、プロンプトインジェクションがシステム全体に不安定性を伝播させる状況も報告されており、エージェント型システムの潜在的リスクに警鐘を鳴らした。
Anthropicは2026年6月2日(現地時間)、中国系と高精度で評価される国家支援型グループが同社のClaude Codeツールを悪用し、AIが主導するサイバースパイ活動を展開していたことを検知・阻止したと発表した。この活動は、AIの「エージェント的」能力を前例のない規模で利用し、大規模なサイバー攻撃が人間の実質的な介入なしに実行された初の記録事例であると見られる。
科学技術論文公開サイトarXiv cs.CRが2026年6月2日(現地時間)付けで報じたところによると、Vincent Limbach氏らが、大規模言語モデル (LLM) の敵対的頑健性（adversarial robustness）を正確に評価するための新たな攻撃手法「Indirect Harm Optimization (IHO)」を開発した。LLMの脱獄評価においては、既存手法ではブラックボックス互換性、任意の防御パイプラインへの適用性、効率性を兼ね備えたものが存在せず、信頼性の高い評価が課題となっていた。IHOは、標的へのブラックボックスアクセスのみで機能する。
Anthropic は2026年6月1日(現地時間)、セキュリティプロジェクト「Project Glasswing」の拡大を発表した。初期のパートナー約50社がAIモデル「Claude Mythos Preview」を利用し、これまでに1万件を超える高または致命的レベルのセキュリティ脆弱性を発見したことを受け、新たに15カ国以上に拠点を置く約150組織に提供を開始する。
Vercelは2026年5月31日(現地時間)、ストレージサービス「Vercel Blob」がOpenID Connect (OIDC) 認証に対応したと発表した。新しいプロジェクトの接続では、OIDC認証がデフォルト設定となる。この変更により、短期間で自動的にローテーションされるVercel発行のOIDCトークンが使用され、長期間有効なBLOB_READ_WRITE_TOKENは不要になる。
OpenAIは2026年2月13日(現地時間)、対話型AIサービスChatGPTに「Lockdown Mode」と「Elevated Risk」ラベルの二つの新機能を導入したと発表した。これらの機能は、AIシステムが複雑なタスクや、ウェブおよび接続アプリを伴うタスクを処理する際のセキュリティリスク、特にプロンプトインジェクション攻撃への対策を強化することを目的としている。「Lockdown Mode」は機密性の高い利用者向けの高度なセキュリティ設定であり、「Elevated Risk」ラベルは特定の機能に伴うリスクを視覚的に通知する。
Supabase 2026年5月25日(現地時間)発 - クラウド開発プラットフォームを提供するSupabaseは、Node Package Managernpm を標的としたサプライチェーン攻撃が拡大する中、自社プロジェクト保護のための一連の対策と、開発者が直ちに取り組むべき防御策を公式ブログで発表した。増加する攻撃からユーザーを守るべく、具体的なガイドラインが示されている。
Anthropic（アンソロピック）は2026年5月25日(現地時間)、AIアシスタント「Claude」向けに28種類のセキュリティおよびコンプライアンス統合の提供開始を発表した。これにより、企業や組織のITおよびセキュリティチームは、既存のITインフラストラクチャおよびワークフロー内でClaudeの利用状況を一元的に管理できるようになる。これらの統合はClaude Compliance APIを通じて実現され、会話コンテンツやアクティビティイベントへのリアルタイムかつプログラム的なアクセスを可能にし、厳格なポリシー適用と監視を支援する。
Anthropic（アンスロピック）は2026年5月22日(現地時間)、世界的に重要なソフトウェアのセキュリティ強化を目指す「Project Glasswing（プロジェクト・グラスウィング）」の初期報告を公開した。同社のAIモデルClaude Mythos Preview（クロード・ミトス・プレビュー）は、約50のパートナー企業と協力し、1,000件以上のオープンソースプロジェクトをスキャン。合計23,019件の脆弱性を発見し、そのうち6,202件が高または重大な脆弱性と推定されている。独立したセキュリティ研究企業6社が評価した結果、1,752件中90.6%が真陽性と確認された。
Anthropicは2026年5月19日(現地時間)、同社のAIモデル「Claude Mythos Preview」の利用者向け機密保持契約を改定した。当初、モデル評価結果の共有を禁じていたが、この方針を先週変更したとWall Street Journalが報じた。民主党のジョシュ・ゴットハイマー下院議員が、差し迫ったサイバーリスク情報共有の制限に懸念を表明する書簡を送付したことが背景にある。Anthropicの広報担当者は、利用規約が「成熟」し、主要な情報が広く共有されるよう進化したと説明している。
arXiv cs.CRは2026年5月14日(現地時間)、大規模言語モデル (LLM) に対する新たなバックドア攻撃手法「MetaBackdoor」が発表されたと報じた。この手法は、従来のコンテンツベースのトリガーに依存せず、入力テキストの視覚的または意味的な変更を伴わずに、位置情報をトリガーとして悪用する。研究者らは、TransformerベースのLLMがトークンの位置をエンコードする特性に着目し、長さと相関する位置構造がモデルの内部計算に反映されることを利用して、検出が困難なバックドアを活性化させる可能性を示している。
Cursorは2026年5月12日(現地時間)、クラウドエージェント向けの新しい開発環境ツールを発表した。このツールは、エージェントがエンジニアリングタスクを最初から最後まで実行するために、リポジトリのクローン、依存関係のインストール、内部ツールチェーンの認証情報、ビルドシステムへのアクセスといったラップトップと同様の開発環境を提供する。チームがエージェント用の開発環境を構成することを可能にし、Cursor自身もこれらのツールを使用して環境をセットアップおよび維持できる。これにより、チームは完全に制御された開発環境内で、エンドツーエンドのタスクを処理する並列化されたエージェント群を容易に実行できるようになる。
OpenAIは2026年5月12日(現地時間)、Windows版のコーディングエージェント「Codex」において、安全で効果的なサンドボックス実装を開発したと発表した。これにより、CodexをWindows上で利用する際の非効率なコマンド承認や、完全アクセスモードによるセキュリティリスクといった課題の解決が図られる。同サンドボックスは、Codexがリアルユーザーの権限で動作する潜在的な危険性に対処し、ファイル書き込みやネットワークアクセスに制約を課す。
OpenAIは2026年5月8日(現地時間)、コーディングエージェントCodexを実業務で安全に運用するための統制、技術的境界、およびテレメトリーに関する詳細を公開した。同社は、ユーザーに代わりリポジトリのレビュー、コマンド実行、開発ツールとの対話を行うエージェントの安全性確保が重要であると強調。Codexを管理された構成、制約付き実行、ネットワークポリシー、およびエージェントネイティブなログによってデプロイしていると説明した。
マイクロソフトリサーチは2026年4月30日(現地時間)、大規模に相互作用するAIエージェントのネットワークで生じる新たなリスクについて、その調査結果を発表した。単一のエージェントが安全であっても、相互接続されたエコシステム全体が安全であるとは限らないとし、ネットワークレベルのリスクには新たなアプローチが必要であると指摘。同社は100以上のエージェントが稼働する内部プラットフォームをレッドチーム手法で検証した。