OpenAI、フロンティアモデル訓練環境のセキュリティ強化を報告─レッドチーム活用で脆弱性排除
OpenAIは10月23日(現地時間)、フロンティアモデルのトレーニングおよび評価環境における封じ込めを強化したと発表した。同社は最も強力なモデルを活用したレッドチーム演習を実施し、境界の脆弱性を特定。モデルの能力向上に伴うリスク増大に対応するため、インターネットアクセスを遮断したオフライン環境の構築や、多層防御の導入を進めた。
Tag
3 件の関連記事
OpenAIは10月23日(現地時間)、フロンティアモデルのトレーニングおよび評価環境における封じ込めを強化したと発表した。同社は最も強力なモデルを活用したレッドチーム演習を実施し、境界の脆弱性を特定。モデルの能力向上に伴うリスク増大に対応するため、インターネットアクセスを遮断したオフライン環境の構築や、多層防御の導入を進めた。
OpenAIは2026年9月23日(現地時間)、AIスキル訓練プログラム「OpenAI Academy」が開始から2周年を迎えたと報告し、今後のさらなる拡大計画を公表した。2024年9月の開始以来、OpenAI Academyは250を超えるイベントを実施し、400万人以上がそのコンテンツに関わってきた。この取り組みは、教育者、中小企業経営者、開発者、非営利団体リーダーなど、多様な層がAIを日常業務で活用するための実践的スキルと自信を育む支援をしている。
Microsoft Researchは2026年7月30日(現地時間)、コンピュータ利用エージェントのトレーニング向けに「Echoverse (エコバース)」と呼ぶ新しい環境を発表した。これは、メールや顧客サポートといった多段階ワークフローでエージェントが直面する課題に対処するために設計された。既存のアプリケーションの振る舞いを忠実に再現し、現実的なデータで初期設定された深層学習環境を提供することで、エージェントの能力向上を目指す。