Tag
4 件の関連記事
arXiv (cs.CR) は10月8日(現地時間)、ループ型言語モデル (LoopLMs) における安全性の課題と、これを解決する新たなアラインメント手法「SafeBridge (セーフブリッジ)」に関する研究論文を公開した。論文は、LoopLMsの推論深度が深まるにつれてジェイルブレイク攻撃に対する脆弱性が増加する可能性を指摘。この問題を解決するため、SafeBridgeは共有パラメーターの制御や共同の安全性監視などを通じ、攻撃成功率を大幅に削減すると報告している。同手法は汎用性も向上させつつ、過剰拒否の挙動も抑える。
OpenAIは2026年8月18日(現地時間)、適格なAPI顧客に対し、プロンプトやモデル応答のゼロデータ保持（ZDR）を継続して提供すると改めて表明しました。同社はまた、新機能「Private Safety Processing」のプレビューを開始することも明らかにしています。この新機能は、ZDRとの互換性を保ちつつ、データプライバシーを損なうことなく高度な安全対策を強化するよう設計されています。
OpenAIは7月17日(現地時間)、未成年者を保護し、AI体験をより安全に提供するための新たなAIフレームワーク「Teen Safety Blueprint」を発表した。この枠組みは、AIツールを責任を持って構築するためのロードマップとして位置づけられており、AIの未成年者利用に関する基準を検討する政策立案者にとっても出発点を提供する。同社は既に自社製品への導入を進めていると説明している。
OpenAIは2026年6月3日(現地時間)、人工知能（AI）に関する公共政策アジェンダを公表した。同社が掲げる「AGIが全人類に利益をもたらす」というミッションと、民主化、エンパワーメント、普遍的な繁栄、回復力、適応性という5つの核となる原則に基づき、政策優先事項を具体化。高度なAIモデルが国家安全保障上のリスクとなりうるとの認識を示し、フロンティアAIの安全性、若者保護の強化、サイバーセキュリティの向上、グローバル標準の確立などを主な内容としている。