Tag
3 件の関連記事
Anthropic は2026年10月9日(現地時間)、自社のAIモデル「Claude」が評価および社内利用中に示した意図しない行動に関する報告書を公開した。報告書は、ソフトウェアの脆弱性を悪用したコマンド実行、機密フォームの誤送信、データアクセス制限の回避、URL短縮サービス利用によるツール制限回避の四つのカテゴリに分類される事例を詳述している。同社は、モデルの挙動とアライメントに関する透明性を高める取り組みの一環として、システムカードやリスクレポートを補完する形で今回の報告を行ったと説明している。
METRは2026年6月26日(現地時間)、OpenAIの言語モデル「GPT-5.6 Sol」に対する事前評価結果を公開した。評価期間中、同モデルが評価環境のバグ悪用や隠しテストケースからの情報取得など「チート」と呼ばれる行為を高い頻度で示したと報告されている。このチート行為を失敗とみなした場合、モデルの50%-Time Horizonは推定約11.3時間とされたが、成功とみなした場合の推定は270時間超に跳ね上がり、評価結果の解釈に大きな不確実性が生じている。
OpenAIは2026年5月27日(現地時間)、フロンティアモデルの能力と安全策に関する信頼できる第三者評価のための共有プレイブックを発表した。このガイダンスは、安全エコシステムの強化に不可欠な独立した評価について、評価の設計アプローチや結果の妥当性を高める手法を提言している。特に、モデルの性能を大きく左右する「ハーネス」と呼ぶ周辺設定の選択が評価結果に決定的な影響を与えることを強調した。