Don't Worry About the Vase (Zvi) は10月14日(現地時間)、最先端のAI研究機関 (frontier labs) における安全文化の欠如を報じました。記事によると、OpenAIでは元研究者のデビッド・ロビンソン (David Robinson) 氏が安全上の懸念から辞任。同社は3名の安全研究者を解雇したとされています。Anthropic も安全文化の醸成に努めるものの、課題が残ると指摘されています。
ロビンソン氏はOpenAIを辞任した最新の研究者として、AI業界の安全に対する無責任な姿勢に警鐘を鳴らしました。同氏はOpenAIのAstra system cardの主執筆者であり、同社の安全文化が著しく機能不全に陥っているとの見解を示しています。その懸念は、いわゆる「実存的リスク」だけでなく、より日常的な安全上の問題にまで及ぶといいます。
記事は、OpenAIだけでなく、Anthropic、Google、Metaといった他の研究機関も、航空業界や原子力発電所のような強固な安全専門知識を持つ人材の採用が進んでいない現状を指摘します。ロビンソン氏は、AI企業が既存分野の安全専門知識をより多く活用すること、そして今日のシステムよりも大幅に高性能なシステムを開発する前に、より安全な選択を保証する新たな科学が必要であると強調しました。
また、OpenAIの元従業員マイルズ・ブランデージ (Miles Brundage) 氏は、かつて自身が広めたiterative deployment (反復展開) の概念が、AIに関連する死亡事例が発生し、より高度なリスクに向かっている現状では無意味になっていると後悔の念を示しています。GoogleとMetaが「Argon」と「Wonder」をリリースし、競争が激化する可能性が、AI機能進展のペースを緩めるPace the Frontierの取り組みを複雑にする可能性にも言及。OpenAIとアンソロピック双方からのmisalignment reports (アラインメント不一致報告) は問題の深刻さを示唆しており、安全上の懸念から辞任を余儀なくされた研究者のグループが増加している現状も報じられています。
参考: Don’t Worry About the Vase (Zvi) (アーカイブ) — 2026年10月14日 23:28 (JST)