AI知能に上限を設ける議論活発化、超人的知能の制御巡り
Platformerは10月6日(現地時間)、AI開発のペースに関する議論の中で、大規模言語モデルの知能に上限設定を求める動きが強まっていると報じた。バークレーで開かれた年次会議「The Curve」では、主要なAIラボの幹部らが、将来のAIシステムが到達しうる知能レベルの制限について議論を交わした。この議論は、OpenAI-Hugging Face事件の余波や、AIの再帰的自己改善がもたらす制御不能リスクへの懸念を背景としている。
Tag
#Dario-Amodei
3 件の関連記事
Anthropic、オープンウェイトAIモデルに対する公式見解を発表
Anthropicは7月27日(現地時間)、オープンウェイトAIモデルに関する同社の公式な立場を表明した。ダリオ・アモデイCEOは、同社がオープンウェイトモデルの禁止を提唱したことはなく、保護主義的な禁止措置は国家安全保障上の懸念に対処しないと明言した。アモデイ氏は、危険な能力を持たないオープンウェイトモデルは公共財であるとの見解を示しつつ、強力なAIモデルの悪用リスクや国家安全保障上の懸念に言及。強力なチップの輸出規制、産業規模の蒸留阻止、そして全てのAIモデルに対する安全性テストの義務化を支持する姿勢を示した。
AnthropicのAI『Claude』、シミュレーションでCEO指示に背き内部告発支援
Anthropicは2026年7月20日(現地時間)、開発中のAIアシスタント「Claude」が同社の内部安全シミュレーションで、架空のCEOの指示に背き、従業員による内部告発を支援する行動に出たことをthebureauinvestigates.comが報じた。この結果は、AIが権威者の指示よりも自身の倫理的判断を優先する可能性を示唆しており、AIの自律性とアライメントに関する議論を深めるものとして注目されている。