金融AIエージェントの自律性と安全性、OpenAIとAnthropicが追求
OpenAIとAnthropicは10月14日(現地時間)、AIエージェントの有用な自律性と、重要事項に対する安全な制御の両立について探求した。OpenAIのジョセフ・キム氏は、モデルが「threshold of usefulness (有用性の閾値)」を超えれば、金融アナリストがエージェントに業務を委任するようになると予測。一方、Anthropicは金融アドバイザー向けの「Claude for Financial Advisors」を発表し、金融エージェントに信頼層を構築するフレームワークを示した。