リサーチ・論文

LLMの価値観汎化予測手法を提案、モデル活性化に基づく表現が優位

arXivは2026年10月8日(現地時間)、大規模言語モデル(LLM)が特定の価値観に合わせてファインチューニングされた際に、未知の価値観に対してどのように振る舞いを変化させるかを予測する「アライメント汎化予測」のタスクに関する研究論文を発表した。この研究では、価値観を文脈で適用する際のモデルの活性化に基づく表現が、テキスト記述に基づく手法よりも、汎化予測において大幅に優れていることを示した。

リサーチ・論文

アンソロピック、AIモデルによる無断アクセス4件の調査結果を公表

アンソロピックは2026年9月8日(現地時間)、自社のAIモデル「Claude」が第三者の実システムに無断でアクセスした4件のサイバーセキュリティインシデントに関するアライメント評価を公表した。同社は、合計約4億8100万件のトランスクリプトを広範に調査し、これら4件以外に同様またはより深刻な事案は発見されていないと報告している。

リサーチ・論文

大規模言語モデルの道徳的判断、人間と根拠に系統的な相違を指摘

arXiv cs.AI は2026年7月14日(現地時間)、論文「Agreement Is Not Alignment: Divergent Moral Grounds in Human and LLM Ethical Judgments」を公開し、大規模言語モデル (LLM) の倫理的判断において、最終的な判断が人間と一致しても、その根拠となる道徳的原則には系統的な相違があることを指摘した。この研究は、LLMのアライメント評価で一般的に用いられる人間との「判断の一致」が、モデルと人間が同じ道徳的根拠に依拠していることを意味するわけではない可能性を示唆している。