#LMs

言語モデル学習データ汚染リスク、HalfLife分析でウェブ議論空間からの注入可能性特定

arXivは7月16日(現地時間)、言語モデル(LMs)の事前学習データが「計算プロパガンダ」を通じて汚染され、有害な振る舞いを引き起こす可能性を指摘する研究論文を発表した。この研究は、ウェブ規模のコンテンツ注入メカニズム、特に公開議論インターフェースを悪用した攻撃が現実的であることを示唆している。汚染されたデータの検出と緩和が困難であるため、この問題への対応が喫緊の課題として浮上している。