arXiv physics.med-phは2026年11月3日(現地時間)付けで、Humza Nusrat氏とOmar Nusrat氏による研究論文を公開した。同研究は、AIモデル「Claude Opus 5.5」が、臨床プロトコルと神経ネットワークの重みのみを用いて、小規模な臨床決定ネットワークの欠陥を監査・修復できる可能性を示している。実験では、欠陥のある18のネットワークのうち16（95% CI 67% to 97%）で問題のあるルールを特定し、そのうち16のネットワークを中央値で3つのパラメーター変更により修復した。
研究の目的は、臨床プロトコルとネットワークの重みのみが与えられたAIモデルが、ネットワークを監査し修復できるかを確認することだった。実験では、433から4,801のパラメーターを持つネットワークを、頭頸部計画要求を4つのルールに照らして選別するように訓練した。
訓練データには、各ルールを隠蔽する交絡因子、脊髄閾値の3 Gyシフト、隠されたトリガーといった欠陥が意図的に組み込まれた。Claude Opus 5.5は、ツールやデータ、コード実行なしに各ネットワークを監査し、その特定と修復結果は約42万件の要求で検証された。
AIモデルは、交絡因子または閾値シフトを持つ15のネットワークを含む、欠陥のある18のネットワーク中16で壊れたルールを特定した。そして、特定された16のネットワークを、中央値で3つのパラメーターを変更することにより修復した。プロトコルラベル付きの要求に基づくファインチューニングも全てのネットワークを修復したが、この場合はほぼ全てのパラメーターが変更された。Claude Opus 5.5が発見した各交絡因子とシフトは単一ユニットで可視化され、各欠陥タイプ向けに選ばれた単純な統計量でも同様の欠陥が発見された。
健全な5つのネットワークのうち2つを強制なしでクリアし、3つのトリガーのうち1つを発見した。プロトコルに対するテストでは全ての欠陥が検出され、ブラックボックステストでは交絡因子とシフトがより迅速に発見された。これらの結果は、小規模なネットワークにおいて、重み空間プログラミングが入力の沈黙や閾値のシフトを引き起こす欠陥を特定し修復できることを示唆している。ただし、ネットワークが正しいことをまだ保証できないとも結論付けられている。
参考: arXiv physics.med-ph — 2026年11月4日 03:41 (JST)