曲線のエネルギー最小化による経路に基づく反実仮想説明
キーワード: 反実仮想説明,XAI(説明可能性AI),機械学習,数値解析,微分幾何
背景: 経路に基づく反実仮想説明は,訓練された分類器から望ましい予測結果を得るために,入力特徴量から経路を提案する説明手法である.この説明手法の需要は、ローン審査や健康診断といった領域で高まっている.
曲線のエネルギー最小化による経路に基づく反実仮想説明[11] (with 岡嶋 穣,佐々木 耀一,高野 凜)
従来課題: 経路に基づく反実仮想説明において,提案される経路がジグザグになり解釈が難しいことや,スパース性の追加が困難であることが,課題として挙げられる.
解決手法: [10]を参考に,曲線のエネルギー最小化問題の解として経路を定義し,その最適化問題を有限差分法で近似し,非線形計画問題へ帰着させる手法を提案する.
効果: 実験で,滑らかな経路の取得できることと,およびスパース性を確認し,具体的には従来手法の必要な特徴量を73%に抑えられることを確認する.
参考文献
[11] 北岡 旦, 岡嶋 穣,佐々木 耀一,高野 凜,曲線のエネルギー最小化による経路に基づく反実仮想説明 (Japanese), JSAI2025, 1Win4-97, 2025年5月27日. [論文] [正誤表]