April, 1, 2025, 東京--日本電信電話株式会社(NTT)は、深層学習において、数値予測モデル(回帰モデル)を学習時と運用時の環境変化に自律的に適応させるAIアルゴリズム「テスト時適応技術」を世界で初めて開発した。
この成果は、学習済みの回帰モデルが運用環境に置かれた際に、運用環境から得られる教師なしデータのみを用いて自律的に適応することを可能にする。これにより、モデル学習時と運用時の環境変化による精度低下を防ぐことができ、MLOpsやデータ分析AIの高度化など、次世代AI技術の研究開発に貢献すると期待される。
研究成果は2025年4月24~28日まで、シンガポールで開催される深層学習分野における最難関国際会議International Conference on Learning Representations (ICLR) 2025)において発表される。
研究成果の概要
研究では、まず回帰モデルの特性を分析し、分類モデルとは異なる特性として「深層回帰モデルの中間層の特徴ベクトルは、高次元空間のごく一部の部分空間に集中している」ことを発見した。これをもとに、未知の運用環境の特徴分布を、学習環境の特徴分布に整合させる手法を提案した。また、特徴空間のほとんどの次元はモデルの出力への寄与が小さいことから、特徴ベクトルが集中している部分空間の分布を優先的に整合させることにより、回帰モデルにおける適応性能が大きく向上することを実験的に示した。
様々なベンチマークでこの手法と他の適応手法の比較を行い、この手法が安定して高い適応性能を達成することを実験的に確認した。
適応を行わない場合や、分類モデル向けに設計された適応手法を単純に回帰へ適用した手法では、精度が大きく低下したまま回復しなかったり、かえって精度が悪化したりするケースが見受けられた。一方で、この手法は安定して精度向上が実現できており、教師ありデータを用いて再学習した場合に近い性能を達成したケースも見られた。
(詳細は、https://group.ntt/jp)