1. HOME
  2. 電気・情報関連(入門)
  3. 研究情報(登録番号1978)

非拡大写像の不動点近似に基づく信号処理方式とその応用に関する先駆的研究

1.ハイブリッド最急降下法

信号処理工学に限らず,科学技術の世界で発信されるアイデアは,そこに何らかの最適性が保証されているとき, 抜群の説得力を持ちます. 一つの基準で最適であることは,少なくともその基準ではこれより優れたものが存在しないことを保証し,アイデアの特徴や位置付けが明確になるからです.ところが, 信号処理工学では,一つの基準で最適であるからといって,それが研究課題の最終決着となることはほとんどありません.例えば, ガウスの最小二乗推定法以来,信号処理の歴史の中で盤石と思われてきた平均二乗誤差基準でさえ, 単独では十分な効果を発揮しない多くの応用例が知られています.現代の信号処理工学では,むしろ多様な最適化基準を同時に考慮することが普通になっており,複数の最適化基準をいかに効果的に反映させるかが,重要なポイントとなっています.例えば,画像復元問題ではデータ忠実性基準のほかに絶対値和や全変動(Total Variation)を抑圧することにより,エッジ情報欠落の対策になることが知られています. これまで,信号処理工学や逆問題の多くの問題は,様々な工夫の末に凸最適化問題として定式化され, 凸最適化のアルゴリズムを用いて解決されてきました. ところで,凸最適化問題の解集合(全ての最適解を集めた集合)はヒルベルト空間閉凸集合(したがって単一集合か無限集合)になります. 凸最適化問題の解集合は,少なくとも一つの最適化基準では最良な点の集まりなので,信号処理にとっては喉から手が出るほど魅力的な「宝の山」です. 更に,「宝の山」の全貌を捉え,この宝の山から別の最適化基準で最良な点を選択する問題(以下では, 「階層構造を持つ凸最適化問題」と呼びます)が解決できれば,従来の信号処理の性能を飛躍的に向上させることも夢ではありません. ところが, 既存の凸最適化アルゴリズムの目標は, 宝の山の不特定の1点に収束する点列の生成に限定されていたため,階層構造を持つ凸最適化問題は,ほとんど手付かずの状態にありました. 山田氏は,従来の凸最適化問題や逆問題や信号画像復元問題の解集合の多くが「"計算可能な非拡大写像"の不動点集合」として表現されてきたことに気が付きました. ここでまた, 数多くの凸最適化アルゴリズムがMannの定理の特別な例となっていることに気が付きました. 例えば,逆問題や信号画像復元問題に広く応用されてきた射影Landweber法,並列射影法, 交互射影法もMann の定理の特別な応用例になっています.

山田氏は,非拡大写像を"凸最適化問題の解集合の精密表現を可能にする手段"として注目し, 非拡大写像の不動点集合から最適な1点の選択を可能にするハイブリッド最急降下法(Hybrid steepest descent method)を提案しています. ハイブリッド最急降下法は射影勾配法の非自明な拡張であり,最急降下法と非拡大写像を融合した極めて簡潔なアルゴリズムになっていますが, 不動点理論の分野で培われた「閉凸集合を非拡大写像の不動点集合として表現するための膨大なアイデア」を丸ごと応用することを可能にしています. 画像復元問題やアレーアンテナのロバストビームフォーミングなど多くの信号処理問題に応用が広がっています.

2.適応射影劣勾配法と適応学習アルゴリズム

適応フィルタの学習アルゴリズムの研究は日本のお家芸に違いありません. 現在,世界中で広く応用されている「正規化LMS法(NLMS: Normalized Least Mean Squares法)」は時々刻々変化する超平面(「単一の線形方程式」の解集合)への直交射影を繰り返す学習アルゴリズムとして1967年に南雲-野田によって提案されたものです.
更に, 正規化LMS法の収束速度を改善した「アフィン射影法(APA: Affine Projection Algorithm)」は,線形多様体(有限個の超平面の共通部分集合:線形連立方程式の解集合)への直交射影を繰り返す学習アルゴリズムとして,雛元-前田(1975),尾関-梅田(1984)によって提案されたものです.

山田氏は,「Polyak の射影劣勾配法(1969に提案された凸最適化アルゴリズム)」と「正規化LMS法の戦略」のアルゴリズムの形がとても似ていることに注目し,本来,時間的変動のない凸関数を最小化するために開発された「Polyak の射影劣勾配法」に時々刻々変動する凸関数を形式的に適用して得られるアルゴリズム(適応射影劣勾配法 :Adaptive projected subgradient method)を提案しています.実は, 正規化LMS法をはじめ,数多くの適応学習アルゴリズムが適応射影劣勾配法の特別な例として統一的に導かれることを容易に確かめることができます. すなわち, 多種多様な学習アルゴリズムの戦略が, 共通の土俵の上で凸関数列の選択の違いとして, 比較できるようになるのです. この見方によって, 個々のアルゴリズムの弱みや強みの原因が明確になるばかりでなく, 凸関数列の選択を工夫することにより, 強力なアルゴリズムを新たに設計することも可能になります. 幸い, ヒルベルト空間に拡張された適応射影劣勾配法の数学的な性質も解明されており,音響エコー消去問題, 無線通信システムの干渉抑圧問題, オンラインパターン認識問題, 分散ネットワーク上の適応学習問題など,情報通信システムに登場する多くの適応学習問題に応用し, その有効性が実証されています.



さらに詳しく知りたい読者は「専門向け」のページもご覧ください。


関連する研究を検索

分野のカテゴリ

情報処理
(情報処理理論)
通信
(電子情報通信の基礎・境界技術)

関連する出来事

1998年~1999年
非拡大写像の不動点集合上の最適化と最適信号・画像 推定設計問題への応用に関する研究(課題番号10650350)
2001年7月~2002年9月
「凸射影法に基づく適応信号処理アルゴリズム の開発」

世の中の出来事

2009
鳩山由紀夫(民主・社会・国民新連立)内閣が発足する。

Webページ

博物館等収蔵品

データなし

キーワード

直交射影定理、劣勾配射影、ハイブリッド最急降下法、適応射影劣勾配法、非拡大写像、準非拡大写像、不動点集合
Page Top