August, 15, 2022, Oxford--新しいAIは、人工ニューロンやシナプスがAIの唯一の構成要素である従来の知恵(社会通念)に挑戦するAIの従来のニューラルネットワークよりもむしろ連想学習法を利用する。
オクスフォード大学材料学部の研究者は、Exterおよび Munster大学の研究者と共同して、オンチップ光プロセッサを開発した。これは、電子プロセッサで走る従来の機械学習アルゴリズムよりも1000倍高速にデータセットの類似性を検出することができる。
Opticaに発表されたその新研究は、ノーベル賞受賞者、Ivan Pavlovの古典的条件付けの発見からヒントを得た。実験でパブロフは、食事を与えている間に別の刺激、ベル、メトロノームの音などを与えることで、イヌが2つの経験を結びつけるようになり、音だけに対して唾液を出すことを発見した。対をなす2つの無関係の事象の反復的連想は、しみついた反応、つまり条件反射を生み出す。
共筆頭著者、Dr James Tan You Sianは、「パブロフの連想学習は、ヒトや動物の行動を形作る基本的な学習形態と見なされている。しかし、AIシステムへの採用はほとんど、聞いたことがない。光並列処理と並行したわれわれのパブロフ学習についての研究は、様々なAIタスクにとって素晴らしい可能性を実証している」とコメントしている。
ほとんどのAIシステムで用いられているニューラルネットワークは、学習プロセスでかなりの数のデータ例を必要とすることがよくある。モデルをトレーニングして、信頼度よくネコを認識させるには、10000のネコ/非ネコ画像を利用する、コンピュータおよび処理を犠牲にしてである。
ニューラルネットワーク好みの誤差逆伝播法に依存して結果を「微調整」するよりも、連想モナド学習要素:Associative Monadic Learning Element (AMLE)は、パタンを学習する記憶材料を使用してデータセットの類似の特徴を関連付ける、つまり「一致」でパブロフが観察した条件反射を真似る。
AMLEインプットは、正しいアウトプットと組み合わされて学習プロセスを管理する、また記憶材料は光信号を使ってリセットできる。テストでは、AMLEは、わずか5対の画像でトレーニングされた後、ネコ/非ネコ画像を正しく判定できた。
従来の電子チップに対する新しい光チップのかなりのパフォーマンス能力は、以下の設計上の2つの重要な差にある。
・ニューロンやニューラルネットワークを使うよりもむしろ連想学習を構成要素として組み込んだ独自のネットワークアーキテクチャ
・「波長分割多重」を使って、異なる波長で多数の光信号をシングルチャネルで送り、コンピュータ速度を向上させる。
チップハードウエアは、情報密度を最大化するために光を使ってデータを送り、読み出す。並列処理のために、異なる波長で複数の信号が同時に送られる。これが、認識タスクの検出速度を向上させる。各波長は、計算速度を高める。
論文の共著者、Münster UniversityのWolfram Pernice教授は、「そのデバイスはデータセットにおける類似性を自然に捉える。同時に、光を使って並列にそれを行い、全般的な計算速度を向上させる。これは従来の電子チップの能力を遙かに超えることができる」と説明している。
共同主筆、Zengguang Cheng(現在Fudan University)によると、連想学習アプローチは、それらを置き換えるよりもむしろ補完することができる。「データセットの非常に複雑な特徴の実質的な分析を必要としない問題には、それは効率的である。多くの学習タスクはボリュームベースであり、それほどの複雑性のレベルはない。これらの場合、連想学習は、より迅速かつ低コンピュータコストでタスクを補完できる」(Cheng)。
研究リーダー、Harish Bhaskaran教授は、「AIが多くのイノベーションの中心にあるのはますます明白であり、われわれは人類の歴史の次の段階で目の当たりにすることになる。この研究は、特殊タイプAI計算のためにデータ関連付けを捉える高速光プロセッサへの道を開くが、先にはまだ多くの素晴らしい課題がある」とコメントしている。
論文‘Monadic Pavlovian associative learning in a backpropagation-free photonic network,’(Optica)。