April, 13, 2021, Stanford--スマートウォッチや他のバッテリ駆動エレクトロニクスは、AIアルゴリズムを走らせると、一層スマートになる。しかし、モバイルデバイスのAI対応チップは、これまで、「メモリーウォール」という壁にぶつかっている。つまり、AIで改善される膨大で連続的に増加する計算デマンドを満たすためにいっしょに動作しなければならないデータ処理とメモリーチップが分離しているのである。
「プロセッサとメモリ間の相互作用は、マシンラーニングとAIの仕事に必要なエネルギーの95%を消費する、それがバッテリ寿命を著しく制限する」とコンピュータサイエンティスト、Subhasish Mitraは説明している。
スタンフォードコンピュータサイエンティスト、Mary Woottersと電気工学H.S. Philip Wongを含むチームは、AIタスクを高速化、省エネにするシステムを設計した。ここでは8個のハイブリッドチップを利用している。その各々が、独自のメモリーストレージに隣接構築された固有のデータプロセッサを持つ。
この論文は、チームが以前に開発した新しいメモリ技術、RRAMに立脚している。それは、フラッシュメモリのように、スイッチを切ってもデータを蓄積する、高速でエネルギー効率が優れている。RRAMの進歩により、スタンフォードの研究者は、単独で機能する初期世代ハイブリッドチップを開発することができた。その最新設計は、重要な新しい要素を含んでいる。8個の分離したハイブリッドチップを1個のエネルギー効率のよいAI処理エンジンに併合するアルゴリズムである。
「われわれは、必要な処理とメモリの全てを持つ従来型の膨大なチップではなく、ハイブリッドがワンチップであると考えるようにさせる。われわれがこれをIllusion Systemsと呼ぶ理由は、これである」とMitraは話している。
研究チームは、DARPAによる15億ドルプログラム、Electronics Resurgence Initiative (ERI)の一貫として、Illusionを開発した。DARPAは、50年以上前にインターネット誕生を支援したが、現在はムーアの法則を回避するための研究投資を支援している。しかし、トランジスタは、永遠に微小化できるわけではない。
「従来のエレクトロニクスの限界を上回るために、われわれは新しいハードウエア技術と、その利用の仕方について新しい考えを必要としている」(Wootters)。
スタンフォードをリーダーとするチームは、フランスの研究機関CEA-Letiおよびシンガポールの南洋工科大学(NTU)の協力を得てプロトタイプを構築し、テストした。チームの8チップシステムは、初期のものである。シミュレーションでは、チームは、64ハイブリッドチップのシステムが、1/7の電力を使って、現在のプロセッサよりも7倍高速にAIアプリケーションを走らせることを示した。
そのような機能はいずれ、Illusion SystemsをAR/VRグラスの脳にする。つまり、ディープニューラルネットワークを使うと、環境における物体や人々を見分けることで学習し、前後関係による情報を装着者に提供できるようになる。例えばAR/VRシステムによりバードウォッチャーが、未知の種類を特定できる。
スタンフォード院生、Robert Radwayは、Nature Electronics研究の筆頭著者。同氏は、新しいマルチチップシステムで走らせるために現在のプロセッサのために書かれた既存AIプログラムをリコンパイルする新しいアルゴリズムも開発した。Facebookの協力者がチームに協力して、その開発を検証するAIプログラムのテストを支援した。次のステップは、個々のハイブリッドチップの処理とメモリ機能の増加、それらを安価に量産する方法の実証である。
「われわれが作成したプロトタイプが期待通りに機能しているということは、われわれが間違っていないことを示唆している」とWongはコメントしている。同氏は、Illusion Systemsが3~5年以内に市場にでると見ている。
(詳細は、https://news.stanford.edu)