・磁石は、AI(人工知能)が物体を認識する際に人間のような効率性を達成するのに役立つ。
・研究者らは、脳の計算に似たタスクを実行するために、より少ないエネルギーとメモリで済む新しいネットワークを開発している。
ニューロンの電気的ダイナミクスは、ナノ磁石のスイッチング・ダイナミクスによく似ています。磁気トンネル接合装置が示すスイッチング挙動【切り替え動作】は、本質的に確率的です。この挙動はニューロンのシグモイド・スイッチング挙動を表しているため、磁気接合はシナプスの重みを記憶するために利用することができます。
アメリカのパデュー大学の研究者たちは、磁石のこの例外的な性質を利用して、AIを搭載したロボットが人間のように効率よく物体を認識できるようにする方法を開発しました。
この方法は、磁気と脳のようなネットワークを融合させ、ドローンや自動運転車、ロボットのような機械に、複数の対象物についてよりよく一般化することを教えるものです。
新しいアルゴリズム
スパイキング・ニューラル・ネットワーク(SNN)は、インテリジェントなニューロモーフィック・システムを実現するための有望な選択肢となります。このネットワークは、スパース・スパイキング・イベントの形でデータを符号化し、伝達します。
この研究では、スパイクタイミング依存可塑性(STDP)を用いて、Stochastic-STDP【確率論的STDP】と呼ばれる新しい確率論的学習アルゴリズムを開発しました。これはReStoCNetと呼ばれる深層残差畳み込みSNNであり、メモリ効率の高いニューロモーフィック・コンピューティングのためのバイナリ・カーネルで構成されています。
磁石が本来持っている確率的な挙動を利用して、研究チームは新しいアルゴリズムに基づいて磁化の位相を確率的に切り替えました。次に、推論中に学習させたシナプス重みを使用しました。これは、ナノ磁石の磁化位相に決定論的にエンコードされました。
STDPに基づく確率的学習則は、ヘッブの学習則と反ヘッブの学習則のアプローチを取り入れており、階層的な入力特徴抽出のために、ReStoCNetを構成するバイナリ・カーネルを教師なしで層ごとに学習します。
出典:パデュー大学
研究チームは、高エネルギーバリア磁石を使用してコンパクトで確率的なプリミティブ【最小要素】を可能にし、同じデバイスを安定したメモリ素子として使用できるようにしました。
また、研究チームは、ReStroCNetの効率性を2つの異なる一般公開データセットで検証し、残差接続によって深層畳み込み層が貴重な高レベルの入力特徴を学習し、残差接続のないSNNで発生する損失を最小化できることを示しました。
どのように役立つのか?
この新しいネットワークは、ニューロンとシナプスの両方を表現することができ、脳の計算に似たタスクを実行するのに必要なエネルギーとメモリの量を減らすことができます。
この脳のようなネットワークは、グラフの色分けや、巡回セールスマン問題【セールスマンがいくつかの都市を1度ずつすべての都市を訪問して出発点に戻ってくるときに、移動コストが最小になる経路を求める問題】などの難しい最適化問題を解くことができます。この研究で紹介されている確率的装置は、「自然なアニーラ【組み合わせ最適化問題を解くこと】」として機能し、アルゴリズムが局所最小値から抜け出すのを助けることができます。
より具体的には、メモリ効率の高い確率的学習とイベント駆動コンピューティングを備えたReStoCNeTは、CMOSや、バッテリー駆動デバイスのメモリ効率を向上させる相変化メモリ、抵抗ランダムアクセスメモリなどの確率的新デバイス技術に基づくニューロモーフィック・ハードウェアの実装に適しています。