MIT の新しいマテリアルは「人工シナプス 2.0」を作成し、深層学習トレーニングをシミュレートし、100 万倍高速化します。

近年、科学者が機械学習の限界を押し広げ続けるにつれて、ますます複雑になるニューラル ネットワーク モデルのトレーニングに必要な時間、エネルギー、資金が急速に増大しています。 「モデルは構築できるが、トレーニングが遅すぎる」ということが、ますます多くの研究者を悩ませる頭痛の種となっています。

最近、「アナログディープラーニング」と呼ばれる人工知能の新しい分野は、より少ないエネルギーでより高速なコンピューティングを約束します。トランジスタがデジタル プロセッサの中核要素であるのと同様に、プログラマブル抵抗器はアナログ ディープ ラーニングの重要な部分です。

プログラマブル抵抗器を複雑な層に繰り返し配置することで、研究者はデジタル ニューラル ネットワークのように計算を実行する人工ニューロンとシナプスの模擬ネットワークを作成できます。このネットワークは、画像認識や自然言語処理などの複雑な人工知能タスクを実装するようにトレーニングできます。

模擬ニューラルネットワークの計算速度は、「人工シナプス」の通信速度に大きく依存します。これは、MIT のチームが解決しようとしているものです。彼らは以前に人工模擬シナプスを開発しており、これからやるべきことは、元の古いバージョンを超える新しい材料を開発することです。

今回、製造プロセスに実用的な無機材料を使用することで、前述のプログラマブル抵抗器を従来の100万倍の高速動作を実現し、約100万倍の高速化も実現しました。人間の脳のシナプスよりも。さらに、この材料により抵抗器のエネルギー効率が非常に高くなります。以前のバージョンのデバイスで使用されていたものとは異なり、新しい材料はシリコン製造技術と互換性があります。この変更により、デバイスをナノメートルスケールで製造できるようになり、深層学習アプリケーション用の商用コンピューティングハードウェアへの統合への道が開かれる可能性があります。 この研究論文は、Science 誌に掲載されました。

論文リンク: https://www.science.org/doi/pdf/10.1126/science.abp8064

「この重要な発見により、MIT.nano の強力なナノ製造技術と組み合わせることで、これらの部品を組み合わせて、これらのデバイスが本質的に非常に優れた機能を備えていることを実証することができました。 「このデバイスは次のように動作します。最小のイオンであるプロトンは、電気化学的に絶縁酸化物に挿入され、その電子伝導度を調節します。私たちが使用するデバイスは非常に薄いため、このイオンの動きを加速することができます」 「ナノ秒動作に向けて」と論文の責任著者であり、原子力科学工学部および材料科学工学部のブリーン・M・カー教授であるビルゲ・ユルディス氏は説明した。この論文の責任著者であり、Battelle Energy Alliance の原子力科学工学部の教授および材料科学工学部の教授でもある Ju Li 氏は次のように述べています。生物細胞の活動電位はミリ秒スケールで上下します。約 0.1 ボルトの電圧差は水の安定性によって支配されるからです。」ここでは、ナノメートルの厚さの特殊な固体ガラス フィルムに最大 10 ボルトの電圧を印加します。永久的な損傷を与えずに陽子を伝導します。また、電場が強いほど、イオン化装置の動作は速くなります。この論文の共著者には、材料科学工学部エレン・スワロー・リチャーズ教授のフランシス・M・ロス氏、博士研究員のニコラス・エモンド氏とバオミン・ワン氏、EECS大学院生のディフェイ・チャン氏も含まれている。

これらのプログラマブル レジスタは、トレーニングのコストとエネルギー消費を大幅に削減しながら、ニューラル ネットワークのトレーニング速度を大幅に向上させます。これにより、科学者は自動運転車、不正行為検出、医療画像分析などのアプリケーション向けの深層学習モデルをより迅速に開発できるようになります。 「アナログ プロセッサを手に入れれば、他の人が取り組んでいるネットワークをトレーニングする必要はなくなります。他の人にはできない前例のないほど複雑なネットワークをトレーニングすることができます。言い換えれば、単に速いだけではありません。車だけど飛行機だよ。」論文の筆頭著者でMITの博士研究員であるムラット・オネン氏はこう語る。

100 万倍高速化されたディープ ラーニング

アナログ ディープ ラーニングがデジタルのディープ ラーニングよりも高速でエネルギー効率が高い理由は主に 2 つあります。

まず第一に、計算はメモリ内で実行されるため、膨大なデータ負荷がメモリからプロセッサにやり取りされることはありません。アナログプロセッサも並行して動作します。マトリックスが大きくなった場合、すべての計算が同時に実行されるため、アナログ プロセッサは新しい演算を完了するのにそれ以上の時間を必要としません。 MIT の新しいアナログ プロセッサ技術の重要な要素は、プロトン プログラマブル抵抗器と呼ばれます。これらの抵抗器はナノメートル単位で測定され、市松模様のように配列されています。

ナノ秒プロトンプログラマブル抵抗器

超高速、高エネルギー効率の開発を目指してプログラム可能なプロトン抵抗を実現するために、研究者らはさまざまな電解質材料を検討しました。他のデバイスでは有機化合物が使用されていますが、Onen は無機リンケイ酸ガラス (PSG) に焦点を当てています。 PSG は基本的にシリカであり、湿気を除去するために使用される粉末の乾燥剤です。

研究者らは、加湿条件下で燃料電池用のプロトン伝導体としてそれを研究しました。シリコン加工において最もよく知られた酸化物でもあります。 PSGを製造するには、シリコンに少量のリンを添加し、プロトン伝導という特別な特性をシリコンに与えます。オネン氏は、最適化された PSG は水を必要とせずに室温で高いプロトン伝導性を持ち、それが理想的な固体電解質になるのではないかと仮説を立てました。

驚くべき速度

PSG にはナノメートルサイズの細孔が多数含まれており、その表面がプロトンの拡散経路となるため、プロトンの超高速運動が可能です。

非常に強いパルス電界にも耐えることができます。

#これは非常に重要です。なぜなら、より多くの電圧をデバイスに印加すると陽子が非常に速く移動する可能性があるからです。「この速度は非常に驚くべきことです」とオネン氏は言います。デバイスが灰になるのを避けるために、デバイスにそのような強力な磁場を使用することはありません。しかし、その代わりに、陽子は途方もない速度でデバイスの山を駆け抜けることになりました。そして、それはまだ私たちが以前に行っていたことよりも100万倍も速いです。陽子は小さく質量が低いため、この動きは何も破壊しません。まるでテレポーテーションのようなものです。」

陽子は材料に損傷を与えないため、抵抗器は何百万サイクルでも動作できます。失敗せずに。

プロトンプログラマブル抵抗器の超高速かつエネルギー効率の高い変調特性

## これ新しい電解質により、以前のデバイスよりも 100 万倍高速で、室温で効率的に動作できるプログラム可能なプロトン抵抗器が可能になります。これは、コンピューティング ハードウェアに組み込むために重要です。

PSG の絶縁特性により、プロトンが移動するとき、材料にはほとんど電流が流れません。 「これにより、このデバイスは非常にエネルギー効率が高くなります。これらのプログラマブル抵抗器の有効性が実証されたので、研究者らはそれらの開発を計画しています。」とデル・アラモ氏は付け加えました。

Yildiz 氏は次のように付け加えました。「イオン デバイスが可能にするもう 1 つのエキサイティングな方向性は、ニューラルをシミュレートするためのエネルギー効率の高いハードウェアです。 」

#私たちのコラボレーションは将来のイノベーションにとって不可欠ですスタンフォード大学材料科学工学准教授のウィリアム・チューエ氏は次のように述べています。リチウムイオン電池に含まれるリチウムイオン電池はメモリデバイスに使用されており、広く研究されています。この研究は、プロトンベースのメモリデバイスが印象的かつ驚くべきスイッチング速度と耐久性を提供することを示しています。」 William Chueh 氏はこの研究に参加しませんでした。

以上がMIT の新しいマテリアルは「人工シナプス 2.0」を作成し、深層学習トレーニングをシミュレートし、100 万倍高速化します。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。