人工知能の未来: 光行列乗算の革命的影響
現在の人工知能の世界は、大量の電力を必要とし、計算能力に限界があります。モデル開発の軌跡は急速ですが、この進歩に伴い、コンピューティング能力の大幅な向上が必要になります。既存のトランジスタベースのコンピューティングは物理的な限界に近づいており、増大するコンピューティング需要を満たすのにすでに苦労しています。
大企業は、独自のカスタム チップ ソリューションを開発することで、この問題の解決を試みてきました。ただし、ハードウェアのボトルネックが深刻すぎて、従来の電子プロセッサでは克服できない場合があります。では、テクノロジーはコンピューティング能力に対する需要の急激な増加にどのように適切に対応できるのでしょうか?
行列乗算
大規模な言語モデルでは、コンピューティング タスクの 90% 以上で行列乗算が使用されます。行列乗算は、乗算と加算の基本演算を構造化された方法で実行することで、人工知能のさまざまな機能モジュールをサポートできます。これは言語モデルに当てはまるだけでなく、ほぼすべてのニューラル ネットワークの基礎でもあります。大規模なニューロン間の接続を実現し、画像分類やオブジェクト検出のための畳み込み演算を実行し、連続データを処理することができます。これは単純な概念ではありますが、人工知能やその他の無数のアプリケーションをサポートするデータを効率的に操作および変換することが重要であるため、人工知能モデルとして行列乗算の重要性を過大評価することはできません。行列がますます大きくなるにつれて、より多くの処理を実行する必要があります。つまり、より強力な計算能力が必要になります。この需要に応えるためには、今でもエレクトロニクス製品は限界に達しています。他に解決策はありますか?
光マトリックスの乗算
光は、私たちの生活を変えるさまざまな方法で使用されてきましたが、特に光ファイバー ネットワークでの光通信がその例です。光コンピューティングは当然の次のステップです。デジタル エレクトロニクスでは最も単純な算術演算を実行するために多数のトランジスタが必要ですが、オプティカル コンピューティングでは物理法則を利用して計算を実行します。入力情報は光ビームにエンコードされ、干渉や回折などの光学の自然な特性を使用して行列の乗算が実行されます。情報は複数の波長、偏光、空間モードでエンコードできるため、実質的に光の速度で無制限に並列処理や計算を行うことができます。
3D 光学による新しい次元の追加
デナード スケーリングとムーアの法則が終わりに近づいている今、コンピューティングの基本を再検討する時期が来ています。デジタル エレクトロニクスは本質的に「2D」レイアウトに限定されています。トランジスタのゲートと回路はウエハー上に製造され、計算は 2D 平面上の異なるユニット間の情報の流れによって実行されます。この 2D コンピューティング アーキテクチャでは、増加し続けるトランジスタ密度が必要であり、深刻な相互接続の問題が発生し、悪名高いメモリ ボトルネックに悩まされています。 3D スタック メモリの開発により、2D 設計の変革が始まりましたが、業界全体が適応するにはまだ長い道のりがあります。
さて、光学は 3D 空間で自然に計算を実行することでゲームに革命を起こすことができます。新しいディメンションを追加すると、従来のコンピューティングの制限の多くが緩和されます。コンポーネントの相互接続が容易になり、エネルギー効率が向上し、レイテンシー (各計算の実行速度) を損なうことなく、スループット (一定時間内に実行できる計算数) を常に向上させることができます。これは 3D 光学系にまったく特有のものです。10 の数値を乗算する場合でも、10,000 の数値を乗算する場合でも、すべてが光の速度で同時に起こります。これは光プロセッサの拡張性に大きな影響を与え、現在のデジタル プロセッサの 1,000 倍の速度に達することが可能になります。
3D 光学系の固有のスケーラビリティに加えて、光学系のクロック速度により従来の電子機器よりも最大 100 倍の速度を実現でき、波長を多重化できるため、最大 100 倍のさらなる改善への扉が開きます。回。これらすべてを組み合わせることで、3D 光学行列乗算だけが提供できる、より高いスループット、より低いレイテンシ、および信頼性の向上により、コンピューティング速度を飛躍的に拡張することが可能になります。
これは人工知能にとって何を意味しますか?
アプリケーションに関係なく, 行列の乗算は、すべての人工知能の計算のバックボーンを形成します。特に、3D 光学によってもたらされる高スループットと低遅延は、リアルタイムの応答性と効率性を重視するアプリケーションであるデータセンターでの人工知能推論タスクにとって特に価値があります。
3D オプティカル コンピューティングは、従来のエレクトロニクスや統合フォトニクスと比較して、帯域幅、遅延、速度、拡張性が大幅に向上します。さらに、既存の機械学習アルゴリズムと互換性があるため、すべての人工知能アプリケーションに革命をもたらす可能性があります
以上が人工知能の未来: 光行列乗算の革命的影響の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

Video Face Swap
完全無料の AI 顔交換ツールを使用して、あらゆるビデオの顔を簡単に交換できます。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック











このサイトは6月27日、JianyingはByteDanceの子会社であるFaceMeng Technologyによって開発されたビデオ編集ソフトウェアであり、Douyinプラットフォームに依存しており、基本的にプラットフォームのユーザー向けに短いビデオコンテンツを作成すると報告しました。 Windows、MacOS、その他のオペレーティング システム。 Jianyingは会員システムのアップグレードを正式に発表し、インテリジェント翻訳、インテリジェントハイライト、インテリジェントパッケージング、デジタルヒューマン合成などのさまざまなAIブラックテクノロジーを含む新しいSVIPを開始しました。価格的には、クリッピングSVIPの月額料金は79元、年会費は599元(当サイト注:月額49.9元に相当)、継続月額サブスクリプションは月額59元、継続年間サブスクリプションは、年間499元(月額41.6元に相当)です。さらに、カット担当者は、ユーザーエクスペリエンスを向上させるために、オリジナルのVIPに登録している人は、

検索強化生成およびセマンティック メモリを AI コーディング アシスタントに組み込むことで、開発者の生産性、効率、精度を向上させます。 JanakiramMSV 著者の EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG から翻訳。基本的な AI プログラミング アシスタントは当然役に立ちますが、ソフトウェア言語とソフトウェア作成の最も一般的なパターンに関する一般的な理解に依存しているため、最も適切で正しいコードの提案を提供できないことがよくあります。これらのコーディング アシスタントによって生成されたコードは、彼らが解決する責任を負っている問題の解決には適していますが、多くの場合、個々のチームのコーディング標準、規約、スタイルには準拠していません。これにより、コードがアプリケーションに受け入れられるように修正または調整する必要がある提案が得られることがよくあります。

AIGC について詳しくは、51CTOAI.x コミュニティ https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou を参照してください。これらの質問は、インターネット上のどこでも見られる従来の質問バンクとは異なります。既成概念にとらわれずに考える必要があります。大規模言語モデル (LLM) は、データ サイエンス、生成人工知能 (GenAI)、および人工知能の分野でますます重要になっています。これらの複雑なアルゴリズムは人間のスキルを向上させ、多くの業界で効率とイノベーションを推進し、企業が競争力を維持するための鍵となります。 LLM は、自然言語処理、テキスト生成、音声認識、推奨システムなどの分野で幅広い用途に使用できます。 LLM は大量のデータから学習することでテキストを生成できます。

大規模言語モデル (LLM) は巨大なテキスト データベースでトレーニングされ、そこで大量の現実世界の知識を取得します。この知識はパラメータに組み込まれており、必要なときに使用できます。これらのモデルの知識は、トレーニングの終了時に「具体化」されます。事前トレーニングの終了時に、モデルは実際に学習を停止します。モデルを調整または微調整して、この知識を活用し、ユーザーの質問により自然に応答する方法を学びます。ただし、モデルの知識だけでは不十分な場合があり、モデルは RAG を通じて外部コンテンツにアクセスできますが、微調整を通じてモデルを新しいドメインに適応させることが有益であると考えられます。この微調整は、ヒューマン アノテーターまたは他の LLM 作成物からの入力を使用して実行され、モデルは追加の実世界の知識に遭遇し、それを統合します。

機械学習は人工知能の重要な分野であり、明示的にプログラムしなくてもコンピューターにデータから学習して能力を向上させる機能を提供します。機械学習は、画像認識や自然言語処理から、レコメンデーションシステムや不正行為検出に至るまで、さまざまな分野で幅広く応用されており、私たちの生活様式を変えつつあります。機械学習の分野にはさまざまな手法や理論があり、その中で最も影響力のある 5 つの手法は「機械学習の 5 つの流派」と呼ばれています。 5 つの主要な学派は、象徴学派、コネクショニスト学派、進化学派、ベイジアン学派、およびアナロジー学派です。 1. 象徴主義は、象徴主義とも呼ばれ、論理的推論と知識の表現のためのシンボルの使用を強調します。この学派は、学習は既存の既存の要素を介した逆演繹のプロセスであると信じています。

編集者 |ScienceAI 質問応答 (QA) データセットは、自然言語処理 (NLP) 研究を促進する上で重要な役割を果たします。高品質の QA データ セットは、モデルの微調整に使用できるだけでなく、大規模言語モデル (LLM) の機能、特に科学的知識を理解し推論する能力を効果的に評価することもできます。現在、医学、化学、生物学、その他の分野をカバーする多くの科学 QA データ セットがありますが、これらのデータ セットにはまだいくつかの欠点があります。まず、データ形式は比較的単純で、そのほとんどが多肢選択式の質問であり、評価は簡単ですが、モデルの回答選択範囲が制限され、科学的な質問に回答するモデルの能力を完全にテストすることはできません。対照的に、自由回答型の Q&A

編集者 | KX 医薬品の研究開発の分野では、タンパク質とリガンドの結合親和性を正確かつ効果的に予測することが、医薬品のスクリーニングと最適化にとって重要です。しかし、現在の研究では、タンパク質とリガンドの相互作用における分子表面情報の重要な役割が考慮されていません。これに基づいて、アモイ大学の研究者らは、初めてタンパク質の表面、3D 構造、配列に関する情報を組み合わせ、クロスアテンション メカニズムを使用して異なるモダリティの特徴を比較する、新しいマルチモーダル特徴抽出 (MFE) フレームワークを提案しました。アライメント。実験結果は、この方法がタンパク質-リガンド結合親和性の予測において最先端の性能を達成することを実証しています。さらに、アブレーション研究は、この枠組み内でのタンパク質表面情報と多峰性特徴の位置合わせの有効性と必要性を実証しています。 「S」で始まる関連研究

8月1日の本サイトのニュースによると、SKハイニックスは本日(8月1日)ブログ投稿を発表し、8月6日から8日まで米国カリフォルニア州サンタクララで開催されるグローバル半導体メモリサミットFMS2024に参加すると発表し、多くの新世代の製品。フューチャー メモリおよびストレージ サミット (FutureMemoryandStorage) の紹介。以前は主に NAND サプライヤー向けのフラッシュ メモリ サミット (FlashMemorySummit) でしたが、人工知能技術への注目の高まりを背景に、今年はフューチャー メモリおよびストレージ サミット (FutureMemoryandStorage) に名前が変更されました。 DRAM およびストレージ ベンダー、さらに多くのプレーヤーを招待します。昨年発売された新製品SKハイニックス
