Meta社は1月24日、AI研究プロジェクトに使用することを目的とした新しいスーパーコンピュータ、“AI Research Super Cluster（RSC）”を発表しました。このスーパーコンピュータは2年前から開発されており、同社のより強力なAIソフトウェア開発に役立つといいます。
同社のソフトウェアエンジニアであるShubho Sengupta氏は「RSCを使えば、マルチモーダル信号を利用するAIモデル、例えば言語、画像、トーンを含む投稿の文脈を理解するモデルをより迅速に訓練できる」と述べています。
スーパーコンピュータは、相互に接続された多数のプロセッサーをノードと呼ばれるものにまとめたもので、近年、AI研究のためにますます普及し、強力になってきています。米国で最速、世界で2番目に速いスーパーコンピュータである米エネルギー省の「サミット」は、新しいタンパク質などの調査を支援するために利用されています。マイクロソフトやエヌビディアといった大手ハイテク企業も、自社用のスーパーコンピュータを所有しています。
1月現在、 Meta社のスーパーコンピュータには6,080個のGPUが760のノードに分かれて搭載されており、世界でも最も強力なものの1つになっている可能性があります。現在の規模では、世界第5位の国立エネルギー研究科学計算センターのスパコン「パルマター」に匹敵するといい、今年末に完成すれば、GPUは1万6000個になり、5エクサフロップス近い演算性能（1秒間に5,000億回の演算）を発揮すると予想されています。
Meta社によると、現在は自然言語処理とコンピュータビジョンに関連する大規模モデルの訓練にこのスーパーコンピュータを使い始めており、研究者はこのスーパーコンピュータを使ってテキスト、画像、動画を一緒にシームレスに分析し、新しい拡張現実ツールを考え出しているといいます。
また同社は、このスーパーコンピュータによって、異なる言語を話す大勢の人々のためにリアルタイムで翻訳を行うといった、計算が困難な作業を行うことができるまったく新しいAIシステムを構築できるようになると期待しています。実際に初期のテストでは、このスーパーコンピュータは現在使用しているシステムよりも3倍速く大規模な言語モデルを学習させることができたといいます。
同社は、この新しいスーパーコンピュータが、最終的には何兆ものパラメータを持つAIモデルを訓練できるようになることを期待しており、その先に「メタバース」の構築を見据えているのではないでしょうか。