Cerebras CS-2とウェハースケールエンジンが、ソリューション時間において主要なスパコンの2桁以上向上し、CPUやGPUでは実現不可能な性能を達成
カリフォルニア州サニーベール--(BUSINESS WIRE)--高性能人工知能(AI)コンピュートのパイオニアであるCerebras Systemsは、フィールド方程式を形成して解くという科学計算のワークロードにおいて記録的な性能を達成したことを本日発表しました。Cerebrasは、エネルギー省の国立エネルギー技術研究所(NETL)と共同で、Wafer-Scale Engine(WSE)を搭載したCS-2システムが、NETLのJouleスーパーコンピュータの470倍もの速度を発揮し、CPUやGPUが現在達成できない速度を実現することを示しました。
試験対象のワークロードは、シンプルなPython APIを用いたフィールド方程式モデリングで、従来のコンピュータやスーパーコンピュータでは得られなかった性能と使いやすさを実現し、多くの計算科学分野でウェハースケールの処理を可能にしました。このドメイン固有の高水準プログラマー用ツールセットは、WSE Field-equation API(WFA)と呼んでいます。WFAは、NETLのJoule 2.0スーパーコンピュータ上のOpenFOAM処理を2桁以上上回る解答時間を実現しています。この性能は手作業で最適化されたアセンブリコードに匹敵するものですが、WFAは使いやすい高レベルのPythonインターフェースを提供し、ユーザーはフィールド方程式を楽に形成し解くことができます。この新しいWFAツールセットは、工学におけるコンピュータの使い方をポジティブかつ基本的に変える可能性を持っています。
この研究は、数十億セルまでのスケールで、計算史上最速のフィールド方程式の解答時間を実証しています。 この速度は、WSEがメモリとポイント・ツー・ポイントのバンド幅を十分に広く確保しているため、テンソル命令の通信ボトルネックがなく、クロックレート以上の速度で計算を進めることができるため実現できたものです。 従来、フィールド方程式はメモリに縛られ、分散システムではノード間の通信帯域幅に制限されていました。 このような制約があるため、メモリを最大限に活用するためには、メモリ階層や複雑なプログラミング手法が必要になります。WSEでは非常に高いバンド幅が確保されているため、このような複雑さは皆無であり、テンソル命令は従来の分散フォンノイマンアーキテクチャでは不可能な速度で進めることができます。
NETLの研究所長であるBrian J. Anderson博士は、次のように述べています。「NETLとCerebrasは、独自の命令セットを持つこれまでにないハードウェアを使用し、3人のチームで新しいプログラミング手法を18カ月以内に開発することに成功しました。効率的な分散コンピューティングの取り組みには、非常に大規模な開発者グループによる数年から数十年の作業が必要なことがよくあります。Cerebras WSEのような革新的な新しいコンピューター・アーキテクチャを使用することで、フィールド方程式のモデリングという重要なワークロードにおいて、解決までの時間を大幅に短縮し、解決までのエネルギーを大幅に削減することができました。スーパーコンピューティングとAIの力を組み合わせたこの研究は、科学現象の理解を深め、高速でリアルタイム、あるいはリアルタイムより高速なシミュレーションの可能性を大きく加速させるでしょう。」
スーパーコンピュータ「Joule 2.0」は、TOP500.orgによる世界最速のスーパーコンピュータランキングで139位、84000のCPUコアと200のGPUを搭載したスーパーコンピュータです。CS-2は、標準化された多次元時変場方程式の試験問題において、膨大なバンド幅と低遅延のプロセッサ間通信、高バンド幅コンピューティングに最適化されたアーキテクチャによる優れたメモリ性能により、解決までの時間とエネルギー消費をJouleスパコンを凌駕することができました。
CS-2は、NETLのスーパーコンピュータ「Joule 2.0」がこのサイズの問題に割り当てられる最大のCPUクラスタと比較して、解決までの時間が470倍も速いことが証明さ れました。 また、分散コンピューティングよりも2桁以上エネルギー効率が高いことも判明しました。
Cerebras Systemsの共同設立者兼CEOであるAndrew Feldmanは、次のように述べています。「Cerebrasは、NETLとの協業を誇りに思っています。私たちは、科学計算の基礎となるワークロードを発展させるために、共に素晴らしい成果を上げてきました。従来のスーパーコンピューターは、膨大なエネルギーを消費し、セットアップが複雑で、プログラミングに時間がかかり、我々の研究で実証されたように、Cerebras CS-2よりも答えを出すのが遅かったのです。 NETLとのパートナーシップにより、CS-2は、ウェハースケール統合が高性能コンピューティングにおける主要な科学的問題の多くに対して実行可能なソリューションであることを証明します。実際、CS-2は、数百倍少ないエネルギーで、最大のスーパーコンピュータよりも数百倍速い結果を出すことを示しました。」
この研究は、NETLの機械学習・データサイエンスエンジニアであるDirk Van Essendelft博士、Cerebras Systemsの特別エンジニアであるRobert Schreiber、Cerebrasの共同設立者で先端技術担当チーフアーキテクトであるMichael Jamesが主導したものです。今回の成果は、数カ月にわたる作業の末に得られたもので、エネルギー省のNETL研究所の科学者とCerebras Systemsの緊密な協力関係を継続するものです。2020年11月、CerebrasとNETLは、計算流体力学(CFD)という重要な科学的ワークロードに関する新たな計算マイルストーンを発表しました。
CS-2は、AI業務に最適化されたすべてのコンポーネントにより、他のどのシステムよりも少ない設置スペースと消費電力で、より高い計算性能を実現します。これは、プログラミングの複雑さ、ウォールクロックの計算時間、ソリューションまでの時間を根本的に削減しながら実現されています。AI から HPC まで、ワークロードに応じて、CS-2 は従来の代替製品に比べて数百倍から数千倍の性能を提供します。CS-2は、何十ものラックを消費し、何百キロワットの電力を使用し、設定とプログラミングに何ヶ月もかかる何百または何千ものGPUのクラスタに取って代わることができます。CS-2の高さはわずか26インチで、標準的なデータセンター・ラックの3分の1に収まります。
NETLとCerebrasの研究者は、SC22カンファレンスでこの研究成果を発表します。この研究成果に基づく論文は、「Disruptive Changes in Field Equation Modeling: A Simple Interface for Wafer Scale Engines」と題し、arXivに掲載されています。
Cerebras Systemsについて
Cerebras Systemsは、先駆的なコンピューターアーキテクト、コンピューター科学者、ディープラーニングの研究者、そしてあらゆるタイプのエンジニアで構成されるチームです。私たちは、AIを加速させ、AIワークの未来を永遠に変えるという唯一の目的のために設計された、新しいクラスのコンピューターシステムを構築するために集まりました。当社の主力製品であるCS-2システムは、世界最大のプロセッサーである85万コアのCerebras WSE-2を搭載し、お客様のディープラーニング作業をグラフィックス・プロセッシング・ユニットよりも何桁も高速化することを可能にします。
NETLについて
NETL は米国エネルギー省の国立研究所で、環境的に持続可能で豊かなエネルギーの未来のために、イノベーションを推進し、技術的ソリューションを提供しています。NETLは、その世界レベルの才能と研究施設を活用することで、堅牢な経済と国家安全保障を推進する安価で豊富かつ信頼性の高いエネルギーを確保するとともに、ライフサイクル全般にわたる炭素管理技術を開発し、全アメリカ国民のための環境持続可能性を実現しています。
本記者発表文の公式バージョンはオリジナル言語版です。翻訳言語版は、読者の便宜を図る目的で提供されたものであり、法的効力を持ちません。翻訳言語版を資料としてご利用になる際には、法的効力を有する唯一のバージョンであるオリジナル言語版と照らし合わせて頂くようお願い致します。
Contacts
メディアコンタクト:
NETL Communications
Email: NETL-Communications@netl.doe.gov
Cerebras Systems
Kim Ziesemer
Email: pr@zmcommunications.com
