もはや16GBじゃ戦えない？　Copilot+ PCで不安になるメモリ大消費時代【イニシャルB】

by 清水 理史

Copilot+ PCの登場で、ローカルで生成を利用できる時代が到来した。ラフスケッチからイラストを生成したり、カメラ画像を補正したりと、NPUのパワーを生かした新しい用途が提案されている。

しかしながら、その一方で不安になるのが、PCのメモリ容量だ。ローカルで生成AIを動作させるとなると、数GB単位で消費メモリが積み上げられていく。実機でCopilot+ PCのメモリ消費量を検証してみた。

画像生成モデルのメモリ消費量は「1.3GB」

Copilot+ PCでは、ペイントに搭載された「Cocreator（コクリエイター）」やフォトアプリに搭載された「Image Creator（イメージクリエーター）」「Restyle Image（リスタイルイメージ）」など、生成AIを利用した機能を活用できる（各機能の詳細はこちら）。

Copilot+ PCに搭載されている生成AIのモデルの詳細は不明だが、以下のページでは、紹介されているように「Microsoftによって微調整された独自のオープンソースAIモデルを使用します。」と公表されている。

▼Restyle Image、Image Creatorに関する説明
Windows 写真のスタイル変更イメージとイメージ作成者: 責任ある AI に関する FAQ

Copilot+ PCのAI機能では、NPU（およびGPU）で利用する共有メモリとして、メインメモリ（DDR5）から一定の割合（メモリ32GB搭載モデルなら15.7GB、メモリ16GB搭載モデルなら7.7GB）が確保されており、以下のタイミングで上記の生成AIモデルがメモリに読み込まれるしくみになっている。

Cocreator

読み込み：ラフとプロンプトが揃ったタイミング
解放：アプリ使用中は解放せず。終了してから6分ほど経過後に解放

Image Creator

読み込み：プロンプトを入力して生成を開始したタイミング
解放：アプリ使用中は解放せず。終了してから6分ほど経過後に解放

Restyle Image

読み込み：スタイルを適用したタイミング
解放：適用完了後すぐ

では、具体的にどれくらいのメモリを消費しているのだろうか？

実機（Lenovo Yoga Slim 7x Gen9）で、タスクマネージャーを使用し、メモリの使用状況を確認してみたところ、下図のように「1.3GB」となった。

なお、Cocreator、Image Creator、Restyle Imageのいずれの場合も1.3GBで、これらの機能を重複して利用しても1.3GBから増えることはなかった。前掲したドキュメントでは、Image Creatorでは「Text to Image」モデル、Restyle Imageでは「Sketch to Image」モデル（おそらくCocreatorも同一）を使っているという記述があるが、メモリの状態を観察した限りでは、どの場合でも同一モデルが読み込まれているように見える。

「わずか」1.3GBか？ 1.3GB「も」か？

1.3GBというメモリ消費量を多いと感じるか、少ないと感じるかは、人によって感覚が異なると言えそうだ。

もともと、ローカルで動作させることを想定した小型のモデルが利用されていると考えられるが、おそらくNPUに最適化するために8bitなどに量子化されているのではないかと推測される。このため、生成AIの文脈で言えば、メモリ消費量が1.3GBで済んでいるのは、少ないと言える。

しかしながら、一般的な感覚で考えると、たかだかアプリの一機能で1.3GB「も」メモリを消費してしまうのは、多すぎるとも言える。

具体的に、どれくらいメモリを消費するかを検証してみたのが以下の結果だ。Lenovo Yoga Slim 7x 9Gen（メモリ32GB搭載）を使用し、起動直後と各アプリを起動した場合のメモリ使用量を比べてみた。

まずは、AI機能のメモリ消費を確認した。

※メインメモリは31.3GB、共有メモリは15.7GB

起動直後は5.6GBほどのメモリ消費量だったが、Cocreatorでの生成を実行することで8.3GBになり、さらにImage CreatorとRestyle Imageで生成を実行することで9.9GBに上昇。最後にWindows Studioエフェクトでカメラ画像の修正をフルにオンにしてみたところ、最終的にメモリ使用量が11GB（共有メモリ：NPU 1.4GB、GPU 1.2GB）となった。

ここまでならメモリ16GBでも問題なさそうだ。

続いて、一般的なアプリも組み合わせて検証してみる。Edgeで5つのタブを開き（うち1つはYouTubeの動画再生）、ExcelとWordで文書を読み込み、Teamsのチャット画面を開き（Web会議なし）、そこからさらに、上記と同じAI機能を起動してみた。

※メインメモリは31.3GB、共有メモリは15.7GB

想定したシーンは、ウェブブラウザーで調べものをしながら、Teamsでチャットを確認し（場合によってはWeb会議を実施し）、関係する資料をWordとExcelで開き、資料に挿入するイラストや写真をCocreatorやImage Creator/Restle Imageで作るというものだ。ちょっとやりすぎ感はあるが、忙しいときには、あり得なくもないシチュエーションと言える。

この場合、最終的にメモリの使用量は15.1GBとなった。このように、一般的なアプリを組み合わせ、多数のアプリが起動する状況下でAI機能を利用するのであれば、できれば32GBのメモリがあった方がよさそうだ。

今後、言語モデルが登場すれば「1.5～2GB」の上乗せもある

もちろん、実際には16GB搭載モデルでも、OSが適切にメモリを管理（圧縮など）してくれるため、即座にメモリ不足になるというわけではない。

しかしながら、今後、ローカルで動作する言語モデルが登場すると、さらにメモリへの要求は厳しくなるはずだ。

Microsoftは、先のBuild 2024でCopilot+ PC向けの小規模言語モデル「Phi-Silica」を提供することを発表している。

このモデルは、33億パラメーター（3.3B）でNPUに最適化されたモデルと公表されている。MicrosoftのPhi-3シリーズは、Phi-3 mini（3.8B）、Phi-3 vision（4.2B）、Phi-3 small（7B）、Phi-3 medium（14B）があるが、Phi-Silicaはこれらより小さいモデルだ。

言語モデルの大まかなメモリ消費量は、パラメーター数から計算することが可能だ。Phi-Silicaは3.3Bなので、パラメーターの精度が16bitのFP16ならなら、Byte換算で2Byteをパラメーター数にかけて6.6GB。8bit精度のINT8なら、1Byteを掛けて3.3GB。INT4なら4bitなので1/2Byteを掛けて1.65GBという計算になる。

もちろん、実際には、もっと量子化の方法が複雑なので、この値は前後する。例えば、同じ4bit量子化でも精度を確保方法で量子化することで若干サイズは大きくなる。参考までに、3.8BのPhi-3 miniの場合、GGUFという量子化方式を用いた際は、以下のようなメモリ消費量となっており、Phi-Silicaでもこれに近いメモリ消費量になるのではないかと予想される。

個人的な予想としては1.5～2GBくらいだと考えるので、将来的な言語モデルの利用も考えると、上記のメモリ使用量にさらに1.5～2GBが上乗せるになる計算となる。これを考えると、トータルメモリ16GBではギリギリで、アプリや生成AIを使い放題というわけにはいかない可能性がある。

ちなみに、余談だが、Phi3は優秀なモデルで、4bit量子化された「Phi3 mini 4k instruct q4 3B Q4_K_M gguf」でも、日本語でまともに会話（チャット）できる。例えば、「日本のおすすめの観光地を教えて」というと、下図のように回答が出る。

直付けメモリなので後悔しないPC選びを

というわけで、Copilot+ PC時代のメモリ容量について考えてみた。現状は、16GBでも問題なさそうだが、今後数年を考えると、もしかすると16GBでは足りない時代がやってくるかもしれない。

最近のPC、特にノートPCは、メモリがモジュール形式ではなく、基盤に直付けとなっているものが多いため、かつてのPCのように後から気軽に増設するのも難しい。今後のPC選びでは、メモリ容量も慎重に検討する必要がありそうだ。