生成AIに必要なPCスペック 用途別の3段階と、VRAMの決め方・調達の判断

「生成AIを使うには高性能なPCが必要ではないか」という相談をよくいただきます。実際に調べると、VRAMが24GB必要、48GB以上が望ましいといった数字が並び、全社への配備は難しいと感じることになります。

しかし、こうした数字が必要になるのは、モデルを自分のPCの中で動かす場合です。ChatGPTのようなクラウドのサービスを使うだけなら、事務作業ができるPCで足ります。

つまり、必要なスペックは「何を、どこで動かすか」で大きく変わります。ここを切り分けないまま調達を検討すると、不要な投資をするか、逆に必要な性能が足りない構成を選ぶことになります。

本記事では、用途を3段階に分けて必要なスペックを整理し、ローカルで動かす場合のVRAMの決め方、そして個人PCとサーバーのどちらに置くかの判断までを解説します。

確認したいポイント	結論	詳細
高性能PCは必要？	用途によって3段階に分かれる	クラウドのAIを使うだけなら、通常の業務用PCで足りる。
何が性能を決める？	ローカル実行ではVRAM	モデルのパラメータ数から必要な容量を計算できる。
全員に配るべき？	多くの場合は不要	使う人だけに配る、または共用のサーバーに集約する。
判断の順序は？	用途を決めてから機種を選ぶ	機種の比較から入ると、必要のない性能に費用を払う。

この記事でわかること

• 用途によって分かれる3段階のスペック要件
• クラウドAIを使うだけの場合に本当に必要なもの
• ローカルでモデルを動かす場合のVRAMの計算方法と目安
• GPU以外に確認すべき項目と、見落とされやすい条件
• 個人PCに配るかサーバーに集約するかの判断基準

AI導入に向けた環境整備について、支援内容とあわせて資料にまとめています。 ＞＞ 資料請求はこちら

必要なスペックは用途で3段階に分かれる

機種の話に入る前に、自社がどの段階に該当するかを確認してください。ここが決まれば、必要な性能は自動的に絞られます。

ここでは3つに分けて整理します。

段階1｜クラウドのAIを使うだけ

ブラウザやアプリからAIサービスに接続して使う形です。文章の作成、要約、翻訳、資料の下書きといった業務が該当します。

この場合、計算はすべてサービス提供元のサーバーで行われます。手元のPCは、入力を送って結果を表示するだけです。

必要なのは、ブラウザが快適に動くことと、安定した通信環境です。事務作業に使っているPCで十分に足ります。

段階2｜端末の中で軽い処理を動かす

AI処理に対応した部品を搭載したPCで、音声の書き起こしや画像の処理などを端末内で行う形です。データを外部に送らずに済む点が利点になります。

この段階では、専用の処理装置を搭載した機種が必要になります。ただし、これは主に新しいPCに標準で載るようになってきており、更新のタイミングで選べば追加の負担は限定的です。

扱えるのは軽量なモデルに限られます。複雑な処理はクラウドに任せる構成が前提になります。

なお、総務省の「令和7年版 情報通信白書」によれば、業務で生成AIを利用している日本企業は55.2%に達しています。このうち大半はクラウドのサービスを使っており、段階2や3の環境を整えている企業は限られます。周囲が導入しているという理由で高性能な機材を検討する必要はありません。

段階3｜ローカルでモデルを動かす

自分のPCの中に言語モデルや画像生成モデルを置いて動かす形です。データを一切外部に出さずに済み、利用回数による課金も発生しません。

ここで初めて、高性能なGPUと大容量のVRAMが必要になります。記事でよく見る数字は、この段階を前提としたものです。

機密性の高いデータを扱う業務、外部サービスの利用が制限される環境、大量の処理を継続的に行う用途で検討されます。

3段階の比較

整理すると次のようになります。自社がどこに該当するかを確認してください。

段階	主な用途	必要なPC	費用の考え方
1. クラウド利用	文章作成、要約、翻訳	通常の業務用PC	サービスの利用料が中心
2. 端末内で軽い処理	書き起こし、画像処理	AI処理対応の機種	更新時の差額
3. ローカル実行	機密データの処理、大量処理	高性能GPU搭載機	本体への大きな投資

多くの企業は段階1に該当します。段階3の情報を見て高額な投資を検討する前に、自社の用途がどこにあるかを確認してください。

クラウドAIを使う場合に本当に必要なもの

最も多くの企業に当てはまる段階です。ここで過剰な投資をしないための判断を整理します。

ここでは3つの観点で見ていきます。

スペックより通信と画面

クラウドのAIを使う場合、処理速度を決めるのは通信の速さです。PCの性能を上げても、応答が速くなることはありません。

むしろ効いてくるのは、画面の大きさと解像度です。AIとのやり取りは文字量が多く、狭い画面では作業効率が落ちます。ノートPCで使う場合、外部モニターを用意するほうが体感の改善は大きくなります。

メモリについては、複数のブラウザのタブや業務アプリを同時に開くことを考えると、16GB程度あると余裕があります。

買い替えを検討する基準

いま使っているPCで判断する目安は次のとおりです。

• ブラウザで複数のタブを開くと動作が重くなる
• 業務アプリと同時に使うとメモリが不足する
• 起動や切り替えに時間がかかり、作業が中断される
• サポート期限が近く、更新の時期が来ている

これらに該当しないなら、AIを使うために買い替える必要はありません。「AI用のPC」という区分で調達を考えると、判断を誤ります。

ありがちな過剰投資

記事や広告で見た数字をもとに、全社員に高性能なGPUを搭載したPCを配ろうとするケースがあります。しかしクラウドのAIを使うだけなら、その性能は使われません。

GPUは、使われていなくても本体価格に上乗せされています。100人分となれば、相当な額の差になります。

ローカル実行が必要な業務があるなら、その担当者にだけ高性能な機種を配るか、後述する共用の構成を検討してください。

同じ予算があるなら、PCの性能を上げるより外部モニターを配るほうが効果は大きくなります。AIを使った作業は画面上での比較や編集が多く、表示領域の広さがそのまま作業効率に効きます。

自社に必要な環境がどの段階か、現状を伺ったうえで整理をお手伝いします。 ＞＞ 相談予約はこちら

ローカルで動かす場合のVRAMの決め方

ここからは段階3に該当する場合の内容です。必要な性能を、感覚ではなく計算で出す方法を整理します。

ここでは5つの観点で見ていきます。

VRAMがすべてを決める

モデルをローカルで動かす場合、最も重要なのはGPUに搭載されたメモリ、いわゆるVRAMの容量です。

モデル全体をVRAMに読み込めれば、高速に動作します。容量が足りないと、そもそも動かないか、動いても極端に遅くなります。

GPUの計算能力も影響しますが、まず容量が足りているかが前提条件になります。速いGPUでも、容量が足りなければ意味がありません。

パラメータ数から計算する

必要な容量は、モデルの規模から概算できます。目安として、パラメータ数に0.8を掛けた数値をGB単位で見る計算式が使われます。

たとえば70億パラメータ（7B）のモデルなら、およそ6GB前後が目安になります。ここに処理中に使う分の余裕を加えて、実際にはもう少し多めに見積もります。

ただしこれは、モデルを軽量化した状態での目安です。軽量化していない元のままのモデルでは、必要な容量は数倍になります。

軽量化で必要な容量を下げられる

モデルの数値の精度を落として容量を減らす手法があります。精度は多少下がりますが、扱える容量が大幅に減るため、実用上はこの状態で使われることが一般的です。

軽量化された形式で配布されているモデルも多く、そのまま使えます。必要なスペックを検討する際は、軽量化した状態を前提にしてください。

精度が業務に足りるかは、実際に試して判断します。用途によっては、軽量化した小さなモデルで十分な場合があります。

モデル規模別の目安

公開されている情報をもとに整理すると、おおよそ次の水準になります。実際の要件はモデルや設定によって変わるため、目安として扱ってください。

用途	VRAMの目安	備考
小規模なモデルでの試用	8〜16GB	軽量化した小型モデルの動作確認
実務での利用	16〜24GB	一般的な用途はこの範囲に収まる
追加学習も行う	24GB以上	推論のみより余裕が必要になる
大規模モデル・複数機能	48GB以上	検索と生成を組み合わせる構成など
複数人での同時利用	96GB以上も	同時に処理する分だけ容量が要る

社内文書を検索して回答する仕組みを作る場合、言語モデル以外の処理も同時に動きます。この場合、単体でモデルを動かすより多くの容量が必要になります。

また、この表は1人が使う前提の数字です。複数人が同時に質問を投げる構成では、処理する分だけ容量が必要になります。社内向けに公開する仕組みを作る場合は、同時利用の想定人数から逆算してください。

メーカーによる違い

実務では、対応するソフトウェアの都合から特定のメーカーのGPUが選ばれる傾向があります。多くのAI関連のソフトウェアが、その環境を前提に最適化されているためです。

別の選択肢として、メインメモリとGPU用メモリを共有する仕組みを持つ機種があります。この構成では、搭載メモリの大部分をモデルの読み込みに使えるため、大きなモデルを1台で扱える利点があります。

一方で、処理速度や対応するソフトウェアの範囲には違いがあります。推論のみで速度をそれほど求めないなら有力な選択肢ですが、追加学習まで行う場合は制約が出る場合があります。用途に応じて判断してください。

GPU以外に確認する項目

VRAMに注目が集まりますが、他の部分が足りないと結局動きません。あわせて確認すべき項目を整理します。

ここでは5つ挙げます。

メモリ（RAM）

モデルの読み込み時や、GPUに載りきらない部分の処理で使われます。不足すると、処理の途中でアプリケーションが終了することがあります。

VRAMと同等以上、できれば2倍程度を目安にしてください。24GBのGPUを使うなら、32GBから64GBのメモリが望ましい水準です。

ストレージ

モデルのファイルは、1つで数GBから数十GBになります。複数のモデルを試すなら、それだけの空き容量が必要です。

読み込み速度も影響するため、高速な記憶装置を選んでください。容量は1TB以上あると、モデルを入れ替える手間が減ります。

CPU

GPUで処理する構成では、CPUの性能はそれほど重要ではありません。前後の処理を担う程度で、極端に高性能である必要はありません。

ただし、GPUを積まない構成でモデルを動かす場合は話が変わります。この場合はCPUとメモリの性能が直接効いてきますが、速度は大きく落ちます。

ノートPCという選択肢

持ち運びを前提とするなら、ノートPCでもGPUを搭載した機種があります。ただし、同じ名称のGPUでも据置型より性能が抑えられている場合があります。

搭載できるVRAMの容量にも上限があり、大きなモデルを動かす用途には向きません。加えて、高負荷が続くと発熱で性能が落ちる場合もあります。

外出先で使う必要がないなら、据置型を選ぶほうが同じ費用でより高い性能を得られます。持ち運びの必要性を、先に確認してください。

電源・冷却・設置環境

見落とされやすい項目です。高性能なGPUは消費電力が大きく、それに見合った電源装置と冷却が必要になります。

加えて、動作時の音は相当な大きさになります。執務室に置くと、周囲の人の集中を妨げる可能性があります。設置場所を含めて検討してください。

電源容量やコンセントの配置も、事前に確認しておく項目です。

環境の設計や機種の選定について、伴走して支援しています。 ＞＞ 相談予約はこちら

個人PCに配るか、共用のサーバーに置くか

ローカル実行が必要だと判断した場合、次に決めるのが置き場所です。ここで費用が大きく変わります。

ここでは3つの観点で整理します。

複数人で使うなら集約が有利

個人のPCに高性能なGPUを載せると、その人が使っていない時間は遊んでいることになります。1日の稼働率は、多くの場合1割にも届きません。

1台のサーバーに集約し、複数人が接続して使う構成にすれば、同じ費用でより多くの人が使えます。社内のネットワーク経由で利用する形になります。

データが社内から出ない点も、個人PCに置く場合と変わりません。機密性を理由にローカル実行を選ぶなら、この構成でも目的は達成されます。

台数の目安

判断の基準は、使う人数と使用頻度です。

常時使う人が1〜2人なら、個人PCに載せるほうが単純です。3人以上、または断続的に使う人が多い場合は、集約したほうが費用対効果が上がります。

同時に処理する人数が増えると必要な容量も増えるため、規模に応じた構成の検討が必要になります。

クラウドのGPUという選択

機器を買わず、時間単位で借りる方法もあります。試したい期間だけ使い、不要になれば止められます。

まず借りて試し、継続的に必要だと分かってから購入するという順序が、無駄の少ない進め方です。購入すると、数年は使い続けることになります。

ただし、データが社外に出る構成になるため、機密性を理由にローカル実行を選んだ場合は目的と合いません。用途に応じて判断してください。

扱う情報に個人情報が含まれる場合は、個人情報保護委員会が法令や指針を公開していますので、自社の運用が適切かを確認してください。

選定の進め方5ステップ

機種の比較から入ると、必要のない性能に費用を払うことになります。順序を守って進めてください。

ここでは5つのステップに分けて説明します。

ステップ1｜用途を具体的に決める

何をするために必要なのかを、業務の単位で決めます。「機密文書を要約する」「社内文書を検索して回答させる」といった粒度です。

この段階で、前述の3段階のどこに該当するかが決まります。多くの場合、段階1で足りることが分かります。

ステップ2｜使うモデルを決める

ローカル実行が必要なら、どのモデルを使うかを先に決めます。モデルが決まれば、必要な容量が計算できます。

まず小さなモデルで試し、精度が足りるかを確認してください。大きなモデルほど必要な機材も高額になります。小さいモデルで足りるなら、投資を抑えられます。

ステップ3｜借りて試す

購入前に、時間単位で借りられる環境で試します。想定した速度が出るか、精度が業務に足りるかを実際のデータで確認します。

カタログの性能値ではなく、自社の業務データで測ってください。想定と違う結果になることは珍しくありません。

ステップ4｜置き場所と台数を決める

使う人数と頻度から、個人PCに配るか集約するかを決めます。あわせて、設置場所、電源、騒音の条件も確認します。

執務室に置けない構成になる場合は、設置場所の確保が先です。機器を買ってから置き場所に困る事態を避けてください。

ステップ5｜運用の担当を決める

導入後、モデルの更新、環境の保守、トラブルの対応を誰が担うかを決めます。ここが決まっていないと、動かなくなった時点で放置されます。

専門的な知識が必要になる領域です。社内で担えないなら、保守を含めた形で外部に依頼する選択も検討してください。

あわせて、担当者が異動した場合にどうするかも決めておいてください。1人しか触れない環境は、その人がいなくなった時点で止まります。構築の手順と設定内容を文書に残しておくと、引き継ぎができます。

環境構築から運用体制の設計まで、資料でご確認いただけます。 ＞＞ 資料請求はこちら

よくある失敗4パターン

PCやGPUを導入したが活用されなかった事例には、共通する型があります。

ここでは4つ挙げます。

用途を決めずに機材を買う

「とりあえず高性能なものを」と購入し、実際には何に使うか決まっていない状態です。使われないまま数年が経過します。

先に用途を決め、必要な性能を計算してから買ってください。順序を逆にすると、必要な性能が足りないか、過剰かのどちらかになります。

クラウドで足りるのにローカルを選ぶ

機密性を理由にローカル実行を選んだものの、実際に扱うデータは公開情報だったというケースです。投資が正当化できません。

扱うデータが本当に外部に出せないものかを、先に確認してください。社内規程や契約条件を確認すると、クラウドで問題ない場合もあります。

運用の負担を見込んでいない

ローカル環境は、自分で構築し、更新し、問題が起きたら自分で直す必要があります。この手間が想定より大きく、使われなくなる状態です。

クラウドのサービスは、この作業が不要である点に価値があります。運用の負担を含めて比較してください。

設置環境を確認していない

購入した機器の消費電力が大きく、既存のコンセントでは足りない。動作音が大きく、執務室に置けない。こうした問題が搬入後に判明します。

電源、冷却、騒音、設置スペースは、発注前に確認してください。とくに古い建物では、電源容量が制約になる場合があります。

調達計画との整合

最後に、実際の調達をどう進めるかについて整理します。技術的な検討より、こちらが現実的な制約になる場合があります。

3つの観点で見ていきます。

更新サイクルに合わせる

業務用PCには、通常4〜5年程度の更新サイクルがあります。このタイミングに合わせて選べば、追加の投資は差額分だけで済みます。

更新したばかりの時期なら、次の更新まで待つという判断も合理的です。その間はクラウドのサービスで進め、必要性が明確になってから対応する形にできます。

全員分をそろえる必要はない

高性能な機種が必要なのは、実際にローカルで処理を動かす人だけです。全社員に同じ構成を配る必要はありません。

用途に応じて機種を分ける調達は、管理の手間は増えますが費用は大きく下がります。100人のうち5人が該当するなら、その5人分で足ります。

技術の変化を前提にする

モデルの軽量化は進んでおり、以前は動かなかった規模のモデルが、より少ない容量で動くようになっています。この傾向は続くと見られます。

将来を見越して過剰な性能を買うより、いま必要な分を選ぶほうが合理的です。数年後には、同じ処理がより安い機材で動く可能性があります。

業務でのAI活用を広く整理した内容は、業務効率化アイデア55選｜部門別30＋AI15＋明日から3つで成果を出す方法でも紹介しています。他のコラム記事はネクストスケールのブログ一覧からご覧いただけます。

まとめ

生成AIに必要なPCスペックは、用途によって3段階に分かれます。クラウドのサービスを使うだけなら、事務作業ができるPCで足ります。

記事でよく見る高性能なGPUやVRAMの数字は、モデルを自分のPCの中で動かす場合のものです。自社がその段階に該当するかを、まず確認してください。

ローカルで動かす場合、必要な容量はモデルの規模から計算できます。軽量化した状態を前提にすれば、想定より少ない容量で足りる場合もあります。まず小さなモデルで試し、精度が足りるかを確認してください。

複数人で使うなら、個人PCに配るより1台に集約するほうが費用対効果が上がります。購入前に、時間単位で借りられる環境で試す順序も検討してください。

そして、電源、冷却、騒音、設置場所は発注前に確認してください。機器の性能だけを見て購入すると、搬入後に置き場所で困ることになります。

AI活用の環境整備を、どこから・どの順番で進めるべきか。現状を伺ったうえで、具体的な進め方をご提案します。 ＞＞ 相談予約はこちら