Ollamaの使い方 インストール手順・必要スペック・日本語モデルの選び方まで解説

「この資料をAIに要約させたいが、社外に出せるデータではない」。生成AIの活用が広がるほど、この壁に当たる場面は増えています。

Ollamaは、その制約を回避する手段のひとつです。大規模言語モデルを自分のパソコンやサーバーの中だけで動かせるため、入力した内容が外部のサービスに送られません。インストールを終えれば、コマンドを2つ打つだけで対話が始まります。

ただし手軽さの裏側には、必要なスペック、モデルごとに異なるライセンス、クラウド型と比べたときの精度差といった検討事項があります。ここを把握せずに始めると、動いたはいいが実用に耐えないという結果になりがちです。

本記事では、Ollamaの基本から必要な環境、OS別のインストール手順、基本コマンド、日本語で使う際のモデルの選び方、そして業務で使う場合の注意点までを順に整理します。

確認したいポイント	結論	詳細
Ollamaとは何ですか？	手元のPCでLLMを動かす無料ツール	モデルの取得から実行までをコマンド1つで行え、Windows・macOS・Linuxに対応しています。
必要なスペックは？	メモリ16GB以上が実用的な目安	扱うモデルのサイズで変わります。小さいモデルなら8GB前後でも動きますが速度は落ちます。
導入は難しいですか？	インストールとコマンド2つで動く	公式のインストーラーを入れ、ollama runにモデル名を続けるだけで対話を始められます。
業務で使えますか？	社外に出せないデータの処理に有効	本体はMITライセンスで商用利用可。ただしモデルごとのライセンスは別途確認が必要です。

この記事でわかること

・Ollamaがどのようなツールで、クラウド型の生成AIと何が違うのか

・動かすために必要なメモリ・GPU・ストレージの目安

・Windows・macOS・Linuxそれぞれのインストール手順と動作確認の方法

・覚えておくべき基本コマンドと、日本語で使う際のモデルの選び方

・GUI・API・カスタマイズによる業務での活用方法と、導入時の注意点

社外に出せないデータをAIで扱う方法を、相談したい方へ ローカル実行が適しているのか、別の構成のほうが現実的なのかは、扱うデータと体制によって変わります。 現状をうかがったうえで判断材料を整理します。 相談予約はこちら

Ollamaとは——手元の環境でLLMを動かすためのツール

まずはOllamaがどのようなツールなのかを、できること、クラウド型サービスとの違い、そしてローカル実行の利点と限界という3つの角度から押さえます。ここを理解しておくと、後の環境要件やモデル選びの判断がしやすくなります。

Ollamaの概要とできること

Ollamaは、大規模言語モデル（LLM）を自分のパソコンやサーバー上で動かすためのオープンソースのツールです。2023年に公開され、現在ではローカルでLLMを扱う際の定番として広く使われています。

最大の価値は、面倒な作業を肩代わりしてくれる点にあります。モデルのダウンロード、圧縮された形式の扱い、GPUの利用設定といった準備を裏で処理してくれるため、利用者はモデル名を指定して実行するだけで済みます。

WindowsとmacOS、Linuxのいずれにも対応しています。ライセンスはMITライセンスで、個人利用だけでなく商用利用も可能です。ただし、Ollama本体のライセンスと、その上で動かすモデルのライセンスは別物である点には注意が必要です。

あわせて、外部から呼び出せるAPIサーバーとしても動作します。この仕組みによって、自社のシステムやツールにローカルのLLMを組み込むことができます。

クラウド型の生成AIとの違い

ChatGPTやClaudeのようなクラウド型のサービスでは、入力した文章は提供元のサーバーへ送信されて処理されます。これに対しOllamaは、モデルそのものが手元の端末に保存され、処理も端末内で完結します。

この違いが生む実務上の利点は3つあります。ひとつめは、入力した内容が外部に出ないこと。ふたつめは、利用量に応じた課金が発生しないこと。みっつめは、インターネット接続がない環境でも動作することです。

個人情報や機密情報を含むプロンプトの扱いについては、個人情報保護委員会も注意喚起を出しています。

詳細は個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」で公開されている資料をご確認ください。個人データを含むプロンプトの入力については、利用目的の範囲内であるかを十分に確認するよう求められています。

処理が端末内で完結するローカル実行は、この論点そのものを回避できるという点で、扱うデータに制約がある業務との相性がよい選択肢になります。

ローカル実行のメリットと限界

一方で、万能というわけではありません。最大の制約は、動かせるモデルの規模が端末の性能に縛られることです。

クラウド型のサービスが提供する最上位のモデルは、個人のパソコンでは到底動かせない規模で運用されています。手元で動かせる範囲のモデルは、複雑な推論や長文の扱いにおいて差が出るのが実情です。

また、コマンドライン（黒い画面に文字で命令する操作）が基本になる点も押さえておくべきです。もともと開発者向けに設計されたツールであり、誰にでも使いやすいことを目指したものではありません。

とはいえ、後述するGUIツールと組み合わせれば、社内の非エンジニアにもChatGPTに近い画面で提供できます。用途を絞れば十分に実用的というのが、現時点での妥当な評価です。

関連記事：システム開発のAI活用とは？工程別の使いどころ・ツール・進め方と注意点を解説

Ollamaを動かすために必要な環境

導入前に確認すべきなのがマシンのスペックです。ここを見誤ると、動くには動くが実用にならないという状態になります。メモリ、ストレージ、そして速度が出ない場合の見直し点という順に整理します。

メモリとGPUの目安

必要なスペックは扱うモデルのサイズによって変わりますが、実用的な目安としてはメモリ16GB以上と考えておくと大きく外しません。

7Bから8Bと表記される中規模のモデルを扱う場合、メモリ16GBあれば動作します。より小さい4B以下のモデルであれば8GB前後でも動きますが、応答の速度と精度は相応に落ちます。

NVIDIA製のGPUを搭載していれば、Ollamaが自動的に検出して推論に利用します。VRAMが8GBあれば中規模モデルでも実用的な速度が出ます。GPUがない場合はCPUで動作しますが、体感速度は大きく変わります。

MacのApple Siliconを搭載した機種では、メインメモリがGPU側からも利用される構造のため、同じメモリ容量でも効率よくモデルを動かせます。ローカルLLMを試す用途では相性のよい環境です。

モデルサイズとストレージ

見落とされやすいのがストレージです。モデルは1つあたり数GBから数十GBのファイルとして端末に保存されます。

小さめのモデルで2GB前後、中規模で5GB前後、大きなものになると数十GBに達します。複数のモデルを試していると、気づかないうちにディスクを圧迫していることがあります。

空き容量が不足しているとダウンロード自体が失敗するため、導入前に確認しておいてください。保存先はあとから変更することもできます。

動作が遅いときに見直す点

思ったより遅い場合、原因はいくつかに絞られます。

最も多いのが、端末の性能に対してモデルが大きすぎるケースです。メモリに収まりきらないと処理が極端に遅くなるため、一段小さいサイズのモデルに切り替えるのが最初の対処になります。

次に多いのが、GPUが使われていないケースです。GPUを搭載しているのに速度が出ない場合は、ドライバが正しく入っているかを確認してください。

用途に対して過剰なモデルを選んでいないかという観点も重要です。定型的な要約や分類であれば、小さいモデルでも十分な精度が出ることは珍しくありません。

ローカルLLMの検証環境をどう用意するか、相談したい方へ 必要なマシンの構成や、検証時に確認すべき項目をまとめた資料をご用意しています。社内での検討材料としてお使いください。 資料請求はこちら

関連記事：LLM開発とは？4つの手法と費用相場・進め方・開発会社の選び方まで解説

Ollamaのインストール手順

インストール自体は数分で終わります。OSごとに方法が異なるため、Windows、macOS、Linuxの順に説明したうえで、共通の動作確認の方法を補足します。

Windowsでの導入

Windowsでは、公式サイトからインストーラーをダウンロードして実行するのが最も確実です。画面の指示に従って進めるだけで完了します。

パッケージ管理ツールを使い慣れている場合は、wingetを使ったコマンドでの導入も可能です。どちらの方法でも結果は同じです。

インストールが終わると、バックグラウンドでサービスが起動し、APIサーバーも自動的に立ち上がります。以降はコマンドプロンプトやPowerShellからollamaコマンドが使えるようになります。

macOSでの導入

macOSも同様に、公式サイトのインストーラーをダウンロードして実行する方法が基本です。

Homebrewを利用している場合は、コマンド1行での導入もできます。開発環境の管理をHomebrewに寄せているなら、こちらのほうが後の更新が楽になります。

Apple Siliconを搭載した機種では、専用の処理系が使われるため効率よく動作します。Intel搭載の古い機種でも動きますが、速度面では差があります。

Linuxでの導入と動作確認

Linuxでは、公式が用意しているインストールスクリプトを1行実行するのが標準的な方法です。必要な設定を含めて自動で処理されます。

NVIDIA製のGPUを使う場合は、事前にドライバが導入されている必要があります。サーバー上で社内向けに立てる構成を取る場合も、この手順が起点になります。

OSを問わず、導入後はまずバージョンを表示するコマンドを実行して、正しく入っているかを確認してください。ここで表示されれば準備完了です。表示されない場合は、パスの設定かインストールの失敗が疑われます。

関連記事：AIでシステム運用を自動化する方法｜AIOpsの仕組みと導入手順・注意点を解説

Ollamaの基本的な使い方

覚えるコマンドは多くありません。モデルを動かす方法、日常的に使うコマンド、そして終了と整理という順に見ていきます。

モデルを実行する

基本になるのはrunというコマンドにモデル名を続ける形です。指定したモデルが端末にない場合は自動的にダウンロードされ、完了すると対話が始まります。

対話画面が表示されたら、日本語でそのまま質問を入力できます。応答は端末内で生成されるため、外部との通信は発生しません。

初回はモデルのダウンロードに時間がかかりますが、一度取得したモデルは次回から即座に起動します。会話を終えるときは終了用のコマンドを入力します。

ダウンロードだけを先に済ませたい場合は、pullというコマンドを使います。回線の空いている時間にまとめて取得しておく、といった使い方ができます。

覚えておきたい基本コマンド

日常的に使うのは、次の5つ程度です。

・run：モデルを実行して対話を開始する（未取得なら自動でダウンロード）

・pull：モデルのダウンロードのみを行う

・list：端末に保存されているモデルの一覧を表示する

・ps：現在動作しているモデルを確認する

・rm：不要になったモデルを削除する

listとrmは定期的に使うことをおすすめします。試したモデルが溜まるとディスクを圧迫するため、使わないものは削除しておくのが運用上の基本です。

このほか、APIサーバーを明示的に起動するコマンドもあります。通常は自動で立ち上がりますが、サーバー用途で細かく制御したい場合に使います。

APIとして呼び出す仕組み

Ollamaは起動時に、端末内のポート11434でAPIサーバーとして待ち受けます。ここに対してリクエストを送ることで、プログラムからモデルを呼び出せます。

重要なのが、OpenAIのAPIと互換性のある形式に対応している点です。既にOpenAIのAPIを前提に作られたプログラムがあれば、接続先を変更するだけでローカルのモデルに切り替えられる場合があります。

この互換性が、Ollamaが選ばれる大きな理由のひとつになっています。検証はローカル、本番はクラウドといった切り替えがしやすいためです。

ローカルLLMを既存の業務システムに組み込みたい方へ 検証まで進んだものの、実際の業務フローへどう接続するかで止まっている。そうした段階からのご相談も承っています。 相談予約はこちら

モデルの選び方——日本語で使う場合

Ollamaで扱えるモデルは100種類を超えます。この中からどう選ぶかで、使い勝手は大きく変わります。名前の読み方、日本語での適性、ライセンスという3点で整理します。

モデル名とサイズタグの読み方

モデル名は「名前:サイズ」という形で表記されます。コロンの後ろに付く数字がパラメータ数の目安で、7bや8b、27bといった表記が使われます。

数字が大きいほど能力は高くなりますが、必要なメモリと生成にかかる時間も比例して増えます。手元の環境で動かせる範囲を先に把握し、その中で選ぶという順序が現実的です。

もうひとつ知っておきたいのが量子化です。Ollamaで配布されているモデルは、精度をわずかに落とす代わりにサイズを圧縮した形式が既定で使われています。これにより、本来なら扱えない規模のモデルが個人のPCでも動くようになっています。

日本語での用途に向くモデルの考え方

Ollamaでは、Llama、Gemma、Qwen、Mistral、Phiといった主要なオープンモデルが扱えます。日本語の扱いはモデルによって差が大きいため、ここは実際に試して確認するのが確実です。

選ぶ際の基準は、モデルの知名度より自社の用途で試した結果を優先してください。要約、分類、文章の書き換えといった定型的な処理であれば、小さいモデルでも十分な品質が出ることがあります。

一方で、複雑な推論や専門的な知識を要する処理では、手元で動かせる規模のモデルは力不足になりがちです。すべてをローカルで済ませようとせず、用途で使い分ける判断が重要になります。

モデルは頻繁に更新され、新しいものも次々と公開されます。導入時に選んだモデルを固定するのではなく、定期的に見直す前提で運用してください。

ライセンスの確認

業務で使う場合に必ず確認すべきなのがこの点です。Ollama本体がMITライセンスであることと、モデルが商用利用できることは別の話です。

オープンに公開されているモデルでも、商用利用に条件が付くもの、特定の用途を禁じているもの、利用者数に上限があるものなど、条件はさまざまです。

業務で使うモデルは事前に数点に絞り、それぞれのライセンス条件を記録として残しておく運用にすると、案件ごとの確認作業が減り、後からの検証もしやすくなります。

生成AIの業務利用における権利まわりの論点は、ネクストスケールのAI活用コラムでも継続的に取り上げています。

Ollamaを業務で活用する方法

コマンドラインで動かせるようになったら、次は実務への組み込みです。画面を用意する方法、システムに組み込む方法、そして設定を作り込む方法という順に紹介します。

GUIで社内に展開する

非エンジニアにも使ってもらうなら、画面を用意するのが現実的です。Open WebUIをはじめとするツールをOllamaと組み合わせると、ChatGPTに近い操作画面をブラウザから利用できるようになります。

社内のサーバーにOllamaとGUIツールを立てておけば、各自の端末に環境を作らなくても、ブラウザからアクセスするだけで社内向けのAIチャットとして使えます。

この構成にすると、会話の履歴を残す、利用者ごとに権限を分ける、といった管理機能も使えるようになります。個人の端末で動かすより、運用面では扱いやすい形です。

APIとして自社システムに組み込む

Ollamaが提供するAPIを使えば、既存のシステムにローカルのLLMを組み込めます。社内文書を検索して回答する仕組みや、定型的な文章の自動生成といった用途が代表的です。

外部のAIサービスとの連携でネックになりがちな、データを外に出せないという制約がここでは発生しません。入力も処理も自社の環境内で完結するため、扱えるデータの範囲が広がります。

また、コーディング支援のツールやエディタの拡張機能からOllamaを接続先として指定できるものもあります。開発業務での活用も選択肢に入ります。

カスタマイズとクラウドモデルの併用

Ollamaには、モデルの振る舞いを定義したファイルを作って、独自の設定を保存する仕組みが用意されています。役割を指定するシステムプロンプトや、応答の性質を決めるパラメータをあらかじめ組み込んでおけます。

「社内規程に沿って回答する担当者」「議事録を決まった形式に整える担当者」といった役割を設定として保存しておけば、利用者が毎回長い指示を書く必要がなくなります。

また近年は、Ollamaを通じて提供元のサーバー上で動く大規模なモデルを利用する仕組みも用意されています。手元では動かせない規模のモデルを、同じ操作方法で使えるという位置づけです。

ただしこの場合、処理は外部で行われるため、ローカル実行の前提は当てはまりません。データを外に出さないことが導入理由であれば、この機能は使わないという切り分けを社内ルールとして明示しておいてください。

ローカルLLMを既存の業務システムに組み込みたい方へ社内向けAI基盤の構築を、設計から相談したい方へ どこまで自社環境で完結させ、どこを外部サービスに任せるか。要件を整理したうえで、実装と運用まで含めてご提案します。 相談予約はこちら

導入前に押さえたい注意点と社内展開の進め方

最後に、業務で使い続けるための論点を整理します。ルールの整備、精度とコストの現実、そして小さく始める進め方という順です。

情報の取り扱いとルール整備

ローカル実行は外部にデータが出ないという前提が価値ですが、その前提が崩れる場面があることは押さえておく必要があります。

前述のクラウド経由でモデルを使う機能を有効にした場合や、GUIツールを外部からアクセスできる状態で公開した場合がこれに当たります。「ローカルだから安全」という理解のまま運用すると、想定外の経路で情報が出ていくことになりかねません。

社内で使うなら、扱ってよいデータの範囲、サーバーを立てる場合のアクセス制限、使用するモデルとその条件を、開始前に文書化しておいてください。

精度と運用コストの現実

手元で動かせる規模のモデルは、クラウド型の最上位モデルと同等ではありません。導入前にここを社内で共有しておかないと、期待値の食い違いから使われなくなります。

現実的な位置づけは、機密性が理由でクラウドに出せない処理を担当させる、あるいは大量の定型処理を課金を気にせず回す、といった役割です。万能な代替ではなく、用途を限定した選択肢として扱ってください。

コスト面では、利用ごとの課金は発生しない一方、マシンの調達費用と電気代、そして環境を維持する担当者の工数がかかります。クラウドの従量課金と比較する際は、この両方を並べて判断してください。

スモールスタートの進め方

最初から社内基盤として構築する必要はありません。担当者1名の端末に入れ、実際の業務データに近いもので試すところから始めるのが確実です。

その段階で、応答の品質が業務に耐えるか、速度が許容範囲か、どのモデルが自社の用途に合うかを確認します。ここで見極めがつかないまま設備投資に進むと、使われない環境が残ります。

検証で手応えが得られたら、社内サーバーへの設置とGUIの提供に進み、利用者を広げていく。この順序であれば、投資の判断も段階的に行えます。

社内へのAIツール定着の進め方については、ネクストスケールのブログ記事一覧もあわせてご覧ください。

まとめ

Ollamaは、大規模言語モデルを手元の環境だけで動かせるツールです。インストールを終えればコマンド1つでモデルを実行でき、APIを通じて既存のシステムに組み込むこともできます。

外部にデータを送らずに処理できる点は、機密情報を扱う業務では明確な利点になります。一方で、動かせるモデルの規模は端末の性能に縛られ、精度の面ではクラウド型の上位モデルに及ばない領域があります。

まずはメモリ16GB程度の環境で中規模のモデルを1つ動かし、自社の業務データに近いもので試す。そのうえで用途を絞り、社内サーバーへの展開やシステムへの組み込みを検討する。この順序であれば、無理なく実務に取り入れられます。

ローカルLLMの活用を、自社の状況に合わせて具体化したい方へ 扱うデータと目的をうかがったうえで、ローカル実行が適しているかを含めて率直にお伝えします。 検討段階でのご相談も歓迎です。 相談予約はこちら

参考・出典

・Ollama公式サイト：https://ollama.com/

・Ollama公式ドキュメント：https://docs.ollama.com/

・個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」：https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/