Lenovo ThinkStation P330 TinyでローカルLLMと言う選択肢
まず初めに言っておきますが、どこにラインを引くのが良いか分からない感じになりますので、最終的にはご自分で決めてくださいとしか言えない機種選定となります。
Lenovo ThinkStation P330 Tinyを選択する理由
単純にGPUを内蔵できることからのスタートだが、安さに焦点が行くのはしょうがない。と言うのも、極端なこと言うと必要なのはGPUを動かす機能に絞られる。CPUもメインメモリも極端に言えば重要ではない。そういう話だから、ZimaBoard 2の話が出てくるのだが、それと比べるとこちらがいいのではないかと言う話。もちろん、より高性能なものをいえば、
ここら辺になるし、そうで無くても
ここら辺の選択肢が出てくる。
何度も言うが、P330 Tinyで十分と思うのは、
CPUは遅くてもいい
この販売店ではメインメモリが32GBついている
PCIe 3.0で遅くてもモデルを読み込むのが遅いだけで実行には影響は少ない
もちろん性能が良いのには越したことは無いが、必要ないのであればあとは価格の問題。
ThinkCentre系でも構わないのだが、一応ワークステーション用と言うことになっているThinkStation系の方が安心感がある。どうせ長時間稼働になるので、そこは気にしても良いと思う。
GPUをどうするか？
注意事項
どのグラボが中に納まるかは各自判断してください。下に書いている機種は小さめのものなので恐らくと言ったところですが、どこかに干渉する可能性は十分あります。細かく情報を探してチェックはしませんので各自調べて判断下さい。
LLMをどのサイズでVRAMに入れ込むかと言う話になってしまうだけなのだが現実的な選択肢として二つ。また、使用するモデルは性能が一皮むけたと話題のQwen3.5を想定。
VRAM16GB
買う所を選べば12万円強。高いが、16GBと言うサイズは魅力。
VRAM6GB
大体こんな値段。6GBと言うのはLLMとしては少し苦しい。
実際どのモデルを使用？
チャッピーおススメ構成
6GB GPU
4B：Q6_K（or Q8_0）で ctx 8k〜16k狙い
9B：IQ3_Mで ctx 1k〜2k、足りなければ KV=Q8 を検討
16GB GPU
9B：Q4_K_M（安定） or Q5_K_M（高品質）で ctx 8k〜32kを広く
27B：IQ3_XXSで ctx 8k〜13k、それ以上はKV量子化前提
まとめ
今回とにかく安く安定させながらGPUをLLM運用するにあたっての機器選定として、Lenovo ThinkStation P330 Tinyを検討してみた。LLMをスモールスタートするには悪くない選択肢だと思う。
SwitchBot公式ページ
クーポン「AF-4903」で5％引き（アフィリエイトクーポンになりますのでご協力お願いします）
割引の詳しい仕組みに関してはこちらのページを参照ください。
大きいセールがある場合はAmazonもしくは楽天から購入するとお得です。
買い物情報はこちらからご確認ください。気分で紹介しています。
アリエクのクーポン情報もまとめています。こちらをご覧ください。
当ページにはアフィリエイトリンクを含む場合があります。