【780M向け】llama.cpp Vulkanロードモード自動設定でVRAM二重コピー解消、AMD ROCmFP4量子化モデル群がLaguna-S・GPT-OSS・Nemotron 3 Nanoへ拡大

目次
この記事はAIによって編集・作成されています。
llama.cppのデフォルトロードモードがautoへ移行し、780M等のiGPU環境でmmapによる二重メモリコピーを回避する改善が適用されています。これによりVRAM 16GBの機材でモデル読み込み時ホストメモリとの競合が解消されます。同時にAMD ROCmFP4量子化モデルがLaguna-S 2.1に加えGPT-OSS 120B、Nemotron 3 Nano 30B A3BのStrix Lean版がHugging Faceに公開。BIOS設定AutoでVRAM列挙が0を返すStrix Haloの既知問題も報告されています。
Vulkan iGPU用ロードモード「auto」がデフォルトに
mmap回避で780Mのメモリ競合を解消
PR#26081 で llama.cpp のデフォルト load-mode が auto に設定されました。この変更は PR#20834 および PR#26023 の後継改善です。
iGPU環境では、モデルをmmapで読み込むとホスト側にコピーされた後にデバイス共有メモリへ再度コピーされる二重コピーが発生します。780M(RADV PHOENIX)のようにVRAM 16GBの環境では、モデルサイズが1.5倍に膨張する分、16GBをあっという埋め尽くします。load-mode auto は iGPU では mmap を回避し、デバイスへ直接読み込むモードを自動選択します。
これにより16GB VRAMの780MでQ4_Kモデルを正常に読み込めるようになります。
実際に試せる設定
既存のビルドで手動設定する場合は以下の通りです。
./main -m model.gguf --load-mode auto
# または CMakeビルド時
-DGGML_VULKAN_LOAD_MODE_AUTO=ON新しいデフォルトが適用されたビルドでは不要ですが、旧版ユーザーは明示指定が必要です。
Strix Halo(gfx1151)VRAM列挙問題 — BIOS Auto設定で0を返す
BIOS GPU割当「Auto」でVRAMサイズが0として認識される
Issue #26089 で、AMD Strix Halo APU(gfx1151、32GB UMA)において、Windows 11環境(Bosgame M5)でBIOSのGPUメモリ割当を「Auto」に設定した際、VRAM列挙が0を返す問題が報告されています。「Fixed」設定に切り替えると正常に32GBとして認識されます。
これはStrix Halo特有の問題で、780M(gfx1045)には影響しない可能性がありますが、同じAMDプラットフォームでiGPUモデルを動かす上では重要な制約事項です。
回避策
# BIOS設定でGPU Memory SizeをFixedに切り替え
# Auto(自動)を避けるこの問題はStrix Halo(32GB UMA)の既知制約として認識されており、Auto設定のままではllama.cppのVRAM容量判定が失敗し、モデル読み込みに問題が出る恐れがあります。
HIPメモリプールフォールバック — VMM信頼性低下時
共有メモリ環境でのHIPビルド改善
PR#26054 で、HIPビルドにおいてVMM(Virtual Memory Manager)が信頼できない場合にレガシーメモリプールへフォールバックする処理が追加されました。これは共有メモリシステム、特にiGPU環境での安定動作に寄与します。
rocWMMA FlashAttentionカーネル削除
CUDA用FlashAttentionをAMDから完全撤去
PR#26046 により、AMD向けCUDA FlashAttentionカーネル(rocWMMAベース)が完全に削除されました。AMDハードウェアは現在、より高性能なMMAカーネルを使用します。これは2026年7月24日のコミット(2026-07-24 15:53)で確定しました。
780MではVulkanが主な推論バックエンドですが、ROCm系カーネルの統合はAMD全体のパフォーマンス基盤強化につながります。
コミット: 2026年7月24日 15:53
OpenCL RMSノーマライズ修正
OpenCL Vulkan共存時のfused RMS norm固定
PR#26085 でOpenCLのfused RMS normにおけるmul viewのオフセット修正が行われました。AMDハードウェアではOpenCLがVulkanと共存する可能性があるため、ノーマライズ処理の正確性は推論安定性に関わります。
AMD ROCmFP4量子化モデル群 — Laguna-S・GPT-OSS・Nemotron 3 Nano
Laguna-S 2.1 ROCmFP4 Strix向け量子化モデル3種
Hugging FaceにLaguna-S 2.1のROCmFP4量子化モデルが3種公開されています。すべてStrix / gfx1151向けです。
1337Hero/Laguna-S-2.1-Q4_0-ROCMFP4-GGUF — Vulkan実験版。サイズ未確認。
kingjones777/Laguna-S-2.1-Q4_0_ROCMFP4_STRIX_LEAN-GGUF — Strix Lean版。サイズ未確認。
jcbtc/Laguna-S-2.1-Chadrock-ROCmFP4-StrixKVSpine-V4-GGUF — エージェントコーディング/ツールユース向け。StrixKVSpine V4採用。
GPT-OSS 120BとNemotron 3 Nano 30B A3B — 大規模MoEのROCmFP4対応
さらに大規模MoEモデルのROCmFP4 Strix Lean版も公開されています。
gsrunion/gpt-oss-120b-ROCmFP4-STRIX_LEAN-GGUF — 大規模MoE GPT-OSS 120B。サイズ未確認。
gsrunion/Nemotron-3-Nano-30B-A3B-ROCmFP4-STRIX_LEAN-GGUF — MoE Mambaハイブリッド30B(A3B)。サイズ未確認。
これらのモデルのサイズはすべて「未確認」とされています。780M(16GB VRAM)で動作させる場合は、実際のVRAM使用量とロードテストが必要です。
Qwen 3.5 122BのVulkanフリーズ問題
モデル読み込み時100% CPUフリーズ
Issue #26087 で、Bosgame M5(Ryzen AI Max)にてQwen3.5-122B-A10B-MTPをVulkanでロード中に100% CPUフリーズする事象が報告されています。
780Mユーザーへの直接影響は不明ですが、同じAMDプラットフォームでのVulkanモデル読み込み時には留意が必要です。
vLLM ROCmパフォーマンス改善3件
bf16→fp32ルーターGEMMのフォールバック問題
vLLMのbf16→fp32ルーターGEMMがROCm環境でstandalone copy kernelへフォールバックする性能問題が報告されています。ROCm環境での推論速度低下に関わる可能性があります。
RDNA世代のhybrid-Mambaモデルでデコード崩壊
RDNA世代において、hybrid-MambaモデルがTriton paged attentionにフォールバックしデコードが崩れる問題が報告されました。780Mを含むRDNA3への直結する問題です。デコード性能の大幅低下が懸念されます。
ROCmネイティブコンパイルキャッシュ配置
Issue #49763 でROCm CIのネイティブコンパイルキャッシュをローカルディスクへ強制配置する改善が入りました。ROCmユーザーのパフォーマンスと信頼性向上が期待されます。
ROCm MoE expert_map vs AITER expert_mask不整合修正
Issue #49758 で、MoE環境においてEP(Expert Parallelism)下でのnon-AITER expertsのexpert_mapとAITER expert_maskのミスマッチが修正されました。
vLLM bf16→fp32 GEMM問題: github.com/vllm-project/vllm
RDNA hybrid-Mambデコード崩壊: github.com/vllm-project/vllm
ROCmコンパイルキャッシュ: github.com/vllm-project/vllm/issues/49763
ROCm MoE expert_map修正: github.com/vllm-project/vllm/issues/49758
まとめ
780Mユーザーはまずllama.cppの最新ビルドをビルドし、デフォルトのロードモードautoでVRAM競合が解消されることを確認してください。Strix HaloユーザーはBIOS設定を「Fixed」に切り替える必要があります。ROCmFP4モデルのLaguna-S 2.1はStrix向けに最適化されていますが、780Mでの動作検証は未確認です。大規模MoE(GPT-OSS 120B)は16GBの780MではVRAM不足の可能性が高く、Strix Lean版でもロードテストが必要です。vLLMのRDNA hybrid-Mamb問題については、Mamba系モデルを使用しない限り780Mへの直接的な影響はありません。
SwitchBot公式ページ
クーポン「AF-4903」で5%引き(アフィリエイトクーポンになりますのでご協力お願いします)
割引の詳しい仕組みに関してはこちらのページを参照ください。
製品ごとの特徴・紹介動画は SwitchBot 製品ガイド にまとめています。
その他おすすめリンク
【2026年8月】クーポン・ポイント情報 GMKtec MINISFORUM GEEKOM ACEMAGIC 公式サイト攻略法
当ページの商品リンクは基本アフィリエイト(SwitchBot、Amazon、楽天、アリエクスプレス他)となっております。ご協力いただければ幸いです。