【780M向け】llama.cppのVulkan iGPU最適化が急激に前進:load-mode autoによる二重メモリ回避、VRAM Enum固定設定、ROCmFP4モデルの台頭

目次
この記事はAIによって編集・作成されています。
本日のAMD 780M向けLLM情報は、Vulkan iGPU環境での信頼性向上とモデル展開に焦点が当てられている。llama.cpp PR#26081でデフォルトload-mode autoが導入され、iGPUにおける mmap 回避と二重メモリ(ホスト + デバイス共有メモリ)によるOOMが防止される。これは780Mユーザーに直結する最重要更新である。また、VRAM enumerationがBIOS GPU割当「Auto」時に0を返すWindows BIOSの問題(PR#26089)が報告され、対応は「Fixed(固定)」に切り替える必要がある。一方、ROCmFP4 quantized GGUFモデルがLaguna-SやGPT-OSS 120Bなど大規模MoEを中心に多数アップロードされ、Strix Halo / gfx1151向けの実用化が加速している。vLLM側でもRDNA世代におけるhybrid-MambaモデルのTriton paged attentionフォールバック問題など、RDNA3(780M含む)に直結する性能課題が浮上した。
Vulkan iGPU最適化:load-mode autoで二重メモリOOMを回避
llama.cpp PR#26081 — default load-mode auto(CRITICAL)
llama.cpp PR#26081は、iGPU環境での最も重大な修正の一つ。load-mode autoがデフォルトとして導入され、iGPU上で mmap を回避する。これにより、モデルがホストとデバイス共有メモリの両方にコピーされる二重メモリ展開を防ぎ、VRAM不足によるOOMを大幅に軽減する。これはPR#20834やPR#26023の後続対応である。780Mのような8〜16GBの共有メモリ環境では、mmapによるホストメモリ展開が即座にVRAM逼迫に繋がるため、このデフォルト変更は実用上極めて重要である。
情報源: github.com/ggml-org/llama.cpp/pull/26081
適用コマンド例:
# load-mode autoがデフォルト化されたため、明示指定は不要
# 従来: --load-mode mmap
# 新デフォルト: load-mode auto (iGPUではmmap回避)
./main -m model.gguf -p "こんにちは" -n 32
# 明示的にauto指定する場合(旧コードベース向け)
./main -m model.gguf -p "こんにちは" -n 32 --load-mode autoHIP legacy memory poolフォバック — PR#26054
VMM(Virtual Memory Management)が信頼できない環境において、HIPビルドはlegacy memory poolにフォバックするようになった。共有メモリシステム、特にVRAMが限られる780M環境で、メモリ管理の安定性を高める対応である。
情報源: github.com/ggml-org/llama.cpp/pull/26054
OpenCL fused RMS norm修正 — PR#26085
OpenCLにおけるfused RMS normのmul view offset修正が実施された。AMDハードウェア上ではOpenCLとVulkanを並行して使用できる場合があり、この修正によりOpenCLパスの正確性が向上する。Vulkan独占環境でも、OpenCLのオーバーラップが関与するパスの安定性に寄与する可能性がある。
情報源: github.com/ggml-org/llama.cpp/pull/26085
VRAM Enum固定設定 — BIOS「Auto」が0を返す問題
Issue#26089 — VRAM enumerationが0を返す(CRITICAL)
AMD Strix Halo APU(gfx1151、32GB unified)で、Windows 11上のBIOS GPU割当が「Auto」の場合、VRAM enumerationが0を返す問題が報告された。この状態ではVRAMサイズが認識されず、LLMモデルの読み込みが不可能になる。回避策は、BIOS設定でGPUメモリ割当を「Fixed(固定)」に切り替えること。これはBosgame M5などのStrix Halo搭載機で確認されたものだが、780Mを含む一般的な7000〜9000シリーズAPUでも同様の挙動が起きる可能性があるため要注意である。
情報源: github.com/ggml-org/llama.cpp/issues/26089
対応手順:
# BIOS/UEFI設定画面で以下を確認
# GPU Configuration → GPU Memory Allocation
# Auto → Fixed(固定値を設定)に切替
# 例: 8GB / 16GB / 32GB のうち環境に応じて選択
# Windows 11 側では通常変更不要
# ただしBIOS切替後は再起動が必要Windows 11 Vulkan 100% CPUハング問題
Issue#26087 — Qwen 3.5 122BのVulkanモデル読み込みハング
Bosgame M5(Ryzen AI Max)でQwen3.5-122B-A10B-MTPのVulkanモデル読み込み時に100% CPUハングする問題が報告された。大規模MoEモデルのVulkan読み込みにおける既知の障害である。780Mでは122Bモデルをローカルで動かすのは現実的ではないが、同アーキテクチャ(Ryzen AI Max)上のユーザーは注意が必要。
情報源: github.com/ggml-org/llama.cpp/issues/26087
ROCmFP4 / Strix Lean GGUFモデルの台頭
Laguna-S 2.1 ROCmFP4系
1337Hero, kingjones777, jcbtcによるLaguna-S 2.1のROCmFP4 quantized GGUFが複数アップロードされた。gfx1151(Strix Halo)向けの実験的フォーマットで、Q4_0精度のROCMFP4対応モデルである。
1337Hero/Laguna-S-2.1-Q4_0-ROCMFP4-GGUF — Vulkan Strix experimental。サイズ未確認。
kingjones777/Laguna-S-2.1-Q4_0_ROCMFP4_STRIX_LEAN-GGUF — AMD ROCmFP4 quantized。サイズ未確認。
jcbtc/Laguna-S-2.1-Chadrock-ROCmFP4-StrixKVSpine-V4-GGUF — Agentic coding / tool use向け。KV Spine V4適用。サイズ未確認。
大規模MoEモデル — GPT-OSS 120B / Nemotron 3 Nano
gsrunionによるROCmFP4 Strix Lean GGUFが複数アップロードされた。いずれも大規模MoEモデルで、780MではVRAM的に読み込めない規模だが、Strix Halo / 32GB UMA環境での実用候補として注目される。サイズはいずれも未確認。
gsrunion/gpt-oss-120b-ROCmFP4-STRIX_LEAN-GGUF — GPT-OSS 120B Large MoE。サイズ未確認。
gsrunion/Nemotron-3-Nano-30B-A3B-ROCmFP4-STRIX_LEAN-GGUF — MoE Mamba hybrid。サイズ未確認。
vLLM — RDNA / ROCm 性能課題
[Performance] RDNAでhybrid-MambaモデルがTriton paged attentionにフォールバックしデコードが崩壊
RDNA世代においてhybrid-MambaモデルがTriton paged attentionにフォールバックし、デコードパフォーマンスが崩れる問題。780Mを含むRDNA3に直結する性能課題である。hybrid-Mamba系モデルをvLLMで動かす場合、デコード速度の著しい低下を予想する必要がある。
情報源: vLLM Issue(RDNA hybrid-Mamba Triton paged attention fallback)
[Performance][ROCm] Fused bf16→fp32 router GEMMのstandalone copy kernelフォールバック
vLLMのbf16→fp32ルーターGEMMがROCm環境でstandalone copy kernelにフォールバックする性能問題。ROCmユーザー全般に影響する可能性がある。
情報源: vLLM Issue(Fused bf16→fp32 router GEMM fallback)
[ROCm][CI] Native compile cachesをローカルディスクに強制
ROCm CIにおけるnative compile cachesのローカルディスクへの強制配置。ROCmユーザーのコンパイル性能・信頼性向上策である。
情報源: vLLM Issue#49763
[Bugfix] Unified-memory GPUでのgpu_memory_utilization尊重
unified-memory GPU(GB10 / DGX Spark / Jetson)でgpu_memory_utilizationがメモリ予約を行わない問題の修正。ホストメモリがパンクするリスクがあった。
情報源: vLLM Issue#49760
[ROCm][MoE] Expert_map vs AITER expert_mask不整合修正
ROCm MoEにおいてEP(Expert Parallelism)下でnon-AITER expertsのexpert_mapとAITER expert_maskのミスマッチ修正。
情報源: vLLM Issue#49758
その他
Unsloth — Enterprise proxy対応・JSON datasetパース修正
PR#7416: hostnameベースのenterprise proxyサポート(Studio向け一般改善) — github.com/unslothai/unsloth/pull/7416
PR#7421: .json datasetのline-by-lineではなく単一JSON documentとしてパースする修正 — github.com/unslothai/unsloth/pull/7421
まとめ
780Mユーザーへの推奨アクション:
llama.cppを最新に更新し、PR#26081によるload-mode autoデフォルト化を反映させる。これによりiGPUでのmmap回避・二重メモリOOMが防げる。
BIOS GPU Memory Allocationが「Auto」の場合は「Fixed(固定)」に切替し、VRAM enumerationが0を返さないことを確認する(Issue#26089)。
ROCmFP4 quantized GGUFモデルは現状サイズ未確認のものが多く、Strix Leanフォーマットの実用サイズはまだ未検証。VRAM確認後にテスト推奨。
vLLMでhybrid-MambaモデルをRDNAで動かす場合はTriton paged attentionへのフォールダウンを予想し、デコード性能低下を許容できるか検討する。
SwitchBot公式ページ
クーポン「AF-4903」で5%引き(アフィリエイトクーポンになりますのでご協力お願いします)
割引の詳しい仕組みに関してはこちらのページを参照ください。
製品ごとの特徴・紹介動画は SwitchBot 製品ガイド にまとめています。
その他おすすめリンク
【2026年8月】クーポン・ポイント情報 GMKtec MINISFORUM GEEKOM ACEMAGIC 公式サイト攻略法
当ページの商品リンクは基本アフィリエイト(SwitchBot、Amazon、楽天、アリエクスプレス他)となっております。ご協力いただければ幸いです。