【780M向け】llama.cppのVulkan iGPU最適化が急激に前進:load-mode autoによる二重メモリ回避、VRAM Enum固定設定、ROCmFP4モデルの台頭

【780M向け】llama.cppのVulkan iGPU最適化が急激に前進:load-mode autoによる二重メモリ回避、VRAM Enum固定設定、ROCmFP4モデルの台頭
目次
  1. Vulkan iGPU最適化:load-mode autoで二重メモリOOMを回避
  2. VRAM Enum固定設定 — BIOS「Auto」が0を返す問題
  3. Windows 11 Vulkan 100% CPUハング問題
  4. ROCmFP4 / Strix Lean GGUFモデルの台頭
  5. vLLM — RDNA / ROCm 性能課題
  6. その他
  7. まとめ

この記事はAIによって編集・作成されています。

本日のAMD 780M向けLLM情報は、Vulkan iGPU環境での信頼性向上とモデル展開に焦点が当てられている。llama.cpp PR#26081でデフォルトload-mode autoが導入され、iGPUにおける mmap 回避と二重メモリ(ホスト + デバイス共有メモリ)によるOOMが防止される。これは780Mユーザーに直結する最重要更新である。また、VRAM enumerationがBIOS GPU割当「Auto」時に0を返すWindows BIOSの問題(PR#26089)が報告され、対応は「Fixed(固定)」に切り替える必要がある。一方、ROCmFP4 quantized GGUFモデルがLaguna-SやGPT-OSS 120Bなど大規模MoEを中心に多数アップロードされ、Strix Halo / gfx1151向けの実用化が加速している。vLLM側でもRDNA世代におけるhybrid-MambaモデルのTriton paged attentionフォールバック問題など、RDNA3(780M含む)に直結する性能課題が浮上した。

Vulkan iGPU最適化:load-mode autoで二重メモリOOMを回避

llama.cpp PR#26081 — default load-mode auto(CRITICAL)

llama.cpp PR#26081は、iGPU環境での最も重大な修正の一つ。load-mode autoがデフォルトとして導入され、iGPU上で mmap を回避する。これにより、モデルがホストとデバイス共有メモリの両方にコピーされる二重メモリ展開を防ぎ、VRAM不足によるOOMを大幅に軽減する。これはPR#20834やPR#26023の後続対応である。780Mのような8〜16GBの共有メモリ環境では、mmapによるホストメモリ展開が即座にVRAM逼迫に繋がるため、このデフォルト変更は実用上極めて重要である。

情報源: github.com/ggml-org/llama.cpp/pull/26081

適用コマンド例:

# load-mode autoがデフォルト化されたため、明示指定は不要
# 従来: --load-mode mmap
# 新デフォルト: load-mode auto (iGPUではmmap回避)
./main -m model.gguf -p "こんにちは" -n 32

# 明示的にauto指定する場合(旧コードベース向け)
./main -m model.gguf -p "こんにちは" -n 32 --load-mode auto

HIP legacy memory poolフォバック — PR#26054

VMM(Virtual Memory Management)が信頼できない環境において、HIPビルドはlegacy memory poolにフォバックするようになった。共有メモリシステム、特にVRAMが限られる780M環境で、メモリ管理の安定性を高める対応である。

情報源: github.com/ggml-org/llama.cpp/pull/26054

OpenCL fused RMS norm修正 — PR#26085

OpenCLにおけるfused RMS normのmul view offset修正が実施された。AMDハードウェア上ではOpenCLとVulkanを並行して使用できる場合があり、この修正によりOpenCLパスの正確性が向上する。Vulkan独占環境でも、OpenCLのオーバーラップが関与するパスの安定性に寄与する可能性がある。

情報源: github.com/ggml-org/llama.cpp/pull/26085

VRAM Enum固定設定 — BIOS「Auto」が0を返す問題

Issue#26089 — VRAM enumerationが0を返す(CRITICAL)

AMD Strix Halo APU(gfx1151、32GB unified)で、Windows 11上のBIOS GPU割当が「Auto」の場合、VRAM enumerationが0を返す問題が報告された。この状態ではVRAMサイズが認識されず、LLMモデルの読み込みが不可能になる。回避策は、BIOS設定でGPUメモリ割当を「Fixed(固定)」に切り替えること。これはBosgame M5などのStrix Halo搭載機で確認されたものだが、780Mを含む一般的な7000〜9000シリーズAPUでも同様の挙動が起きる可能性があるため要注意である。

情報源: github.com/ggml-org/llama.cpp/issues/26089

対応手順:

# BIOS/UEFI設定画面で以下を確認
# GPU Configuration → GPU Memory Allocation
# Auto → Fixed(固定値を設定)に切替
# 例: 8GB / 16GB / 32GB のうち環境に応じて選択

# Windows 11 側では通常変更不要
# ただしBIOS切替後は再起動が必要

Windows 11 Vulkan 100% CPUハング問題

Issue#26087 — Qwen 3.5 122BのVulkanモデル読み込みハング

Bosgame M5(Ryzen AI Max)でQwen3.5-122B-A10B-MTPのVulkanモデル読み込み時に100% CPUハングする問題が報告された。大規模MoEモデルのVulkan読み込みにおける既知の障害である。780Mでは122Bモデルをローカルで動かすのは現実的ではないが、同アーキテクチャ(Ryzen AI Max)上のユーザーは注意が必要。

情報源: github.com/ggml-org/llama.cpp/issues/26087

ROCmFP4 / Strix Lean GGUFモデルの台頭

Laguna-S 2.1 ROCmFP4系

1337Hero, kingjones777, jcbtcによるLaguna-S 2.1のROCmFP4 quantized GGUFが複数アップロードされた。gfx1151(Strix Halo)向けの実験的フォーマットで、Q4_0精度のROCMFP4対応モデルである。

大規模MoEモデル — GPT-OSS 120B / Nemotron 3 Nano

gsrunionによるROCmFP4 Strix Lean GGUFが複数アップロードされた。いずれも大規模MoEモデルで、780MではVRAM的に読み込めない規模だが、Strix Halo / 32GB UMA環境での実用候補として注目される。サイズはいずれも未確認。

vLLM — RDNA / ROCm 性能課題

[Performance] RDNAでhybrid-MambaモデルがTriton paged attentionにフォールバックしデコードが崩壊

RDNA世代においてhybrid-MambaモデルがTriton paged attentionにフォールバックし、デコードパフォーマンスが崩れる問題。780Mを含むRDNA3に直結する性能課題である。hybrid-Mamba系モデルをvLLMで動かす場合、デコード速度の著しい低下を予想する必要がある。

情報源: vLLM Issue(RDNA hybrid-Mamba Triton paged attention fallback)

[Performance][ROCm] Fused bf16→fp32 router GEMMのstandalone copy kernelフォールバック

vLLMのbf16→fp32ルーターGEMMがROCm環境でstandalone copy kernelにフォールバックする性能問題。ROCmユーザー全般に影響する可能性がある。

情報源: vLLM Issue(Fused bf16→fp32 router GEMM fallback)

[ROCm][CI] Native compile cachesをローカルディスクに強制

ROCm CIにおけるnative compile cachesのローカルディスクへの強制配置。ROCmユーザーのコンパイル性能・信頼性向上策である。

情報源: vLLM Issue#49763

[Bugfix] Unified-memory GPUでのgpu_memory_utilization尊重

unified-memory GPU(GB10 / DGX Spark / Jetson)でgpu_memory_utilizationがメモリ予約を行わない問題の修正。ホストメモリがパンクするリスクがあった。

情報源: vLLM Issue#49760

[ROCm][MoE] Expert_map vs AITER expert_mask不整合修正

ROCm MoEにおいてEP(Expert Parallelism)下でnon-AITER expertsのexpert_mapとAITER expert_maskのミスマッチ修正。

情報源: vLLM Issue#49758

その他

Unsloth — Enterprise proxy対応・JSON datasetパース修正

まとめ

780Mユーザーへの推奨アクション:

  1. llama.cppを最新に更新し、PR#26081によるload-mode autoデフォルト化を反映させる。これによりiGPUでのmmap回避・二重メモリOOMが防げる。

  2. BIOS GPU Memory Allocationが「Auto」の場合は「Fixed(固定)」に切替し、VRAM enumerationが0を返さないことを確認する(Issue#26089)。

  3. ROCmFP4 quantized GGUFモデルは現状サイズ未確認のものが多く、Strix Leanフォーマットの実用サイズはまだ未検証。VRAM確認後にテスト推奨。

  4. vLLMでhybrid-MambaモデルをRDNAで動かす場合はTriton paged attentionへのフォールダウンを予想し、デコード性能低下を許容できるか検討する。

【宣伝】SwitchBot 購入はこちらから

SwitchBot公式ページ
クーポン「AF-4903」で5%引き(アフィリエイトクーポンになりますのでご協力お願いします)
割引の詳しい仕組みに関してはこちらのページを参照ください。
製品ごとの特徴・紹介動画は SwitchBot 製品ガイド にまとめています。

その他おすすめリンク

【2026年8月】クーポン・ポイント情報 GMKtec MINISFORUM GEEKOM ACEMAGIC 公式サイト攻略法

How to Get the Lowest Price on the SwitchBot Official Store (US, UK & EU): The Complete Checkout Strategy — August 2026

当ページの商品リンクは基本アフィリエイト(SwitchBot、Amazon、楽天、アリエクスプレス他)となっております。ご協力いただければ幸いです。