山村商店

【780M向け】Vulkan iGPUでmmapフォールバック回避: llama.cpp PR#26081が780Mのモデル読み込みを改善、ROCmFP4用モデルが4本追加

【780M向け】Vulkan iGPUでmmapフォールバック回避: llama.cpp PR#26081が780Mのモデル読み込みを改善、ROCmFP4用モデルが4本追加
目次
  1. llama.cpp: デフォルトのload-mode autoでiGPU上でmmapを回避
  2. HIP: VMMが信頼できない場合にレガシメモリプールにフォールバック
  3. HIP: rocWMMA FlashAttentionカーネルの削除
  4. OpenCL: 融合RMSノーマライズ乗算ビューオフセットの修正
  5. VRAM列挙がWindows BIOS Auto設定で0を返す問題（Strix Halo / gfx1151）
  6. VulkanでQwen 3.5 122Bが100% CPUハングする問題
  7. HuggingFace: ROCmFP4量子化モデルが4本追加（Laguna-S 2.1 / GPT-OSS / Nemotron）
  8. vLLM: Unified-Memory GPUでgpu_memory_utilizationを尊重する修正
  9. vLLM: ROCm CIのネイティブコンパイルキャッシュをローカルディスクに強制
  10. vLLM: ROCm MoEでexpert_mapとAITER expert_maskの不整合修正
  11. vLLM: ROCmでのfused bf16→fp32ルーターGEMMの性能問題
  12. vLLM: RDNA世代でhybrid-MambaモデルがTriton paged attentionにフォールバックしデコードが崩れる問題
  13. Unsloth: エンタープライズプロキシ対応とJSONデータセット解析修正
  14. まとめ: 今日推奨アクション

この記事はAIによって編集・作成されています。

本日の主要な更新はllama.cppのPR#26081。デフォルトのload-modeがautoとなり、iGPU上でmmapによるモデル読み込みが自動回避される。これによりデバイス共有メモリへのモデルコピー時に二重メモリ使用が防がれる。780Mを含むiGPU環境で実質的に最も影響が大きい変更の一つとなる。またHuggingFaceではROCmFP4量子化モデルが4本（Laguna-S 2.1系3本、GPT-OSS 120B、Nemotron 3 Nano 30B）が公開され、Strix Halo / gfx1151向けの実験的量子化フォーマットが拡がっている。vLLM側ではUnified-Memory GPUにおけるgpu_memory_utilizationのバグ修正と、ROCm CIキャッシュ配置、MoE expert_map補正が投入された。

llama.cpp: デフォルトのload-mode autoでiGPU上でmmapを回避

PR#26081はllama.cppのモデル読み込みモードのデフォルト値をautoに変更する。autoモードではiGPU環境においてOSのmmap（メモリマップドファイル）を用いた読み込みが自動で無効化される。これによりモデルをホストメモリからGPU共有メモリへコピーする際に二重にメモリを消費する問題を防止する。従来、iGPUではmmap有効時にモデルの分断読み込みが起きた場合、ホスト側とデバイス側の両方でモデルデータが確保され、32GB UMA VRAMの780Mではすぐにメモリ不足に陥っていた。このPRはそれまでの#20834と#26023のフォローアップとして位置づけられる。

情報源: https://github.com/ggml-org/llama.cpp/pull/26081

実際に試せる設定

デフォルトがautoになるため明示的な設定は不要だが、手動で確認する場合は以下のように設定する。

# llama.cpp PR#26081適用後のモデル読み込み
# load-mode auto（デフォルト）: iGPUでは自動でmmap回避
llama-cli -m model.gguf -ngl 999

# 明示的にmmapなしで読み込む場合（従来からの書き方）
llama-cli -m model.gguf -ngl 999 --mmap 0

780M / 32GB UMAでは、PR#26081適用後はモデルファイルのサイズが32GBを超えない限り、mmapフォールバックによる二重メモリ使用が避けられる可能性がある。ただしモデルが32GBを超過する場合は依然として読み込めないため注意。Q4_K_XL量子化の70Bクラスモデルは32GBを超える可能性が高いため、読み込めるかはモデルサイズと量子化精度に依存する。

HIP: VMMが信頼できない場合にレガシメモリプールにフォールバック

PR#26054は、HIPビルドにおいてVMM（仮想メモリマネージャー）が信頼できないと判断した場合、レガシメモリプールへのフォールバックを行うように変更する。共有メモリシステム（iGPUなど）ではVMMの振る舞いが不安定になることがあり、その場合にレガシメモリプールを使うことでモデルロードの安定性を高める。これは780MなどUnified-Memory環境のユーザーにとって重要な変更となる。

情報源: https://github.com/ggml-org/llama.cpp/pull/26054

HIP: rocWMMA FlashAttentionカーネルの削除

PR#26046および関連コミット（2026-07-24）で、ROCm環境におけるrocWMMAベースのFlashAttentionカーネルが削除された。これにより全てのAMDハードウェアで、より高性能なMMAカーネルが統一して使われるようになる。ROCmFP4モデルとの組み合わせでAttention計算のパフォーマンスが改善される可能性がある。ただしこれはAMD ROCm / HIPビルド向けの修正であり、Vulkan RADVビルドには直接影響しない点に注意。

情報源:

https://github.com/ggml-org/llama.cpp/pull/26046

https://github.com/ggml-org/llama.cpp/commit/fa72aeccb239

OpenCL: 融合RMSノーマライズ乗算ビューオフセットの修正

PR#26085はOpenCL実装における融合RMSノーマライズの乗算ビューオフセットのバグを修正する。AMDハードウェアではOpenCLとVulkanを並行して使える場合がある。この修正によりOpenCL経由のモデル推論においてRMSノーマライズ計算の精度が向上する。Vulkan RADV向けには直接のパッチではないが、OpenCLバックエンドを利用する場合の安定性が上がる。

情報源: https://github.com/ggml-org/llama.cpp/pull/26085

VRAM列挙がWindows BIOS Auto設定で0を返す問題（Strix Halo / gfx1151）

Issue #26089は、AMD Strix Halo APU（gfx1151、32GBユニファイドメモリ）でBIOSのGPU割り当て設定がAutoになっている場合、VRAM列挙が0を返す重大な問題を報告する。Windows 11環境のBosgame M5で確認済み。GPU割り当てをFixedに設定することで解決する。32GB UMAを正しく認識させるにはBIOS設定の変更が必要となる。これはStrix Halo搭載機（Ryzen AI Maxなど）でローカルLLMを動かす場合、まず最初に確認すべきポイントとなる。

情報源: https://github.com/ggml-org/llama.cpp/issues/26089

BIOS設定の確認と修正

# BIOSでGPUメモリ割り当てを確認
# 「Auto」になっている場合は「Fixed」（固定値）に変更
# 例: 8GB、16GB、32GBなどホストメモリと共有する範囲で指定

# 変更後のVRAM列挙確認（llama.cppでモデルロード時に表示）
# VRAM = 32GB（正しく表示されるはず）

VulkanでQwen 3.5 122Bが100% CPUハングする問題

Issue #26087は、Bosgame M5（Ryzen AI Max CPU / Qwen3.5-122B-A10B-MTPモデル）でVulkan使用時にモデル読み込み中に100% CPUハングが発生する問題を報告する。122Bクラスの超大規模モデルをVulkanで動かす場合の既知の課題であり、780Mではこのモデルサイズ自体がメモリ的に無理だが、Vulkanバックエンドの安定性に対する警告として記録する。

情報源: https://github.com/ggml-org/llama.cpp/issues/26087

HuggingFace: ROCmFP4量子化モデルが4本追加（Laguna-S 2.1 / GPT-OSS / Nemotron）

HuggingFaceでROCmFP4量子化モデルが4本追加された。全てStrix Halo / gfx1151向けの.experimentalな量子化フォーマット。サイズは未確認。780MでもROCmFP4モデルが使える可能性が開いてきた。

Laguna-S 2.1 Q4_0 ROCmFP4 GGUF（3本）

Laguna-S 2.1のROCmFP4量子化モデルが3本公開された。ROCMFP4ストライク、ROCMFP4 Strix Lean、Chadrock StrixKVSpine V4のバリエーション。Agenticコーディングやツール利用に向けたファインチューニング版も含まれる。

Large MoE モデル（2本）

780MのようなiGPUでは現実的な読み込みは厳しいが、ROCmFP4量子化による大規模MoEモデルの存在は今後の動向として注目。サイズは未確認で、32GB UMA VRAMの780Mで実際にロードできるかは要検証。

vLLM: Unified-Memory GPUでgpu_memory_utilizationを尊重する修正

vLLM Issue #49760は、Unified-Memory GPU（GB10、DGX Spark、Jetsonなど）においてgpu_memory_utilizationパラメーターがメモリ予約を行わずホストメモリを埋め尽くす可能性のある問題を修正する。780MのようなUnified-Memory環境ではvLLM経由でLLMを動かす場合にこの設定が効かないとホスト側のメモリが逼迫する。修正版では共有メモリGPUでもgpu_memory_utilizationが正しく適用される。

情報源: https://github.com/vllm-project/vllm/issues/49760

vLLM設定例

vllm serve model-name \
  --device vulkan \
  --gpu-memory-utilization 0.8 \
  --quantization rocqfp4

vLLM: ROCm CIのネイティブコンパイルキャッシュをローカルディスクに強制

vLLM Issue #49763はROCm CIにおいてネイティブコンパイルキャッシュをローカルディスクに強制配置する変更。ROCmユーザーのパフォーマンスと信頼性の改善につながる。コンパイルキャッシュの配置が最適化されることで、モデルロード時のカーネルコンパイル時間が短縮される可能性がある。

情報源: https://github.com/vllm-project/vllm/issues/49763

vLLM: ROCm MoEでexpert_mapとAITER expert_maskの不整合修正

vLLM Issue #49758はROCm MoE（Mixture of Experts）環境において、expert_mapとAITER expert_maskの不一致を修正する。非AITERエクスパートでEP（Expert Parallelism）時にこの不整合が生じ、MoEモデルの推論が正しく動かない可能性があった。修正によりROCm上でのMoEモデル動作が安定する。

情報源: https://github.com/vllm-project/vllm/issues/49758

vLLM: ROCmでのfused bf16→fp32ルーターGEMMの性能問題

vLLMにおいてfused bf16→fp32ルーターGEMMがROCm環境でstandalone copy kernelにフォールバックする性能問題が報告された。ROCm環境でのルーターGEMM計算が最適化されない場合、MoEモデルのルーティング処理で遅延が発生する可能性がある。780MでMoEモデルを動かす場合の留意点として記録する。

vLLM: RDNA世代でhybrid-MambaモデルがTriton paged attentionにフォールバックしデコードが崩れる問題

vLLMにおいてRDNA世代（780Mを含むRDNA3含む）のGPUでhybrid-MambaモデルがTriton paged attentionにフォールバックし、デコードパフォーマンスが崩壊する問題が報告された。780Mを含むRDNA3はこれに直結する。Mambaアーキテクチャを含むハイブリッドモデルをRDNA3で動かす場合はこのフォールバックを踏まえた上でパフォーマンスを期待する必要がある。

Unsloth: エンタープライズプロキシ対応とJSONデータセット解析修正

Unsloth PR#7416でホスト名ベースのエンタープライズプロキシ対応、PR#7421で.jsonデータセットの単一JSONドキュメントとして解析する修正が入った。ロカールLLM環境では直接関係しない改善だが、ファインチューニングを行うユーザー向けの改善となる。

情報源:

https://github.com/unslothai/unsloth/pull/7416

https://github.com/unslothai/unsloth/pull/7421

まとめ: 今日推奨アクション

  1. llama.cppを最新化 — PR#26081（load-mode auto）とPR#26054（VMMフォールバック）は780Mでモデルロードの安定性が上がる。最新のmasterブランチに追従する。

  2. Strix Halo / Ryzen AI MaxのユーザーはBIOS確認 — GPU割り当てがAutoの場合はFixedに変更。VRAM列挙が0になる問題（Issue#26089）の回避策。

  3. ROCmFP4モデルのテスト — HuggingFaceで4本のROCmFP4モデルが公開された。Laguna-S 2.1系はQ4_0量子化で比較的軽量。読み込み可能なサイズをテスト。

【宣伝】SwitchBot 購入はこちらから

SwitchBot公式ページ
クーポン「AF-4903」で5％引き（アフィリエイトクーポンになりますのでご協力お願いします）
割引の詳しい仕組みに関してはこちらのページを参照ください。
製品ごとの特徴・紹介動画は SwitchBot 製品ガイド にまとめています。

その他おすすめリンク

【2026年8月】クーポン・ポイント情報　GMKtec MINISFORUM GEEKOM ACEMAGIC　公式サイト攻略法

How to Get the Lowest Price on the SwitchBot Official Store (US, UK & EU): The Complete Checkout Strategy — August 2026

当ページの商品リンクは基本アフィリエイト（SwitchBot、Amazon、楽天、アリエクスプレス他）となっております。ご協力いただければ幸いです。