【780M向け】Vulkan最適化の重要PRが4本同時合流 — load-mode autoでiGPU二重メモリ回避、VMMフォールバック・OpenCL RMSノール修正・FlashAttention AMDローマ化

目次
この記事はAIによって編集・作成されています。
本日はllama.cppとvLLMでAMD 780M(Vulkan / RADV)のローカルLLM環境に直結する複数PR・バグ修正が公開された。最も注目すべきはPR#26081(default load-mode autoでiGPUでmmapを回避)で、モデルをホスト→デバイス共有メモリにコピーする際、二重メモリ(モデルのコピー + mmap)によってVRAM不足や読み込み失敗を招く問題を根本的に防いでいる。加えてHIPビルドではVMMが信頼できない場合にレガシーメモリプールへフォールバックする仕組み(PR#26054)が追加され、共有メモリシステムの安定性向上に寄与する。OpenCLでfused RMSノールマルビューのオフセット修正(PR#26085)も行われ、OpenCLとVulkanのオーバラップが可能になった。FlashAttentionカーネルについて、rocWMMA実装が削除されAMDでは全てMMAカーネル一本化された。
llama.cpp: default load-mode autoでiGPUにおけるmmap回避(PR#26081)
PR#26081 は780Mを含むiGPU環境のユーザーに最も影響の大きい変更である。これまでデフォルトのload-mode設定では、モデルをmmapでホスト側から読み込んだ後にデバイス共有メモリにコピーする動作となり、二重メモリ消費とそれに伴うVRAMオーバーフローが発生していた。今回の変更で load-mode = auto がデフォルトになり、iGPU環境ではmmapを使わず直接デバイスに読み込むパスが選択されるようになる。
これは先行するPR#20834とPR#26023のフォローアップとして、共有メモリGPU(unified-memory GPU)でのモデル読み込みを安全に行うための修正である。VRAMが32GBの共有メモリ(Strix Halo / gfx1151)を持つ環境では、モデルサイズが数十GBに達する際にこの二重メモリ問題が頻発していたため、実質的なパフォーマンス改善と安定性向上の両方が期待できる。
情報源: https://github.com/ggml-org/llama.cpp/pull/26081
実際に試せる設定
# 明示的にautoを指定(デフォルトで効くようになるが、古いビルドでは明示指定が必要)
llama-cli -m your_model.gguf --load-mode auto
# またはGGUF読込時のオプション
llama.cppの設定ファイル等で:
load_mode = auto
HIPビルド: VMM信頼性低下時にレガシーメモリプールへフォールバック(PR#26054)
PR#26054 はHIP(AMDのCUDA互換レイヤ)ビルドにおけるメモリ管理の改善である。VMM(Virtual Memory Management)が信頼できない環境で、レガシィメモリプールへフォールバックする仕組みが導入された。これは共有メモリシステム、特にiGPU上でLLMを動かすユーザーにとって重要な安定化アップデートである。
AMDのVulkanドライバー(RADV)やROCm環境では、VMMの状態がハードウェア・OSの組み合わせによって不安定になるケースがある。このフォールバックが働けば、VMM関連のメモリアロケーションエラーによるモデル読み込み失敗を防げる。
情報源: https://github.com/ggml-org/llama.cpp/pull/26054
OpenCL: fused RMSノールマルビューのオフセット修正(PR#26085)
PR#26085 はOpenCLカーネル内のfused RMSノールマルビュー演算で、オフセット計算が間違っていたのを修正したものである。
AMDハードウェアではOpenCLとVulkanがオーバラップして動作する可能性がある。今回の修正により、OpenCLパスでのRMSノール計算が正確に行われ、Vulkanとの併用時の数値不安定性が改善される。
情報源: https://github.com/ggml-org/llama.cpp/pull/26085
FlashAttention: AMDでのrocWMMAカーネル削除・MMA一本化
PR#26046 と関連コミット(fa72aeccb239)により、AMDでのFlashAttentionカーネルにおいてrocWMMA実装が削除された。これにより、AMDの全ハードウェアでより高性能なMMAカーネルが統一して使われるようになる。
rocWMMAカーネルは古い実装であり、MMAカーネルに置き換えることでAMDデバイスでのFlashAttention(あれば)の性能と安定性が向上する。
情報源:
Strix Halo(gfx1151)関連の重要なバグ・新モデル
VRAM列挙がBIOS Auto設定で0を返す問題(Issue#26089)
Strix Halo APU(gfx1151、32GB UMA VRAM)で、BIOSのGPUメモリ割当が「Auto」に設定されている場合、VRAM列挙が0を返す深刻なバグが報告されている(Issue#26089)。Windows 11 + Bosgame M5での発生が確認。解決策はBIOS設定を「Fixed」にすること。
iGPUでLLMを動かしているユーザーは、Strix Halo系APUを使っている場合、必ずBIOSのGPUメモリ割当を「Fixed」に設定していることを確認してください。「Auto」のままでモデル読み込みすると、VRAMサイズが0として認識され、直ちに読み込みエラーに繋がります。
情報源: https://github.com/ggml-org/llama.cpp/issues/26089
Vulkan用ROCmFP4 GGUFモデルが相次いで公開
Strix Halo / gfx1151向けにROCmFP4量子化されたGGUFモデルが複数公開されている。いずれもAMD ROCmFP4量子化フォーマットで、Strix環境での動作を前提としたもの。
Laguna-S 2.1 Q4_0 ROCMFP4 Vulkan experimental — 1337Hero/Laguna-S-2.1-Q4_0-ROCMFP4-GGUF
Laguna-S 2.1 Q4_0 ROCMFP4 Strix Lean — kingjones777/Laguna-S-2.1-Q4_0_ROCMFP4_STRIX_LEAN-GGUF
Laguna-S 2.1 Chadrock ROCmFP4 StrixKVSpine V4(アジェンティックコーディング/ツール使用向け)— jcbtc/Laguna-S-2.1-Chadrock-ROCmFP4-StrixKVSpine-V4-GGUF
大規模MoEモデルのROCmFP4 Strix Lean版も登場
さらに大型のMoEモデルがROCmFP4 Strix Lean量子化で公開された。ファイルサイズは未確認(サイズは各HFページで確認が必要)。
GPT-OSS 120B ROCmFP4 Strix Lean — gsrunion/gpt-oss-120b-ROCmFP4-STRIX_LEAN-GGUF
Nemotron 3 Nano 30B A3B ROCmFP4 Strix Lean(MoE Mambaハイブリッド)— gsrunion/Nemotron-3-Nano-30B-A3B-ROCmFP4-STRIX_LEAN-GGUF
Qwen 3.5 122BのVulkan読み込みハング(Issue#26087)
Bosgame M5(Ryzen AI Max)でQwen3.5-122B-A10B-MTPモデルをVulkanで読み込み時、100% CPUハングが発生するバグが報告されている(Issue#26087)。この問題は大きなモデルをVulkanで読み込む際に特定ハードウェアで発生する可能性があり、122Bクラスのモデルを780Mで動かそうとする場合は注意が必要。
情報源: https://github.com/ggml-org/llama.cpp/issues/26087
vLLM: ROCm関連の修正多数
統一メモリGPUにおけるgpu_memory_utilizationリスペクト(Issue#49760)
vLLMのgb10/DGX Spark/Jetson等の統一メモリGPUサポートにおいて、gpu_memory_utilization設定がメモリを予約しないままホストメモリを圧迫する問題を修正。shared memory GPU環境でのメモリ管理が改善される。
情報源: https://github.com/vllm-project/vllm/issues/49760
ROCm CIでのネイティブコンパイルキャッシュ強制ローカルディスク配置(Issue#49763)
ROCm CIのネイティブコンパイルキャッシュをローカルディスクに強制配置する変更。ROCmユーザーのパフォーマンスと信頼性向上に寄与。
情報源: https://github.com/vllm-project/vllm/issues/49763
ROCm MoE: expert_mapとAITER expert_maskの不一致修正(Issue#49758)
ROCm MoE(Mixture of Experts)において、expert_mapとAITER expert_maskの不一致を修正。非AITERエキスパートにおけるEP(Expert Parallelism)動作が安定化する。
情報源: https://github.com/vllm-project/vllm/issues/49758
RDNAでのhybrid-Mambaモデルデコード崩壊(未编号Issue)
RDNA世代(780Mを含むRDNA3を含む)において、hybrid-MambaモデルがTriton paged attentionにフォールバックし、デコードパフォーマンスが崩壊する問題が報告されている。780Mでhybrid-Mambaモデルを使用する場合は注意が必要。この問題はvLLMのROCmバックエンドに直結する性能問題である。
bf16→fp32ルーターGEMMのROCmフォールバック(未编号Issue)
vLLMのbf16→fp32ルーターGEMMがROCm環境でstandalone copy kernelにフォールバックする性能問題。MoEルーターを含むモデルで遅延が発生する可能性がある。
まとめ — 今日推奨アクション
本日の最優先はllama.cppの最新ビルドへの追従。load-mode autoがデフォルトになり、VRAM 32GBの共有メモリ環境(Strix Halo / gfx1151を含む)で二重メモリによる読み込み失敗が防げる。またBIOS GPUメモリ割当が「Auto」のStrix Haloユーザーは「Fixed」へ変更してください。vLLMユーザーはROCm関連の修正が入り次第アップデートを検討。Qwen 3.5 122B等の大規模モデルをVulkanで動かす場合のハング問題はまだ未解決のため、122Bクラスの読み込みは要観察。
SwitchBot公式ページ
クーポン「AF-4903」で5%引き(アフィリエイトクーポンになりますのでご協力お願いします)
割引の詳しい仕組みに関してはこちらのページを参照ください。
製品ごとの特徴・紹介動画は SwitchBot 製品ガイド にまとめています。
その他おすすめリンク
【2026年8月】クーポン・ポイント情報 GMKtec MINISFORUM GEEKOM ACEMAGIC 公式サイト攻略法
当ページの商品リンクは基本アフィリエイト(SwitchBot、Amazon、楽天、アリエクスプレス他)となっております。ご協力いただければ幸いです。