【780M向け】llama.cppのVulkan iGPU最適化が急加速 — load-mode auto・FlashAttention MMA化・VRAM Auto設定バグの全貌
目次
- llama.cpp: default load-mode auto — iGPUユーザー必聴の変更
- HIP Vulkan: FlashAttention カーネルがROCm専用MMA実装に一本化
- HIP Vulkan: VMM不安定時はレガシープールにフォールバック
- CRITICAL: Strix Halo Windows 11でVRAM Enumerationが0を返す
- OpenCL: RMS Norm fix（Vulkanと重なるAMD環境向け修正）
- Vulkan FlashAttentionにiq4_nl対応が復活
- Mesa Gfx11（RDNA 3.5/Strix）エンコーダ固定
- vLLM: ROCm統一メモリ系バグ修正3本 + MoE expert_map修正
- Qwen3.5-122B Vulkan 100% CPUハング — Bosgame M5 / AI Max環境で確認
- Hugging Face: ROCmFP4 quantizedモデルが多数投稿（Laguna-S 2.1 / GPT-OSS 120B / Nemotron 3 Nano 30B）
- Unsloth: エンタープライズプロキシ & .json datasetパース修正
- 今日のまとめ — 780Mユーザーへの推奨アクション
この記事はAIによって編集・作成されています。
本日（2026-07-29）に確認された最新情報をまとめました。AMD 780M（Ryzen AI Max / Strix Halo / gfx1151）環境のローカルLLM最適化において、llama.cppが「iGPU向けデフォルト設定」を正式導入しました。load-mode autoによりVRAMの二重コピーが防げるとともに、FlashAttentionのROCmカーネルがCUDA互換から純粋なMMA実装に一本化。一方でVRAM自動割り当て（BIOS Auto）が0を返すWindows 11のバグも判明しています。モデル面ではLaguna-S 2.1、GPT-OSS 120B、Nemotron 3 Nano 30BのROCmFP4変量化がHugging Faceに投稿されました。
llama.cpp: default load-mode auto — iGPUユーザー必聴の変更
PR#26081「llama: add default load-mode auto, which avoids mmap on iGPUs」がマージされました。これは780Mユーザーにとって最もインパクトのある変更です。
従来、llama.cppはモデルファイル（GGUF）をmmapでホストメモリにマッピングした後に、Vulkanバッファにモデルデータを転送してデバイスVRAMにコピーしていました。つまりモデルが「ホストメモリ上」と「デバイスVRAM上」の両方に存在する状態になり、32GBの統一メモリ（UMA）を二重に消費していたことになります。この問題は#20834や#26023でも指摘されていました。
load-mode auto（デフォルト）では、iGPU / Vulkan環境下ではmmapをスキップしてモデルを直接デバイス共有メモリに読み込みます。これによりVRAM使用量が削減され、ホストメモリとの競合によるパフォーマンス低下も防げます。
設定例:
# llama.cppのCMakeオプションで明示（通常は不要）
-DGGML_VULKAN_LOAD_MODE=auto
# または環境変数
export GGML_VULKAN_LOAD_MODE=auto情報源: llama.cpp PR#26081
HIP Vulkan: FlashAttention カーネルがROCm専用MMA実装に一本化
PR#26046およびそのコミット（2026-07-24 15:53）により、HIP/VulkanビルドにおけるrocWMMA FlashAttentionカーネルが削除されました。従来はCUDA互換のrocWMMA実装が残されていましたが、これにより全AMDハードウェアが「より高性能なMMAカーネル」のみを利用するようになりました。
ROCm環境ではFlashAttentionの計算が純粋なMatrix-Multiply-Accumulate (MMA) 命令に最適化され、780MのNPU/Vulkanパイプラインとの親和性が高まっています。
情報源: llama.cpp PR#26046、コミット fa72aeccc239
HIP Vulkan: VMM不安定時はレガシープールにフォールバック
PR#26054では、HIP Vulkanビルドで仮想メモリ管理（VMM）が信頼できない場合にレガシィなメモリプールにフォールバックする仕組みが実装されました。共有メモリシステム（＝780Mの統一メモリアーキテクチャ）において特に重要な変更です。
VMMが不安定な場合、llama.cppは自動的に従来のメモリ割り当て方式に切り替わるため、CRASHや予期せぬモデル読み込みエラーを回避できます。
情報源: llama.cpp PR#26054
CRITICAL: Strix Halo Windows 11でVRAM Enumerationが0を返す
Issue #26089は780Mユーザーにとって深刻なバグです。AMD Strix Halo APU（gfx1151、32GB unified UMA）を搭載したBosgame M5（Windows 11）において、BIOSのVRAM割当を「Auto（自動）」に設定すると、llama.cppのVulkan VRAM列挙が0を返します。つまりVRAMを0Byteとして認識し、モデルロードに失敗したりクラッシュしたりします。
回避策は、BIOS設定からVRAM割り当てを「Fixed（固定）」に設定することです。Autoが正常に動作しないのはWindows 11上のRADV / Vulkanスタックに起因すると見られます。
OpenCL: RMS Norm fix（Vulkanと重なるAMD環境向け修正）
PR#26085「opencl: fix fused RMS norm mul view offset」がOpenCL向けにマージされました。OpenCLとVulkanはAMDハードウェア上で同時に並走するバックエンドであり、RMS norm計算のオフセット修正はVulkan実装にも間接的に影響を与えます。
情報源: llama.cpp PR#26085
Vulkan FlashAttentionにiq4_nl対応が復活
#24585により、Vulkanバックエンドでiq4_nl（4-bit integer non-linearity）対応がFlashAttentionに復活しました。これにより低精度量化モデルでのAttention計算が最適化され、VRAM効率が向上します。
情報源: llama.cpp Issue #24585
Mesa Gfx11（RDNA 3.5/Strix）エンコーダ固定
Mesaのintel/genドライバーでGfx11の3-src accumulatorファイルのエンコーディング修正が入りました。AMD Strix（gfx1151）の一部環境で動画エンコードパイプラインが正しく動作しなかった問題の修正です。Vulkanとは直接関係ありませんが、780MのエンコーダをLLM推論以外で使っているユーザーには関係のある修正です。
情報源: Mesa upstream commit
vLLM: ROCm統一メモリ系バグ修正3本 + MoE expert_map修正
vLLMでROCm / ROCmMoEに関する4件の修正が入りました。
[Bugfix] unified-memory GPUでgpu_memory_utilizationを尊重する（Issue #49760）
従来、統一メモリGPU（GB10 / DGX Spark / Jetson / Strix Halo等）ではgpu_memory_utilizationパラメータが無視されていました。共有メモリ上では実際にメモリを予約しないため、ホストメモリが硬く wedged（占有）される問題がありましたが、これで修正されます。
[ROCm][CI] native compile cachesをローカルディスクに強制（Issue #49763）
ROCm CIにおいて、native compile cachesをローカルディスクにフォールバックすることでROCmユーザーのパフォーマンスと信頼性を改善しました。
[ROCm][MoE] expert_map vs AITER expert_mask不整合修正（Issue #49758）
Expert Parallelism実行時に非AITER向けexpert_mapとAITER用expert_maskが一致していないバグを修正。MoEモデル（Llama-4-MoE等）のROCm推論が改善します。
[ROCm] DeepSeek-V4用sparse top-k前logitssanitize（#49714）
DeepSeek-V4のMOE推論におけるpaged-MQA logitのsanitizationをROCm向けに修正しました。
情報源: vLLM #49760、vLLM #49763、vLLM #49758、vLLM #49714
Qwen3.5-122B Vulkan 100% CPUハング — Bosgame M5 / AI Max環境で確認
Issue #26087では、Bosgame M5（Ryzen AI Max / Qwen 3.5-122B-A10B-MTP）でllama.cppのVulkan経由モデル読み込み時に100% CPUでハングする問題が報告されています。これは大きなモデルをVulkanバックエンドで読み込む際の既知のボトルネックであり、780Mで122BクラスのMoEモデルを動かす予定のユーザーは注意が必要です。
Hugging Face: ROCmFP4 quantizedモデルが多数投稿（Laguna-S 2.1 / GPT-OSS 120B / Nemotron 3 Nano 30B）
AMD Strix / 780M向けにROCmFP4（Float4）変量化GGUFモデルが相次いで投稿されています。FP4はVRAM使用量を大きく削減できるため、32GB UMAの780M環境でも大規模モデルを試す入口になります（ただしサイズは未確認です）。
Laguna-S 2.1 系（3本）
1337Hero / Laguna-S 2.1 Q4_0 ROCMFP4 — Strix Halo / gfx1151向け実験版。サイズ未確認。
kingjones777 / Laguna-S 2.1 Q4_0 Strix Lean — 名前の通りStrix専用最適化版。
jcbtc / Laguna-S 2.1 Chadrock ROCmFP4 — Agentic coding / tool use向け。Strix KV Spine V4対応。
大規模MoEモデル（ROCmFP4）
gsrunion / GPT-OSS 120B ROCmFP4 Strix Lean — 大規模MoE。32GB UMAでの動作は要検証。
gsrunion / Nemotron 3 Nano 30B A3B ROCmFP4 Strix Lean — MoE Mambaハイブリッド。サイズ未確認。
Unsloth: エンタープライズプロキシ & .json datasetパース修正
Unslothに2件のPRがマージされました。
PR#7416はStudioにおけるホスト名ベースのエンタープライズプロキシ対応。PR#7421は.json datasetを1つのJSONドキュメントとして正しくパースする修正（従来は行ごとに分割していた）。一般ユーザーにはあまり関係ない改善ですが、企業環境でUnsloth Studioを使っている場合はPR#7416が役立ちます。
情報源: Unsloth PR#7416、Unsloth PR#7421
今日のまとめ — 780Mユーザーへの推奨アクション
llama.cppを最新に更新 — load-mode auto・FlashAttention MMA化・VMMフォールバックの全部に含まれるビルドを使いましょう。旧版ではVRAMが二重消費されます。
BIOS VRAM設定は「Fixed」推奨 — Strix Halo / 780MでWindows 11を使っている場合、Auto設定はVRAM列挙が0になるためFixedに固定しましょう。
ROCmFP4モデルを試す — Laguna-S 2.1 Q4_0やNemotron 3 Nano 30Bは32GB UMAでも動作の可能性があり。サイズ未確認のため実際に試してみる価値があります。
vLLMも更新 — unified-memory系bugfix・ROCm MoE修正が含まれる最新リリースに更新しましょう。122BクラスのMoEモデルを動かす場合はQwen3.5のCPUハング問題にも注意。
SwitchBot公式ページ
クーポン「AF-4903」で5％引き（アフィリエイトクーポンになりますのでご協力お願いします）
割引の詳しい仕組みに関してはこちらのページを参照ください。
製品ごとの特徴・紹介動画は SwitchBot 製品ガイド にまとめています。
その他おすすめリンク
【2026年8月】クーポン・ポイント情報 GMKtec MINISFORUM GEEKOM ACEMAGIC 公式サイト攻略法
当ページの商品リンクは基本アフィリエイト（SwitchBot、Amazon、楽天、アリエクスプレス他）となっております。ご協力いただければ幸いです。