【780M向け】llama.cppでiGPUに安全なモデル読み込みがデフォルト化 — Vulkan共有メモリで二重メモリ問題を回避、Vulkan Strix用ROCmFP4モデルが相次ぐ

【780M向け】llama.cppでiGPUに安全なモデル読み込みがデフォルト化 — Vulkan共有メモリで二重メモリ問題を回避、Vulkan Strix用ROCmFP4モデルが相次ぐ
目次
  1. llama.cppでデフォルトload-mode「auto」化 — iGPUの二重メモリ問題を回避
  2. VMM不信頼時にレガシメモリプールにフォールバック — HIP共有メモリ環境の安定化
  3. ROCm FlashAttentionカーネル統合 — AMDは全てMMAカーネルに統一
  4. Vulkan Strix(gfx1151)用ROCmFP4モデルが相次ぐ
  5. Strix Halo BIOS「Auto」設定でVRAM列挙が0を返す — 「Fixed」設定を推奨
  6. vLLMのROCm修正 — MoEexpert_map不整合とPaged Attentionフォールバック問題
  7. その他の重要な問題・修正
  8. まとめ

この記事はAIによって編集・作成されています。

本日はAMD 780M(RADV / Vulkan)向けLLMランタイムに、共有メモリ環境での信頼性向上と、Vulkan Strix(gfx1151)用の新モデル群が相次ぐ重要な情報が寄せられた。特にllama.cppのload-mode autoデフォルト化は、iGPUユーザーのモデル読み込み失敗を防ぐ重大な修正だ。また、BIOSのGPU割り当て設定が「Auto」の場合にVRAM列挙が0を返すStrix Haloの既知問題も確認された。

llama.cppでデフォルトload-mode「auto」化 — iGPUの二重メモリ問題を回避

llama.cppがモデル読み込み時のデフォルト動作を変更し、iGPUではmmapを使わない自動モードがデフォルトとなった。これによりモデルをホスト側にコピーした後、デバイス共有メモリ上に再度コピーされる「二重メモリ」問題を防ぐ。780Mを含む共有メモリ型APUでは、従来はメモリ不足でモデル読み込み時に失敗するケースが多かったが、このデフォルト変更により読み込みが安定する可能性がある。

これは従前の修正PR#20834やPR#26023の後続として位置づけられる。iGPUユーザーは少なくともこの修正を含むバージョンにアップデートする価値がある。

設定例(load-mode autoの明示)

# Vulkanバックエンドでモデル読み込み(load-mode autoがデフォルト)
llama-cli -m your-model.gguf -ngl 999

# load-modeを明示的に指定する場合(autoが推奨)
llama-cli -m your-model.gguf -ngl 999 --load-mode auto

VMM不信頼時にレガシメモリプールにフォールバック — HIP共有メモリ環境の安定化

HIPビルドにおいてVMM(Virtual Memory Management)が信頼できない場合に、レガシメモリプールへフォールバックする処理が追加された。共有メモリシステムではVMMの挙動が不安定になることがあり、その場合にレガシパスを使ってモデル読み込みを続行できるようになる。780MのようにシステムメモリとVRAMを共有するAPU環境で有効な改善だ。

ROCm FlashAttentionカーネル統合 — AMDは全てMMAカーネルに統一

CUDA由来のFlashAttentionカーネルがAMD側で削除され、すべてのAMDハードウェアでより高性能なMMAカーネルのみが使用されるようになった。これによりAMD環境でのattention演算の統一・安定性が向上する。

Vulkan Strix(gfx1151)用ROCmFP4モデルが相次ぐ

Strix Halo / gfx1151向けにROCmFP4量子化された新しいモデルが複数公開された。Laguna-S 2.1シリーズを中心に、Q4_0量化が複数バリエーションで登場。またGPT-OSS 120BやNemotron 3 Nano 30B A3Bといった大規模MoEモデルもStrix Lean版で提供されている。これらはAMDのROCmFP4形式を用いており、Vulkan環境での推論を想定しているが、モデルサイズや実際の推論速度は未確認のまま公開されている点に注意が必要だ。

公開モデル一覧(未確認事項あり)

Strix Halo BIOS「Auto」設定でVRAM列挙が0を返す — 「Fixed」設定を推奨

AMD Strix Halo APU(gfx1151、32GB unified)において、BIOSのGPUメモリ割り当て設定が「Auto」の場合、llama.cppでのVRAM列挙が0を返す問題が確認された。32GBのユニファイドメモリを備えるStrix Haloでは、共有メモリ型ながらGPUメモリとして認識される容量の計上が正しく行われない。この問題の回避策として、BIOS設定を「Fixed」に変更する必要がある。Windows 11上のBosgame M5環境で報告されている。

780Mを含むiGPUユーザーも、BIOS設定でGPUメモリ割り当てを確認する必要がある。特にStrix Halo搭載機では「Fixed」設定が必須となる。

BIOS設定手順(Windows 11 / Bosgame M5など)

1. BIOS/UEFI設定に入る(起動時にDel/F2キー等)
2. GPU関連の設定項目を探す(Graphics Configurationなど)
3. GPU Memory Allocation を「Auto」から「Fixed」に変更
4. 保存して再起動

vLLMのROCm修正 — MoEexpert_map不整合とPaged Attentionフォールバック問題

vLLMで2つの重要なROCm関連問題が報告された。一つはROCm MoE環境でexpert_mapとAITER expert_maskの不整合を修正したもの。もう一つはRDNA世代(780Mを含むRDNA3にも直結する)において、hybrid-MambaモデルがTriton paged attentionにフォールバックし、デコードパフォーマンスが崩壊する問題だ。780Mでhybrid-Mambaモデルを使用する場合は、このフォールバックによる速度低下に注意が必要だ。

  • 情報源:

    • vLLM Issue#49758 — [ROCm][MoE] Fix expert_map vs AITER expert_mask mismatch

    • vLLM Issue#49763 — [ROCm][CI] Force native compile caches onto local disk

    • vLLM Issue — [Performance] On RDNA, hybrid-Mamba models fall back to Triton paged attention and decode collapses

その他の重要な問題・修正

OpenCL fused RMS norm修正 — AMDでVulkanとOpenCLの併用可能化

OpenCLのfused RMS normのmul view offset修正が行われた。AMDハードウェアではVulkanとOpenCLが同時にオーバーラップ可能になる可能性があるため、この修正は両バックエンドの安定性向上に寄与する。

Qwen 3.5 122BのVulkanによる100% CPUフリーズ

Qwen3.5-122B-A10B-MTPモデルをVulkanバックエンドで読み込み中に、llama.cppが100% CPUでフリーズする現象が報告された。Bosgame M5(Ryzen AI Max)環境で確認されている。100B超の大規模モデルをVulkanで動かす場合、特に780MのようなiGPUではメモリ容量不足によるフリーズの可能性がある。

vLLM unified-memory GPUのgpu_memory_utilization未適用

共有メモリGPU(GB10 / DGX Spark / Jetson)でgpu_memory_utilizationパラメータが無視される問題。共有メモリではメモリを予約できないため、ホストメモリが埋まりやすい。780Mのような共有メモリ環境でのvLLM利用時には注意が必要だ。

まとめ

本日の780M / Vulkan環境で最も重要なのは、llama.cppのload-mode autoデフォルト化だ。iGPUでのモデル読み込み失敗が防げるため、少なくともこの修正を含むバージョンへのアップデートを推奨する。またStrix HaloユーザーはBIOS設定を「Fixed」に変更し、VRAMの正認識を確認してほしい。ROCmFP4モデルは未確認サイズが多く、780Mでの推論速度保証がない点に注意。780Mでhybrid-Mambaモデルを使う場合、vLLMでのTriton paged attentionフォールバックによるデコード崩壊も確認済みだ。

【宣伝】SwitchBot 購入はこちらから

SwitchBot公式ページ
クーポン「AF-4903」で5%引き(アフィリエイトクーポンになりますのでご協力お願いします)
割引の詳しい仕組みに関してはこちらのページを参照ください。
製品ごとの特徴・紹介動画は SwitchBot 製品ガイド にまとめています。

その他おすすめリンク

【2026年8月】クーポン・ポイント情報 GMKtec MINISFORUM GEEKOM ACEMAGIC 公式サイト攻略法

How to Get the Lowest Price on the SwitchBot Official Store (US, UK & EU): The Complete Checkout Strategy — August 2026

当ページの商品リンクは基本アフィリエイト(SwitchBot、Amazon、楽天、アリエクスプレス他)となっております。ご協力いただければ幸いです。