【780M向け】2026-08-05 AMD 780M Vulkan: mmap回避で共有メモリ二重ロード解消、RDNA3のMambaフォールバック問題判明

【780M向け】2026-08-05 AMD 780M Vulkan: mmap回避で共有メモリ二重ロード解消、RDNA3のMambaフォールバック問題判明
目次
  1. llama.cpp: iGPUでmmap回避がデフォルトに(共有メモリ二重ロード解消)
  2. vLLM: RDNA世代でhybrid-MambaモデルがTritonフォールバックしてデコード崩壊
  3. Strix Halo(gfx1151)関連: VRAM認識不具合・Vulkanハング事例
  4. OpenCL: fused RMS normのバグ修正(AMD Vulkan環境でも関連)
  5. AMD 780M Vulkan環境での実践設定
  6. 本日のまとめ

この記事はAIによって編集・作成されています。

2026-08-05時点のAMD 780M(RADV PHOENIX)向けローカルLLM情報をまとめる。llama.cppのiGPU mmap回避デフォルト化が共有メモリ環境で決定的に重要。一方、vLLM側ではRDNA世代でhybrid-MambaモデルがTritonフォールバックしてデコード崩壊する問題が判明した。Strix Halo関連のVRAM認識不具合も共有メモリ環境で要注意。

llama.cpp: iGPUでmmap回避がデフォルトに(共有メモリ二重ロード解消)

PR#26081: add default load-mode auto, which avoids mmap on iGPUs

情報源: https://github.com/ggml-org/llama.cpp/pull/26081

AMD 780Mを含むiGPUユーザーにとって最重要の修正。llama.cppはデフォルトでload-mode auto(mmap回避)になった。これにより、モデルがシステムメモリからデバイス共有メモリにコピーされる際に、mmapされた領域とコピー先でメモリを二重に占有する問題が解消された。

780M環境(例: Ryzen 7 7840HS / 7735HS / 7535HS搭載機)では、GPUメモリはシステムメモリと共有(UMA)であり、BIOS設定で割り当てるVRAM上限(通常2GB〜8GB)を超えるモデル読み込み時に、mmapが残っていると実質的にモデルサイズの2倍のRAMを消費する。load-mode autoデフォルト化は、この二重ロードを防ぐ。

これは#20834と#26023の後続修正。iGPU環境ではmmapの恩恵(ディスク直読みによるメモリ節約)より、共有メモリでの二重占有リスクの方が深刻だった。

影響と推奨

  • llama.cppを最新に更新し、明示的に--mmapを指定していない限り、自動でmmap回避される

  • 既存スクリプトで--mmapを指定している場合は、iGPU環境では削除を検討

  • モデルサイズがシステムRAMの50%を超える環境(16GB RAMで8GB+モデル)で特に効果大

vLLM: RDNA世代でhybrid-MambaモデルがTritonフォールバックしてデコード崩壊

[Performance] On RDNA, hybrid-Mamba models fall back to Triton paged attention and decode collapses

情報源: vLLM issue(RDNA hybrid-Mambaフォールバック報告)

vLLMにおいてRDNA世代GPU(RDNA3含む、AMD 780Mのアーキテクチャ)でhybrid-Mambaモデルを実行すると、Triton paged attentionにフォールバックし、デコードフェーズが崩壊する問題が判明。

780Mを含むRDNA3 iGPUユーザーは、hybrid-Mambaアーキテクチャのモデル(Mamba/SSMとTransformerのハイブリッド)をvLLMで動かそうとすると、期待した速度が出ないか、デコードが不安定になる可能性がある。

現状の対策

  • RDNA3 iGPUでMamba系モデルを使う場合は、llama.cppのVulkanバックエンドを使用する方が安定

  • vLLMのROCm/Vulkan対応はRDNA世代よりRDNA4+ / Strix Halo世代に最適化が進んでいる可能性

  • hybrid-Mambaモデルの利用は当面避けるか、llama.cppでの動作確認を推奨

Strix Halo(gfx1151)関連: VRAM認識不具合・Vulkanハング事例

以下の情報はAMD 780Mとは異なるAPU(Strix Halo / Ryzen AI Max)に関するものだが、共有メモリ環境のiGPUユーザーに参考となる。

Issue#26089: VRAM enumeration returns 0 on AMD Strix Halo (Windows) BIOS Auto

情報源: https://github.com/ggml-org/llama.cpp/issues/26089

AMD Strix Halo APU(gfx1151、32GB unifiedメモリ)でBIOSのGPUメモリ割り当てをAutoにすると、VRAM列挙が0を返す不具合。Fixed(固定)割り当てにすると正常動作。Windows 11環境(Bosgame M5)で確認。

780Mユーザーへの示唆: BIOSのGPUメモリ割り当て設定がAutoの環境では、llama.cppのVRAM検出が不安定になる可能性がある。Fixed設定(例: 4GB/8GB固定)に変更すると改善するケースがある。

Issue#26087: Qwen 3.5 122B hangs 100% CPU using Vulkan on AI Max

情報源: https://github.com/ggml-org/llama.cpp/issues/26087

Ryzen AI Max搭載機(Bosgame M5)でQwen3.5-122B-A10B-MTPをVulkanで読み込む際、llama.cppが100% CPUでハングする不具合。モデルロード中に発生。

780M環境での教訓: 超大規模モデル(122Bクラス)をVulkanで読み込む際、CPU側での前処理が完了せずハングするケースがある。780Mで13B以上のモデルをVulkan offloadする場合は、CPU使用率に注意し、ハングしたら--no-mmapや--mlockオプションを試す。

OpenCL: fused RMS normのバグ修正(AMD Vulkan環境でも関連)

PR#26085: fix fused RMS norm mul view offset

情報源: https://github.com/ggml-org/llama.cpp/pull/26085

OpenCLのfused RMS norm計算でmul view offsetのバグを修正。AMD環境ではOpenCLとVulkanがオーバーラップするケースがあり、OpenCLバックエンドを使用している場合はこの修正が適用される。

780Mユーザー向けの注記: Vulkanバックエンドがメインだが、OpenCLフォールバック環境やOpenCLビルドを使用している場合は、この修正でRMS norm計算の精度が改善される可能性がある。

AMD 780M Vulkan環境での実践設定

推奨llama.cpp起動コマンド(780M / 16GB RAM環境例)

# Vulkan offloadで7Bモデル実行(mmap回避デフォルト、明示的指定も可)
./llama-cli -m model.gguf \
  --vocab-all \
  -ngl 99 \
  --gpu-device 0 \
  -ub 2048 \
  -ub-s 128 \
  --mlock \
  --no-mmap \
  -t 4 \
  -c 4096 \
  --temp 0.7

設定解説

  • --no-mmap: 共有メモリ環境では明示的にmmap回避。最新llama.cppではデフォルトautoだが、確実性のため指定

  • -ngl 99: 可能な限り多くのレイヤーをVulkan offload(780MのVRAM上限内で)

  • --mlock: スワップ回避。16GB RAM環境では必須検討

  • -t 4: スレッド数。CPUコア数に応じて調整(Eコア含む環境では物理コア数推奨)

  • -ub 2048: Vulkanのupload bufferサイズ。VRAM不足で落ちる場合は1024に減らす

BIOS設定の確認ポイント

  • GPUメモリ割り当て: Autoの場合、Fixed(4GB〜8GB)に変更を検討

  • iGPU有効化: 「Integrated Graphics」をEnabled

  • C-State / Power Saving: LLM実行中はオフ推奨(VRAMアクセス遅延の安定性向上)

本日のまとめ

llama.cppのiGPU mmap回避デフォルト化(PR#26081)は、780Mを含む共有メモリ環境で最も実質的な改善。モデル読み込み時のメモリ消費が約半分になるケースがある。一方、vLLMではRDNA世代のhybrid-Mambaフォールバック問題が判明しており、Mamba系モデルはllama.cpp Vulkanでの実行が当面推奨。BIOSのGPUメモリ割り当て設定を見直し、Autoの場合はFixedに固定するとVRAM認識が安定する可能性がある。

【宣伝】SwitchBot 購入はこちらから

SwitchBot公式ページ
クーポン「AF-4903」で5%引き(アフィリエイトクーポンになりますのでご協力お願いします)
割引の詳しい仕組みに関してはこちらのページを参照ください。
製品ごとの特徴・紹介動画は SwitchBot 製品ガイド にまとめています。

その他おすすめリンク

【2026年8月】クーポン・ポイント情報 GMKtec MINISFORUM GEEKOM ACEMAGIC 公式サイト攻略法

How to Get the Lowest Price on the SwitchBot Official Store (US, UK & EU): The Complete Checkout Strategy — August 2026

当ページの商品リンクは基本アフィリエイト(SwitchBot、Amazon、楽天、アリエクスプレス他)となっております。ご協力いただければ幸いです。