【780M向け】llama.cpp Vulkanロードモード自動設定でVRAM二重コピー解消、AMD ROCmFP4量子化モデル群がLaguna-S・GPT-OSS・Nemotron 3 Nanoへ拡大

【780M向け】llama.cpp Vulkanロードモード自動設定でVRAM二重コピー解消、AMD ROCmFP4量子化モデル群がLaguna-S・GPT-OSS・Nemotron 3 Nanoへ拡大
目次
  1. Vulkan iGPU用ロードモード「auto」がデフォルトに
  2. Strix Halo(gfx1151)VRAM列挙問題 — BIOS Auto設定で0を返す
  3. HIPメモリプールフォールバック — VMM信頼性低下時
  4. rocWMMA FlashAttentionカーネル削除
  5. OpenCL RMSノーマライズ修正
  6. AMD ROCmFP4量子化モデル群 — Laguna-S・GPT-OSS・Nemotron 3 Nano
  7. Qwen 3.5 122BのVulkanフリーズ問題
  8. vLLM ROCmパフォーマンス改善3件
  9. まとめ

この記事はAIによって編集・作成されています。

llama.cppのデフォルトロードモードがautoへ移行し、780M等のiGPU環境でmmapによる二重メモリコピーを回避する改善が適用されています。これによりVRAM 16GBの機材でモデル読み込み時ホストメモリとの競合が解消されます。同時にAMD ROCmFP4量子化モデルがLaguna-S 2.1に加えGPT-OSS 120B、Nemotron 3 Nano 30B A3BのStrix Lean版がHugging Faceに公開。BIOS設定AutoでVRAM列挙が0を返すStrix Haloの既知問題も報告されています。

Vulkan iGPU用ロードモード「auto」がデフォルトに

mmap回避で780Mのメモリ競合を解消

PR#26081 で llama.cpp のデフォルト load-mode が auto に設定されました。この変更は PR#20834 および PR#26023 の後継改善です。

iGPU環境では、モデルをmmapで読み込むとホスト側にコピーされた後にデバイス共有メモリへ再度コピーされる二重コピーが発生します。780M(RADV PHOENIX)のようにVRAM 16GBの環境では、モデルサイズが1.5倍に膨張する分、16GBをあっという埋め尽くします。load-mode auto は iGPU では mmap を回避し、デバイスへ直接読み込むモードを自動選択します。

これにより16GB VRAMの780MでQ4_Kモデルを正常に読み込めるようになります。

実際に試せる設定

既存のビルドで手動設定する場合は以下の通りです。

./main -m model.gguf --load-mode auto
# または CMakeビルド時
-DGGML_VULKAN_LOAD_MODE_AUTO=ON

新しいデフォルトが適用されたビルドでは不要ですが、旧版ユーザーは明示指定が必要です。

Strix Halo(gfx1151)VRAM列挙問題 — BIOS Auto設定で0を返す

BIOS GPU割当「Auto」でVRAMサイズが0として認識される

Issue #26089 で、AMD Strix Halo APU(gfx1151、32GB UMA)において、Windows 11環境(Bosgame M5)でBIOSのGPUメモリ割当を「Auto」に設定した際、VRAM列挙が0を返す問題が報告されています。「Fixed」設定に切り替えると正常に32GBとして認識されます。

これはStrix Halo特有の問題で、780M(gfx1045)には影響しない可能性がありますが、同じAMDプラットフォームでiGPUモデルを動かす上では重要な制約事項です。

回避策

# BIOS設定でGPU Memory SizeをFixedに切り替え
# Auto(自動)を避ける

この問題はStrix Halo(32GB UMA)の既知制約として認識されており、Auto設定のままではllama.cppのVRAM容量判定が失敗し、モデル読み込みに問題が出る恐れがあります。

HIPメモリプールフォールバック — VMM信頼性低下時

共有メモリ環境でのHIPビルド改善

PR#26054 で、HIPビルドにおいてVMM(Virtual Memory Manager)が信頼できない場合にレガシーメモリプールへフォールバックする処理が追加されました。これは共有メモリシステム、特にiGPU環境での安定動作に寄与します。

rocWMMA FlashAttentionカーネル削除

CUDA用FlashAttentionをAMDから完全撤去

PR#26046 により、AMD向けCUDA FlashAttentionカーネル(rocWMMAベース)が完全に削除されました。AMDハードウェアは現在、より高性能なMMAカーネルを使用します。これは2026年7月24日のコミット(2026-07-24 15:53)で確定しました。

780MではVulkanが主な推論バックエンドですが、ROCm系カーネルの統合はAMD全体のパフォーマンス基盤強化につながります。

OpenCL RMSノーマライズ修正

OpenCL Vulkan共存時のfused RMS norm固定

PR#26085 でOpenCLのfused RMS normにおけるmul viewのオフセット修正が行われました。AMDハードウェアではOpenCLがVulkanと共存する可能性があるため、ノーマライズ処理の正確性は推論安定性に関わります。

AMD ROCmFP4量子化モデル群 — Laguna-S・GPT-OSS・Nemotron 3 Nano

Laguna-S 2.1 ROCmFP4 Strix向け量子化モデル3種

Hugging FaceにLaguna-S 2.1のROCmFP4量子化モデルが3種公開されています。すべてStrix / gfx1151向けです。

GPT-OSS 120BとNemotron 3 Nano 30B A3B — 大規模MoEのROCmFP4対応

さらに大規模MoEモデルのROCmFP4 Strix Lean版も公開されています。

これらのモデルのサイズはすべて「未確認」とされています。780M(16GB VRAM)で動作させる場合は、実際のVRAM使用量とロードテストが必要です。

Qwen 3.5 122BのVulkanフリーズ問題

モデル読み込み時100% CPUフリーズ

Issue #26087 で、Bosgame M5(Ryzen AI Max)にてQwen3.5-122B-A10B-MTPをVulkanでロード中に100% CPUフリーズする事象が報告されています。

780Mユーザーへの直接影響は不明ですが、同じAMDプラットフォームでのVulkanモデル読み込み時には留意が必要です。

vLLM ROCmパフォーマンス改善3件

bf16→fp32ルーターGEMMのフォールバック問題

vLLMのbf16→fp32ルーターGEMMがROCm環境でstandalone copy kernelへフォールバックする性能問題が報告されています。ROCm環境での推論速度低下に関わる可能性があります。

RDNA世代のhybrid-Mambaモデルでデコード崩壊

RDNA世代において、hybrid-MambaモデルがTriton paged attentionにフォールバックしデコードが崩れる問題が報告されました。780Mを含むRDNA3への直結する問題です。デコード性能の大幅低下が懸念されます。

ROCmネイティブコンパイルキャッシュ配置

Issue #49763 でROCm CIのネイティブコンパイルキャッシュをローカルディスクへ強制配置する改善が入りました。ROCmユーザーのパフォーマンスと信頼性向上が期待されます。

ROCm MoE expert_map vs AITER expert_mask不整合修正

Issue #49758 で、MoE環境においてEP(Expert Parallelism)下でのnon-AITER expertsのexpert_mapとAITER expert_maskのミスマッチが修正されました。

まとめ

780Mユーザーはまずllama.cppの最新ビルドをビルドし、デフォルトのロードモードautoでVRAM競合が解消されることを確認してください。Strix HaloユーザーはBIOS設定を「Fixed」に切り替える必要があります。ROCmFP4モデルのLaguna-S 2.1はStrix向けに最適化されていますが、780Mでの動作検証は未確認です。大規模MoE(GPT-OSS 120B)は16GBの780MではVRAM不足の可能性が高く、Strix Lean版でもロードテストが必要です。vLLMのRDNA hybrid-Mamb問題については、Mamba系モデルを使用しない限り780Mへの直接的な影響はありません。

【宣伝】SwitchBot 購入はこちらから

SwitchBot公式ページ
クーポン「AF-4903」で5%引き(アフィリエイトクーポンになりますのでご協力お願いします)
割引の詳しい仕組みに関してはこちらのページを参照ください。
製品ごとの特徴・紹介動画は SwitchBot 製品ガイド にまとめています。

その他おすすめリンク

【2026年8月】クーポン・ポイント情報 GMKtec MINISFORUM GEEKOM ACEMAGIC 公式サイト攻略法

How to Get the Lowest Price on the SwitchBot Official Store (US, UK & EU): The Complete Checkout Strategy — August 2026

当ページの商品リンクは基本アフィリエイト(SwitchBot、Amazon、楽天、アリエクスプレス他)となっております。ご協力いただければ幸いです。