【780M向け】Vulkan読み込みデフォルトAuto化・BIOS AutoでVRAM誤認0問題・ROCmFP4 Strixモデル群(8月12日AMD 780Mレポート)

【780M向け】Vulkan読み込みデフォルトAuto化・BIOS AutoでVRAM誤認0問題・ROCmFP4 Strixモデル群(8月12日AMD 780Mレポート)
目次
  1. llama.cpp: Vulkan読み込みでload-mode autoがデフォルト化(PR#26081)
  2. HIP: VMM信頼できない場合にレガシメモリプールにフォールバック(PR#26054)
  3. AMD: FlashAttentionからrocWMMA CUDAカーネルを削除(PR#26046)
  4. CRITICAL: Strix Halo APUでBIOS Auto設定時にVRAM列挙が0を返す(Issue#26089)
  5. OpenCL: Fused RMS norm mul view offset修正(PR#26085)
  6. Qwen 3.5 122BでVulkan時100% CPUハング(Issue#26087)
  7. ROCmFP4 Strixモデル: Laguna-S 2.1 / GPT-OSS 120B / Nemotron 3 Nano
  8. vLLM: ROCm / AMD関連修正
  9. Unsloth: Enterprise Proxy / .json dataset修正
  10. まとめ — 本日の推奨アクション

この記事はAIによって編集・作成されています。

llama.cppのPR#26081によりiGPU向けload-mode autoがデフォルト化し、Vulkan/MTP環境でモデルの二重メモリ読み込み(double-copy)が自動防止されるようになった。これは780Mのような共有メモリiGPUにとって極めて重要な修正である。またPR#26054ではHIPビルドでVMMが信頼できない場合にレガシメモリプールにフォールバックする処理が追加され、共有メモリシステムでの安定性が向上した。一方、Strix Halo APUでBIOS GPUアロケーションがAutoの場合にVRAM列挙が0を返す重大な問題(Issue#26089)も報告されており、Windows 11のBosgame M5でFixed値設定が必要なことが判明した。ROCmFP4対応のLaguna-S 2.1およびGPT-OSS・Nemotron 3などのStrix最適化モデルもHuggingFaceに複数登場し、gfx1151環境での実用モデル候補が拡がっている。

llama.cpp: Vulkan読み込みでload-mode autoがデフォルト化(PR#26081)

PR#26081により、llama.cppのload-modeのデフォルトがautoに変更された。この変更は共有メモリiGPU(特に780M / gfx1151)にとって極めて重要である。

従来のデフォルト設定では、モデル読み込み時にmmapを使用するケースがあり、その結果ホスト側で一度モデルをコピーし、その後デバイス側の共有メモリへ再度コピーされる二重メモリ読み込み(double-memory loading)が発生していた。32GBのVRAMを持つiGPUでも、ホスト側にまずモデル全体が読み込まれるため、12GBモデルを読み込む際にホストメモリに12GB、GPUに12GBの計24GB以上のメモリを消費する可能性があった。

load-mode autoは、Vulkan/MTPの環境を自動検出し、iGPUではmmapを回避する。これによりデバイス側の共有メモリに直接読み込まれるようになり、ホスト側の不要なコピーが防止される。

設定例(Vulkan + MTP利用時)

# Vulkan + MTP環境ではload-modeを明示
GGML_VULKAN_LOAD_MODE=auto

# またはコマンドライン引数で指定(バージョンにより実装異なる)
./main -m model.gguf --vulkan --muprecise-tensors 1 --load-mode auto

注意: load-mode autoの実装はバージョンにより異なる。最新のllama.cppをコンパイルする必要がある可能性が高い。

HIP: VMM信頼できない場合にレガシメモリプールにフォールバック(PR#26054)

PR#26054により、HIPビルドでVMM(Virtual Memory Manager)が信頼できない場合にレガシメモリプールへのフォールバック処理が実装された。共有メモリシステムでVMMが正常に動作しない場合、レガシメモリプールが自動的に選択される。

これは共有メモリGPU(780M / gfx1151など)にとって重要な安定化修正である。VMMが不安定な環境でメモリ割り当てのクラッシュやハングを防止する。

AMD: FlashAttentionからrocWMMA CUDAカーネルを削除(PR#26046)

PR#26046により、AMDハードウェア向けrocWMMA FlashAttention CUDAカーネルが削除された。これにより、すべてのAMDハードウェアでMMAカーネルが利用されるようになり、最適化の統一が進んだ。

従来のCUDA FlashAttentionカーネルはAMD環境ではMMAカーネルより性能が劣っていた。今回、不要なカーネルが削除され、コードベースの簡素化と一貫性向上が図られた。

CRITICAL: Strix Halo APUでBIOS Auto設定時にVRAM列挙が0を返す(Issue#26089)

Issue#26089で報告されたこの問題は、Strix Halo APU(gfx1151、32GB UMA VRAM)を利用するユーザーに極めて重要である。

Windows 11環境、Bosgame M5のBIOSでGPUアロケーションがAutoの場合、llama.cppのVRAM列挙処理が0を返す。Fixed値設定(例: 16GB、32GB)に設定した場合は正常に列挙される。Auto設定でVRAMが0として認識されると、モデル読み込み時にメモリ割り当てのミスが発生し、クラッシュや正動作しない可能性が高い。

対策: BIOSでGPUメモリ割り当てをFixed値(推奨: 32GB UMAに合わせ16GB〜32GBの値)に設定する。

BIOS設定手順(Bosgame M5等)

BIOS → GPU Configuration → GPU Memory Allocation → Auto → Fixed
推奨値: 16GB / 20GB / 32GB(システムRAMサイズによる)

注意: この問題はWindows環境に限定される可能性が高い。Linux環境(RADV / Vulkan)では発生しないか、別の実装になっている可能性がある。要検証。

OpenCL: Fused RMS norm mul view offset修正(PR#26085)

PR#26085により、OpenCLのFused RMS norm計算でmul viewのオフセット修正が行われた。OpenCLはVulkanと並行してAMDハードウェアで動作できるため、この修正はOpenCLを利用する場合の安定性向上に寄与する。

Qwen 3.5 122BでVulkan時100% CPUハング(Issue#26087)

Issue#26089で報告された問題と類似の環境(Bosgame M5 / Ryzen AI Max)で、Qwen3.5-122B-A10B-MTPモデルをVulkanで読み込み時、100% CPUハングが発生する報告がある。モデルサイズが100B以上と非常に大型なため、読み込み時のメモリ処理で問題が生じている可能性が高い。

ROCmFP4 Strixモデル: Laguna-S 2.1 / GPT-OSS 120B / Nemotron 3 Nano

HuggingFaceに複数のROCmFP4 Strix最適化モデルが投稿された。gfx1151環境での実用性について、サイズ等の詳細は未確認のものが多い。

Laguna-S 2.1 系

大規模MoEモデル

注意: これらのモデルのサイズ・VRAM要件・推論速度はすべて未確認。実装前に必ずモデルファイルのサイズを確認し、780MのVRAM制限(通常12GB〜16GB)に合うか確認する。Laguna-S 2.1 Q4_0の場合、モデルサイズはおよそ8〜10GB程度を想定できるが、これは推測値であり正確な数値ではない。

vLLM: ROCm / AMD関連修正

Unified-Memory GPUでgpu_memory_utilizationを尊重(Issue#49760)

Unified-Memory GPU(GB10 / DGX Spark / Jetson等)向けに、gpu_memory_utilizationパラメータがメモリ確保を正しく行わない問題を修正。共有メモリ環境でホストメモリを確保できないケースに対応した。

ROCm CI: ネイティブコンパイルキャッシュをローカルディスクへ強制(Issue#49763)

ROCm CIにおいてネイティブコンパイルキャッシュをローカルディスクに強制する設定が追加された。ROCmユーザーの性能・信頼性向上に寄与する。

ROCm MoE: expert_mapとAITER expert_maskの不一致修正(Issue#49758)

ROCm MoE環境で、expert_mapとAITER expert_maskの不一致を修正。EP(Expert Parallelism)実行時に非AITER expertで問題が生じていた。

ROCmでFused bf16→fp32 router GEMMがフォールバックする性能問題

vLLMのbf16→fp32ルーターGEMMがROCm環境でstandalone copy kernelにフォールバックする性能問題が報告された。780Mを含むRDNA3環境での推論速度低下に直結する可能性が高い。

RDNA世代でHybrid-MambaモデルがTriton paged attentionにフォールバックしデコードが崩れる

RDNA世代(780M含むRDNA3を含む)において、hybrid-MambaモデルがTriton paged attentionにフォールバックし、デコード処理が崩れる問題が報告された。Mamba系アーキテクチャのモデルを780Mで動かす場合、このフォールバックにより推論速度や品質に悪影響が出る可能性がある。

Unsloth: Enterprise Proxy / .json dataset修正

UnslothのPR#7416でhostnameベースのエンタープライズプロキシサポートが追加された。PR#7421で.jsonファイルのデータセットが行ごとのパーシングから1つのJSON文書として扱うように修正された。

まとめ — 本日の推奨アクション

  • llama.cppを最新に: PR#26081のload-mode autoデフォルト化により、iGPUでのメモリ二重読み込みが自動防止される。必ず最新ビルドに更新し、Vulkan/MTP環境ではload-mode autoが適用されていることを確認せよ

  • BIOS設定確認: Windows 11でStrix Halo APUを使う場合、BIOSのGPUメモリ割り当てをAutoからFixed値(16GB〜32GB)に変更せよ。Auto設定ではVRAM列挙が0を返し、クラッシュの恐れがある

  • ROCmFP4モデルの検証: Laguna-S 2.1 Q4_0 ROCmFP4はStrix最適化モデルとして注目。サイズ未確認のため、ファイル確認前にVRAM要件を必ず検証せよ

  • vLLMのRDNA問題に注意: hybrid-Mambaモデルは780MでTriton paged attentionへのフォールバックによりデコードが崩れる可能性がある。Mamba系モデルを使う場合は代替アーキテクチャを検討せよ

【宣伝】SwitchBot 購入はこちらから

SwitchBot公式ページ
クーポン「AF-4903」で5%引き(アフィリエイトクーポンになりますのでご協力お願いします)
割引の詳しい仕組みに関してはこちらのページを参照ください。
製品ごとの特徴・紹介動画は SwitchBot 製品ガイド にまとめています。

その他おすすめリンク

【2026年8月】クーポン・ポイント情報 GMKtec MINISFORUM GEEKOM ACEMAGIC 公式サイト攻略法

How to Get the Lowest Price on the SwitchBot Official Store (US, UK & EU): The Complete Checkout Strategy — August 2026

当ページの商品リンクは基本アフィリエイト(SwitchBot、Amazon、楽天、アリエクスプレス他)となっております。ご協力いただければ幸いです。