【780M向け】AMD 780M (Vulkan) の不具合修正と実測: Termux互換、GFX10+対応、Qwen3.8 DFlash修正

llama.cpp は ggml-org が開発する C/C++ の LLM 推論エンジン。Vulkan バックエンドで AMD iGPU でも動く。

今回の要点

• Termux 環境での Vulkan ビルド不具合が修正され、モバイル GPU でも利用可能に
• GFX10+ 以降の GPU におけるビルド失敗と Qwen3.8 DFlash の OOB トークンエラーが修正
• Spark-X2.6-4B や wesjos_mario-html-v2-9B などの新モデルが 780M で動作可能
• 大規模コンテキストでの推論速度低下や MOE 設定時の OOM 不具合が報告

Termux 環境での Vulkan ビルド不具合修正

Termux 環境では、std::aligned_alloc の代わりに posix_memalign を使用することで、Vulkan ビルドが正常に完了するようになった。これにより、Android iGPU などのモバイル Vulkan 環境でも、任意のサイズのメモリ割り当てを受け付けるようになった。

PR #30828: Fix termux Vulkan builds (posix_memalign for termux) - merged

GFX10+ 以降の GPU におけるビルド失敗と Qwen3.8 DFlash の OOB トークンエラー修正

GFX10+ 以降の GPU において、HIP ビルド時に wavefront shifts are not supported on GFX10+ というエラーが発生していた。この問題は、HIP 有効化と gfx1103 サポートを有効にしたビルド時に再現し、make -j16 コマンド実行時に発生する。

llama.cpp #30989 Compile bug: wavefront shifts are not supported on GFX10+

また、Qwen3.8 DFlash/MTP speculative において、Vulkan 環境で OOB トークン id == n_vocab (248320) が発生する問題も修正された。これにより、Qwen3.8 モデルの推論が正常に実行可能になった。

bug: Qwen3.8 DFlash/MTP speculative emits OOB token id == n_vocab (248320) on Vulkan

Spark-X2.6-4B と wesjos_mario-html-v2-9B の 780M での動作確認

Spark-X2.6-4B の GGUF モデル（Q4_K_M: 2.5GB、Q8_0: 4.2GB）が、780M iGPU（通常 4-8GB 共有 VRAM）で Vulkan 経由で動作可能であることが確認された。また、wesjos_mario-html-v2-9B の GGUF モデル（Q4_K_M: 5.7GB、Q4_K_S: 5.4GB）も、8GB 以上の共有 VRAM を持つ 780M iGPU で動作可能である。

GGUF: Spark-X2.6-4B (AMD iGPU friendly) - 2026-10-20

GGUF: wesjos_mario-html-v2-9B (AMD iGPU) - 2026-10-21

大規模コンテキストでの推論速度低下と MOE 設定時の OOM 不具合

大規模コンテキスト（-c 196608）での推論時、推論速度が約 3 倍低下する問題が報告された。この問題は、複数の Vulkan デバイスが利用可能なシステムで、推論速度がメモリの帯域幅レベルまで低下する。

vulkan: ~3x decode regression with spec decode + large -c on multi-device systems since e0bcacc

また、MOE 設定（-ncmoe 32 以上）で VRAM が不足し、OOM エラーが発生する問題も報告された。この問題は、Qwen3.8-Flash-Next モデルで再現し、VRAM の使用量が 16 レイヤー以上で急増する。

llama.cpp #30987 Misc. bug: increasing -ncmoe!!! (or putting cmoe) leads to OOM on GPU

利用者の報告

Termux 環境でのビルド成功

Termux 環境で、posix_memalign を使用することで、Vulkan ビルドが正常に完了したという報告がある。これにより、Android iGPU などのモバイル Vulkan 環境でも、任意のサイズのメモリ割り当てを受け付けるようになった。

PR #30828: Fix termux Vulkan builds (posix_memalign for termux) - merged

GFX10+ 以降の GPU におけるビルド失敗

GFX10+ 以降の GPU において、HIP ビルド時に wavefront shifts are not supported on GFX10+ というエラーが発生するという報告がある。この問題は、HIP 有効化と gfx1103 サポートを有効にしたビルド時に再現し、make -j16 コマンド実行時に発生する。

llama.cpp #30989 Compile bug: wavefront shifts are not supported on GFX10+

Qwen3.8 DFlash の OOB トークンエラー

Qwen3.8 DFlash/MTP speculative において、Vulkan 環境で OOB トークン id == n_vocab (248320) が発生するという報告がある。この問題は、Qwen3.8 モデルの推論が正常に実行可能になるように修正された。

bug: Qwen3.8 DFlash/MTP speculative emits OOB token id == n_vocab (248320) on Vulkan

Spark-X2.6-4B と wesjos_mario-html-v2-9B の 780M での動作確認

Spark-X2.6-4B の GGUF モデル（Q4_K_M: 2.5GB、Q8_0: 4.2GB）が、780M iGPU（通常 4-8GB 共有 VRAM）で Vulkan 経由で動作可能であるという報告がある。また、wesjos_mario-html-v2-9B の GGUF モデル（Q4_K_M: 5.7GB、Q4_K_S: 5.4GB）も、8GB 以上の共有 VRAM を持つ 780M iGPU で動作可能である。

GGUF: Spark-X2.6-4B (AMD iGPU friendly) - 2026-10-20

GGUF: wesjos_mario-html-v2-9B (AMD iGPU) - 2026-10-21

大規模コンテキストでの推論速度低下

大規模コンテキスト（-c 196608）での推論時、推論速度が約 3 倍低下するという報告がある。この問題は、複数の Vulkan デバイスが利用可能なシステムで、推論速度がメモリの帯域幅レベルまで低下する。

vulkan: ~3x decode regression with spec decode + large -c on multi-device systems since e0bcacc

MOE 設定時の OOM 不具合

MOE 設定（-ncmoe 32 以上）で VRAM が不足し、OOM エラーが発生するという報告がある。この問題は、Qwen3.8-Flash-Next モデルで再現し、VRAM の使用量が 16 レイヤー以上で急増する。

llama.cpp #30987 Misc. bug: increasing -ncmoe!!! (or putting cmoe) leads to OOM on GPU

出典

• bug: Qwen3.8 DFlash/MTP speculative emits OOB token id == n_vocab (248320) on Vulkan
• llama.cpp #30989 Compile bug: wavefront shifts are not supported on GFX10+
• PR #30828: Fix termux Vulkan builds (posix_memalign for termux) - merged
• GGUF: Spark-X2.6-4B (AMD iGPU friendly) - 2026-10-20
• GGUF: wesjos_mario-html-v2-9B (AMD iGPU) - 2026-10-21
• vulkan: ~3x decode regression with spec decode + large -c on multi-device systems since e0bcacc
• llama.cpp #30987 Misc. bug: increasing -ncmoe!!! (or putting cmoe) leads to OOM on GPU