onw AMD 0.1.1: FastFlowLM v1.0.7, NPU check reasons, diag.py

CHANGELOG.md

@@ -1,5 +1,13 @@
 # 更新履歴
 
+## v0.1.1
+
+- FastFlowLM を v1.0.7 に更新（v1.0.6 は Linux でカーネル 6.17 未満を一律に不合格にしていた。次のダウンロード時に自動で入れ替わります）。
+- FastFlowLM の NPU チェック（`flm validate`）で止まったとき、理由を「モデル」タブに日本語で表示（ドライバーの版、入れ方への
+  リンク、「もう一度チェック」、`flm validate` の詳しい結果）。ダウンロードもその理由を出して止める。
+- 診断スクリプト `diag.py` を追加（NPU・ドライバー・ファームウェア・`/dev/accel`・memlock・FastFlowLM の状態をまとめて
+  ファイルに保存。`--try-model` で小さいモデルを実際に NPU で動かして確かめる）。
+
 ## v0.1.0
 
 onw（Intel NPU 版 v0.11.3）をもとにした AMD Ryzen AI NPU 版の最初の版。

CHANGELOG_en.md

@@ -1,5 +1,13 @@
 # Changelog
 
+## v0.1.1
+
+- FastFlowLM updated to v1.0.7 (v1.0.6 failed every Linux kernel older than 6.17; it is replaced at the next download).
+- When FastFlowLM's NPU check (`flm validate`) fails, the Models tab says why (driver version, a link to the driver
+  guide, "Check again", flm's own report); downloads stop with that reason.
+- New `diag.py`: NPU, driver, firmware, `/dev/accel`, memlock and FastFlowLM state in one file; `--try-model` runs a
+  small model on the NPU to tell a wrong check from a real failure.
+
 ## v0.1.0
 
 First release of the AMD Ryzen AI NPU edition, based on onw (Intel NPU edition) v0.11.3.

README.md

@@ -24,7 +24,7 @@ UI と仕組み（タスクトレイ常駐、モデル管理ウィンドウ、Op
 仕組みは [Lemonade Server](https://github.com/lemonade-sdk/lemonade) から移植しています。
 
 - **NPU で動かす機能だけ**です。CPU・GPU（iGPU）・NPU+GPU のハイブリッドでは動かしません。
-- NPU エンジンは FastFlowLM（`flm` v1.0.6、約 40 MB）だけで、初回に自動でダウンロードします。モデルは `flm list` に出る
+- NPU エンジンは FastFlowLM（`flm` v1.0.7、約 40 MB）だけで、初回に自動でダウンロードします。モデルは `flm list` に出る
   チャットモデル（Qwen3.5／3.6、Gemma 4、gpt-oss、Llama 3.x、Phi-4-mini、LFM2 など）です。
 
 ## 必要なもの
@@ -68,6 +68,17 @@ curl -fsSL https://huggingface.co/ryugyosoft/onwAMD/resolve/main/install.sh | ba
 - 思考モード（reasoning のラベルがあるモデル）：チャット画面の「思考モード」、API の
   `chat_template_kwargs: {"enable_thinking": true}` か `reasoning_effort`。思考は `reasoning_content` に分けて返します。
 
+### うまく動かないとき
+
+「モデル」タブに FastFlowLM の NPU チェックの結果（理由）が出ます。それでも分からないときは診断スクリプトを実行し、
+保存される `onw-amd-diag.txt` を送ってください（読み取りのみ。`--try-model` を付けると小さいモデルで実際に試します）。
+
+```bash
+curl -fsSL https://huggingface.co/ryugyosoft/onwAMD/resolve/main/diag.py | python3 - --try-model
+```
+
+Windows（PowerShell）は `irm https://huggingface.co/ryugyosoft/onwAMD/resolve/main/diag.py | python - --try-model`。
+
 ### `onw` コマンド
 
 ```bash

README_en.md

@@ -9,7 +9,7 @@ chat UI, check page, self-update) and replaces the inference with the NPU-only e
 [Lemonade Server](https://github.com/lemonade-sdk/lemonade).
 
 - **NPU only.** Nothing runs on the CPU, the GPU (iGPU) or as an NPU+GPU hybrid.
-- The one engine is FastFlowLM (`flm` v1.0.6, about 40 MB), downloaded on first use. The models are the chat models
+- The one engine is FastFlowLM (`flm` v1.0.7, about 40 MB), downloaded on first use. The models are the chat models
   `flm list` offers (Qwen3.5 / 3.6, Gemma 4, gpt-oss, Llama 3.x, Phi-4-mini, LFM2, ...).
 
 ## Requirements

diag.py

@@ -0,0 +1,183 @@
+"""onw AMD diagnostics: why FastFlowLM's NPU check fails on this PC. Standard library only; reads, changes nothing
+(except --try-model, which pulls one small model into onw's model folder and runs it once).
+
+  curl -fsSL https://huggingface.co/ryugyosoft/onwAMD/resolve/main/diag.py | python3 -              (Linux)
+  curl -fsSL https://huggingface.co/ryugyosoft/onwAMD/resolve/main/diag.py | python3 - --try-model  (+ a real run)
+  irm https://huggingface.co/ryugyosoft/onwAMD/resolve/main/diag.py | python -                       (Windows)
+
+The report is printed and saved as onw-amd-diag.txt in the home folder: send that file.
+"""
+import glob, json, os, platform, shutil, subprocess, sys, time, urllib.request
+
+WIN = os.name == "nt"
+OUT = []
+
+
+def say(*a):
+    line = " ".join(str(x) for x in a)
+    print(line, flush=True)
+    OUT.append(line)
+
+
+def section(t):
+    say("\n==== " + t)
+
+
+def run(cmd, timeout=60, env=None):
+    try:
+        r = subprocess.run(cmd, capture_output=True, text=True, encoding="utf8", errors="replace", timeout=timeout,
+                           env=env)
+        return r.returncode, r.stdout, r.stderr
+    except Exception as e:
+        return None, "", f"{type(e).__name__}: {e}"
+
+
+def show(cmd, timeout=60, env=None, limit=3000):
+    rc, out, err = run(cmd, timeout, env)
+    say(f"$ {' '.join(cmd)}   (exit {rc})")
+    for s in (out, err):
+        s = s.strip()
+        if s:
+            say(s[-limit:])
+    return rc, out, err
+
+
+def config_dir():
+    base = os.environ.get("APPDATA") if WIN else os.path.join(os.path.expanduser("~"), ".config")
+    return os.path.join(base or os.path.expanduser("~"), "onw-amd")
+
+
+def main():
+    try_model = "--try-model" in sys.argv
+    section("system")
+    say("python", sys.version.split()[0], "|", platform.platform())
+    if not WIN:
+        try:
+            say(next(l for l in open("/etc/os-release") if l.startswith("PRETTY_NAME")).strip())
+        except Exception:
+            pass
+        say("kernel", platform.release())
+        try:
+            say("cpu", next(l.split(":", 1)[1].strip() for l in open("/proc/cpuinfo") if l.startswith("model name")))
+        except Exception:
+            pass
+
+    if WIN:
+        section("NPU (Windows)")
+        show(["powershell", "-NoProfile", "-Command",
+              "Get-CimInstance Win32_PnPEntity | Where-Object { $_.PNPDeviceID -match 'VEN_1022&DEV_(17F0|1502)' } | "
+              "Select-Object Name,PNPDeviceID,Status | Format-List; "
+              "Get-CimInstance Win32_PnPSignedDriver | Where-Object { $_.DeviceName -match 'NPU Compute' } | "
+              "Select-Object DeviceName,DriverVersion,DriverDate | Format-List"])
+    else:
+        section("NPU (Linux): PCI")
+        for dev in sorted(glob.glob("/sys/bus/pci/devices/*")):
+            rd = lambda f: (open(os.path.join(dev, f)).read().strip() if os.path.exists(os.path.join(dev, f)) else "?")
+            if rd("vendor") == "0x1022" and rd("class").startswith("0x1180"):
+                drv = os.path.basename(os.path.realpath(os.path.join(dev, "driver"))) if os.path.exists(
+                    os.path.join(dev, "driver")) else "(no driver bound)"
+                say(os.path.basename(dev), "device", rd("device"), "rev", rd("revision"), "driver", drv)
+        section("NPU (Linux): driver, firmware, device node")
+        for p in ("/sys/module/amdxdna/version", "/sys/module/amdxdna/srcversion"):
+            if os.path.exists(p):
+                say(p, open(p).read().strip())
+        say("amdxdna module loaded:", os.path.isdir("/sys/module/amdxdna"))
+        show(["modinfo", "amdxdna"], limit=1200)
+        fw = sorted(glob.glob("/lib/firmware/amdnpu/**/*", recursive=True))
+        say("firmware /lib/firmware/amdnpu:", len(fw), "files")
+        for f in fw[:40]:
+            say("  ", f)
+        nodes = glob.glob("/dev/accel/*")
+        say("device nodes:", nodes or "none")
+        for n in nodes:
+            st = os.stat(n)
+            say("  ", n, oct(st.st_mode & 0o777), "uid", st.st_uid, "gid", st.st_gid,
+                "| readable", os.access(n, os.R_OK), "writable", os.access(n, os.W_OK))
+        show(["id"])
+        import resource
+        soft, hard = resource.getrlimit(resource.RLIMIT_MEMLOCK)
+        fmt = lambda v: "unlimited" if v == resource.RLIM_INFINITY else f"{v // 1024} KiB"
+        say("memlock (ulimit -l): soft", fmt(soft), "hard", fmt(hard))
+        show(["sh", "-c", "grep -rh memlock /etc/security/limits.conf /etc/security/limits.d/ 2>/dev/null | grep -v '^#'"])
+        show(["sh", "-c", "journalctl -k --no-pager -g 'amdxdna|amdnpu' -n 40 2>/dev/null || dmesg 2>&1 | grep -i -E 'amdxdna|amdnpu' | tail -40"])
+
+    section("FastFlowLM")
+    cfg = config_dir()
+    exe_name = "flm.exe" if WIN else "flm"
+    found = [p for p in glob.glob(os.path.join(cfg, "bin", "flm", "npu", "**", exe_name), recursive=True)]
+    say("onw config folder:", cfg, "exists" if os.path.isdir(cfg) else "MISSING")
+    say("flm installed by onw:", found or "none")
+    say("flm on PATH:", shutil.which("flm") or "none")
+    try:
+        say("onw FastFlowLM version.txt:", open(os.path.join(cfg, "bin", "flm", "npu", "version.txt")).read().strip())
+    except OSError:
+        pass
+    flm = found[0] if found else shutil.which("flm")
+    try:
+        conf = json.load(open(os.path.join(cfg, "config.json"), encoding="utf8"))
+    except Exception:
+        conf = {}
+    models = conf.get("models_dir") or os.path.join(cfg, "flm")
+    env = {**os.environ, "FLM_MODEL_PATH": models}
+    say("FLM_MODEL_PATH onw uses:", models, "| in the environment:", os.environ.get("FLM_MODEL_PATH", "(unset)"))
+    if flm:
+        if not WIN:
+            say("executable:", os.access(flm, os.X_OK))
+            rc, out, err = run(["ldd", flm])
+            missing = [l.strip() for l in out.splitlines() if "not found" in l]
+            say("ldd: missing libraries:", missing or "none")
+        show([flm, "version"], env=env)
+        show([flm, "validate", "--json"], env=env)
+        show([flm, "validate"], env=env)
+        show([flm, "list", "--filter", "installed", "--quiet", "--json"], env=env, limit=1500)
+
+    section("onw logs")
+    for name in ("download.log", "server.log"):
+        p = os.path.join(cfg, name)
+        if os.path.exists(p):
+            say(f"--- {name} (last lines)")
+            say("".join(open(p, encoding="utf8", errors="replace").readlines()[-40:]).rstrip())
+
+    if try_model and flm:
+        section("try a model anyway (qwen3:0.6b, about 0.7 GB): is the NPU check wrong, or does the NPU really fail?")
+        show([flm, "pull", "qwen3:0.6b"], timeout=1800, env=env, limit=800)
+        log = os.path.join(os.path.expanduser("~"), "onw-amd-diag-serve.log")
+        with open(log, "w") as lf:
+            p = subprocess.Popen([flm, "serve", "qwen3:0.6b", "--port", "8099", "--host", "127.0.0.1"], env=env,
+                                 stdout=lf, stderr=subprocess.STDOUT)
+        try:
+            ok = False
+            for _ in range(180):
+                if p.poll() is not None:
+                    break
+                try:
+                    urllib.request.urlopen("http://127.0.0.1:8099/api/tags", timeout=2)
+                    ok = True
+                    break
+                except OSError:
+                    time.sleep(1)
+            say("flm serve came up:", ok, "| exit code" if p.poll() is not None else "", p.poll() if p.poll() is not None else "")
+            if ok:
+                body = {"model": "qwen3:0.6b", "max_tokens": 40, "think": False,
+                        "messages": [{"role": "user", "content": "Say hello in one short sentence."}]}
+                try:
+                    j = json.loads(urllib.request.urlopen(urllib.request.Request(
+                        "http://127.0.0.1:8099/v1/chat/completions", json.dumps(body).encode(),
+                        {"Content-Type": "application/json"}), timeout=300).read())
+                    say("answer:", j["choices"][0]["message"].get("content"))
+                    say("usage:", json.dumps(j.get("usage")))
+                except Exception as e:
+                    say("request failed:", e)
+        finally:
+            p.kill()
+        say("--- flm serve log (last lines)")
+        say("".join(open(log, errors="replace").readlines()[-40:]).rstrip())
+
+    path = os.path.join(os.path.expanduser("~"), "onw-amd-diag.txt")
+    with open(path, "w", encoding="utf8") as f:
+        f.write("\n".join(OUT) + "\n")
+    print(f"\nSaved: {path}  (send this file)")
+
+
+if __name__ == "__main__":
+    main()

onw/__init__.py

@@ -2,4 +2,4 @@
 
 LLMs entirely on the AMD Ryzen AI NPU (XDNA2), through FastFlowLM, the NPU-only engine of Lemonade Server.
 """
-__version__ = "0.1.0"
+__version__ = "0.1.1"

onw/i18n.json

@@ -5,9 +5,18 @@
 "2ターン会話: 1ターン目": "Two-turn chat: turn 1",
 "2ターン会話: 2ターン目": "Two-turn chat: turn 2",
 "API キー（任意）": "API key (optional)",
+"FastFlowLM から AMD の NPU が見えません。デバイスマネージャーに「NPU Compute Accelerator Device」があるか、NPU ドライバーが入っているか確認してください。": "FastFlowLM cannot see the AMD NPU. Check that \"NPU Compute Accelerator Device\" is in the Device Manager and that the NPU driver is installed.",
+"FastFlowLM の NPU チェックで止まりました": "FastFlowLM's NPU check stopped here",
+"FastFlowLM の NPU チェックで止まりました: {0}": "FastFlowLM's NPU check stopped here: {0}",
+"FastFlowLM の NPU チェックを実行できませんでした。": "FastFlowLM's NPU check could not run.",
 "LAN からの接続を許可する（API キー推奨）": "Allow connections from the LAN (API key recommended)",
+"Linux カーネルが FastFlowLM に対応していません。": "The Linux kernel is not supported by FastFlowLM.",
 "NPU でロード中…": "Loading on the NPU…",
+"NPU のチェックに失敗しました（ドライバー {1}）。NPU ドライバーを更新してから、もう一度試してください。": "The NPU check failed (driver {1}). Update the NPU driver and try again.",
+"NPU のファームウェアが FastFlowLM に対応していません。NPU ドライバーを更新すると直ることがあります。": "The NPU firmware is not supported by FastFlowLM. Updating the NPU driver may fix it.",
 "NPU エンジン": "NPU engine",
+"NPU ドライバーが古いです（この PC は {1}、FastFlowLM は {0} 以降が必要）。Windows Update か PC メーカー／AMD のサイトで NPU ドライバーを更新してください。": "The NPU driver is too old (this PC: {1}, FastFlowLM needs {0} or newer). Update the NPU driver with Windows Update or from the PC maker's / AMD's site.",
+"NPU ドライバー（amdxdna）が古いです（この PC は {1}）。linux-firmware と amdxdna ドライバーを新しくしてください（ディストリビューションの更新、または AMD の案内）。": "The NPU driver (amdxdna) is too old (this PC: {1}). Update linux-firmware and the amdxdna driver (your distribution's updates, or AMD's guide).",
 "OpenAI API のURLをコピー": "Copy the OpenAI API URL",
 "URL をコピーしました": "URL copied",
 "auto（OS に合わせる）": "auto (follow the OS)",
@@ -41,6 +50,7 @@
 "そのモデルはありません": "No such model",
 "その都市の人口は？一文で。": "What is that city's population? One sentence.",
 "なし": "No",
+"もう一度チェック": "Check again",
 "アンロード": "Unload",
 "アンロード（サーバー停止）": "Unload (stop the server)",
 "エラー: {0}": "Error: {0}",
@@ -65,6 +75,7 @@
 "ツール呼び出し": "tool calling",
 "テキスト生成": "Text generation",
 "デバイス": "Device",
+"ドライバーの入れ方": "How to install the driver",
 "パッケージを更新中（数分かかることがあります）": "Updating packages (may take a few minutes)",
 "フォルダが見つかりません: {0}": "Folder not found: {0}",
 "フォルダのパスを入力してください": "Enter the folder path",
@@ -78,6 +89,7 @@
 "メッセージを入力するか、画像を添付・貼り付け・ドロップしてください。": "Type a message, or attach, paste or drop an image.",
 "メッセージ（Enterで送信、Shift+Enterで改行）": "Message (Enter to send, Shift+Enter for a new line)",
 "メモリ 約{0} GB": "memory ~{0} GB",
+"メモリのロック上限（memlock）が足りません（Linux）。": "The memory lock limit (memlock) is too low (Linux).",
 "メモリ目安": "Memory (est.)",
 "モデル": "Models",
 "モデルの一覧は、FastFlowLM（約 40 MB）を入れると出ます": "The models are listed once FastFlowLM (about 40 MB) is installed",
@@ -183,6 +195,7 @@
 "言語": "Language",
 "設定": "Settings",
 "設定は保存しました。サーバーを新しい設定で今すぐ再起動しますか？（キャンセルしても、次にモデルを読み込むときから反映されます）": "Settings saved. Restart the server with the new settings now? (Cancel keeps them for the next model load.)",
+"詳しい結果（flm validate）": "Details (flm validate)",
 "読み込み中…": "Loading…",
 "起動時と 1 日ごとに更新を確認する": "Check for updates at startup and daily",
 "起動時に前回ロードしたモデルを自動でロードする": "Load the last model automatically at startup",
@@ -199,9 +212,18 @@
 "2ターン会話: 1ターン目": "两轮对话：第 1 轮",
 "2ターン会話: 2ターン目": "两轮对话：第 2 轮",
 "API キー（任意）": "API 密钥（可选）",
+"FastFlowLM から AMD の NPU が見えません。デバイスマネージャーに「NPU Compute Accelerator Device」があるか、NPU ドライバーが入っているか確認し��ください。": "FastFlowLM 找不到 AMD NPU。请确认设备管理器中有“NPU Compute Accelerator Device”，并已安装 NPU 驱动。",
+"FastFlowLM の NPU チェックで止まりました": "FastFlowLM 的 NPU 检查未通过",
+"FastFlowLM の NPU チェックで止まりました: {0}": "FastFlowLM 的 NPU 检查未通过：{0}",
+"FastFlowLM の NPU チェックを実行できませんでした。": "无法运行 FastFlowLM 的 NPU 检查。",
 "LAN からの接続を許可する（API キー推奨）": "允许局域网连接（建议设置 API 密钥）",
+"Linux カーネルが FastFlowLM に対応していません。": "Linux 内核不受 FastFlowLM 支持。",
 "NPU でロード中…": "正在 NPU 上加载…",
+"NPU のチェックに失敗しました（ドライバー {1}）。NPU ドライバーを更新してから、もう一度試してください。": "NPU 检查失败（驱动 {1}）。请更新 NPU 驱动后再试。",
+"NPU のファームウェアが FastFlowLM に対応していません。NPU ドライバーを更新すると直ることがあります。": "NPU 固件不受 FastFlowLM 支持。更新 NPU 驱动可能会解决。",
 "NPU エンジン": "NPU 引擎",
+"NPU ドライバーが古いです（この PC は {1}、FastFlowLM は {0} 以降が必要）。Windows Update か PC メーカー／AMD のサイトで NPU ドライバーを更新してください。": "NPU 驱动过旧（本机为 {1}，FastFlowLM 需要 {0} 或更新）。请通过 Windows 更新或电脑厂商／AMD 网站更新 NPU 驱动。",
+"NPU ドライバー（amdxdna）が古いです（この PC は {1}）。linux-firmware と amdxdna ドライバーを新しくしてください（ディストリビューションの更新、または AMD の案内）。": "NPU 驱动（amdxdna）过旧（本机为 {1}）。请更新 linux-firmware 和 amdxdna 驱动（发行版更新或 AMD 的说明）。",
 "OpenAI API のURLをコピー": "复制 OpenAI API 地址",
 "URL をコピーしました": "已复制 URL",
 "auto（OS に合わせる）": "auto（跟随系统）",
@@ -235,6 +257,7 @@
 "そのモデルはありません": "没有该模型",
 "その都市の人口は？一文で。": "那座城市的人口是多少？用一句话回答。",
 "なし": "不支持",
+"もう一度チェック": "重新检查",
 "アンロード": "卸载",
 "アンロード（サーバー停止）": "卸载（停止服务器）",
 "エラー: {0}": "错误：{0}",
@@ -259,6 +282,7 @@
 "ツール呼び出し": "工具调用",
 "テキスト生成": "文本生成",
 "デバイス": "设备",
+"ドライバーの入れ方": "如何安装驱动",
 "パッケージを更新中（数分かかることがあります）": "正在更新软件包（可能需要几分钟）",
 "フォルダが見つかりません: {0}": "找不到文件夹：{0}",
 "フォルダのパスを入力してください": "请输入文件夹路径",
@@ -272,6 +296,7 @@
 "メッセージを入力するか、画像を添付・貼り付け・ドロップしてください。": "输入消息，或添加、粘贴、拖放图片。",
 "メッセージ（Enterで送信、Shift+Enterで改行）": "消息（Enter 发送，Shift+Enter 换行）",
 "メモリ 約{0} GB": "内存约 {0} GB",
+"メモリのロック上限（memlock）が足りません（Linux）。": "内存锁定上限（memlock）不足（Linux）。",
 "メモリ目安": "内存估计",
 "モデル": "模型",
 "モデルの一覧は、FastFlowLM（約 40 MB）を入れると出ます": "安装 FastFlowLM（约 40 MB）后会列出模型",
@@ -377,6 +402,7 @@
 "言語": "语言",
 "設定": "设置",
 "設定は保存しました。サーバーを新しい設定で今すぐ再起動しますか？（キャンセルしても、次にモデルを読み込むときから反映されます）": "设置已保存。现在用新设置重启服务器？（取消后，下次加载模型时生效）",
+"詳しい結果（flm validate）": "详细结果（flm validate）",
 "読み込み中…": "加载中…",
 "起動時と 1 日ごとに更新を確認する": "启动时及每天检查更新",
 "起動時に前回ロードしたモデルを自動でロードする": "启动时自动加载上次的模型",

onw/lemonade.py

@@ -6,7 +6,7 @@ OpenAI-compatible API on localhost. onw does the same with the one engine that i
 Linux. (lemonade: src/cpp/server/backends/fastflowlm/fastflowlm_server.cpp, fastflowlm_models.cpp)
 
 FastFlowLM is downloaded on first use from its GitHub release into <config>/bin/flm/npu, pinned to the version in
-Lemonade's src/cpp/resources/backend_versions.json.
+Lemonade's src/cpp/resources/backend_versions.json (one release newer, see VERSION).
 
   npu()                   the NPU: {"arch": "XDNA2" | None, "name", "driver"} (lemonade: system_info.cpp)
   installed_version()     FastFlowLM's installed version, or None;  install(progress) downloads it
@@ -15,9 +15,9 @@ Lemonade's src/cpp/resources/backend_versions.json.
   flm_models(), flm_pull_command(), flm_remove()
   serve_command(...)      the command line that serves one model on a port, and the URL that answers once it is ready
 """
-import json, os, shutil, subprocess, sys, tarfile, time, urllib.request, zipfile
+import json, os, re, shutil, subprocess, sys, tarfile, time, urllib.request, zipfile
 
-VERSION = "v1.0.6"                                 # lemonade backend_versions.json: "flm": {"npu": "v1.0.6"}
+VERSION = "v1.0.7"     # lemonade pins v1.0.6; v1.0.7 drops the Linux kernel >= 6.17 check in `flm validate`
 ENGINE = "FastFlowLM"
 WINDOWS = os.name == "nt"
 NO_WINDOW = {"creationflags": subprocess.CREATE_NO_WINDOW} if WINDOWS else {}
@@ -188,24 +188,38 @@ def _json_in(text):
     return json.loads(text[s:e + 1]) if s >= 0 and e > s else {}
 
 
-def flm_validate(cfg=None):
-    """(ok, message) from `flm validate --json` (lemonade: run_flm_validate)."""
+MIN_DRIVER = "32.0.203.311"                       # Windows NPU driver FastFlowLM asks for (its README)
+CHECKS = (("amd_device_found", "no_device", "No AMD NPU device found."),
+          ("npu_driver_ok", "driver_old", f"NPU driver version is too old (FastFlowLM needs {MIN_DRIVER} or newer)."),
+          ("all_fw_ok", "firmware", "NPU firmware is incompatible."),
+          ("kernel_ok", "kernel", "Kernel version is incompatible."),
+          ("memlock_ok", "memlock", "Memlock limits are too low."))
+
+
+def flm_check(cfg=None):
+    """`flm validate --json` (lemonade: run_flm_validate): {"ok", "codes": [no_device | driver_old | firmware | kernel
+    | memlock | failed | error], "message": English text, "detail": flm's own output}."""
     try:
         r = _flm(["validate", "--json"], cfg, timeout=60)
         j = _json_in(r.stdout)
     except Exception as e:
-        return False, str(e)
-    if j.get("ready"):
-        return True, ""
-    errs = [msg for key, msg in (("amd_device_found", "No AMD NPU device found."),
-                                 ("all_fw_ok", "NPU firmware is incompatible."),
-                                 ("kernel_ok", "Kernel version is incompatible."),
-                                 ("memlock_ok", "Memlock limits are too low."),
-                                 ("npu_driver_ok", "NPU driver version is too old."))
-            if key in j and not j[key]]
-    if not j and r.returncode == 0:
-        return True, ""
-    return False, (" ".join(errs) or "NPU validation failed.") + f" ({DRIVER_URL})"
+        return {"ok": False, "codes": ["error"], "message": str(e), "detail": ""}
+    if j.get("ready") or (not j and r.returncode == 0):
+        return {"ok": True, "codes": [], "message": "", "detail": ""}
+    bad = [(code, msg) for key, code, msg in CHECKS if key in j and not j[key]] or [("failed", "NPU validation failed.")]
+    try:                                           # the plain report names the driver version flm saw
+        detail = _flm(["validate"], cfg, timeout=60).stdout
+        detail = "\n".join(l for l in (re.sub(r"\x1b\[[0-9;]*m", "", x).strip() for x in detail.splitlines()) if l)
+    except Exception:
+        detail = json.dumps(j)
+    return {"ok": False, "codes": [c for c, _ in bad], "message": " ".join(m for _, m in bad) + f" ({DRIVER_URL})",
+            "detail": detail[-600:]}
+
+
+def flm_validate(cfg=None):
+    """(ok, message) from `flm validate --json`."""
+    c = flm_check(cfg)
+    return c["ok"], c["message"]
 
 
 def flm_name(checkpoint):

onw/manager.py

@@ -20,6 +20,16 @@ from .i18n import T
 WEB = os.path.join(os.path.dirname(os.path.abspath(__file__)), "web")
 INFO = lambda: os.path.join(app.config_dir(), "manager.json")
 LAST_SEEN = [time.time()]            # when the page last asked for the state (a browser-only window keeps us alive)
+CHECK_TEXT = {   # flm validate's findings ({0}: driver FastFlowLM needs, {1}: driver installed)
+    "driver_old": "NPU ドライバーが古いです（この PC は {1}、FastFlowLM は {0} 以降が必要）。Windows Update か PC メーカー／AMD のサイトで NPU ドライバーを更新してください。",
+    "no_device": "FastFlowLM から AMD の NPU が見えません。デバイスマネージャーに「NPU Compute Accelerator Device」があるか、NPU ドライバーが入っているか確認してください。",
+    "firmware": "NPU のファームウェアが FastFlowLM に対応していません。NPU ドライバーを更新すると直ることがあります。",
+    "driver_old_linux": "NPU ドライバー（amdxdna）が古いです（この PC は {1}）。linux-firmware と amdxdna ドライバーを新しくしてください（ディストリビューションの更新、または AMD の案内）。",
+    "kernel": "Linux カーネルが FastFlowLM に対応していません。",
+    "memlock": "メモリのロック上限（memlock）が足りません（Linux）。",
+    "failed": "NPU のチェックに失敗しました（ドライバー {1}）。NPU ドライバーを更新してから、もう一度試してください。",
+    "error": "FastFlowLM の NPU チェックを実行できませんでした。",
+}
 NOTES = {"vision": "画像も読めます", "reasoning": "考えてから答えます", "coding": "コード向け", "tool-calling": "ツール呼び出し"}
 
 
@@ -39,6 +49,7 @@ class Manager:
         self.lock = threading.Lock()
         self.dl = None                  # {"key", "proc", "status", "frac", "text", "error", "done", "log"}
         self.npu = None
+        self.check = None               # lemonade.flm_check() + "text" (the reasons in the UI language)
         self.ram = app.total_ram_gb()
         self.busy = ""                  # a message about a long action (loading / deleting) for the page
         self.busy_err = False
@@ -52,6 +63,26 @@ class Manager:
     def _npu_info(self):
         lemonade.npu()
         self.npu = lemonade.npu_text()
+        self._check_npu()
+
+    def _check_npu(self):
+        """FastFlowLM's own NPU check (`flm validate`), once FastFlowLM is there: why models cannot run, in words."""
+        if not lemonade.binary():
+            self.check = None
+            return
+        c = lemonade.flm_check()
+        n = lemonade.npu()
+        linux = lambda code: code + "_linux" if not lemonade.WINDOWS and code + "_linux" in CHECK_TEXT else code
+        c["text"] = [T(CHECK_TEXT.get(linux(code), CHECK_TEXT["failed"]), lemonade.MIN_DRIVER, n.get("driver") or "?")
+                     for code in c["codes"]]
+        self.check = c
+
+    def _check_error(self):
+        """The NPU check's failure as one message for the page, or None."""
+        c = self.check
+        if c and not c["ok"]:
+            return T("FastFlowLM の NPU チェックで止まりました: {0}", " ".join(c["text"]))
+        return None
 
     # ---------------------------------------------------------------- state
     def _engine(self):
@@ -90,6 +121,8 @@ class Manager:
                 "engine_dl": {"frac": eng_dl["frac"], "text": eng_dl["text"], "error": eng_dl.get("error"),
                               "done": bool(eng_dl.get("done"))} if eng_dl else None,
                 "flm_error": app._FLM_CACHE.get("error", ""),
+                "npu_check": {"ok": self.check["ok"], "text": self.check["text"], "detail": self.check["detail"]}
+                             if self.check else None,
                 "server": {"status": status, "model": info and info.get("model"), "path": info and info.get("path"),
                            "error": app.failure_reason() if status == "failed" else "",
                            "title": app.model_title(info["model"]) if info else None, "port": info and info.get("port"),
@@ -130,6 +163,10 @@ class Manager:
             return {"error": T("そのモデルはありません")}
         if lemonade.npu().get("arch") != "XDNA2":
             return {"error": T("この PC には XDNA2 の NPU が見つかりません（Ryzen AI 300 シリーズ以降と NPU ドライバーが必要です）")}
+        if self.check is None and lemonade.binary():
+            self._check_npu()
+        if self._check_error():
+            return {"error": self._check_error()}
         info = app.server_info()
         if info and info.get("model") == key:
             return {"error": T("このモデルはロード中です。先にアンロードしてください。")}
@@ -192,6 +229,8 @@ class Manager:
             else:
                 dl["frac"] = 1.0
                 app.flm_catalog(refresh=True)              # flm pulled a model / FastFlowLM was installed
+                if dl["key"] == "engine":
+                    threading.Thread(target=self._check_npu, daemon=True).start()
                 if not dl["key"].startswith("engine:"):
                     with app._CFG_LOCK:
                         if not app.load_config().get("model"):
@@ -363,6 +402,10 @@ class Manager:
             webbrowser.open(f"http://localhost:{cfg['port']}/{what}")
         elif what == "flm":
             webbrowser.open("https://github.com/ROCm/FastFlowLM")
+        elif what == "driver":
+            webbrowser.open(lemonade.DRIVER_URL)
+        elif what == "recheck":
+            self._check_npu()
         return {}
 
 

onw/web/manage.html

@@ -164,6 +164,7 @@
 
   <section class="page" id="page-models">
     <div class="banner small" id="npuwarn" style="display:none">この PC には XDNA2 の NPU が見つかりません（Ryzen AI 300 シリーズ以降と NPU ドライバーが必要です）</div>
+    <div class="banner small" id="checkwarn" style="display:none"></div>
     <div class="banner small" id="dirwarn" style="display:none"></div>
     <div class="card" style="padding:6px 10px">
       <div class="row small" id="engines"></div>
@@ -311,6 +312,14 @@
     $("b-load").disabled = same || !pick.value || st === "loading";
     // models table
     $("npuwarn").style.display = s.npu && !s.npu_ok ? "" : "none";
+    const ck = s.npu_check, ckHtml = ck && !ck.ok
+      ? `<b>${T("FastFlowLM の NPU チェックで止まりました")}</b><br>${ck.text.map(esc).join("<br>")}` +
+        `<br><button class="ghost" onclick="post('open',{what:'driver'})">${T("ドライバーの入れ方")}</button>` +
+        `<button class="ghost" onclick="post('open',{what:'recheck'})">${T("もう一度チェック")}</button>` +
+        (ck.detail ? `<details><summary>${T("詳しい結果（flm validate）")}</summary><pre class="mono" style="white-space:pre-wrap;margin:4px 0 0">${esc(ck.detail)}</pre></details>` : "")
+      : "";
+    if ($("checkwarn").innerHTML !== ckHtml) $("checkwarn").innerHTML = ckHtml;
+    $("checkwarn").style.display = ckHtml ? "" : "none";
     $("seng").textContent = "FastFlowLM " + (s.engine.installed || T("未インストール"));
     const ed = s.engine_dl, e = s.engine;
     let est;

pyproject.toml

@@ -4,7 +4,7 @@ build-backend = "setuptools.build_meta"
 
 [project]
 name = "onw-amd"
-version = "0.1.0"
+version = "0.1.1"
 description = "Ore no NPU ga konna ni ugoku wake nai - LLMs entirely on the AMD Ryzen AI NPU (FastFlowLM, as in Lemonade Server)"
 readme = "README.md"
 license = {text = "Apache-2.0"}