docs/cn/resources/troubleshooting.mdx
import Feedback from "/snippets/page-feedback.mdx";
```powershell
Set-Alias geniex (where.exe geniex)
```
- **llama.cpp (GGUF):** 可在运行时抬升,例如 `geniex infer <model> --nctx 8192`,上限为模型训练时的最大值。窗口越大占用内存越多。
- **Qualcomm AI Engine Direct (NPU):** 窗口固化在编译好的模型包中,`--nctx` 不生效。加 `--sliding-window` 以继续对话(驱逐最旧的上下文),或获取按更长上下文编译的模型包。
参见[增大上下文长度](/cn/run/cli/reference#增大上下文长度)。
```bash
geniex pull ai-hub-models/Qwen3-4B-Instruct-2507
```
随后重启 `geniex serve`。
1. **镜像仓库登录。** Docker Hub(`docker.io/qualcomm/geniex`)是公开的,无需登录。Qualcomm Container Registry 则需先登录:
```bash bash
# Qualcomm Container Registry:
docker login docker-registry.qualcomm.com -u '$app' -p GB2S6KXMJXTPV8VHNFNS7Q6LVH75LOOBTLT8D723WUX6PSFZMTX95GIQG4EFWH5C021ONZ5763VI9IDHU96Q7VAZJ2830CLX3NPI6STQOJWRYXLLA2ZYTL1S
```
出现 `Login Succeeded` 即成功。
2. **加入 docker 用户组。** 若 `docker pull` 返回 `permission denied while trying to connect to the docker API at unix:///var/run/docker.sock`,说明当前用户不在 `docker` 组:
```bash bash
sudo usermod -aG docker $USER
newgrp docker # apply the new group in the current shell
```
然后重新执行拉取。
该检查是全局的:所有后端都需要这些指令,因此把 `--compute` 切到 `cpu`、`gpu` 或 `npu` 都无济于事。查看你的 CPU 报告了哪些特性:
```bash bash
LD_SHOW_AUXV=1 /bin/true | grep AT_HWCAP # 查找 atomics、asimdrdm、asimddp、fphp、asimdhp
cat /proc/cpuinfo | grep Features # 相同特性,内核使用的名称
```
若缺少这些特性,请改用 **CPU-only(仅 CPU)** 版本:它以纯 `armv8.0-a`(不带任何 ISA 扩展)编译,只包含 CPU 推理(不含 QAIRT/NPU、OpenCL/GPU、Hexagon),速度也相应更慢——缺少 `dotprod`/`fp16` 时 ggml 会退回 fp32 量化内核。所有渠道都需要显式指定,不做自动探测:
```bash bash
curl -fsSL https://raw.githubusercontent.com/qualcomm/GenieX/main/cli/release/linux/install.sh | sh -s -- --cpu-only
```
| 渠道 | 如何选中 CPU-only 版本 |
| --- | --- |
| `install.sh` | `--cpu-only` |
| `pip install geniex` | `GENIEX_SDK_VARIANT=cpu` |
| Docker | `-cpu` tag —— `docker.io/qualcomm/geniex:latest-cpu` |
`geniex-qairt` 没有 CPU-only 版本:QAIRT 需要 NPU,而这类板子并没有。请改用 `geniex-llama-cpp`(或 `geniex` 元包,它会在这类板子上自动去掉 QAIRT 后端)。
若 CPU-only 版本仍然失败,请带上以上输出到 [GitHub Issues](https://github.com/qualcomm/GenieX/issues) 或 Slack 反馈。
这类设备请改用 **CPU-only** AAR——[release 资产](https://github.com/qualcomm/GenieX/releases)中的 `geniex-android-aar-cpu-<tag>.aar`。它按纯 `armv8.0-a` 编译、不带任何 ISA 扩展,只提供 CPU 推理(无 Qualcomm AI Engine Direct、无 OpenCL、无 Hexagon),因而相应更慢。除此之外可直接替换:`com.geniex.sdk` 命名空间与 API 完全一致。Maven Central 上只发布默认 AAR。