AI
版本:26.09
AI
Witty Assistant
智能助手 CLI 用户指南
Witty Assistant 命令行入口,基于 opencode 提供 AI 驱动的终端交互体验
XPU Turbo
XPU Turbo
异构协同加速运行
Sparse KV Offload
昇腾 A3 上 PD 分离推理与 Sparse KV Offload 部署
AI全栈
AI容器镜像用户指南
openEuler AI 容器镜像封装了 AI 框架等软件,提高 AI 应用开发或使用效率
AI大模型服务镜像使用指南
支持百川、chatglm、星火等AI大模型的容器化封装
RAM-A KV
ram-a-kv 用户手册
ram-a-kv 是面向多轮 AI Agent 推理的 KV 缓存协调守护进程,提供语义感知的预取/驱逐/降级调度
LMCache Ascend
LMCache Ascend 用户手册
LMCache Ascend 是 LMCache 面向昇腾 NPU 的适配插件,支持在推理服务之间复用和传输 KV Cache。
Agent Insight
Agent Insight 用户指南
通过 RPM 安装 Agent Insight,接入 Agent 运行数据,查看执行链路并开展评测。
遵循 木兰宽松许可证第2版(MulanPSL2)
遵循木兰宽松许可证第2版(MulanPSL2)
版权所有 © 2026 openEuler 保留一切权利
文档捉虫