AidGen SDK（生成式 AI）

AidGen 是面向生成式 AI 的端侧推理 SDK，支持 LLM、VLM 等模型的本地加载与推理，提供 C++ 接口供应用集成。

支持能力

能力	说明
模型加载	支持本地模型目录加载，无需网络
流式输出	支持逐 token 流式输出，便于实现打字机效果
多模态	支持文本、图像输入的 VLM 模型
硬件加速	通过 CPU、GPU、NPU 协同调度

文档导航

开发者文档

AidGen 的基本使用说明

接口文档

AidGen C++ 接口说明

常见问题

AidGen 使用常见问题