生成式 AI 应用开发

Rhino Pi IQ9N 板载 36GB LPDDR5 内存，可支持大语言模型（LLM）、视觉语言模型（VLM）等生成式 AI 模型的端侧部署。本章节介绍 AidGen 与 AidGenSE 两套推理框架的使用方法。

框架选型

框架	适用场景	特点
AidGen	本地应用集成	提供 C++ 接口，可嵌入自有程序
AidGenSE	服务化部署	提供 HTTP 服务，兼容 OpenAI API，便于上层应用对接

文档导航

AidGen SDK（生成式 AI）

AidGen SDK 使用介绍

AidGenSE（兼容 OpenAI API）

AidGenSE 服务化部署