C#

使用 C/C++ 高效运行大语言模型的推理项目，支持量化模型、多种 CPU 与 GPU 后端以及本地服务接口。

微软开源的模型编排开发工具包，帮助应用连接大模型、插件、向量存储和智能体，并组织可维护的业务流程。