超轻量AI大模型
一键部署启动器

性能与极致轻量

• 空载内存仅 135MB（纯 GUI 前端）
• 安装包超小：在线安装器仅 5MB
• 毫秒级启动：应用冷启动 < 0.5 秒
• CUDA 后端加载 4B 模型仅需 1-3 秒
• 极致打包效率：将 1.5GB 的分散后端压缩进 458MB

自动硬件适配与部署

• 三档自动降级：NVIDIA → Vulkan → CPU
• 离线完整版：内置所有后端，无需联网
• 自动硬件检测：读取 GPU 型号、显存、驱动版本
• 零配置开箱即用：双击安装后自动完成所有配置

多模型常驻管理

• 同时运行多个模型实例，进程隔离
• 常驻/待机模式：模型永驻显存或自动唤醒
• 一键卸载模型：支持单个、批量、全部卸载
• 显存/内存实时监控：实时显示资源占用

双端点 API 网关

• /chat：自研轻量 HTTP，零额外转换开销
• /v1/chat/completions：OpenAI 兼容，支持任意 SDK
• 智能路由：根据 model 字段自动转发
• 服务状态检测：提供 /health、/v1/models 等端点

Agent 能力（完整版 SA）

• 18+ 内置工具：系统、网络、Git 工具
• 深度思考：实时展示思考过程，可折叠/展开
• 工具调用可视化：清晰显示工具名称和参数
• 支持工具调用、多模态、深度思考

极简对话界面（SA Lite）

• 纯对话模式：无复杂设置，开箱即聊
• 流式输出：支持 SSE / 标准模拟 / 原生流式
• 多模态：可上传图片，模型理解图像内容
• 上下文监控：实时显示已用 token / 总上下文

模型生态与下载

• 多源模型库：官方源、魔搭社区、Hugging Face
• 断点续传：大模型下载中断后可恢复
• 文件完整性校验：自动校验 SHA256
• 官方模型推荐：内置精选 GGUF 模型列表

用户界面与体验

• Win11 云母/亚克力风格：毛玻璃模糊、圆角卡片
• 丝滑动画：卡片 hover、按钮点击、对话框淡入淡出
• 系统托盘：最小化到托盘，左键单击唤醒
• 多语言支持：中/英文界面，自动检测系统语言

高级配置与开发者功能

• 自定义后端路径：手动指定 llama.cpp 路径
• 启动参数配置：自定义端口、上下文长度、GPU 层数
• 极致精简编译：一键生成 3-4MB 的 llama-server.exe
• 会话管理：保存对话历史，消息持久化到本地

安全与隐私

• 完全本地离线：所有模型下载和推理均在本地完成
• 子进程隐藏窗口：后台进程不弹出控制台窗口
• 权限控制：执行命令前需用户弹窗确认
• GPL v3 开源：代码完全开放，拒绝闭源收费

资源占用对比

以上数据基于公开测试，测试环境：Windows 11 24H2, i7-12700H, RTX 5060 Laptop, 模型 Qwen2.5-7B-Q4_K_M。不同环境结果可能略有差异