硬件要求
SuperMap AgentX Server硬件配置要求如下:
最低配置(Qwen3-14B)
- 内存:32G及以上
- GPU显存:单张或多张显存总计48GB以上的GPU(如A100、H100、2张Nvidia 4090或同等性能显卡)
- 处理器:酷睿 i7 及以上
- 硬盘空间:SSD存储,推荐可用空间预留100GB以上
推荐配置(Qwen3-32B)
- 内存:32G及以上
- GPU显存:单张或多张显存总计80GB以上的GPU(如A100、H100、4张Nvidia 4090或同等性能显卡)
- 处理器:酷睿 i7 及以上
- 硬盘空间:SSD存储,推荐可用空间预留100GB以上
1. 如需使用自主规划式智能体,为保证更加流畅的对话与使用体验,建议使用推荐配置的规格进行部署。
2. 显卡方面,AgentX 支持英伟达显卡、AMD显卡、摩尔线程GPU,建议安装英伟达显卡。
性能指标(Qwen3-14B)
我们提供了基于Qwen3-14B模型的部分性能指标测试结果供您参考:
- 单条简短问题:约每秒生成40个token的回复内容
- 中等长度对话(约6000个token):约每秒生成100个token的回复内容
- 长对话处理(约14000个token):约每秒生成130个token的回复内容
- 复杂场景(30000个token):约每秒生成150个token的回复内容
- 默认指令容量:系统预置了完整的指令集和工具集(约20000个token),无需担心上下文长度限制
- 工具调用效率:内置工具全部开启的情况下,仍能保持每秒130-150个token的回复生成速度
一般而言,对于英语文本,1个token大约是3~4个字符;而对于中文文本,则大约是1.5~1.8个汉字。