硬件要求

SuperMap AgentX Server硬件配置要求如下:

最低配置(Qwen3-14B)

  • 内存:32G及以上
  • GPU显存:单张或多张显存总计48GB以上的GPU(如A100、H100、2张Nvidia 4090或同等性能显卡)
  • 处理器:酷睿 i7 及以上
  • 硬盘空间:SSD存储,推荐可用空间预留100GB以上

推荐配置(Qwen3-32B)

  • 内存:32G及以上
  • GPU显存:单张或多张显存总计80GB以上的GPU(如A100、H100、4张Nvidia 4090或同等性能显卡)
  • 处理器:酷睿 i7 及以上
  • 硬盘空间:SSD存储,推荐可用空间预留100GB以上
注意:

1. 如需使用自主规划式智能体,为保证更加流畅的对话与使用体验,建议使用推荐配置的规格进行部署。

2. 显卡方面,AgentX 支持英伟达显卡、AMD显卡、摩尔线程GPU,建议安装英伟达显卡。

性能指标(Qwen3-14B)

我们提供了基于Qwen3-14B模型的部分性能指标测试结果供您参考:

  • 单条简短问题:约每秒生成40个token的回复内容
  • 中等长度对话(约6000个token):约每秒生成100个token的回复内容
  • 长对话处理(约14000个token):约每秒生成130个token的回复内容
  • 复杂场景(30000个token):约每秒生成150个token的回复内容
  • 默认指令容量:系统预置了完整的指令集和工具集(约20000个token),无需担心上下文长度限制
  • 工具调用效率:内置工具全部开启的情况下,仍能保持每秒130-150个token的回复生成速度
注意:

一般而言,对于英语文本,1个token大约是3~4个字符;而对于中文文本,则大约是1.5~1.8个汉字。