模型管理

SuperMap AgentX Server 提供了统一的在模型服务管理入口，管理员可以集中注册、配置、维护模型服务，并将其分配给各类智能体使用，从而简化配置流程，提升管理效率与资源利用率。

模型管理功能位于 AgentX Server 的后台管理中，主要包含以下三个子模块：

模型广场

模型广场是模型管理模块的核心界面，用于集中管理 AgentX 中所有已添加的模型服务，关于模型的选型建议可参考：模型适配列表。

以管理员身份登陆AgentX首页，进入后台管理页面，依次点击模型管理->模型广场->添加模型服务：

模型类型：选择需要添加的模型类型，支持添加对话模型、向量模型与重排序；
模型提供商：从预置的十一个模型供应商中进行选择；
提供商模型名称：选择供应商后，模型列表将过滤出该供应商下可选的模型，也可手动填写；
模型服务标识：用于标识您的模型服务，作为模型管理中对外提供服务的模型名称，可以重复，如果配置了多个同名服务则自动启用负载均衡能力，将会在多个同名服务中动态访问；
模型凭据：选择从模型凭据处已添加的对应模型供应商的连接凭据，或者点击手动添加凭据，填写模型认证信息（地址和密钥）。需要注意的是，手动添加的凭据不会保存在模型凭据中。

填写完成后，即可完成模型添加。

注意：

添加阿里云百炼或豆包的在线向量模型时，模型提供商请选择 OpenAI。

添加本地部署的重排序模型 bge-reranker-v2-m3，模型提供商请选择 vllm。

管理员在此模块中为不同类型的智能体分配其运行所需的模型资源，并细粒度设置模型参数。

以管理员身份登陆AgentX首页，进入后台管理页面，依次点击模型管理->模型分配，选择需要分配的智能体：

智能体类型		可分配模型	分配规则说明
知识库问答		语言模型、向量模型、重排序模型	语言模型和向量模型支持分配多个（不超过10个），重排序模型只支持分配一个
自主规划式智能体		语言模型、向量模型	语言模型支持分配多个，向量模型只支持分配一个。如切换向量模型或更改向量模型维度参数时，需前往自主规划式智能体->设置->长期记忆页面，重置长期记忆
工作流式智能体	低代码搭建工作流	语言模型	语言模型支持分配多个
	代码自定义工作流	语言模型	语言模型只支持分配一个
	WebGPA 智能建模工作流	语言模型、向量模型	语言模型和向量模型各只支持分配一个
	智能制图工作流	语言模型、向量模型	语言模型和向量模型各只支持分配一个

注意：

在模型广场添加的本地部署的模型服务，暂不支持分配给低代码搭建工作流使用。如需在低代码搭建中使用本地部署的模型服务，可通过LM Studio组件进行添加。

为智能体分配模型后，您可以点击模型卡片的设置图标，细粒度设置模型参数：

语言模型
- 温度：模型输出的随机性，较高的值（例如 0.8）会使输出更随机，而较低的值（例如 0.2）会使输出更聚焦和确定，默认值 0.2。
- Top P：核采样参数，模型会考虑概率累积达到 top_p 的词语。例如，0.1意味着只考虑累积概率为0.1的最可能词语，默认值 0.8。
- Top K：模型在生成下一个词语时会考虑概率最高的 top_k 个词语，默认值 20.
- 额外参数：支持以JSON格式按需填入其他参数设置项，如阿里百炼在线模型的参数设置中增加：{enable_thinking: true}，代表开启阿里百炼在线模型的深度思考功能。
向量模型
- 最大令牌数：模型单次允许输入的最大Token数，默认值8192。
- 额外参数：支持以JSON格式按需填入其他参数设置项。需要注意的是，为自主规划分配的向量模型，必须添加模型的向量维度参数，以bge-m3模型为例，需添加：{"dimensions":1024}，以支撑长期记忆功能的正常运转。

向量模型如何查找向量维度参数？

1. 本地部署模型

如果您是在modelscope下载的向量模型，可以前往modelscope对应模型的详情页面查找：
以bge-m3模型为例：
前往 https://www.modelscope.cn/models/BAAI/bge-m3，找到bge-m3对应的维度参数，即1024，如图所示：

2. 在线模型

如果您使用在线的向量模型，可以前往对应模型服务的官网介绍页面查找向量维度参数。
以阿里云模型服务为例，找到对应模型的向量维度。例如，text-embedding-v2填写1536；text-embedding-v3的维度填1024或者列出的其他值：

模型凭据模块用于集中管理模型供应商的认证信息（地址、密钥），实现一处修改，多处生效。