安全设置

安全设置用于管理自主规划式智能体的危险指令防护、文件防护和技能扫描策略。通过配置工具调用前的安全检测、敏感文件和目录的拦截规则,以及技能安装或导入时的风险扫描策略,可在保持智能体自治能力的同时,降低危险操作、敏感路径访问和高风险技能引入带来的安全隐患。

功能入口

自主规划式智能体->设置->安全

会话中的工具审批策略

在会话输入区右侧的工具执行安全下拉框中动态调整工具审批权限。策略切换后对后续工具调用生效,并保存为当前用户偏好,便于在不同会话中复用。

  • 全部需审批:所有工具调用都需要人工审批,适合对执行过程进行最严格的管控。
  • 高风险需审批:低风险工具自动执行,仅对命中高风险判定的工具调用发起审批;系统默认使用此策略。
  • 全部自动执行:关闭工具审批,工具调用无需人工确认即可执行,适合可信环境下的自动化任务。

危险指令防护

危险指令防护用于扫描工具调用中的高风险命令或参数。智能体在执行命令、访问文件、调用浏览器或其他内置工具前,会根据已启用的检测规则识别危险行为;命中规则后,可根据工具执行安全策略进入人工审批,也可按规则配置直接拦截。待审批请求可在对话页面或消息管理的“审批”页签中处理。

  • 启用危险指令防护:开启后,对工具调用进行统一安全检测;关闭后,工具调用不再经过该项防护策略。
  • 受保护的工具:用于指定需要参与危险指令检测的工具。留空时,运行时使用内置默认受保护工具集合;保存后,管理端会按当前运行时策略统一应用到受保护工具范围。
  • 禁止的工具:用于选择始终禁止调用的工具。命中该列表的工具无需进入审批流程,会被直接拒绝,适用于不希望向智能体开放的高风险能力。
  • 内置规则:页面按风险类别展示当前运行时提供的检测规则,可查看规则 ID、严重程度和说明,并支持逐条启用或停用。
    • 风险类别:内置规则按命令注入、代码执行、权限提升、网络滥用、敏感文件访问、资源滥用、数据外泄、路径穿越、凭证泄露、提示注入等类别组织,便于按风险域进行核查。
    • 自动拒绝:开启某条规则的自动拒绝后,工具调用一旦命中该规则,将直接被拦截,不再进入人工审批。建议对格式化磁盘、系统重启、提权、反向 Shell、批量杀进程、敏感环境变量读取等高危规则开启自动拒绝。

文件防护

文件防护用于保护敏感文件和目录。开启后,智能体在工具调用过程中命中受保护路径时会被拦截,适合保护密钥目录、系统配置、重要工程文件或其他不允许智能体读写的路径。

  • 启用文件防护:开启后,命中受保护路径的文件操作会被拦截;关闭后,不再按受保护路径执行拦截。
  • 允许控制台预览工作区外文件:开启后,允许在控制台中预览工作区目录之外的文件;该开关仅影响控制台预览行为,敏感文件防护仍然生效。
  • 受保护路径:可添加需要保护的文件或目录路径。目录路径建议以“/”或“\”结尾,以便表达目录级保护。保存后,后端会返回实际生效路径,并自动兼容运行时默认的敏感目录保护策略。
  • 路径管理:已添加的路径会以列表形式展示,可查看路径类型并删除不再需要保护的路径。修改路径后需单击“保存”使配置生效。

技能扫描

技能扫描用于在技能安装、导入或启用前检查技能内容中的风险项,并按配置执行拦截、告警或放行。该能力适合在引入第三方技能、共享技能或自动沉淀技能时,先对技能脚本、提示词和配置内容进行安全核查。

  • 扫描模式:用于设置扫描结果的处理方式,支持“拦截”、“仅提醒”和“关闭”三种模式。
    • 拦截:扫描并阻止不安全的技能,技能无法继续安装、导入或启用。
    • 仅提醒:扫描并记录风险发现,但允许技能继续使用,适合在观察期内收集风险信息。
    • 关闭:停用技能扫描,所有技能不再经过该扫描策略。
  • 扫描超时(秒):用于限制单次扫描的最长等待时间,避免扫描任务长时间占用资源。
  • 扫描告警:集中展示技能扫描命中的风险记录,包括技能名称、处理结果、最高风险级别、命中规则、文件路径、行号和风险说明。可删除单条告警,也可清空全部告警。
  • 放行技能:在扫描告警中确认某个技能可信后,可单击“放行技能”将其加入白名单,并移除对应告警记录。
  • 白名单:用于管理确认可信的技能。加入白名单的技能可跳过扫描拦截,减少重复告警;白名单列表展示技能名称和添加时间,并支持删除。

使用建议

  • 建议默认开启危险指令防护,并优先保留严重级别和高风险级别的内置规则。
  • 对不希望开放给智能体的能力,应加入“禁止的工具”;对极高风险规则,应开启“自动拒绝”,减少误审批带来的风险。
  • 对于包含密钥、凭证、系统配置或重要业务数据的目录,建议配置为受保护路径,并定期检查路径是否仍然有效。
  • 引入第三方技能、共享技能或自动沉淀技能前,建议先通过技能扫描查看告警,再决定是否启用或加入白名单。
  • 多人协作或生产环境中,建议按智能体业务范围分别配置安全策略,避免不同智能体共用过宽的工具和文件访问权限。