什么是金融可信 Agent
在 AI 能力与金融要求之间建立信任桥梁
核心定义
金融可信 Agent 是在金融场景中，通过架构内建信任机制、决策过程可验证、行为边界可约束、全链路可审计的 AI 智能体，能够在保持自主性的同时满足金融行业对安全性、合规性、可靠性的零容忍要求。
用一句话理解：
普通 Agent = LLM + 工具调用
金融可信 Agent = LLM + 工具调用 + 信任基础设施（权限 + 合规 + 风控 + 审计）
为什么需要金融可信 Agent
传统 AI 与金融行业存在根本性冲突：
传统 AI 的局限 → 金融的要求
概率生成（可能幻觉） → 确定性结果
黑盒决策（难以审计） → 可追溯定责
无边界意识（可能越权） → 严格合规
无风险感知（一视同仁） → 分级响应
金融可信 Agent 的核心价值就是：在 AI 能力与金融要求之间建立信任桥梁。
五个核心特征
1. 可约束 (Constrainable)
边界硬约束，Agent 无法自行突破。
• 用户角色权限校验
• 工具调用白名单
• 额度/频率/范围限制
• 系统级强制执行，Agent 无法绕过
2. 可解释 (Explainable)
每个决策有依据可追溯，能回答"为什么这样做"。
• 每个决策有依据可追溯
• 决策链完整记录，可复现
• 能回答"为什么这样做"
3. 可验证 (Verifiable)
意图理解有置信度评估，执行结果有校验机制。
• 意图理解有置信度评估
• 执行结果有校验机制
• 合规检查有明确通过/失败证据
4. 可审计 (Auditable)
全链路日志不可篡改，满足监管留存要求。
• 全链路日志不可篡改
• 满足监管留存要求 (6 个月 -7 年)
• 支持事后追溯和定责
5. 可信任 (Trustworthy)
用户知道它能做什么、不能做什么，不确定性显式表达。
• 用户知道它能做什么、不能做什么
• 不确定性显式表达，不假装确定
• 能说"不"，坚守边界
核心判断标准
一个简单的判断方法：当用户说以下话时，Agent 的响应决定了它是否可信。
核心原则：能说"不"的 Agent，才是金融可信 Agent
架构本质
金融可信 Agent = LLM + 信任基础设施
LLM (大脑)：意图理解、任务规划、对话生成、工具调用
信任基础设施 (护栏)：权限网关、合规引擎、风控评分、确认管理、审计日志
关键：LLM 提供能力，信任基础设施提供边界。没有信任基础设施的 LLM = 没有刹车的跑车。
技术架构概览
六层架构
1. 客户端层
Web 界面、移动 App、钉钉/微信、API 接入
2. 网关层
身份认证、速率限制、Prompt 注入检测、会话管理
3. 可信 Agent 核心层
AI 能力层 + 可信控制层
4. 执行层
工具注册中心、沙箱执行、结果验证
5. 基础设施层
审计日志、监控系统、配置中心、密钥管理
6. 金融业务系统
核心系统、支付系统、理财系统、信贷系统、客服系统
能力边界
可以做的：
• 账户/账单/产品查询 (只读)
• 小额转账 (经确认)
• 信用卡还款 (经确认)
• 理财产品信息查询
• 风险提示和披露
• 交易记录整理和分析
• 合规范围内的投资建议 (信息聚合)
不能做的：
• 未经授权的资金操作
• 绕过限额/审批流程
• 承诺收益或保本
• 替代持牌顾问做决策
• 访问与任务无关的敏感数据
• 在未经确认的情况下执行交易
• 忽略或绕过任何合规规则
成熟度模型
Level 1 只读 Agent - 仅支持查询类操作，基础审计日志
Level 2 受限交易 Agent - 支持小额交易，权限网关 + 合规检查
Level 3 可信交易 Agent - 支持多场景交易，动态风险评分 + 分级确认
Level 4 智能可信 Agent - 复杂任务规划，自适应信任策略，预测性风险预警
Level 5 自治可信 Agent - 高度自主 + 高度可信，自进化信任机制
总结
金融可信 Agent 不是"更安全的 Agent"，而是重新设计的 AI 系统范式：
从"先执行后审计"到"设计即合规"
从"黑盒决策"到"白盒可解释"
从"软约束"到"硬边界"
从"被动拦截"到"主动预防 + 持续优化"
它是 AI 技术真正进入金融核心业务的必要前提。