跳至内容

每次AI调用的全链路追踪

透明治理与基于价值的计费


Dmmsys透明治理系统为每次AI调用提供全链路审计追踪,从用户输入到LLM调用到工具执行。不仅记录技术信息,还记录业务信息,实现真正的透明治理。同时提供成本预算控制、数据脱敏、告警规则和基于价值的计费。

联系我们

透明治理

每次AI调用的全链路追踪
审计 · 成本 · 脱敏 · 告警 · 计费

完整审计日志


每次AI调用记录Token/耗时/状态/工具调用。三层日志记录不同层级信息。

从用户输入到最终输出,每一步都完整记录,实现真正的全链路追踪。

1)AI审计日志:记录Agent调用信息,包括Agent名称、用户、时间、状态。

2)LLM调用日志:记录LLM调用信息,包括提供商、模型、Token消耗、响应时间。

3)工具调用日志:记录工具调用信息,包括工具名称、输入参数、输出结果、执行时间。

4)日志关联:三层通过调用链ID关联,从任意层可追踪到其他层。



成本预算控制


按Agent/项目/部门设置预算,超限告警,预算与告警分离。

精细化成本控制,不仅总成本,还支持多维度成本。

1)多维度预算:按Agent、项目、部门设置预算,实现多维度控制。

2)实时监控:实时成本消耗监控,与预算对比。

3)告警通知:超限时自动告警,支持邮件和消息通知。

4)预算告警分离:预算设置与告警规则分开管理,灵活配置。



数据脱敏


AI调用前自动脱敏敏感数据,审计日志不泄露敏感信息。

数据脱敏管道在AI调用前自动识别并脱敏敏感数据。

1)自动识别:自动识别敏感数据,包括手机号、身份证号、银行卡号。

2)脱敏规则:可配置脱敏规则,支持部分、完全、替换模式。

3)审计安全:审计日志中敏感数据自动脱敏,不泄露。

4)合规性:满足GDPR、个人信息保护法要求。



告警规则


Token超限/响应超时/异常时自动告警,规则可配置。

灵活告警机制,条件、级别、通知方式可配置。

1)Token超限告警:Token消耗超过阈值时自动告警。

2)响应超时告警:AI响应时间超过阈值时自动告警。

3)异常告警:AI执行异常时自动告警,包括LLM和工具错误。

4)可配置规则:告警条件、级别、通知方式均可配置。



基于价值的计费


可度量价值加系数加计算服务加审计日志,精确度量AI价值。

不是简单的基于Token的计费,而是基于AI交付的业务价值计费。

1)可度量价值:定义可度量的业务价值指标,如处理订单数、生成报告数。

2)系数:为不同价值指标设置系数,反映业务价值权重。

3)计算服务:基于可度量价值和系数计算AI交付的价值。

4)审计日志:计费过程完整审计日志,确保可追溯。



项目成本分摊


AI调用成本按项目分摊,量化各项目AI资源消耗。

精细化成本分摊,帮助管理者了解各项目AI投资回报率。

1)项目维度分摊:AI调用成本按项目分摊,量化消耗。

2)成本分析:按时间、项目、Agent维度的多维成本分析报告。

3)ROI分析:结合业务价值指标计算各项目AI投资回报率。



Dmmsys AI平台

语义驱动的企业级AI操作系统


申请演示