完整审计日志
每次AI调用记录Token/耗时/状态/工具调用。三层日志记录不同层级信息。
从用户输入到最终输出,每一步都完整记录,实现真正的全链路追踪。
1)AI审计日志:记录Agent调用信息,包括Agent名称、用户、时间、状态。
2)LLM调用日志:记录LLM调用信息,包括提供商、模型、Token消耗、响应时间。
3)工具调用日志:记录工具调用信息,包括工具名称、输入参数、输出结果、执行时间。
4)日志关联:三层通过调用链ID关联,从任意层可追踪到其他层。
Dmmsys透明治理系统为每次AI调用提供全链路审计追踪,从用户输入到LLM调用到工具执行。不仅记录技术信息,还记录业务信息,实现真正的透明治理。同时提供成本预算控制、数据脱敏、告警规则和基于价值的计费。
每次AI调用记录Token/耗时/状态/工具调用。三层日志记录不同层级信息。
从用户输入到最终输出,每一步都完整记录,实现真正的全链路追踪。
1)AI审计日志:记录Agent调用信息,包括Agent名称、用户、时间、状态。
2)LLM调用日志:记录LLM调用信息,包括提供商、模型、Token消耗、响应时间。
3)工具调用日志:记录工具调用信息,包括工具名称、输入参数、输出结果、执行时间。
4)日志关联:三层通过调用链ID关联,从任意层可追踪到其他层。
按Agent/项目/部门设置预算,超限告警,预算与告警分离。
精细化成本控制,不仅总成本,还支持多维度成本。
1)多维度预算:按Agent、项目、部门设置预算,实现多维度控制。
2)实时监控:实时成本消耗监控,与预算对比。
3)告警通知:超限时自动告警,支持邮件和消息通知。
4)预算告警分离:预算设置与告警规则分开管理,灵活配置。
AI调用前自动脱敏敏感数据,审计日志不泄露敏感信息。
数据脱敏管道在AI调用前自动识别并脱敏敏感数据。
1)自动识别:自动识别敏感数据,包括手机号、身份证号、银行卡号。
2)脱敏规则:可配置脱敏规则,支持部分、完全、替换模式。
3)审计安全:审计日志中敏感数据自动脱敏,不泄露。
4)合规性:满足GDPR、个人信息保护法要求。
Token超限/响应超时/异常时自动告警,规则可配置。
灵活告警机制,条件、级别、通知方式可配置。
1)Token超限告警:Token消耗超过阈值时自动告警。
2)响应超时告警:AI响应时间超过阈值时自动告警。
3)异常告警:AI执行异常时自动告警,包括LLM和工具错误。
4)可配置规则:告警条件、级别、通知方式均可配置。
可度量价值加系数加计算服务加审计日志,精确度量AI价值。
不是简单的基于Token的计费,而是基于AI交付的业务价值计费。
1)可度量价值:定义可度量的业务价值指标,如处理订单数、生成报告数。
2)系数:为不同价值指标设置系数,反映业务价值权重。
3)计算服务:基于可度量价值和系数计算AI交付的价值。
4)审计日志:计费过程完整审计日志,确保可追溯。
AI调用成本按项目分摊,量化各项目AI资源消耗。
精细化成本分摊,帮助管理者了解各项目AI投资回报率。
1)项目维度分摊:AI调用成本按项目分摊,量化消耗。
2)成本分析:按时间、项目、Agent维度的多维成本分析报告。
3)ROI分析:结合业务价值指标计算各项目AI投资回报率。