不止于第一个模型
构建模型只是开始。 持续运行才是关键。
数据在变化,准确率会下滑,使用量会增长。MLOps 与 AIOps 让每个模型和 AI 服务在上线后长期保持准确、可问责且受控——全自动,无需代码。
MLOps
AutoML 模型生命周期:训练、验证、部署、预测、版本管理、监控
AIOps
GenAI 服务与智能体运维:监控、用量、管控与告警
可观测性
掌握准确率、漂移、故障与响应时间
治理
访问控制、审批与完整审计追踪
模型生命周期
六个阶段。 全面自动化。
每个阶段都自动运行,并在您需要的地方设置审批。
01
自动训练
训练、评估并审批新模型。
02
训练与验证
跟踪实验并测试模型质量。
03
部署与服务
发布已审批的模型,支持回滚。
04
自动预测
在新数据上运行已审批的模型。
05
模型版本管理
跟踪版本、比较结果并回滚。
06
监控与改进
检测漂移并触发经过验证的重新训练。
监控结果反馈到训练环节,让模型随数据变化持续改进。
贯穿每个阶段的管控
可观测性与 数据漂移
平台上的每个模型、GenAI 服务和智能体都适用同样的管控。
每次调用,均有记录
记录每次模型调用,跟踪逐请求用量、调用次数和整体模型利用率。
访问控制与审计追踪
谁训练、审批、部署和调用了每个模型
数据漂移检测
将输入数据与训练数据进行比较
准确率跟踪
跟踪模型准确率与预测变化
执行监控
监控执行情况、故障与响应时间
告警与重新训练
出现漂移时告警并触发重新训练
AIOps
以同样的规范 运维 GenAI 与智能体
GenAI 服务和 AI 智能体同样需要运维。AIOps 为每个基于提示词的服务和智能体工作流带来监控、用量跟踪与治理。
服务监控
跟踪每个 GenAI 服务和智能体的响应时间、故障与可用性。
用量与利用率
查看按服务、按用户、按应用划分的调用量以及容量使用情况。
智能体运行历史
逐步回顾每次智能体运行:做了什么决策、调用了哪些工具以及结果如何。
审批与人在回路
在新版本上线前或智能体执行敏感操作前,要求进行审批。
审计与合规
完整记录请求与响应,供监管机构和内部审查使用。
业务价值
更快发布。结果可复现。 更低的运营风险。
更快发布
自动化的训练、验证和部署,让模型从数据走向生产,无需人工交接。
结果可复现
每个版本、实验和数据集均被跟踪,任何结果都可解释、可重复。
更低的运营风险
漂移告警、回滚和审计追踪可及早发现问题,确保 AI 可问责。