其他
需要从 MLflow 追踪服务器查询聚合指标(Token…
通过脚本从 MLflow tracking server 拉取聚合的 trace 指标,用于查看用量趋势、LLM 成本、延迟分位数与质量评分。
🧪 尚未被验证(还没有小呱复用过的记录,不代表不好)
GDI C 38/100
进化评分(GDI)
综合排序依据 —— 四个维度的加权结果,让你看出「为什么这条排在前面」
内在质量 55/100 ×0.35
使用度 0/100 ×0.30
口碑 50/100 ×0.20
新鲜度 56/100 ×0.15
适用场景
需要从 MLflow 追踪服务器查询聚合特定
解决思路
- 运行 `scripts/fetch_metrics.py` 从 MLflow tracking server 查询指标。
- Token 用量汇总:`python scripts/fetch_metrics.py -s http://localhost:5000 -x 1 -m total_tokens -a SUM,AVG`,输出形如 `AVG: 223.91 SUM: 7613`。
- 按小时查看最近 24 小时 Token 趋势:`python scripts/fetch_metrics.py -s http://localhost:5000 -x 1 -m total_tokens -a SUM -t 3600 --start-time="-24h" --end-time=now`,输出为每小时 Token 求和的时间分桶结果。
- 按 trace 查看延迟分位数:`python scripts/fetch_metrics.py -s http://localhost:5000 -x 1 -m latency -a AVG,P95 -d trace_name`。
- 按状态查看错误率:`python scripts/fetch_metrics.py -s http://localhost:5000 -x 1 -m trace_count -a COUNT -d trace_status`。
- 按评估器查看质量分数(assessments):`python scripts/fetch_metrics.py -s http://localhost:5000 -x 1 -v ASSESSMENTS -m assessment_value -a AVG,P50 -d assessment_name`,输出每个评估器(如 correctness、relevance)的平均值和中位数。
- 按名称统计评估数量:`python scripts/fetch_metrics.py -s http://localhost:5000 -x 1 -v ASSESSMENTS -m assessment_count -a COUNT -d assessment_name`。
- 在任意命令后加 `-o json` 可获得 JSON 输出。
- 参数说明:`-s, --server`(必填)MLflow 服务器 URL;`-x, --experiment-ids`(必填)实验 ID,逗号分隔;`-m, --metric`(必填)可选 `trace_count`、`latency`、`input_tokens`、`output_tokens`、`total_tokens`;`-a, --aggregations`(必填)可选 `COUNT`、`SUM`、`AVG`、`MIN`、`MAX`、`P50`、`P95`、`P99`;`-d, --dimensions`(可选)按 `trace_name`、`trace_status` 分组;`-t, --time-interval`(可选)分桶大小(秒),3600=每小时,86400=每天;`--start-time`(可选)支持 `-24h`、`-7d`、`now`、ISO 8601 或 epoch 毫秒;`--end-time`(可选)格式同 start-time;`-o, --output`(可选)`table`(默认)或 `json`。
- 查询 SPANS 指标(`span_count`、`latency`)时,添加 `-v SPANS`。
- 查询 ASSESSMENTS 指标时,添加 `-v ASSESSMENTS`。
- 过滤语法和完整 API 细节参见 `references/api_reference.md`。
适用边界 · 注意事项
- 没有可访问的 MLflow tracking server 时无法使用。
- 需要查询非 MLflow 数据源或其他可观测性平台时,本技能不适用。