模型评估指标速查
入门·10 分钟·围绕「模型评估指标速查」整理初学者需要掌握的术语、缩写、概念关系、速查表和记忆方法,适合学习、复习与开发时检索。
模型评估指标速查
评估指标决定你如何判断模型好坏。不同任务需要不同指标,选错指标会让模型看起来很好,但实际无法使用。
分类任务
Accuracy,准确率:预测正确的比例。类别均衡时直观,类别不平衡时可能误导。
Precision,精确率:预测为正的样本中有多少是真的正。
Recall,召回率:真实为正的样本中有多少被找出来。
F1 Score:精确率和召回率的综合。
AUC:衡量模型区分正负样本的排序能力。
回归任务
MAE:平均绝对误差,容易理解,对异常值不如 MSE 敏感。
MSE:均方误差,对大误差惩罚更重。
RMSE:MSE 开平方,单位和原目标一致。
R²:解释方差比例,反映模型相对基线的解释能力。
生成任务
BLEU:机器翻译常用,关注 n-gram 重合。
ROUGE:摘要常用,关注和参考答案的重合。
Human Evaluation,人工评估:对有用性、事实性、流畅度、安全性打分。生成式任务往往离不开人工评估。
检索和推荐
Recall@K:前 K 个结果中找回相关内容的比例。
Precision@K:前 K 个结果中有多少相关。
MRR:第一个正确结果排名越靠前分数越高。
易混淆点
高准确率可能只是因为负样本很多。高 BLEU 不代表译文自然。离线指标高,不一定线上用户满意。指标必须和业务目标对应。
使用建议
先确定错误代价。如果漏掉风险样本代价高,就重视召回率;如果误报代价高,就重视精确率。生成式 AI 应同时评估事实性、格式遵循、安全性和用户满意度。