AI伦理术语词典

AI 伦理关注技术使用中的公平、安全、透明、隐私和责任问题。它不是抽象口号，而是产品设计、数据处理和模型上线时必须考虑的约束。

公平与偏见

Fairness，公平性：不同群体在模型决策中不应受到不合理差别对待。

Bias，偏见：数据、模型或使用流程中的系统性倾向，可能导致歧视性结果。

Representation，代表性：训练数据是否覆盖不同人群、场景和语言。

隐私与数据

Privacy，隐私：保护个人信息不被滥用或泄露。

PII，个人可识别信息：姓名、身份证号、手机号、地址、人脸、声音等可识别个人的信息。

Consent，同意授权：收集和使用数据前获得明确许可。

Data Minimization，数据最小化：只收集完成任务所必需的数据。

透明和责任

Transparency，透明性：让用户知道 AI 是否参与、如何影响结果。

Explainability，可解释性：能说明模型为什么给出某个结果。

Accountability，问责：当 AI 造成错误或伤害时，明确谁负责处理。

安全与滥用

Misuse，滥用：用 AI 进行诈骗、伪造、骚扰、生成恶意代码等。

Deepfake，深度伪造：使用 AI 生成逼真的假人脸、假声音或假视频。

Human-in-the-loop，人在回路：关键决策中保留人工审核。

实战检查

上线 AI 功能前问五个问题：数据是否有授权，输出是否可能伤害某类人，用户是否知道 AI 参与，错误后谁负责，是否有人工申诉或关闭机制。

使用建议

教育、招聘、金融、医疗、司法等高影响场景要特别谨慎。即使模型技术上能做，也要评估是否应该做、如何做以及谁来监督。