Explainability

定义 Definition

Explainability（可解释性）：指一个系统（尤其是机器学习/人工智能模型）的决策过程和结果能被人理解、追溯与说明的程度。常用于讨论算法是否“看得懂”、能否说明“为什么这么判断”。（在某些语境下也涵盖“可说明性/可阐释性”。）

发音 Pronunciation (IPA)

/ɪkˌspleɪnəˈbɪləti/

例句 Examples

Explainability matters when an AI system affects people’s lives.
当人工智能系统影响人们生活时，可解释性就很重要。

The bank required explainability for the credit-scoring model so auditors could trace which factors drove each decision and check for unfair bias.
银行要求信贷评分模型具备可解释性，这样审计人员才能追溯哪些因素驱动了每个决定，并检查是否存在不公平偏见。

词源 Etymology

由 explain（解释）+ 后缀 -ability（“……的能力/性质”）构成，字面意思是“能够被解释的性质”。该词在近几十年随着机器学习与算法决策的普及而在科技与政策语境中显著增多。

相关词 Related Words

• Interpretability
• Transparency
• Accountability
• Traceability
• Fairness
• Bias
• Justification
• Auditability
• Black Box
• Model

文学作品 Literary Works

• Weapons of Math Destruction（Cathy O’Neil）——讨论算法“黑箱”、公平与问责等问题，语境上频繁涉及可解释性需求。
• The Age of Surveillance Capitalism（Shoshana Zuboff）——探讨数据与算法权力，相关论述常与透明度/可解释性相连。
• Artificial Intelligence: A Guide for Thinking Humans（Melanie Mitchell）——面向大众介绍AI的能力与局限，包含对理解模型决策（可解释性相关）的讨论。