随着机器学习模型越来越多地用于在医疗保健和刑事司法等高风险环境中帮助决策者，确保决策者(最终用户)正确理解并因此信任这些模型的功能是很重要的。

可解释性背景 模型解释方法 可解释性实践 可解释性展望

我们对数据科学家进行了背景调查(N=11)和调查(N=197)，以观察他们如何使用可解释性工具来发现在构建和评估ML模型时出现的常见问题。我们的结果表明，数据科学家过度信任和滥用解释工具。此外，很少有参与者能够准确地描述这些工具的可视化输出。我们为数据科学家的可解释工具心智模型强调定性主题。我们总结了对研究人员和工具设计者的启示，并将我们的发现置于社会科学文献的背景中。

诗歌在中国是一个极为重要且历史悠久的文学体裁。纵横千年的时间跨度、数量巨大的诗人群体、卷帙浩繁的诗歌文本都使得在传统的文本阅读方式下，中国诗歌的宏观把握变得极其不易。因此，随着计算机算力与计算模型的发展，越来越多的研究者将目光聚焦到了使用计算机对诗歌进行文本分析的研究领域，已有研究者对中国古诗进行了统计建模与宏观分析$^{[1]}$，但所用文本语料多为《全唐诗》《全宋词》等，以《诗经》为语料的文本分析研究，未之有也。因此需要有人在这个方面进行一些探索，本文便是一次尝试， 试图从另一个视角出发，更高效地处理《诗经》文本，并提供文本分析视角下对《诗经》的宏观刻画、描述与阐释。 本文从字频、词频、文本长度、文本方差、情感分析、提取主题词等各个维度，对《诗经》进行了以下文本分析: 首先从单字的角度，对诗经进行了字数、字频、各句长度方差等统计。 经过效果对比，选用北京大学的分词工具Pkuseg，对《诗经》进行分词处理。 在分词基础上统计词频且生成词云。 通过文本长度，文本方差来寻找风雅颂三部分之间的差异。 通过对《诗经》中篇目的情感分析，绘制出风雅颂各部分的情感变化曲线。 提取出文本中的主题词，并以此为基础构建出每篇作品的文本向量。 选定文本长度，文本方差，文本向量作为作品的三个特征，共同组成一个样本来表达一篇作品。 抽取样本，通过计算距离的方式对《诗经》中风雅颂三部分进行聚类，绘制出表达聚类效果的轮廓系数曲线。 以束皙的六首《补亡诗》与陶渊明的四首《时运》为例，计算二者作品与《诗经》的相似程度。

在A Unified Approach to Interpreting ModelPredictions论文中的第三个分析模型评估标准：SHAP分析Mnist数据集遮掩实验复现代码

机器学习模型和数据驱动系统正越来越多地用于帮助在金融服务、医疗保健、教育和人力资源等领域做出决策。机器学习应用程序提供了诸如提高准确性、提高生产率和节约成本等好处。这一趋势是多种因素共同作用的结果，最显著的是无处不在的连通性、使用云计算收集、聚合和处理大量细粒度数据的能力，以及对能够分析这些数据的日益复杂的机器学习模型的更好访问。

AI模型可解释性是当前非常火爆的领域，本资料是AAAI 2020 tutorial的PPT，内容非常丰富，值得学习

近年来,机器学习发展迅速,尤其是深度学习在图像、声音、自然语言处理等领域取得卓越成效．机器学习算法的表示能力大幅度提高,但是伴随着模型复杂度的增加,机器学习算法的可解释性越差,至今,机器学习的可解释性依旧是个难题．

论文阐述了解释性的重要性，并提出了一种新的解释性分类方法，该分类方法分为三个维度:参与类型(被动解释性与主动解释性)、可解释性的类型和可解释性焦点(从局部解释性到全局解释性)。这种分类法为相关文献中论文的分布提供了一个有意义的3D视图，因为其中的两个维度不是简单的分类，而是允许有序的子类别。最后，论文总结了现有的可解释性评价方法，并提出了新分类方法启发下可能的研究方向。

作为人工智能的一个领域，机器推理(MR)主要使用符号手段来形式化和模拟抽象推理。早期MR的研究已经开始对可解释的人工智能(XAI)进行调查，这可以说是当今人工智能界最关心的问题之一。