当下人工智能已经渗透到各行各业，在很多高风险领域，需要可靠可信赖的模型，即所谓可信赖机器学习。本书来自Kush R. Varshney撰写的《可信赖机器学习》讲述可信赖机器学习系统性知识，非常值得关注。

正如预期的那样，GridSearch 模型沿着增大的均衡准确率（但也存在更大的差异问题）如下。这使数据科学家可以灵活地选择一个最适合应用环境的模型，取得均衡准确率与差异中的一个可以接受的平衡点。 同样我们在AUC与差异之间也可以选择一个可以接受的平衡点。 在Fairlearn提供的Dashboard中可以看到每个模型的accuracy/Precision等细节，能帮助我们选择适合的模型。 从某一方面（隐私、公平、对抗攻击、可解释等）入手，自行实现一个简单的可信机器学习算法（如基于SVM、决策树、神经网路、概率图模型等），课堂展示并简要介绍算法原理. ## 二、Job Background ​ 人工智能（AI）为改变我们分配信贷和处理风险的方式提供了一个机会，并创造了更公平、更包容的系统。人工智能可以避免传统的信用报告和评分系统，这有助于抛弃现有的偏见，使它成为一个难得的，改变现状的机会。然而，人工智能很容易朝另一个方向发展，加剧现有的偏见，创造出一个循环，加强有偏见的信贷分配，同时使贷款歧视更难找到。我们将通过开源模型Fairlearn来释放积极的一面，缓解偏见消极的一面。 ## 三、The experiment content - **涉及领域：** - 金融贷款方面的决策分析。我们分析的数据是原始数据经过人工简单处理过的，是为了展现准确性方面的悬殊差异。 - **机器学习任务：** - 二元性分类 - **机器学习公平任务：** - 使用Fairlearn metrics和Fairlearn dashboard来评估模型的公平。 - 使用Fairlearn中的改进算法来改进模型的公平水平。 - **性能指标：** - ROC曲线下的面积。 - 平衡过后的准确率。 - **公平指标：** - Equalized-odds difference. - **改进的算法:** - `fairlearn.reductions.GridSearch` - `fairlearn.postprocessing.ThresholdOptimizer` 数据集 https://archive.ics.uci.edu/ml/datasets/default+of+credit+card+clients 相关信息“ https://blog.csdn.net/Mrrunsen/article/details/122143494

人工智能在与人类生活息息相关的场景中自主决策时，正逐渐面临法律或伦理的问题或风险.可信机器学习是建立安全人工智能系统的核心技术，是人工智能领域的热门研究方向，而公平性是可信机器学习的重要考量.