人工智能模型中的3种偏见以及如何处理
发布时间：2021-06-10 14:00:39 所属栏目：大数据 来源：互联网
导读：自动化决策工具在组织的应用中正变得越来越普遍。然而，其背后的一些机器学习(ML)模型(从面部识别系统到在线广告)都清楚地表明在种族和性别方面存在偏见。随着机器学习模型的广泛采用，需要专业知识来确保人工智能更加公平。 机器学习模型应该消除偏见，而不
|
在其他应用领域中，负面影响可能是最难缓解的偏见之一，因为偏见固有地内置于机器学习模型从中学习的数据集中。因此，该模型可以将多年来对某一人群的系统性偏见进行编码。例如，或者根据人们居住的地方拒绝向他们提供贷款，可能会使贷款批准数据集更侧重于白人。数据中的这种偏差会导致人工智能模型的偏见。
尽管现有的缓解偏见策略可能会尝试提高黑人申请者的信用接受率，但这可能会掩盖该模型偏见的真正原因，并使其难以解决根本问题。FICO分数通常用作信贷决策的输入，已经显示出种族歧视。在这种情况下，事后偏差缓解策略的有效性将低于寻找与信用价值也存在因果关系的替代数据源。因此，通过寻找替代数据可以减轻负面影响。
3.低估
正如数据可能存在偏差一样，也可能出现数据不足的情况。如果没有足够的数据，机器学习模型可能无法提供可靠的预测。这是被低估的问题。亚马逊公司最近训练了一种机器学习模型，以在招聘过程中筛选求职者，但与许多其他科技公司一样，亚马逊的劳动力队伍男性比例过高。这种数据失衡使得其人工智能模型在评估男性时更加侧重，亚马逊公司认识到这种模型的推荐人选存在偏差，因此在其招聘渠道中取消了这种模型。
如果寻找更多或更好的数据，亚马逊公司或许能够构建出一种无偏见的招聘工具，但是如果不能正确地理解出现这种偏见的原因，这是不可能实现的。而在低估的情况下，模型的预测确定性可以跨人群的子组进行分析，通过自动增加新实例，可以使基础数据集实现多样化。
 （编辑：惠州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
