人工智能软件算法公正性测评框架与实现路径

摘要

在信贷审批、人员招聘等直接关乎个体合法权益的领域，人工智能算法的应用场景持续拓展，算法运行是
否公正也逐渐成为行业与公众共同关注的核心问题。若算法本身潜藏偏向性，很可能让特定群体在决策中受到系统
性的差别对待。站在软件测评的专业视角，本文搭建了一套由数据层、模型层、结果层共同组成的三级测评体系，
逐一明确了每个层级对应的测评内容、核心指标与具体操作方法。在此基础上，本文以成人收入公开基准数据集为
实验载体，选取三类常用分类模型开展对比测试，分析不同公正性度量指标在同类模型上的表现差异。实验结果证
实，这套三层联动的测评体系能够完整覆盖算法运行全流程中的主要公正性风险，可为人工智能软件的公正性测评
工作提供可落地执行的技术思路。