据外媒报道，IBM推出了一项新的云服务，可以扫描人工智能系统的工作情况，检测系统偏见。所谓的“系统偏见”指的是人工智能系统在运算过程中产生的误差，这些误差可能是由原始数据积累地不全面导致的，也可能是由计算设定中的bug导致的，或者是认为操作错误导致的。
例如，亚马逊的开放式人脸识别系统Rekognition将28个美国国会议员认成了嫌疑犯。因为测试者使用的默认置信度阈值是80%，而亚马逊建议执法部门应用该程序时设置95%的置信度门槛；而且人工智能的训练数据本身就是严重偏向白人的，那么机器做出的判断可能会非常偏向白人。而整个国会中有20%的有色人种，机器认定的“嫌疑犯”中，有色人种占了39%。。
IBM新推出的云服务致力于解决这一问题。它可以检测运行中的AI系统中存在的偏见，在不公平的结果产生时进行“捕获”，并且自动提出修改建议。除了消除系统误差，IBM还可以对判断做出解释，比如哪些因素影响了结果。
IBM表示，“这一系统运行在IBM云上，与IBM的机器学习框架和AI模型兼容，服务运用了其Watson技术，以及Tensorflow、SparkML、AWS Sage Maker和AzureML等。
根据调查显示，目前有60%的企业担心使用人工智能后续会带来责任问题，有63%的企业担心缺乏人才来管理人工智能技术。IBM识别和修复AI偏见工具的出现，可以鼓励更多企业有信心使用人工智能系统。
本文属于原创文章，如若转载，请注明来源：IBM厉害了 推出的云服务可以解决AI偏见//cloud.zol.com.cn/698/6987807.html
