热点:

    IBM厉害了 推出的云服务可以解决AI偏见

      [  中关村在线 原创  ]   作者:赵斯曼

          据外媒报道,IBM推出了一项新的云服务,可以扫描人工智能系统的工作情况,检测系统偏见。所谓的“系统偏见”指的是人工智能系统在运算过程中产生的误差,这些误差可能是由原始数据积累地不全面导致的,也可能是由计算设定中的bug导致的,或者是认为操作错误导致的。

           例如,亚马逊的开放式人脸识别系统Rekognition将28个美国国会议员认成了嫌疑犯。因为测试者使用的默认置信度阈值是80%,而亚马逊建议执法部门应用该程序时设置95%的置信度门槛;而且人工智能的训练数据本身就是严重偏向白人的,那么机器做出的判断可能会非常偏向白人。而整个国会中有20%的有色人种,机器认定的“嫌疑犯”中,有色人种占了39%。。

           IBM新推出的云服务致力于解决这一问题。它可以检测运行中的AI系统中存在的偏见,在不公平的结果产生时进行“捕获”,并且自动提出修改建议。除了消除系统误差,IBM还可以对判断做出解释,比如哪些因素影响了结果。

           IBM表示,“这一系统运行在IBM云上,与IBM的机器学习框架和AI模型兼容,服务运用了其Watson技术,以及Tensorflow、SparkML、AWS Sage Maker和AzureML等。

           根据调查显示,目前有60%的企业担心使用人工智能后续会带来责任问题,有63%的企业担心缺乏人才来管理人工智能技术。IBM识别和修复AI偏见工具的出现,可以鼓励更多企业有信心使用人工智能系统。

    本文属于原创文章,如若转载,请注明来源:IBM厉害了 推出的云服务可以解决AI偏见http://cloud.zol.com.cn/698/6987807.html

    cloud.zol.com.cn true http://cloud.zol.com.cn/698/6987807.html report 1216       据外媒报道,IBM推出了一项新的云服务,可以扫描人工智能系统的工作情况,检测系统偏见。所谓的“系统偏见”指的是人工智能系统在运算过程中产生的误差,这些误差可能是由原始数据积累地不全面导致的,也可能是由计算设定中的bug导致的,或者是认为...
    • 猜你喜欢
    • 最新
    • 相关
    推荐经销商
    投诉欺诈商家: 400-688-1999
    • 北京
    • 上海
    周关注排行榜
    • 产品
    • 品牌
    推荐问答
    提问
    0

    下载ZOL APP
    秒看最新热品