您的位置:首页 > 互联网

AI透明度引发关注 科技巨头推工具解释算法决策过程

发布时间:2018-09-27 09:28:49  来源:互联网     背景:

  北京时间9月27日消息,人工智能技术的透明度和道德伦理问题正引发越来越多的关注,这促使云计算服务提供商推出新工具,解释人工智能算法背后的决策过程。

  会计和金融等强监管行业的高管表示,数据科学家和非技术业务经理都必须能理解算法决策背后的流程。这至关重要。这样的理解在防范潜在道德违规和监管违规方面可能会带来深远影响,尤其考虑到企业级人工智能算法正变得越来越普遍。

  毕马威创新和企业解决方案部门负责智能自动化、认知和人工智能的高管维诺德·斯瓦米纳桑(Vinodh Swaminathan)表示:“我认为,除非具备这种解释能力,否则人工智能在企业中的规模不可能超过数百个试点应用。”

  对人工智能的解释问题已经促使IBM和谷歌等公司在云计算人工智能服务产品中引入透明度和道德伦理工具。

  IBM商业价值研究所近期的一项研究调查了5000名企业高管。约60%的受访者表示,他们关心如何解释人工智能使用数据作出决策,以达到监管和合规标准。这个比例较2016年时的29%大幅上升。

  甚至对数据科学家和相关企业高管来说,人工智能的决策过程有时都是“黑盒”。在深度学习工具,例如用于模式识别的神经网络中尤其如此。这样的神经网络试图模拟人脑的运转方式。

  尽管这些系统可以以前所未有的准确率和速度得出结论,但外界并不总是非常清楚,计算网络是如何做出具体的决策。

  毕马威内部的数据科学家正在开发自主的可解释性工具,此外该公司也在利用IBM新的透明度工具。斯瓦米纳桑表示,这样做的目的是确保技术和业务两方面的员工都能“打开黑盒”,准确地了解人工智能算法是如何做出结论的。

  IBM上周发布了新的云计算人工智能工具,可以向用户展示哪些主要因素影响了人工智能做出的建议。这些工具还可以实时分析人工智能决策,以识别固有偏见,并推荐数据和方法来解决这些偏见。IBM负责认知解决方案的高级副总裁大卫·肯尼(David Kenny)表示,这些工具可以与IBM人工智能服务,以及谷歌等其他云计算服务提供商的工具配合使用。

  谷歌研究科学家和软件工程师发布的博文则显示,谷歌去年开始为开源的机器学习代码发布新工具,“作为更广泛研究的一部分,满足对可解释性的政策目标”。谷歌本月早些时候发布的另一款人工智能工具允许非程序员检查和调试机器学习系统,以评估算法的公平性。

  微软正通过Azure来提供人工智能服务。该公司发言人表示,人工智能系统的设计需要有公平、透明和安全的保护,从而确保信任。微软正在这方面做出持续的努力。亚马逊没有对此问题做出回应。

  来自强监管金融行业的Capital One Financial Corp和美国银行正在研究,如何解释人工智能算法得出答案的背后原理。两家公司都表示,目标是利用人工智能来优化对欺诈的监测,但首先它们需要了解这些算法是如何工作的。






  声明:本文仅为传递更多网络信息,不代表本站观点和意见,仅供参考了解,更不能作为投资使用依据。


返回网站首页

本文评论
谷歌搜索宣布全面改版搜索框下增加个性化信息流
谷歌 据AndroidPolice北京时间9月25日报道,20年来,谷歌的极简主义搜索主页一直是其最具......
日期:09-25
谷歌搜索学习Facebook信息流 猜测用户的兴趣点
北京时间9月25日消息,20年来,在一个空白搜索框中输入文本,几乎是所有人跟谷歌之间的互动方式。但......
日期:09-25
刚刚 腾讯宣布大变革!互联网开启下一个时代!
今天,腾讯在20岁生日之际,宣布组织架构调整方案:既保持深耕垂直领域的优势和特点,保留原有的企业发......
日期:09-30
一加终于开始打造周边生态 智能电视将作为家庭场景第一入口!
提到国产智能手机中的小众品牌,一加科技应该会成为多数人第一印象的小众手机品牌,一方面公司成立......
日期:09-29
谷歌:将AI、机器学习等融入到Wear OS操作系统
近日,为期两天的Google开发者大会(Google Developer Days)在上海世博中心举办。今年Google开发者大......
日期:09-27
腾讯宣布架构变革,开启下一个产业互联网时代
今天,腾讯在20岁生日之际,宣布组织架构调整方案:既保持深耕垂直领域的优势和特点,保留原有的企......
日期:09-30
百度云打破工业生产模式瓶颈 打通智能工业技术全链路
近日,工业和信息化部印发《推动企业上云实施指南(2018-2020年)》,其中提到,到2020年,全国新增上......
日期:09-29
超融合GPU云加速测绘信息化升级 ZETTAKIT泽塔云成行业领军者
信息全球化的今天,几乎所有的行业从来没有像现在这样,如此深度依赖基础地理信息,它无时无刻不在......
日期:09-29
趣头条收割流量红利 发力方向在下沉市场
日前,趣头条上市首日盘中涨逾191.29%,还因暴涨盘中五次暂停交易,最终收涨128.14%,表现十分抢眼......
日期:09-23
AI赋能营销,“狼”这回真的来了
9月19日到21日,由百度主办的AI营销创想季在上海举办“创想营”。来自群邑、电通安吉斯、......
日期:09-22
零售业步入新纪元 数据智能如何让其露出“价值冰山”
过去两年,零售这个古老而传统的行业被推到了技术革新的风口浪尖。这场变革为何来得如此突然?背后的......
日期:09-30
AI赋能营销,“狼”这回真的来了
9月19日到21日,由百度主办的AI营销创想季在上海举办“创想营”。来自群邑、电通安吉斯、......
日期:09-22
中国教育40年 百度教育大脑首家AI教育实验室落户合肥
2018是中国改革开放的40年,也是中国教育不断发展的40年,中国把教育作为实现站起来、富起来、强起......
日期:09-24
永无止境的贝佐斯:亚马逊的发展关键词便是不拒绝
亚马逊创始人杰夫·贝佐斯已成为当今世界公认的商界奇才。其最令人瞩目的成就便是将亚马逊从......
日期:09-29
【OA技术派】华天动力OA 基于工作流的智慧OA平台
中国特色的市场环境造就了中国企业独特的管理模式,所谓管理,无非是计划、组织、执行、控制企业内......
日期:09-29
一搜即达:微信小程序“功能直达”开放
昨天,微信“功能直达”正式开放,用户微信搜一搜功能词,搜索页面将呈现相关服务的小程......
日期:09-29
Facebook发现安全漏洞:黑客可控制5000万用户账号
北京时间9月29日早间消息,Facebook周五宣布,该公司发现了一个安全漏洞,黑客可利用这个漏洞来获取......
日期:09-29
谷歌也是“付费玩家”:支付90亿保留谷歌搜索在Safari的默认选项
9月29日消息 虽然两家公司都没有公开谈论过这个事,但实际上,多年来谷歌一直在向苹果支付大量资金......
日期:09-29
共青团中央宣传部联合美拍发起“带着国旗去旅行”短视频征集活动
为迎接祖国69岁生日,9月26日,共青团中央宣传部联合美图秀秀、美拍发起了#带着国旗去旅行#话题活动......
日期:09-30
抖音VS快手:从产品理念来看短视频的功能设计
一、调研背景和目的 1.调研背景 短视频是指以新媒体为传播渠道,时长5分钟以内的......
日期:09-30