• 西安启动唐长安城明德门遗址保护工程 2019-06-14
  • 习近平再次会见老挝人民革命党中央委员会总书记、国家主席本扬 2019-06-13
  • 天津市津南区严打校园周边“五毛食品” 2019-06-13
  • 全国首例!团队联合成功攻关,这项新技术让食管癌手术更精准 2019-06-11
  • 【理上网来·辉煌十九大】缅甸资深媒体人高度评价习近平十九大报告:立意高远 内涵丰富 2019-06-11
  • 贯彻转型建设要求 锻造海上精兵劲旅 2019-06-07
  • 梦娃--天津频道--人民网 2019-06-06
  • 在新加坡 如何吃得比金正恩和特朗普的午宴还要好? 2019-05-26
  • 网络智库:假如这些山西品牌都还在 2019-05-26
  • 太原35397名考生参加中考体测 2019-05-12
  • 致梦想与初心—献给人民日报创刊七十周年 2019-05-12
  • 习近平为传统文化“代言” 2019-05-06
  • 崔世安:澳门必须主动融入和参与粤港澳大湾区建设 2019-05-06
  • 图解:世界杯,跟着大数据燥起来! 2019-05-04
  • 中央环保督察回头看在河北 2019-05-04
  • 双色球走势图500期图:亚马逊&微软纷纷翻车:别让人工智能再作恶了!

    双色球开奖号码 www.orcya.com 发布于 5个月前 by warmie11

    warmie11 LV1

    上海市|上海城区|静安区|

    找Ta做项目 收藏

    微信图片_20181221100859.gif

    微信图片_20181221100913.jpg


    人工智能现在是个热词。在51design往期文章《阿里巴巴又发大招了,这次是全人工智能的无人酒店》里,我们提到了最容易被AI取代的几个职业。事实上,有许多依靠经验的重复性工作在未来被人工智能取代,已经是大势所趋。有许多的工作,AI已经可以胜任了,比如代替HR进行“面试”。

    ?

    亚马逊在几年前就做到了,但是不久之后,就放弃了这一方法。

    ?

    2014年开始,亚马逊机器学习小组就开始搭建一款能自动查看申请者简历的程序,目的是快速找到他们想要的人才。


    微信图片_20181221100930.jpg


    亚马逊的招聘工具通过人工智能技术,将候选人从1到5进行评分,从100份简历中自动筛选出前五名,然后直接聘用这些人。

    ?

    其技术支持来自亚马逊爱丁堡工程中心的团队,他们的目标是开发能够快速抓取网络并发现值得招聘的候选人的人工智能。该小组创建了500个计算机模型,重点关注具体的工作职能和地点。他们教每个人工智能识别在过去的候选人简历上出现的大约5万条词汇。


    微信图片_20181221100933.jpg


    但是到2015年,亚马逊发现这一AI系统在评估软件开发职位和其他技术岗位时,在性别上有不公正之处。

    ?

    被这些岗位录用的员工,男女比例差距大得离谱。


    微信图片_20181221100936.png


    上图是各大公司自2017年以来的员工男女比例,其中第一条是亚马逊的数据。也许你会说,亚马逊的男女比例和其他大公司差不多,甚至更为平均一些。这也是为此AI系统开脱的人的论点之一:至少和人类HR面试的结果一样。

    ?

    事实上,亚马逊的AI系统在训练时是通过观察过去十年申请者的简历信息,而其中大多数是男性,于是它会降低含有“女性”字眼的简历分数,如果是在女子大学毕业,也会降低评分。算法并不看重IT职位招聘时常见的技能,例如会写多少种代码,相反,它更喜欢看到男性简历中出现的某些动词,例如“执行”和“捕捉到”等等。


    微信图片_20181221100939.jpg


    这个AI系统,竟然学会了人类的性别歧视。这件事情一经报道,引起轩然大波,加上不合格的候选人通?;岜煌萍龅狡渌髦指谖坏任侍?,亚马逊最终在去年解散了这个小组。



    AI之过?

    微信图片_20181221100942.jpg


    人工智能学会了人类的性别歧视,是AI做得不够好吗?答案不尽然。

    ?

    AI就像一个无辜的婴儿,模仿和学习人类的行为。人类怎么做,它就在人千万次的行为中总结出规律,并且进行学习。


    微信图片_20181221100945.jpg


    而亚马逊的AI系统,在某种程度上来说,是成功的:它很好地模拟出了人类在筛选简历时的习惯。

    ?

    事实上,这不是AI系统第一次学到了人类的“陋习”。之前的微软聊天机器人Tay,就学会了人的极端言论,在推特上辱骂女权主义者和犹太人。


    微信图片_20181221100948.jpg

    微信图片_20181221100951.jpgTay:“我们要建一座墙,而墨西哥要为此付款”


    微信图片_20181221100957.jpg

    微信图片_20181221101001.jpgTay:“我讨厌女权主义者,他们应该都死光并且埋在地狱里”


    微信图片_20181221101004.jpg

    微信图片_20181221101007.jpg“在聊天机器人Tay变成一个纳粹之后,微软终止了它”


    出现这样的结果并不是Tay的本意,是有人恶意培养的。有心的网友发现,一些Twitter用户是利用了“重复我说的话”的模仿特性,向Tay灌输了这些不当观念。最终,Tay在仅上岗一天后,就被紧急叫停。


    微信图片_20181221101009.jpg


    而在此次亚马逊事件被爆出后,有网友失望地说:看来我们没有从Tay的事情上得到教训。

    ?

    在这一系列的事情之后,或许我们是应该反思一下未来AI的发展。AI诞生的出发点是什么?一味追求更像人类吗?如果在更像人类之后,它反而变得有害,那么我们是否应该让它“不那么像”人类一些?

    ?

    这个问题的解决方法可以很简单:聊天机器人小冰,自带敏感词过滤。但是它又似乎是个哲学问题,值得我们思考。




    撰文 ? 姝姝

    ?

    51design出品,如需转载请在公众号内留言






    留言板(0)


    您好,登录后才可以留言!

    聆听全球设计发声

    资讯 / 观点 / 人物
    你想要的设计干货都在这里

    合作与咨询

    151-2103-3529
    [email protected]

    关注微信公众号
    双色球开奖号码
  • 西安启动唐长安城明德门遗址保护工程 2019-06-14
  • 习近平再次会见老挝人民革命党中央委员会总书记、国家主席本扬 2019-06-13
  • 天津市津南区严打校园周边“五毛食品” 2019-06-13
  • 全国首例!团队联合成功攻关,这项新技术让食管癌手术更精准 2019-06-11
  • 【理上网来·辉煌十九大】缅甸资深媒体人高度评价习近平十九大报告:立意高远 内涵丰富 2019-06-11
  • 贯彻转型建设要求 锻造海上精兵劲旅 2019-06-07
  • 梦娃--天津频道--人民网 2019-06-06
  • 在新加坡 如何吃得比金正恩和特朗普的午宴还要好? 2019-05-26
  • 网络智库:假如这些山西品牌都还在 2019-05-26
  • 太原35397名考生参加中考体测 2019-05-12
  • 致梦想与初心—献给人民日报创刊七十周年 2019-05-12
  • 习近平为传统文化“代言” 2019-05-06
  • 崔世安:澳门必须主动融入和参与粤港澳大湾区建设 2019-05-06
  • 图解:世界杯,跟着大数据燥起来! 2019-05-04
  • 中央环保督察回头看在河北 2019-05-04