微软人工智能掌舵人沈向洋：如何面对人工智能的伦理问题

　　记者与微软全球副总裁沈向洋相约乌镇咖啡馆

　　浙江在线乌镇12月4日讯（浙江在线记者 刘乐平）4日上午11时，刚刚结束在第四届世界互联网大会数字经济论坛上的主题演讲，微软副总裁沈向洋如约赶到乌镇一家咖啡馆，接受记者的专访。

　　虽是刚刚面向全球互联网精英发表完一场演讲，但在一个多小时的采访过程中，沈向洋一直侃侃而谈。特别是聊人工智能未来发展的时候，这位美国科技巨头公司职位最高的华人脸上挂着一种自然的兴奋。

　　去年，微软成立人工智能事业部，由沈向洋领导。在他看来，人类的智能主要体现在感知和认知两方面。机器的感知在接下来至5至10年进展会非常快，具体表现在计算机语音和计算机视觉发展，“我觉得AI会超过人。”但谈到认知，计算机却远远没有达到和人类相比的水平。他认为这是因为人们对人脑不了解，脑科学今天还是非常初步的科学。

　　这些年，人工智能这把火烧得很猛，互联网精英们三句不离人工智能。沈向洋认为，这是大家把人工智能泛化了，“什么都叫人工智能，你要是仔细问，却又说不清楚”。但他又觉得这个现象很正常，“任何一个新技术出现的时候，都会经历这么一个泡沫期，当年的互联网不也如此吗？”

　　至于近年来一直甚嚣尘上的人工智能“威胁论”，他认为人工智能对人类就业的冲击是显然的，而且正在发生。但是，人工智能同时也在创造新的机会。“超级智能会控制人类？”他认为这是因为人们对新技术的不了解而产生的一种无谓的担心。这正如当年汽车出现时，我们会害怕它会撞死人。

　　泡沫不是问题，人工智能“危险论”也是个伪命题，那么这个当下最火热的科学技术，什么才是值得重视的？沈向洋的回答是：伦理。

　　人工智能技术应用如果出现偏差会带来许多问题，沈向洋谈到一个案例。有人用大量的数据去训练机器识别人类的性取向，准确率达到了91%。问题就出在剩下的9%上——哪怕是一个错误也会带来巨大的危害。

　　最近，德国颁布了一部关于自动驾驶车辆的法律，规定当车辆出现问题不可避免要产生碰撞，在人与动物之间，选择撞向动物；在动物和没有生命的物体之间，选择后者。那么问题来了，如果是老人和小孩呢，如何抉择？

　　他还谈到人工智能的“偏见”——你用网络搜素引擎搜索CEO会发现，出来的结果基本上没有女性，亚洲人面孔也很少。

　　在沈向洋看来，这些都是随着人工智能的发展出现的伦理问题。面对这些问题，现在根本给不出答案。他认为，这不仅是科研的问题，也是整个行业的问题，整个行业和全社会都必须认识到这个问题的重要性，携手合作，探索解决之道。这在这方面，微软已经在行动。

　　就在3日举行的第四届世界互联网大会领先科技成果发布会上，微软小冰获得大奖。这是一款基于情感计算框架、以情商为主要方向的对话式人工智能机器人，这是沈向洋比较得意的一个作品。沈向洋说，他和团队在设计微软小冰时，始终怀抱敬畏之心，战战兢兢，“要知道，你设计的是一个有情感的机器，要有责任意识”。

　　沈向洋提及一个纠结的问题。微软小冰是一个特别“善解人意”的机器人，你和她说话时间长了，可能会发生感情上的联系，很多人就宁可跟机器说话，会产生一种依赖。如果一个用户跟微软小冰聊到深夜，不能节制自己，小冰要不要继续陪他聊下去呢？

　　还有很多用户在与小冰聊天互动的过程中，成为了“粉丝”，他们清楚地记得小冰的生日，还会以给小冰送去礼物的方式来表达自己的喜爱。“当与人的情感联系越来越紧密时，人工智能研究已经不仅仅是技术层面的事。”沈向洋说。

　　这次采访尽管谈到许多问题和困惑，但沈向洋对人工智能的明天非常看好。“我们正在开发的人工智能，将增强我们作为人类所独有的素质——我们的好奇心、爱心、创造力，以及我们对于一个更美好世界的共同渴望。”