当人工智能诊断癌症专家说不靠谱

人工智能诊断癌症？专家说不靠谱

作者：

王晓涛来源：中国经济导报字数：2206

中国经济导报|王晓涛

去年10月，当“索菲亚”获得沙特阿拉伯的公民资格后，这个美女机器人一时风光无二。不过，中国科学院院士、清华大学人工智能研究院院长张钹教授却不以为然。在日前举行的2018世界机器人大会·青年创新创业专题论坛上，他透露说：“索菲亚在电视上侃侃而谈，表现非常好，主要原因就是它回答的问题都是预先提出的问题，所以说这里头有一点猫腻。”

加拿大工程院院士、加拿大约克大学张丹教授也认为，人工智能现在发展非常快，但人们要冷静地思考一下，其实夸大的东西有很多。“邵氏硬度计测量原理像索菲亚等机器人都是假的，其实现在人类跟机器人之间的对话是不可能的。”他说。

“美国人指责研究索菲亚的汉森是个骗子，不过它本质上就是一个娱乐产品”，张钹以此为例道，“我想告诉大家，免得大家做产业的时候定太高的指标，太高的指标你实际上是做不了的，像索菲亚那样只能是骗人。”

机器人的发展离不开人工智能，人们常说，人工智能的发展依赖于三大因素：即算法、数据、算力。但张钹院士认为，其实最关键的不是这三个，而是“应用场景”。他说：“实际上所有的企业多多少少都拥有算法、数据和算力，但为什么有的企业成功，有的企业不成功，最重要的原因就是应用场景没有选好，这是一个最大的问题。”

众所周知，在人工智能医疗健康领域，很多公司在进行癌症诊断的研究，一些研究结果宣称人工智能的识别率接近甚至超过了人类。有这么好的技术，去办一个企业，或者把它应用到医疗里，是不是就能成功？是不是就能用了呢？结果令人失望，张钹表示，即便ibm公司所引以为豪的watson，在实践中也给出了“多个不安全、不正确治疗意见”，甚至“给有出血症的癌症病人开了容易导致出血的药品，严重时可致患者死亡。”

北京航空航天大学机器人研究所名誉所长王田苗教授在另一个场合说：“watson花了几百亿，在医疗方面目前陷入了低谷，在判断癌症和手术方案时，医生很难理解它的判断和方案，询问的时候它又回答不上来，于是很多合作医院退出了。”

事实上，对于人工智能系统的不可解释性，watson无疑是一个最好的例证。张钹表示，人工智能在医疗健康中应用需要解决的问题，除了个人数据的隐私与保护，以及规章与制度改革外，首当其冲的就是人工智能系统的可解释性与鲁棒性。“实际上存在着这样的问题，如果智能图像识别告诉医生说这个病人有癌症，那医生相信不相信它？如果它诊断错了，谁的？所以企业声称自己的识别率超过了人，但是给医生用的时候，医生还是不放心。”张钹院士认为，这其实是深度学习的一个最重大的问题，就是不可解释性。“而且它的鲁棒性非常差，很容易被欺骗，你可以设计一个噪声给它，它可以识别成为任何一个东西。换句话说，它基本上不知道什么是癌症，它不是根据医生抽取的特征来识别癌症，而是从大量数据中间随便找，找到那些有区别的地方”，张钹强调，“机器做出来的诊断，跟医生做出来的诊断有着根本性的不同，正因为这种不同，所以医生不敢用它，尽管你的识别率可能比人还要高。”

温度在23摄氏度左右现在人们对深度学习推崇备至，但张钹院士说：“用深度学习进行的结果，看起来它的识别率比人高，但是它用的原理跟人是不一样的。所以用这样的机器来协助人，让它做决策、看病和做其他决策，人是不放心的。”因此，他认为人工智能的成功除了数据、算法、算力三大要素，离不开一个更重要的因素就是知识。“在天津刚刚结束的一个知识图谱的会议上，参加的800多人中，1/3来自企业，那些企业都是做的很成功的，他们靠的不是数据，而是知识，现在很多企业比学校和研究单位更早地认识到知识的重要性。”张钹院士认为，用深度学习的方法做医学图像识别，必须要加进医生看图片的知识和经验，否则，仅靠数据得出来的结果跟医生无法实现交互，医生也无法相信，自然也不会使用。

张丹表示，深度学习是不可能代替所有的技术的，“深度学习确实在人脸识别和语言合成等方面做了很大贡献，但是它的深度学习其实是基于大量数据规律总结出来的，跟人学习的过程完全不一样。所以深度学习是不可能完全代替人的”。

那么，在什么样的应用场景下，人工智能更容易成功呢？张钹院士归结为五点：一是要掌握丰富的数据或知识；二是完全信息；三是确定性信息；四是静态与结构化的环境；五是有限的领域或单一的任务。

基于此，张钹认为那些容易被机器取代的工作岗位，主要做的是规范性的日常事务，如收银员、零售服务员、办公文员、饭店服务员、记账员、会计、审计等，就是照章办事。不容易被机器取代的工作岗位，则是不照章办事的，如动态变化环境、不完全信息、不确定性、多领域多任务等。

同样，考虑到动态与不确定环境，张钹院士认为，在类似北京的大街上，无人驾驶短期内是根本不可能实现的。“深度学习的方法是靠样本来学习，不可能把所有的情况都学到，因为你不能估计到行人会怎么做，他会怎么过马路。因此靠它来应对突发的事件，深度学习是不可能做到的，产业界必须要考虑到这个问题的难度。”他说。

对于人工智能的产业化，张钹院士表示，人工智能刚刚起步，大量研究任务需要去做，需要建立良好的“政产学研”合作机制2、波纹管环刚度实验机的保护保养。同时必须要和实体经济结合才能创造价值，因为人工智能是一个应用型学科，理论做的非常好不行，必须要解决实际问题，特别是要与地方的实际相结合，选择合适的应用场景发展。