人工智能多可怕？方舟子：要求科学家有伦理要求

　　人机大战，李世石三战皆墨，人工智能全面胜出，围棋小天地，环宇大世界，科幻电影里的危机似乎就要走进现实，无数人忧心忡忡，以至于当李世石终于扳回一局时，世界沸腾，“李世石终于赢了”“人类取得宝贵一胜”……

　　科技进步不止一次地带来了伦理的难题，科技究竟会带给人类什么？是进步，是毁灭？这是一个永远都争论不清的问题。

　　方舟子（科普作家）

　　科学研究要有

　　道德要求

　　科学技术是中性的，可以用以造福人类，也可以用以祸害人类。随着技术的发展，技术的威力越大，它能带来的效果越来越大，可能的恶果也会越来越严重，产生的影响会是全球性的和全人类的。实际上人类早就拥有了毁灭自己的能力。一旦发生核战争，现在的核武器储备足以把人类毁灭很多次了。全球气候变暖、环境问题同样让人类的生存面临困境，这也与技术的发展有关。

　　至于人工智能，在可预见的未来还没有达到足以让我们担忧的地步。阿尔法棋只是一个下棋程序，虽然能战胜世界冠军，但也只是个下棋程序，不给它编程它别的什么都不会做，更不会真正的思考，比如它对李世石的第四盘第97手下出了任何人类棋手都不可能下的自杀式臭棋，表明它其实没有智能、不会真正下棋。它能战胜世界冠军令人惊讶，但是为此夸大人工智能的成就，为此忧心忡忡担心未来有一天人工智能会失控、人类会被人工智能控制甚至被灭绝，则大可不必，是科幻电影、科幻小说看多了。

　　有人问，你能理解智商2千的人工智能吗？未来真有那样的人工智能，也不过意味着其思维更严密、更敏捷、判断力更强、解决某些问题更快而已，有什么恐怖的？对未来人工智能胡思乱想的人，有的是工程师思维，以为世界上的东西都能够量化、数字越大越好而且增长没有止境。但世界不是这样的直线。

　　当然，和所有的技术一样，人工智能是福是祸，取决于人们怎么用它。如果将来人工智能毁灭了人类，那也不是它自己的选择，而是被人类滥用，比如被用来作为武器。

　　既然科技是中性的，就要求科学家、工程师在从事研究的时候要有伦理、道德要求。不过我们也不要把科学家、工程师设想得太可怕。如果未来真的出现威胁人类生存的全球危机的话，那也不太可能是某个疯狂科学家所为，而是某个疯狂政客或军事狂人滥用权力的结果。

　　李河（哲学家）

　　计算机能替代人类吗？

　　许多年前深蓝战胜卡斯帕罗夫时，就已经讨论过很多，现在看来，并没有超出当时的范畴。

　　计算机在计算领域超过人类，是迟早的事情，有的人目光短浅，还在讨论能不能超过，事实上，或许就是几年十几年的事情。套用一句著名的话，人类一计算，上帝就发笑，演算是机器的长处，人类的演算，是基于直觉的大致演算，有的人可以通过大量的训练增强演算能力，但基于直觉这一点没变，波兰尼的《个体知识》中说的默会知识，就是此类。计算机的长处是精确计算，只要输出相关的可能性，它就能穷尽它。现在的问题是，当计算机学会了学习之后，它不仅可以穷尽已经输入的可能性，还会通过长时间的学习去探索没有输入的新的可能性，那个时候，计算机在计算上就会全面超越人类。

　　计算机是人类的造物，当人的创造物坐在人面前时，本身就是一个巨大的象征，后面的命运改变，只是时间问题。人类创造工具，它的核心伦理之一，就是代理与替代。最初机器只是延伸人的感官职能，望远镜可以延伸视觉，汽车可以加快行动速度等等。后来开始代理人的职能，机器人管家、机器人司机等，将来都可能出现。而代理这个大门一旦推开，无限的可能就会出现。黑格尔提出主奴关系理论——因为奴隶直接参与工作，那么长时间之后，奴隶就可能变成自主的人。这一理论影响了很多现代的思想家，也是当前人们对机器担忧的一个重要方面。

　　计算机代替人类的障碍是否可以跨过？人是情感生物，人的行为受到道德化的评判。这一方面计算机代替不了，但相关的研究其实已经在进行，只是难度还很大。计算机目前还是人类的造物，无论是物理上的机器本身，还是计算的逻辑、程序，都是人在生产，计算机不能自我生产。什么时候计算机能够自我生产，自己制造机器，设定运算程序，甚至制定道德伦理，那么它就会变成另外一个智慧物种，不再仅仅是人类造物。这一天会到来吗？是早还是晚？人类最重要的特征，是可以把握自己的行为，这种能力的自足性，一旦被计算机获得，美国大片中的景象就不难想象。

　　所以，对于技术的发展，最重要的一点是，要明白，人类推动技术进步的目的是什么？是人类自身的幸福。如果没有评估、检验、预测，放任其发展，在增长局部幸福的同时，就可能对人类整体造成更大的威胁。这才是真正需要思考的问题，我们究竟以什么样的态度去对待技术的发展。

　　王渝生（中国科技馆馆长）

　　人工智能我们

　　走了多远？

　　人机大战，20年前有过深蓝对战卡斯帕罗夫；10年前，中国也有过一次计算机和5位象棋高手的对弈，互有胜负，总体上计算机稍胜一筹。

　　人工智能作为一门学科，大概从上世纪50年代开始。过去在农业机械化、工业化、信息化、智能化等方面，尝试机械代替体力劳动，现在在智力方面的尝试，则是通过模拟人的思维过程和方式，以此提高脑力工作的效率。这一次比较特殊的是，计算机在本身的计算模式之外，还可以有学习的能力，也就是说，它输了一次，可能会学到更多的东西。

　　我的观点是，这一智能本身也是人赋予它的，所以不必恐慌和害怕，人类发明它、创造它、设计它的运算方式，赋予它学习的能力，同时人也会意识到安全性的问题，给它装上类似阀门的东西，控制它去造福于人类，而不是危害人类。所以我们应该为人工智能的进步高兴，它不是洪水猛兽。人机大战，获胜的实际上是人类的智慧。

　　另一个问题是，我们的人工智能进步如何呢？可能很多人关心但不太了解。可以说中国的人工智能和计算机研究，在世界上是有一席之地的。以超级计算机的运算速度而言，2010年天河一号向量运算速度是4700万亿次每秒，当时是世界第一。2011年日本超越了这个数字，2012年美国超越了日本。到2013年，天河二号从千万亿次提升到了万万亿次，截至2015年，经过了6次提升，现在的浮点运算速度超过了3万万亿次每秒，什么概念呢？它1小时的运算量，全国14亿人同时用计算器算，要算1000年。

　　速度之外，人工智能如何呢？38年前，我考上中国科学院研究生院，数学家吴文俊给我们上的第一节课，是几何定理的机器证明。他把人证明几何定理的方式加以编程，变成计算机程序。上世纪90年代，已成为一门系统的学科，数学机械化或者说机械化数学体系。2001年，吴文俊获国家最高科学技术奖的，和他同时获奖的是袁隆平，袁隆平大家都知道，但是知道吴文俊的很少，不能不说这是一个遗憾。

　　乔新生（中南财经政法大学教授）

　　人机大战的技术和社会价值

　　这场比赛被世界各国广泛关注。一方面是因为围棋比赛具有世界性，被认为是最为复杂的一种体育游戏项目，它的难度超过了国际象棋和中国象棋；另一方面则是因为这场比赛关系到计算机智能技术发展的方向，反映出国际计算机智能技术发展的最新水平。但是，如果因此而对这场比赛给予过高估计，那么，有可能会掩盖事实真相。

　　正如人们所知道的那样，计算机智能技术是在充分总结人类经验教训的基础之上，通过提高计算机的运算效率，分析各种可能性，从而实现智能化的决策。但是，计算机智能技术的最大弱点就在于，它无法充分反映感情因素，对于在体育比赛过程中可能出现的感情因素以及其他社会性因素，计算机很难有效作出判断，因此，也很难作出正确决策。譬如，如果计算机世界冠军出于感情上的考虑，而决定放弃比赛，或者在比赛的过程中故意露出破绽，那么，计算机很难及时作出反应。更令人感到担忧的是，如果世界冠军在比赛的过程中，不是为了赢得奖金，而是为了输掉比赛，从地下赌场获得更多奖金或者赎金，那么，计算机肯定会取得胜利。

　　简单地说，计算机可以专心致志地和世界冠军进行对垒，但是，计算机永远是勇往直前。他的终极目标是取得胜利。可是，对于世界冠军而言，它的目标则可能是多元的。如果他是为了争取失败，那么，在和计算机进行比赛的过程中，他可以利用任何一次机会，为自己争取商业利益。这是社会复杂性所决定的，也是计算机技术永远无法逾越的高山大海。

　　人的社会性非常复杂，人类除了可以进行高速运算之外，还有复杂的情感和巨大的商业利益，因此，如果忘记了人类的情感，忘记了人类所需要的商业价值，那就会过于关注比赛的结果。当然，我们希望世界围棋冠军能够尽心尽力，充分展示自己的力量。但不能排除一些地下组织或者个人对这场世界关注的比赛设立地下赌局，那我们有什么理由对这样的比赛给予充分信任和无限的赞美呢？真诚地希望计算机能不断提高运算速度，但也真诚地希望计算机不要了解人类的弱点，并且通过精密的计算把人类的弱点用于战胜人类的过程之中。毕竟，开发运用人类的弱点是容易的，可是如果计算机完全掌握了人类的弱点，那人类的一切不堪，都会暴露在光天化日之下。

　　北京晨报记者 周怀宗