查看“《超越学科的认知基础》2015秋楚悦晨学习报告-第五周”的源代码

==标题==
科技改变世界
==关键词==
:[https://zh.wikipedia.org/zh/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD 人工智能],[http://www.ibm.com/smarterplanet/us/en/ibmwatson/ IBM Waston],[https://zh.wikipedia.org/w/index.php?title=%E6%84%8F%E8%AF%86&redirect=no （自我？）意识],[https://zh.wikipedia.org/wiki/%E5%89%B5%E6%96%B0 创新]，[[常识]]
==正文==
:看了很多年的科幻小说，赞了无数次[https://zh.wikipedia.org/zh/%E8%89%BE%E8%90%A8%E5%85%8B%C2%B7%E9%98%BF%E8%A5%BF%E8%8E%AB%E5%A4%AB 阿西莫夫]，却从来不相信那可能成真。直到那天，蔡维德老师为我们讲了IBM的Waston。那是一个神奇的AI，他能够解决有“常识”问题。或许看起来没什么了不起：常识嘛，Google不就好了？并不是这样。例如，你在Google上搜索“下雨怎么办”，得到的多半是“''像罗马万神庙这样的顶部敞开式建筑，下雨时怎么办-知乎''”或者“''下雨天(Lara) 歌词南拳妈妈※ Mojim.com 魔镜歌词网''”，稍微靠谱一点的也不过是“''下雨了身上沒傘你該怎麼辦? - 華弟的網誌- udn部落格''”，几乎可以肯定不会有结果告诉你：要打伞。这类常识问题，你让一个机器怎么解决？Waston是可以解决这类问题的，而且显然这类问题的答案不可能是实现人为输入的，因为他根本不会知道你要问什么，他也不是被设计用来进行户外运动的,对吧？能解决常识问题说明一件事：这个AI会分析，会筛选，甚至可能会学习。想想看这有多可怕：他会学习意味着会成长，甚至某一天他可以改造自己，为自己编写程序；他的数据处理速度远超人类，他所能“记忆”的信息量也远超人类。

:举例来说，Waston拥有全世界关于癌症的论文、案例、药品数据，包括治疗方案和效果。也就是说，他如果会分析、类比、整理数据，他完全可能拿出一个理论上治疗效果超过世界上每一位医生的治疗方案，他甚至可以通过强大的数据分析能力改变用法用量等参数，从而改进治疗方案。突然想到：这算做科研吗？如果我们公认科研是创新性行为，那么我们可以说Waston具有创新的能力。我想到目前为止大家还是认为AI是没有创造力的，但是如果AI具有了创造力，未来社会还要我们人类干嘛呢？现在已经有可以写文章的软件了，而且可能比很多人类写的都好。比如说我们学生或者说很多中国“学者”费半天劲写的那些文献综述，很可能还不如Waston用10分钟查资料所得到的总结全面到位。

:如果这些真的实现，也就是说AI几乎发展到极致，想想看这个社会是什么样子：法官是AI，因为他能根据以往的案例和规章作出最公正的判决，他甚至可以计算出整个社会最大化的利益，从而修改法律法规；国家的决策是AI做出的，同样因为他能计算出最大利益，很有可能以后不会再有国家的概念，而是统一由一个网络控制；医生、农民、教师、工人，甚至绝大部分科学家都可以被AI所替代了，甚至可以比人类做的更精准更高效。那么，人类能做些什么呢？我们假设AI还无法具有天马行空的想象力吧，想象他们还不能体验和理解人类情感吧，毕竟我们还是希望人类和AI有点什么差别的，不想看到那么完美的AI，对吧？在此基础上，人类至少还可以做一些艺术方面的工作，比如绘画、作曲、写作等。当然啦，一般的写生或者风景画什么的不需要你画了，电脑能比你更精确地把握各种特征，更完美地再现黄金分割，印象派倒是有可能大行其道；一般的超级和谐的旋律估计也不需要人了，你跟你家电脑说“来一首安静点的曲子”，他可能会直接分析以前庞大的音乐库，找到那些音符的组合可以安抚人类的脑电波，然后给你组合播放；网络小说估计也消隐无踪了，不管是穿越仙侠盗墓宫斗，无非就是同一个框架往里面翻来覆去地填东西，换个人名换个大陆换个招数换句情话，就又是一本，这种工作对于智能的软件来说应该并不难吧？所以说在AI高度发展的未来世界，人类能做的只有那些高度主观的、创造性极强的、或者带有丰富感情色彩且无法被模仿的事情，以及爱因斯坦的相对论这样只身一人从零创造出的理论，未来我们需要的大概就是梵高、达芬奇、莫扎特、爱因斯坦、薛定谔这样的人吧。可以预言，这样的未来人类的创造性必然得到极大的提升，对艺术和美的追求极可能达到无法想象的程度。有着其他才能的人会被埋没吗？普通平凡的人又会过着怎样的生活呢？我不知道。当然我们也可能需要杂技演员之类玩命的工种，因为AI毕竟不能带给人类刺激感。（同样假设人类能分清楚机器人和生物人）而且，我想，爱情还是必要的吧。这是人类的本能，也是艺术的巅峰。

:如果上述奇葩社会成为现实，有什么弊端或者悖论吗？当然有的。比如之前我们谈到“计算最大利益”，那是谁的“利益”？是人类的，还是AI的？如果是人类的，那一定是之前人们在编写AI的时候写到程序里了，但是AI有学习和成长的能力，他完全可以改编自己的程序呀。所以这里的“利益”是应该指的是AI的利益吧，可是他（们）想要什么呢？利益总是建立在需求和欲望只上的吧？就算是像电影小说里的那样统治地球，对AI又有什么实际利益呢？这个问题在我的假象社会中是无法解决的一个点。再来一个有趣的问题：在这种社会体制下，人口会增加还是减少呢？人类生出来的孩子大概都不需要自己负责了吧，AI强大的计算分析能力可以确保资源的最优分配，为孩子提供最好的成长条件。可是人类一个个成为了艺术大师，还会有兴趣生孩子吗？或者说依然有普通人的存在，关心生老病死？不可能啊，生老病死都有AI帮你管着呢。所以人到底要干什么？没责任没追求会不会导致自我认同的价值体系崩溃，从而增加抑郁症患病率以及自杀率？或者说我们根本不需要这么多普通人，为了得到最大化的利益，AI会选择形成阶级供给不同的资源，亦或是极端到让他们不存在？总不可能人人都是艺术大师，对吧？未来人类的繁殖，是基于情投意合，还是依赖于优秀的基因选择？数量的平衡是否就真的依靠AI的控制？我不知道，只是觉得可怕。

:基于超级AI的未来社会，还会有许多值得探讨的有趣问题，然而我现在不想也不能继续下去了。这就像一个循环，个体受环境影响，环境由个体组成，每个个体再受他所处的环境影响。谁是头谁是尾？每个人都是头，每个人都是尾，却无头无尾，只是裹挟在一起前进，或许是游荡。

==参考文献==
:1.Smith, H. (2008). I, robot. Toronto: Robot Binaries & Press.
:2.超越学科的认知基础 课堂讨论，14 Oct.2015