又听了一堂机器智能的讲座，前景不妙

暴风影音

去年听了一堂周昌乐的智能科技讲座，今天刚又听了一堂刘晓力的讲座，去之前下载了超星上唯一一部刘晓力的三集讲座。

阿法狗开始，这个话题又大热，刘晓力今天的讲座，提到很多研究方向，机器产生自我意识，虽然说到现在智能科学家都认为机器离真正的自我意识还很远很远，但是从认为围棋机器不敌棋手到现在也不过十几年，这个很远可能不远。可是现在已经有了此类的例子的萌芽，还有一个机器人不受人控制的一些现象，比如一台机器人走在路上捡起一块石头扔向一个方向，这不是按人发出的指令干的，当时就引起一些热议和恐慌，担心机器会不会做出其他攻击破坏性不受控制的行为来。

去年周昌乐还说首先可以断电，可是当时我就想到也发贴说过，机器完全可能凑巧下获得像人吃东西那样自己补充能量的渠道。周昌乐还说如果机器真的获得了自我意识，自我情感，获得了和人一样的意识和情感，就相当于多了一个人，人群里多了一个人也不算了不起的事情。当时我也觉得这种说法不靠谱，机器毕竟不是人，它的逻辑分析能力、计算能力等多方面能力远超过人，真出什么意外不是人能对抗的。

今天刘晓力还提到机器也可能有进化，获得进化的能力。

去年周昌乐还认为机器智能前景不必担心，可是今天刘晓力讲的已经很悲观的，讲座后提问环节，说到现在有观点（前几天在网上见过江晓原的文章就是这类观点）担心机器人智能发展过去会摆脱人的控制，反过来控制人，甚至统治人的危险时，刘晓力回答不是说有什么应对策略，而是说机器智能发展如果真的人超过了，文明程度肯定也是超过人的，高度文明的类群都是向善的，不会有什么野蛮行为。如果人类制造的机器智能真能发展到超过人类文明的地步，那人类也就自甘退出历史舞台。听这话的语气，简直就是没有对策了。

其实机器智能发展对人最危险的还不是像克隆之类的伦理危机，或者是有一部分机器人失控对人的伤害，这些破坏毕竟是有限的，局部的。最危险的就是机器真的有了发达的自我意识，有了独立进化的能力。机器逻辑和计算等能力越超过人，如果获得独立进化的能力，进化速度肯定远远超过人类文明，可以很快把人类文明淘汰掉。

刘晓力说高度文明的群体都是向善的，可是再怎么向善，毕竟也是优先维护本类的利益。像和尚之类戒杀的毕竟是少数。现在人类统治地球，虽然也没有把别的动物都灭绝，可是毕竟是人占据地球食物链的顶端掌握这个主动权。如果真有一个高度文明的机器智能群体，即使是向善，那也是占据比人更高的食物链上，可以决定人类的命运，人类的日子肯定也不好过。

事后我上也去问过她这种趋势的危险性，如果机器智能真的发展到这一步，可以淘汰人类文明，在宇宙间是出现了一个更加高度发达的文明。可是对于人来说，被智能机器文明淘汰或者毁灭，和被核武器、生化武器，以及生态危机、能源危机毁灭结果是没有区别的。从人类利益考虑是不是应该对智能科技的研发和使用也有些像核武器、生化武器，能源消耗、生态恶化等一样的限制或禁止。她说现在国际上是有一些这种限制规则，可是她认为科研领域什么怪人、都有，挡都挡不住。或许她是指俄罗斯数学家佩雷尔曼那样荣誉（菲尔兹奖），奖金这些统统不关心，纯粹是数学研究为目标那样的人物。

看刘晓力这语气，在机器能力的发展威胁下，人类不远的末日简直是无法避免了。

cruelarrow

所有高度文明的群体都是向善的

weijian1215

感觉这说的也太夸张了吧~

wjmuxs

核武器、生化武器，能源消耗、生态恶化
又出现一个机器智能

asdftij

不说太远的，依现在的趋势，几年后很多职业都不再需要人工了，多出来的人该做什么？他们学的技术变得没意义了，还不如人家机器，自尊心都要受到打击，可能就此走上邪路都不一定……

sdqdsjw2000

人工智能虽然发展到一定阶段很危险，但是还是可以设定机器人不能干什么，例如机器人法则。在不违反这些原则的范围内允许机器人做出智能的选择。
即“法无禁止皆可为”。
人工智能也是人编制和设定的，如果别有用心的人编制了“不受法律控制的人工智能程序”也是非常不好办的。
但是，也不能因此而终止人工智能的开发。因为即使不研究人工智能，别有用心的坏人还是可以制造出专门“干坏事”的战争机器。

蓝盾

瞎扯，任何机器都会损耗，人也有寿命。

人饿了吃饭，机器没电了也许能自行充电，可磨损了呢？无法修复的。有些说法太夸张，纯粹是人吓唬人。没脑子都

daydayup

从算法到统计学，离真正的智能还差得远。

zhq44

耸人听闻。人工智能发展到一定高度时，可怕的不是机器，是“人奸”。

乐天无极

核心是——其实人脑对信息的映射，用目前现有的逻辑范式，是没法80%公式化的。
最多千万分之一的信息，才能被公式范式化。
那凭啥千万分之一的信息，就能真正左右人类命运。

ynfrrx

学习了👍👍

ereree

人工智能不会让人类失业，我来告诉你为什么
toowolf  2017-04-11
人工智能不会让人类失业，我来告诉你为什么
1

在AlphaGo的决定性胜利之后，关于人工智能将如何影响人类社会的讨论空前热烈。一个令人们普遍感到焦虑的议题是，机器会让多少人失去自己的工作？

但是，事情或许还没有糟糕到那个程度。迄今为止在关于“人工智能替代人类”的讨论中，还有许多关键的因素没有得到充分考虑。

2

其中之一就是：这到底值不值得。

人类社会不会仅仅因为一项技术存在就去应用它。一项技术能否快速发展和大规模应用，取决于这项技术能否节约或者替代社会中相对稀缺的生产要素，从而考虑充分利用那些相对丰富的生产要素。

所以，尽管大型机械化生产长期被视作农业现代化的标志，却始终没能在人口密集的亚洲推广成功。在这些地区，人们需要的是节约土地而非人力，因此催生了像袁隆平的杂交水稻那样能够提高土地使用效率的创新生物技术。



基于同样的原因，当美国的Amazon试着用无人机解决“最后一公里”问题时，在中国却出现了“闪送”、“UU跑腿”这样的平台，以期更充分地调用零散、廉价的劳动力资源，去应对同样的物流需求。

至少在目前看来，人工智能技术所需要的科技资源，相对于人类的劳动力总量来说，还是相对更加稀缺的资源。古力曾爆料称，AlphaGo每和李世石对弈一局，所消耗的机器运行成本达到了3000美元。而在此期间，比她稍逊一筹的人类对手可能只消耗了一碗石锅拌饭。

也许对于AlphaGo来说，能击败人类最有智慧的头脑，多么昂贵的代价都是值得的（也别忘了AlphaGO为AlphaBet节约了多少公关费用）。但是要用同样昂贵的成本代替掉格子间里的实习生，那就完全是另一码事了。



3

1954年，产业工会联合会主席、劳工运动领袖沃尔特·鲁瑟来到克利夫兰，参观福特公司的一座工厂。一位经理骄傲地向鲁瑟展示了福特公司先进的自动化机器，他对鲁瑟说：“你打算怎么向这些机器征收工会费呢？”

鲁瑟的回应是：“你又打算怎么让它们卖汽车呢？”

这个故事中包含有一个非常关键的问题：如果人类没有了收入，机器生产出来的产品能卖给谁呢？

比尔·盖茨在前段时间提出了一个非常大胆的提议，即对机器人征税。用征收上来的“机器人税”来补助失业人口，或者对其进行培训，让他们能找到其他的工作。但是，即便无视那些技术乐观主义者的批评，“机器人税”的主意听起来也非常怪异，并且让人难以接受。

另一种甚至更加大胆的提议是，由国家无条件向全体公民定期发放基本收入（Unconditional Basic Income）。2016年在瑞士，就曾为一项UBI提案发起过全民投票，这项提案认为随着自动化技术的发展，工作机会会持续减少，因此要求为全体瑞士公民，无论其工作与否，每个月发放2600法郎（约1.8万人民币）的收入。

这项提案没能通过决议，78%的选民最终投了反对票。很多人担心这项提案会导致不愿意工作的人数增加，成为社会的不稳定因素。

看来，在短期内，人类社会还无法对人因AI而失业的补偿性方案达成一致。



4

如果企业一意孤行地推动机器化，则可能会激起人类劳动者的集体抗争行动。

劳动者对替代性的机器技术的反抗历史悠久，最有标志性的反抗活动发生在工业革命时期。自动织布机可以由廉价的普通劳工操作，这导致了许多传统手工艺者的失业。在英国，一些失业的织布工联合起来，以捣毁机器、工厂的极端形式进行抗争，其中许多人声称自己是“卢德王”的追随者，因此这场运动也被历史学家称作“卢德运动”。

2013年，当台湾“高速公路局”计划在年底用ETC自动收费系统，全面取代台湾地区近1000名高速公路收费员的工作时，就激发了收费员群体的抗议。其过程中，竹田收费站一位40岁的员工在自己的车中烧炭自杀。这位收费员极端的抗争方式就像是现代版本的“卢德运动”。

区别在于，200多年前英国的“卢德王”追随者们摧毁的是用以取代纺织工人的自动化机器。200年后的“现代卢德主义者”却选择在机器面前毁灭自己。

受其影响，一些台湾人在网络上发起“拒办ETC收费卡”的倡议，希望借此行动延缓高速公路收费自动化的进程。

集体抗争，一定会极大提升社会以机器代替人工的经济成本，甚至导致社会的动荡不安，造成社会、政治成本。对于社会治理者来说，这些代价都是必须被考虑在内的。



5

在过去，“卢德主义者”们的名声不佳，她们长期被舆论塑造为一群无法适应社会进步的极端守旧者。这背后重要的原因在于，社会舆论总是被掌握在脑力工作者、白领、知识阶层手中。

200多年前，当自动织布机把掌握了高超技巧的手工艺者们转换为流水线旁的蓝领工人时，知识分子并没有给奈德·卢德们多少关注和同情。

结果，他们突然间发现，新时代的“奈德·卢德”就是他们自己。

当Facebook开始减少News Feed产品中人工编辑的使用，而更多地使用机器进行新闻筛选和推荐时，曾经激起了新闻界的很大反弹。这样的情景同样也正在中国发生，前不久，“搜狐撤除内容部，不再设人工编辑”的传闻也在互联网上引发了舆论风暴。

今日头条为代表的“机器推荐”资讯客户端的高速崛起，本来已经让许多媒体人倍感威胁。现在，当门户也开始转向“智能分发”的潮流时，一场知识分子式的卢德运动——不是通过暴力，而是通过舆论的批判——就在情理之中了。

在这场“机器能否代替编辑”的讨论中，新闻工作者们当然有许多足够响亮和正确的观点，但从根本上说，这种争论还是包含着人类劳动者对自身地位的焦虑。

2016年，美国信息科技和创新协会（ITIF）把年度“卢德奖”授予了马斯克、比尔·盖茨和霍金，因为他们都曾经公开表达了对人工智能的忧虑。

这是一个重要的标志：与以往不同，未来的卢德主义者可能既包括这些掌握实际权力的人，也包括那些能够左右社会主流舆论的数量巨大的中产阶级和白领阶层——卢德主义者们的主张可能在舆论上获得过去没有过的广泛支持。



6

人工智能对人类的替代，或许在纯粹技术的层面上是可行的。

但在当下，面对人工智能的应用，人类社会在经济、政治、观念上都还远远没有做好准备。

https://www.huxiu.com/article/189705.html