四个原因让AI在中国可能取代更多人的工作

gongqi

AI可以取代很多人类工作，这个已经不是科幻了，因为chatgpt已经能做很多事而且比人类的平均水平高很多，之前的各种Go更是超过了人类围棋的顶尖高手。

但AI并不是无所不能的。起码目前是这样。

根据OpenAI的研究，AI还是缺乏一些人类的关键技能。其中之一就是批判性思维。

但批判性思维并不是每一个人类个体都具有的能力，或者说并不是所有人类个体都有足够的批判性思维能力。在这方面，平均来说，中国人肯定不是最低的，但也不是最高的，应该处于一个低于欧美高于非洲和大部分亚洲的水平。

中国人缺乏批判性思维是历史造成的。从秦始皇焚书坑儒开始，大一统就禁止批判性思维，如果在前推到西周，这个大概几千年了，中间只有春秋战国等少数几个阶段才有一些批判性思维的火花。现在的应试教育也都是有统一答案的，批判性思维同样被压制。

这是AI在中国可以取代更多人工作的第一个原因。

第二个原因是物质条件。中国现在虽然没有顶尖的IT技术，但顶尖之下的技术和资源应该是世界第一。有迅速跟风的工业能力，有全世界最集中的钱，勤劳而不勇敢的中国人被AI取代是全球最容易的。

第三个原因是中国人爱扎堆。这是缺乏批判性思维的副产品。一旦AI取代人类的技术在其它国家形成并且风头开始，中国肯定是跟风最快并且普及到各行各业最快的国家，其它任何国家都没法望其项背。这就像当年意大利皮鞋上午在米兰上市，下午温州就形成量产抢占市场一样。

第四个原因是中国人特点里的勤劳而不勇敢的“不勇敢”。

综上，AI取代人类的某个职业，一旦有苗头，发展最快的就是中国。

对了，多说两句，有朋友说的chatgpt的一些可笑表现，比如回答中国四大名著的错误百出，其实就是AI缺乏批判性思维的结果：chat只会内插性预测，不会批判这个内插。

skywate

AI发展速度太快了，从绘图看学习速度太快

agent124

请教啥叫“内插性预测”                          

gongqi

agent124 发表于 2023-4-14 20:18
请教啥叫“内插性预测”

chatgpt的大的算法模型很简单：预测。比如gpt要生成一句话，一句话由多个单词构成，这个模型就是预测下一个单词。


如此简单的模型却能得到如此复杂的结果，靠的是海量学习。

这个模型的效果虽然非常惊人，但它也有一个致命的弱点或天花板，就是它的预测只是局限于它的学习。这个局限，在计算机领域里一般就叫内插。

我们熟悉的事务里，比较典型的内插是数码变焦。和光学变焦不同，数码变焦并不是试图获得更多细节输入，而是根据目前的输入推算可能的细节。所以很多人认为数码变焦是伪变焦，因为推算并不一定能推算出真的细节。很多消费者在买相机或手机时都不会在意数码变焦这个功能的，因为内插完全可以在后期做，没必要在相机或手机里做。

linfangsh

chatgpt只是刚刚第一步，未来的发展速度，很难预期，但肯定会很快。
就像当年，AI打败的国际象棋顶级棋手，但国人乐观地认为无法打败围棋
结果几年时间，就被打败了。
相信 chatgpt的发展也是如此。
但是，chatgpt在我朝，可能会遇到最大的麻烦，那就是意识形态方面的。

凿壁借书

这是借着ai，说对国人的观点吧
先说我的观点，国人很勇敢，弱批判也不完全是人的原因，语言也是很大一个方面，还有人生追求，有很多对道家 人体科学的信仰（俗称隐士）对这些人来说，批判也没有道重要。至少不能一概而论。

国内的问题在于太大了，有问题出来都是别人会替我搞定，不然你看 gpt出来后，网上蹦出来那么多专家，有几个去了解过 神经网络的知识，你知道什么是 hyperparameter么？什么是 hidden unit？deep network 和shallow的区别在哪？
而国外，你去reddit上翻翻，很少对工作岗位的探讨，很多都是 问 这个参数怎么调，那个驱动怎么编写，还有人作测试，有人编写到沙盒游戏。

别的不说，我给各位提一个有价值的建议。
gpt对岗位怎么影响 我不知道，但我知道在很长的一段时间，gpt都需要专门的 操作人员（类似汽车驾驶员，工厂机器操作工）这些人需要掌握 和gpt沟通的技巧，最好懂深度网络的原理，有编程基础。
如果想抓个机遇，可以试着往这方面靠一下，估计需求量要开始爬升了，缺口很大。不过机会是留给有准备的人的，问问你自己 能不能学点编程知识 ，至少现在开放的prompt 了解过没有

agent124

gongqi 发表于 2023-4-14 21:24
chatgpt的大的算法模型很简单：预测。比如gpt要生成一句话，一句话由多个单词构成，这个模型就是预测下一 ...

查了下，原来是数值分析方面的概念。这个听过一两节课，全忘了。感谢解答。
人工智能太深奥，懒得花力气学习。我连prolog都搞的晕头转向

camio

啥是批判性思维

gongqi

skywate 发表于 2023-4-14 16:23
AI发展速度太快了，从绘图看学习速度太快

我觉得各种东西在某一个阶段的发展速度都符合对数曲线。目前AI就是刚刚进入了一个新的阶段，这时候正处于对数曲线的“先快后慢”的“先快”区间。


不知道下一个阶段什么时候到来。

gongqi

linfangsh 发表于 2023-4-14 21:46
chatgpt只是刚刚第一步，未来的发展速度，很难预期，但肯定会很快。
就像当年，AI打败的国际象棋顶级棋手 ...

在chatgpt具有批判性思维之前，天朝是有解决方案的：只要花钱给它喂足够的靶向语料就可以了。而天朝最不缺的就是钱。
AI的发展，我一直以为和任何新技术一样，在某一个阶段内，都是对数曲线。

chatgpt目前就处于刚进入刚进入一个新阶段也就是跳了一个台阶的位置，所以目前是快速发展，但之后就会到“先快后慢”的“慢”的区别。
然后，再等下一个阶段。

NMR

AI发展速度太快

gongqi

凿壁借书 发表于 2023-4-14 22:19
这是借着ai，说对国人的观点吧
先说我的观点，国人很勇敢，弱批判也不完全是人的原因，语言也是很大一 ...

1）关于“不勇敢”。这是说平均水平，而且是从结果来看。个别人勇敢肯定有，比如遇罗克。但这个问题不敢多说，因为我也是中国人，也“不勇敢”。


2）关于批判性思维。语言是文化的一部分。如果语言是原因之一，那它同时也是结果，虽然是很复杂的结果。和其他文化的一神或多神崇拜不同，中国古代的主流是祖宗崇拜。从结果来看，后者对批判性思维的压制比前者更厉害。但这个机制目前我也没想明白。包括汉语言为什么会是独立语，语言学里typology一直是我的弱项。

3）关于不懂AI的专家。这个的确。中国的乌合之众程度高于平均水平。我在知乎说了两句chatgpt的缺点，立刻就有乌合之众跳出来说，人家专家都说优点，你为什么说缺点。乌合之众不会想到专家是不是AI专家，懂不懂chatgpt。说白了就是有些专家也是乌合之众。中文互联网上好像没人说chat的缺点，说了也被淹没了。但是在美国，Chomsky就跳出来说chat的recursive模型不好，全不顾chat的很多思想其实都是在他老人家指出的方向上发展而且经常致敬他老人家。说到底，中国人对chatgpt还没有消化好，包括某些专家。另外这也证明了中国人的批判性思维差，包括所谓专家。

4）关于gpt操作人员。这个真是真知灼见。忍不住回顾前几次工业革命的情形，好像都是这样。不过目前在中国似乎还不用太急，而且急也没用，毕竟墙还挡着chatgpt，连new bing都挡着。但的确一旦不挡了，可能也就晚了。

agent124

gongqi 发表于 2023-4-15 10:22
1）关于“不勇敢”。这是说平均水平，而且是从结果来看。个别人勇敢肯定有，比如遇罗克。但这个问题不敢 ...

关于“不勇敢”，不知道您是否看过杨奎松著《忍不住的“关怀”》，里面就知识分子的“软弱”问题提出了他自己的看法，有新意。

关于chat的缺点，倒是看到论坛里有人提到。其实我觉得一般人对于chat，只是基于少量的试用实践得出的结论，自然比较浅薄。而如果对chat的大致原理有所了解，在这个基础上提出批评意见，固然要深入些，但是，如果没有研究过它的代码，或者研究过chat的应用（不是蜻蜓点水式的试用，而是深入的研究），所得出的结论，恐怕也不会很深刻。

另外，我对人工智能的认识是，不能用它来“取代”人的工作，那样可能会出乱子，而是始终让人工智能处在“辅助”的地位，这样，人类才能永远处于安全的状态。

ereree

我觉得gpt的批判思维比人类好太多，你使用：请用批判思维解释xx。试试

gongqi

agent124 发表于 2023-4-15 10:36
关于“不勇敢”，不知道您是否看过杨奎松著《忍不住的“关怀”》，里面就知识分子的“软弱”问题提出了他 ...

1）关于杨奎松的那本书。没看过也没听说过，所以多谢您指点。下载并翻了翻，感觉这本书虽然副标题里有“书生”字样，但讲的并不是普通知识分子，而且有重度政治活动的上层知识分子。我觉得他们是另一种人，固然也值得研究，比如可以看到政治活动对他们人格的影响，但毕竟这种人很少，既不能代表知识分子，更不能代表民众。而我说的“不勇敢”，其实还不是说知识分子，就是说普通中国人。知识分子的不勇敢其实是普通中国人不勇敢的一部分。


2）关于chat的缺点。您说的肯定没错，搞明白原理才有资格说话。但是我觉得是不是要到代码层才能深刻则不一定。比如Chomsky肯定不关心代码，他只知道模型框架，甚至有哪些参数都不一定知道，但好像很多搞代码搞参数的人也都认为他的反对意见是最深刻的。我觉得问题是很多发表意见的人连chatgpt的模型框架原理都不知道，知道的很多其实也不理解。比如“预测”，很多人在知道这个原理后都不相信一个小小的预测就能这么厉害。这里的关键其实是人类的所谓“理解”到底是什么。Chomsky认为的“理解”并不一定是正确的，他对预测模型的批评其实倒很像当年语言学界对他的生成语法的批评。我现在相信chatgpt的“预测”和人类的理解的距离并没有Chomsky说得那么大，人类认知包括所谓“理解”可能真的就是“预测”。而且，不仅黑箱结果如此，甚至白箱可能也如此，起码部分如此。

3）关于AI角色的定位。您说的让AI做辅助的思想，我觉得有点像自动驾驶里让AI做辅助驾驶。这个我觉得可能与AI的成熟度和任务的性质这两个东西有关。比如自动洗衣机，完全不需要人工干预，这一方面是洗衣机技术成熟，另一方面是洗衣任务即使失败损失也很小。但自动驾驶就不一样了，一方面技术不够成熟，另一方面任务失败损失太大。但我并不认为自动驾驶始终需要人工干预，因为一方面技术成熟只是个时间问题，另一方面可以开发安全技术来保证安全性，而安全技术的成熟也只是时间问题。事实上滚梯就是一个可以参考的例子。滚梯技术的成熟度也不是100%，滚梯事故也可能致命，但滚梯并没有因为这些被停止使用，这就是任务性质的各方面在起作用，结果是人类在上下楼这个任务上接受了滚梯现有的成熟度。

gongqi

camio 发表于 2023-4-15 07:43
啥是批判性思维

身在墙内，查不到Wiki是怎么说的，也查不到chatgpt是怎么说的。


感觉的话，我在说“批判性思维”这个词的时候，我想的是基于某种标准的独立思考。比如在数学里，标准是公理和定理。

与批判性思维相反的，是崇拜思维。比如中国人的祖宗崇拜，它不允许你独立思考，因为怕你怀疑祖宗。

批判性思维的倾向是怀疑，但怀疑的结果并不一定是否定。虽然如此，但祖宗崇拜连这一丝怀疑也害怕，所以它禁止批判性思维。

批判性思维和崇拜思维并不是简单的一清二白。二者也有互渗，虽然很轻微。

romant

有替代就会随之产生其他岗位需求。说中国人缺少批判思维和不勇敢是没有依据的。

凿壁借书

gongqi 发表于 2023-4-15 10:22
1）关于“不勇敢”。这是说平均水平，而且是从结果来看。个别人勇敢肯定有，比如遇罗克。但这个问题不敢 ...

很久没有遇到可敬的对手了，赞一个

因为学习忙，打字随意了点，没想到你态度比我端正这么多...
那我就继续说说我的观点
1  我知道你说的 不勇敢是什么意思，固然是有可取之处。然我认为 我认为我们要摒弃掉这个固有的认知，至少要抛弃大部分。
勇敢与否 是一种，以人们的期望为标准的，评判。。至少目前的普遍认知是如此。 但是 我们是否应该反思下 这种“期望”是不是真的代表了 内在的那种品质？
如同
---学习成绩好，是否真的代表 学术水平高？ 如果是 那么为什么没有很多诺贝尔奖获得者
---天天说我爱你，是否真的就是痴情的人？ 如果是，那么为什么坚持初心的人都是 不声不响的
---还有 一年看一百本书 是不是真的比我 七年读不完一本通鉴的人 要有价值？

那么，回过来，这种 普遍认为的 勇敢是否真的是我们想要的勇敢？

这个问题很关键，因为就像国产式家长一样，把孩子鼓励成 他们想要的模样，反而是适得其反的。同理，把“不勇敢”的人鼓励成 “勇敢”的人 后果也是难以设想的。
我看了很多书，一直困惑于这个问题，现在有点眉目了，至少部分可以认为，这个时代的人，缺乏一种精神指导，（并非是精神追求），从内在失去了方向感，其实也是很正常的，因为现代知识越来越多，老一辈完全跟不上节奏，上回有本书叫《重建中国社会学》里面几个研究社会学的 老前辈们 已经在拷问自己，到底不学计算机 算不算研究社会学？  再也没有人拍着胸脯说 把眼前的知识都学完了，没人敢建立新的哲学。这这种时代  做什么都失去力量 本身是合理的行为。当然如果你愿意的话，可以找回这种力量，至少80%  这是我的观点

gongqi

凿壁借书 发表于 2023-4-15 21:55
很久没有遇到可敬的对手了，赞一个

因为学习忙，打字随意了点，没想到你态度比我端正这么多...

坦率说，没太懂。但越不懂就越值得注意。因为不懂是问题，而从不懂开始就是学习。

没太懂的原因，从我作为receiver这边看，应该主要是解码有问题，另外可能就是有干扰。这是通信的基本模型。之前在给学生讲这个模型时，常忍不住将其拓展到其它领域，天马行空。但现在自己解码遇到了问题，这才不得不落地，这才发现解码没那么简单。

关于期待与评价。评价可能是事实判断，也可能是价值判断。事实判断不说了，主要是编码解码的问题。就说价值判断吧，价值判断取决于价值观和立场，而期待显然是不可能避免价值观和立场的。立场也暂时不说，价值观有一个发展变化的问题，而这个时代恰恰是变化的时代，所以价值判断的结果也就难免变化。

具体到“勇敢”。最低级也是最基本的勇敢就是街头好勇斗狠的那种。什么是高级的勇敢呢？集体主义认为是为了集体而好勇斗狠。但我觉得也许引入Maslow阶梯里的个人需求可能在结构上更好一些，这样就脱离了期待的主观。也就是说，为了吃饭穿衣，这是低级勇敢；为了安全，就高了一层，因为这是Maslow的第二层；再往上是归属和爱，再往上是尊重；再往上是升华。如果这样看，那流氓的勇敢可能还是比较高级的勇敢，因为流氓间的很多打斗是为了尊重。而遇罗克的勇敢，不是因为他为了社会，而是因为他为了Maslow阶梯上最高一层的需求。

不知道我有没有说清楚，或者说我作为sender的编码是否有问题。

gongqi

ereree 发表于 2023-4-15 11:56
我觉得gpt的批判思维比人类好太多，你使用：请用批判思维解释xx。试试

gpt的批判性思维比人类弱，这是OpenAI的观点。我觉得应该没错。当然，OpenAI可能对标的是人类顶级选手。如果平均，我觉得gpt很可能超过人类，因为人类批判性思维的平均值可能并不高，尤其是中国人可能会拖后腿。


实验的话，墙内做不到啊。