06 | 乌托邦、反乌托邦和真正的人工智能危机-KeepStudy

06 | 乌托邦、反乌托邦和真正的人工智能危机

- 强人工智能（AGI）：有思维能力的机器，具备自我完善能力。
- 乌托邦人士：将强人工智能的开端和之后的奇点看作人类繁荣的前沿阵地，认为这是人类进一步拓宽智识和永生的机会。
- 反乌托邦人士：真正恐惧的是如果人类本身成为超级智能实现某一目标的障碍，例如改变全球变暖，它们可以轻易甚至是无意中将人类从地球上抹去。埃隆·马斯克将超级智能称为“人类文明面临的最大风险”，他将创造超级智能比为“召唤恶魔”。

### 人工智能发展现状/168
- 实现强人工智能需要大量的人工智能基础科学的突破，以及深度学习的一连串巨大进步。这些突破与进步需要去除目前弱人工智能的能力天花板，赋予它们更强大的新能力，如多域学习、泛领域学习、自然语言理解、常识推理、规划以及通过少量示例学习。下一步发展情感智能机器人可能需要赋予它们自我意识、幽默感、爱、同情心和审美。这些都是阻碍当前人工智能发展成为强人工智能的关键障碍。每一项新能力的实现都可能需要多项重大突破，真正的强人工智能则意味着解决一切此类障碍。

### 真正的人工智能危机/171
- 我认为人工智能的四波浪潮席卷了全球经济，它们有潜力撬开更大的贫富差距，引起大范围的技术性失业。未来由技术导致的财富与阶层上的悬殊可能演变为更深刻的裂痕：撕裂社会结构、挑战我们的人格尊严。

- 除了引起直接失业，人工智能还会加剧全球经济不平衡。通过赋予机器人看、听、拿、操作、移动的能力，人工智能会彻底改革制造业，迫使发展中国家那些雇用了大量低薪工人的工厂破产，切断底层人民改善生活的路径，剥夺发展中国家通过低成本出口促进经济发展的机会。

### 技术乐观主义者和“勒德谬误”/173
- 技术乐观主义者认为，技术可以提升人类的生产力，降低商品及服务的价格。价格降低意味着消费者的消费能力增强，会购买更多商品及服务。这样的结果最终会增加对人力劳动的需求，从而增加就业岗位。

### 盲目乐观的终结/174
- 规模更大的技术变革会影响到许多行业，从根本上改变经济组织甚至社会结构。这就是经济学家所说的“通用技术”，或称GPTs。：蒸汽机、电力和信息通信技术这三项颠覆性技术的影响延伸到经济的许多角落，改变了我们的生活和工作方式。

### 人工智能：让技术变得通用/178
- 我相信，人工智能很快会成为举世公认的下一个GPT，刺激经济生产甚至促进社会组织变革。人工智能革命会达到工业革命的规模，甚至规模会更大，速度会更快。

### 硬件：更好，更快，更强/179
- 业革命历时几代人才完成，而人工智能革命在一代人的时间内就能产生重大影响。这是因为人工智能会在三个催化剂的作用下加速自身的应用与扩散进程：
  - 第一个催化剂是人工智能算法的易复制性；
  - 第二个催化剂是风险投资业（VC）的诞生；
  - 第三个催化剂是中国的影响力。
  
- 我相信我们可以确定以下几件事：
  - 第一，在工业时代，新技术带来了长期就业机会增长和工资水平的增长；
  - 第二，新的GPTs依然很罕见且重要，应单独评估各个GPT对于就业的影响；
  - 第三，在被广泛认可的三个GPTs中，蒸汽动力和电气化同时推动了生产力和就业率提高，ICT提高了生产力却不一定增加就业；
  - 第四，人工智能也会是一种GPT，它偏重于技能，应用速度快（受到数字传播、风险投资和中国影响力的加持），这两个特性表明人工智能会对就业和收入分配产生不利影响。
  
### 人工智能的“可以”与“不可以”/181
- ![](/uploads/20231127/2023112718214573124.png)

- 工作内容主要落在“危险区”的工作（如卡车司机等）在未来几年面临着被取代的高风险。“安全区”的工作（如心理治疗师、理疗师等）在可预见的未来中不太可能被自动化。“结合区”和“慢变区”象限的界限并不太明确：尽管目前不会完全被取代，但工作任务的重组或技术的稳定进步，可能引起针对这些工作岗位的大范围裁员。

### 经济学家的研究结果/184
- 麦肯锡团队同样使用“工作任务分析法”得出的结论是，全球大约50%的“工作任务”在技术上已经实现自动化。中国的这个数字是51.2%，美国为45.8%。但是他们不认为人的工作会那么快被人工智能取代，他们预测2030年会有30%的任务和14%的工作被人工智能取代。

### 这些研究忽略了什么/187
- 人工智能的巨大进步并不局限于计算机视觉领域，比如在语音识别、机器阅读和机器翻译领域，新算法也在不断创造纪录和打破纪录。总体而言，这些技术进步和新兴应用让我倾向于采用“工作任务分析法”得出的预测上限。

### 两类失业：“一对一取代”和“彻底清除”/188
- 我认为“工作任务分析法”也存在误差，因为它遗漏了另一种完全不同的可能导致职业消失：由人工智能推动的新商业模式引起的全行业变革——我称为“产业分析法”。

### 中美失业问题对比与莫拉维克悖论/191
- 外界普遍认为中国将受到更大的影响：智能机器人将逐渐代替“世界工厂”里的工人，中国的部分支柱产业需要尽快转型。我的观点刚好相反。虽然中国面临着因自动化而引发的就业市场转型，但是大部分转型将比美国的失业问题来得更慢、更晚。

- 机器学习在以下两方面的突破同样也增强了机器的智能水平：从大量数据中辨识形态的能力以及做决策的能力。但是机器人的精细动作（如抓取和操纵物体的能力）仍然远远落后于人类。

### 担心算法还是担心机器人？/192
- 人工智能自动化时代将首先对白领造成冲击。相对于尚未成型的机器人，白领职业更需要担心日新月异、快速进步的算法。

### 人工智能导致的不平等/193
- 互联网本应是自由、公平竞争的场所，但在短短几年内，许多核心网络功能已经被垄断。对于大多数发达国家来说，谷歌统治搜索引擎，Facebook主宰社交网络，亚马逊拥有电子商务。人工智能会将同样的垄断趋势带到互联网之外的行业中，并逐步侵蚀市场竞争机制。

### 随之而来的个人危机/194
- 工作不仅是一种谋生手段，更是一种自我认可以及生活意义的源泉。工作让我们过得充实，给人一种规律感，让我们和其他人联结。固定的薪水不仅是一种劳动报酬方式，也代表了个人对于社会的价值，表明每个人都是社会的重要成员。切断这些联系，或者说迫使人们从事低于过去社会地位工作，影响的不只是收入，还会直接伤害到我们的认同感和价值感。

李开复《AI·未来》

本书目录

推荐书籍