07 人类刹车计划-KeepStudy

07 人类刹车计划

> 物无对错，但人分善恶。技术也是如此，它本身是中立的，关键在于人类用技术为善，还是作恶。对于人类来说，每一项全新的突破性技术，都宛如“薛定谔的猫”，既可以是普罗米修斯的火种，也可能沦为潘多拉的魔盒。是善是恶，不在于技术本身，而在于操控技术的人。

### 量子计算
- 量子计算机（Quantum Computer）的计算架构运用了量子力学原理，它在执行某些类型的计算时，效率将远超传统计算机。

- 量子计算机的信息存储和运算使用的则是量子比特，如电子和光子等亚原子粒子比特。这些粒子所具有的非同寻常的属性为量子比特带来了超级计算处理能力。这种非同寻常的就是量子力学原理，主要包括量子态叠加和量子纠缠原理。

- 态叠加原理指一个量子比特能同时处于多种可能状态。换句话说，量子比特会“分身术”，几个量子比特就能同时处理海量的计算结果。

- 量子纠缠指两个量子比特无论相距多远，都会保持联系——一个量子比特的状态发生变化会影响另一个量子比特，就好比一对存在心电感应的双胞胎。

- 实现这些神奇的特性，需要付出相应的代价。量子计算机对自身内部硬件的要求非常高，对周围环境非常敏感，轻微的振动、电气干扰、温度变化、电磁波等，都可能导致量子的纠缠态衰减甚至消失。为了让量子计算机稳定运行且具备可拓展性，研究人员必须发明新的技术，为量子计算机量身打造真空室、超导材料和超低温环境，尽可能降低来自环境因素的干扰。

### 什么是自主武器
- 自主武器被视为继火药、核武器之后的“第三次战争革命”。AI自主武器让整个杀戮过程——搜寻目标、进入战斗、抹杀生命⸺完全无须人类参与。

### 自主武器的利与弊
- 自主武器有好的一面。第一，如果由机器人来取代人类的战士，那么自主武器可以挽救士兵的生命。第二，一支负责的军队可以用自主武器来引导士兵（无论是人类还是机器人）只攻击敌方战斗人员，以免伤害无辜的友军、儿童和平民（类似于L2/L3级别自动驾驶车辆帮助人类驾驶员避免犯错）。第三，自主武器还可以用于对付暗杀者、罪犯、恐怖分子。

- 自主武器给人类带来的负面影响要远远大于这些好处。第一，自主武器面临的最大问题就是伦理和道德上的争议。第二，自主武器降低了杀人的成本。第三，自主武器还涉及责任人的界定，我们需要知道谁应该为自主武器的失误负责。第四，自主武器不仅能够对某个人执行暗杀任务，还能够针对任何群体进行灭绝式屠杀。

#### 如何解决自主武器带来的危机
- 第一个解决方案是人工介入，或者至少确保每一个影响生命的决策都由人类做出。

- 第二个解决方案是颁布相应的禁令。《禁止致命性自主武器宣言》是一份由3000名AI领域的科学家共同签署的公开信，埃隆·马斯克和史蒂芬·霍金都参与了签署活动。推行的主要障碍是俄罗斯、美国和英国的反对。这三个国家认为现在还为时尚早，但是我认为应该未雨绸缪。

- 第三个解决方案是对自主武器加以管控。

李开复《AI未来进行式》

本书目录

推荐书籍