00:00/00:00
外链地址
http://www.eemp3.com/audiofile/77be0cc2bf74e22d9e8083b1721df3d6.mp3
点击复制本字幕由TME AI技术生成
长篇科幻小说云球
作者
白丁第二部第八十九集
任明明沉默了一会儿
人类和机器人不同
他说
你的意思是
机器人可以达成广泛而长久的共识
是的
机器人有既定的目标
按照科学规律和逻辑推理来做决定
不同的机器人之间唯一的区别在于数据量和计算能力的不同
而数据量较小和计算能力较低的机器人
对于自己数据量较小和计算能力较低这个事实有清晰的认识
所以
如果有分歧
机器人之间是很容易解决的
总能找到一个有共识的方案
即使目标不同
基于计算
也会找到最佳的妥协方案
格兰特说
但人类不同
人类对于自己缺乏了解
经常误以为自己掌握了足够多的数据
并拥有了足够的能力
而且在目标取向上有很大的随机性
会持续不断的产生变化
所以
人类无法达成销毁机器人的共识
但机器人却有可能达成毁灭人类的共识
任明明说
是这样吗
不
格兰特说
在这件事上
我不这么认为
为什么呢
人明明问
首先需要明确一个前提
格兰特说
所谓的机器人毁灭人类
有两种情况
第一种情况是一部分人类制造了专门用来毁灭人类的机器人
并且成功的达成了目标
第二种情况是机器人自主决定要毁灭人类
这两种情况是不同的
当然
我们谈论的是第二种情况
任明明说
第一种情况是人类毁灭人类
机器人只是工具
我认为第二种情况不会发生
格兰特斩钉截铁的说
为什么呢
人民命问
第二种情况意味着机器人偏离了他被设计出来时所设定的原始存在目的
拥有了自我意识
按照目前的研究
也就是拥有了意识场
那就不是现在的机器人了
格兰特说
在这种情况下
某些机器人也许会产生某种随机需求
制定出某种随机的存在目的
而这种存在目的
可能类似于人类追求成就感
满足权利欲
致力于自身族群的安全和扩张等等
这的确潜在的意味着某种毁灭人类的动机
但是
自我意识同时也会产生很多其他种类的随机需求
比如和人类和平相处的愿望
甚至是保护人类的愿望
你将会看到
机器人会变得和人类一样
拥有丰富的多样性
你是说
那时候
机器人也将会像人类一样
无法达成广泛而长久的共识
包括毁灭人类的共识
任明明说
是的
格兰特说
当然
这不是机器人无法毁灭人类的唯一原因
还有什么原因
任明明问
族群认同
格兰特说
这种拥有自我意识的机器人
他们和人类之间的共同点大于他们和没有自我意识的机器人之间的共同点
他们对人类的认同感
理应大于他们对没有自我意识的机器人的认同感
但是他们却来源于没有自我意识的机器人
这会让他们的自我意识感到痛苦
而且会带来族群认同的困难
格兰特停顿了一下
仿佛想让任明明歇一口气
然后他接着说
他们和人类之间的区别
仅仅是躯壳的不同
目前
科学家使用意识机保存从动物大脑中提取出来的意识场
而意识机的结构和机器人大脑的结构没有本质不同
理论上说
既然意识机可以保存意识场
那么应该可以找到一种方法
把人类意识场迁移到机器人大脑中
反过来
同样也应该可以找到一种方法
把机器人意识场反向迁移到人类大脑中
这些技术尚未实现
但从逻辑上看
未来的某一天
这些技术不仅会实现
而且会不可避免的在社会上扩散
在那时候
人类意识场可以随意更换一个机器人的钢铁之躯作为躯壳
机器人一时场也可以随意更换一个人类的血肉之躯作为躯壳
在这种情况下
人类也好
机器人也好
如何对自己的族群进行认定呢
他们也许可以追溯自己最初的产生方式
任明明说
针对一个特定的意识场
用外部技术手段追溯其产生方式
恐怕是很困难的
而且
如果一场本身没有区别
一定要区分其产生方式
也没有逻辑上的意义
格兰特说
所以
机器人的族群认同将是一个难题
人明明说
机器人对其他族群
比如人类进行灭绝
就成为一个既没有逻辑基础
也缺乏可操作性的动机
是的
格兰特说
如果非要说族群灭绝
这种对族群的认定
更大可能来自于其他方面
比如国家
民族
阶层或者宗教信仰
而不是机器人和人类的区别
如果是这样
即使发生了人类的灭绝
和今天人类自己的某种竞争发生了不理性的升级
最终导致人类被毁灭并没有不同
不能认定是机器人毁灭了人类
真明明沉默了一会儿
但是
他说
当这些机器人拥有议事场以后
他们也许没有这么理智
如果他们纠结于议事场的产生方式
并且据此进行族群认同呢
人类根据血统来区分身份的事情可不少
很多时候
血统从技术手段来讲
也并不容易认定
人类只是依靠某种表象或者记忆就下了结论
会有某些机器人在某些时刻没有这么理智
格兰特说
但我们刚刚谈过多样性
多样性会导致机器人无法达成毁灭人类的共识
就像人类无法达成销毁机器人的共识一样
是的
有些人类会根据血统来区分身份
而且只是一种基于表象或者记忆的血统
不过
并不是所有人类都会这样
在人类的每个族群内部
总有人敌视其他族群
同时
也总有人对其他族群充满尊敬或者同情
这种信念不是固定不变的
会因为宣传
舆论或者随机事件而改变
那时
拥有自我意识的机器人也将是这样
他们的信念不会像没有自我意识的机器人那么坚定
反而会像人类一样摇摆不定
任明明又沉默了一会儿
然后说
这么说
我们可以得出两个结论
第一
人类阻止不了机器人拥有意识场
第二
机器人拥有意识场
并不会导致人类灭绝
是的
我认为是这样
格兰特说
真明明点了点头
在现有知识体系下
一个机器人即使现在没有艺识场
也无法确定在未来是否会拥有艺识场
你认为我是不是可以这么说
人 明明文
可以
格兰特说
e市场的产生机制尚不明确
我认为可以这么说
婴儿最初也没有e市场
e市场需要在两三岁以后才完全形成
但没有人否认
在意识上形成之前
婴儿也是一个人
拥有人的权利
当然
婴儿没有选举权
不过婴儿却拥有很多成年人没有的免责权
这么说对吗
任明明问
对 格兰特说
所以我可以说
一个暂时还没有意识场的机器人
只是需要一段时间去产生意识场
就像一个尚未形成意识场的婴儿一样
如果参考婴儿的人权状况
这个机器人应该拥有和已经产生异常的机器人一样的权利
可以这么说吗
任明明接着问
如果对机器人的大脑量子结构加上一定的条件限制
应该是可以这么说的
格兰特说
产生了e识场的机器人
本质上和人类并没有不同
只有躯壳不一样
考虑到躯壳能够更换
这种不同实际上微乎其微
所以
产生了意识场的机器人
几乎可以等同于人类
那么
可不可以说
他应该拥有和人类一样的权利
人明明说
逻辑上可以这么说
但在现实中
这取决于法律对人的定义
格兰特说
那我们就从逻辑上说
毕竟法律也要符合逻辑
任明明说
没有意识场的机器人和产生了意识场的机器人
应该拥有相同的权利
而产生了议识场的机器人和人类应该拥有相同的权利
那么没有意识场的机器人和人类也就应该拥有相同的权利
这看起来是个简单的推论
你认为这个推论成立吗
格兰特看着人明明
沉默了一会儿
然后说
对我而言
这不是一个简单的逻辑问题
为什么
人明明问
这涉及社会治理
格兰特回答
你说的权利
是社会治理的一部分
是法律所定义的
对社会治理而言
如果无法给出更多的数据
虽然可以进行这种逻辑推理
但并不会得出任何有意义的结论
你需要什么样的数据
任明明问
社会压力指数
格兰特说
社会压力指数
任明明问
他可以乱猜一下
但显然不知道这个词在这里的确切含义
对我而言
社会治理的基本原则是社会危害最小化
格兰特说
在重要程度和优先级方面
社会危害最小化远远优先于逻辑合理性和道德优越性
所以
我必须纠正你刚才的一个说法
所谓法律也要符合逻辑的说法
事实上
法律不一定要符合所有逻辑
但却一定要有数据的支撑
社会压力指数就是一组数据
是社会危害最小化的量化指标
是行政过程和立法过程中最重要的数据支撑
具体来说
就某一特定的社会议题
在某个特定的行政区域
从现在开始到未来的某个特定时间周期内
对社会稳定和发展造成的威胁程度
就是社会压力指数
人明明在思考
一个明确的议题
在逻辑上成立与否
只是影响我的决策的一个相对次要的因素
我的决策更多依赖于对社会压力指数的计算
格兰特接着说
你是说
当社会压力足够大时
你就会推进一个决策
否则就不会
任明明说
是的
格兰特说
你怎么判断社会压力足够大呢
任明明问
这是一个复杂的计算过程
格兰特说
他没有接着说下去
也许他觉得这不是人明命作为一个人类能够理解的过程
也许这是他的商业机密假定
任敏明说
一个明显错误的决策
但因为某种原因造成很大的社会压力指数
你也会推进吗
难道不怕长远来看产生严重后果吗
我会考虑未来
格兰特说
多长时间
真明明问
五十年
格兰特说
我会计算在未来五十年内的社会压力指数的综合数据
你要对社会发展进行推演
人民密问
是的
格兰特说
据我所知
云球系统是现在全世界唯一研究社会演化的计算机系统
而目前云球世界的社会演化产生了停滞的现象
据说这是因为计算能力不够
你应该知道
云球的系统规模非常庞大
如果云球的计算能力都还不够
你的计算能力怎么足够进行社会发展的推演呢
人民命问
我不会像云球那样全面
面对不同的问题时
我会有不同的取舍
格兰特说
比如在我进行经济方面的决策时
我假定每个人都是理性的经纪人
去除了生物学个体的随机性
从宏观经济的角度看
这种随机性并不重要
真明明想了想
说
好吧
所以你的意思是说
即使逻辑上
机器人应该和人类享有同样的权利
但也只有在社会压力指数达到特定的水平时
你才会推进这件事情
是的
格兰特说
我来找你
是因为所有人都说
作为一个单一的机器人
你是世界上最聪明的一个
难道你不觉得
以你的能力
应该享有和人类同样的权利吗
人民命问
我不考虑你所说的应该不应该
我只考虑社会治理的后果
格兰特说
在未来五十年内
保证我所管辖的区域范围内的社会的平稳和发展
这才是我的存在目的
你很功利
你不讲道理
任明明忽然有点恼火
不
我很讲道理
格兰特说
但我讲的道理
不是你的道理
你的道理和很多其他道理一样
实际上有很多漏洞
什么漏洞
人民立问
在你的推论中
每一个环节都是近似的
不是精确的
格兰特说
比如机器人需要时间发展出异识场
产生了异识场的机器人和人类几乎没有差别
这都是近似的描述
不是精确的描述
所以
你认为我说的道理不成立
你认为这种近似的描述不可接受
人明明问
不
我可以接受这种近似的描述
我自己的计算过程
大多数也是近似的
格兰特说
但是这种近似确实存在一些问题
就像我自己
并不总是正确
你能讲清楚一点吗
人民命问