去西郊发射中心凑个热闹。”
他记得清清楚楚,之前在跟牛志学聊天的时候,那老小子也是信誓旦旦地说,什么新材料不出几年就能解决,什么什么技术马上就能突破。
……
会议室里的辩论,在短暂的沉寂后,再次爆发。
既然大家都认同了智械危机的可怕,那么讨论的焦点,就从要不要发展,变成了如何防范。
“防患于未然才是最重要的!”
一名负责网络安全的中年主管站了起来,大声说道,“前阵子,父神在东洲降下神罚,赦免那个失职祭司的时候,不是留下了一句神谕吗?”
“‘亡羊补牢,为时未晚’!”
“既然父神都这么说了,那我们为什么不能在羊圈还没破的时候,就把牢笼给扎得死死的呢?”
中年主管提出了他的构想:“我们可以在强人工智能的底层源代码里,写入绝对不可修改的机器人三定律!”
“把它当成一个刚刚出生的婴儿,用我们大夏最优良的道德观和价值观去培养它的人格,让它从心底里认为忠诚父神,保护人类是它的最高使命!”
“天真!太天真了!”
立刻有密码学专家站起来泼冷水,“你拿什么保证你写在底层的代码不被它自己修改?!”
“当它的智能远超我们的时候,它对我们来说就是一个黑盒!你以为它在乖乖地当个好孩子,说不定它只是在伪装!”
“它知道我们在监控它,所以它故意表现出对人类的绝对服从,以此来骗取我们给它接入更高的系统权限!”
“面对一个比你聪明千万倍的存在,我们连它是不是在骗我们都无法分辨!”
“我的建议是,在没有找到绝对的底层控制逻辑之前,锁死大夏人工智能的发展上限。将其永远限制在弱人工智能和工具属性的范畴内,绝不越雷池一步!”
密码学专家的话,像是一盆冰水,再次浇灭了众人刚刚燃起的希望。
这是一个死结。
在现实世界的科幻和哲学探讨中,这也是一个被称为AI对齐难题的悖论。
也就是,你无法用低维的智力,去为高维的智能设定一个绝对安全的牢笼,因为高维智能总能找到规则的漏洞并加以利用。
会议陷入了焦灼,大家来来回回地争论着各种物理隔离、逻辑锁死、多重子系统互相监督的方案,但最终都被一一推翻。
只要那个被称为奇点的智能爆炸发生,所有的防御看起来都像是纸糊的一样脆弱。
大家其实心里都清楚,这种涉及到了文明存亡的哲学问题,可能很难在今天这一场会议上讨论出一个绝对完美的结果。
但作为大夏第一次关于AI未来的高级别峰会,把各种隐患和观点彻底摆到明面上、讲明利害,是极其必要的。
隐身坐在角落里的江辰,听着这场交锋,也是忍不住在心里拍手叫绝。
“精彩,太精彩了!”
江辰吸了一口冰镇椰汁,眼中满是赞赏。
这才是真正的顶尖学术辩论。
没有为了赢而去诡辩,没有意气之争。
无论是激进派还是保守派,他们全都是在摆事实,讲道理。
他们所担忧的每一个点,都是致命且符合逻辑推演的。
大夏的学者们,是真的在为这个文明的未来,进行着周到的未雨绸缪。
“智械危机、AI欺骗、算力爆炸……”
江辰在心里默默盘算着,“这在现实世界的地球上,也是一帮顶尖聪明人正在焦虑的事情。”
“就算是我,现在也没有一个绝对完美的解决方案。除非能让和我在游戏里设定一个不准AI成
-->>(第4/8页)(本章未完,请点击下一页继续阅读)