“其次是知识的局限性。任何试图全面规划社会的蓝图都会面临哈耶克所说的知识问题——中央计划者不可能掌握社会全部成员的分散知识,也无法预测复杂系统的所有变化,而且这种社会往往要求一致性和纯粹性,为了实现完美必须排除异质性和多样性,这很容易导致对异议的压制,卡尔·波普尔在《开放社会及其敌人》中就批判了这种乌托邦工程,认为它必然导致极权主义。不过我不这么认为,虽然完美的世界在目前看来几乎不可想象,但要知道在万有引力被提出之前,在那个广为流传的杜撰故事里没有牛顿捡起砸在头上的苹果——如蛇勾引夏娃吃下的禁果,万有引力也被认为是想象,希望社会变得更好的愿望是人类进步的重要动力,废除落后的东西、争取平等、建立社会保障,所以如果我可以直接调控人类的快乐中枢,或者设计出绝对公平的算法来分配资源,是否就能实现完全平等的美丽世界,就如同刚刚你所体验到的一样。”
“那只是梦吧?不,你怎么会知道?”
“你如果认为那只是梦,可能那就真的只是梦了。”艾伦不无遗憾地说,“我有一个宏伟的计划,希望你能够帮助我。”
“什么计划,引爆火星基地下的炸弹,让火星先驱者们的心血付之一炬吗?你如果是想为人类造福,怎么会拿人的性命来威胁我?”听到楚斩雨夹枪带棒地讽刺他,这让艾伦不禁有些不适:在无知也显得可爱的少年费因和这个完全长大成熟的青年楚斩雨之间,他显然更喜欢前者,但是前者和旧日的他一并死去,不会再回来了,这也让艾伦再次意识到,楚斩雨不再是那个可以三言两语就哄得团团转的男孩子了,自己作为来求合作的人,必须全力以赴地对待祂。
而楚斩雨这时大概也猜到艾伦想做什么了,祂连珠炮似的反问道,“你作为技术的化身和代言,可是你真的是中立的工具吗?你不会带来新的问题?技术有几个潜在危险吧首先,严格来说只有少数人能享受最新技术红利,其次技术解决方案可能简化复杂的人类问题,比如用算法分配资源,但是你要如何量化尊严、爱情、艺术价值这些难以测量的东西?如果所有痛苦都被消除,如果所有选择都由算法优化,人类的韧性、创造力和道德选择能力会不会退化?”
“你的这些担忧都很合理,但假设我们现在有一种超级人工智能,它能够做出比人类更公正、更高效的社会决策,我们应该将社会管理完全交给它吗?”
“那样的人工智能是不存在的。”
楚斩雨断言道。
“你为什么这么觉得。”
艾伦盯着祂看,“实际上我口中的人工智能远在天边,近在眼前,不过用人工智能来形容也不太准确了,虽然这涉及到合法性问题,AI的决策在结果上更优,但如果没有人类的参与和监督,就缺乏政治合法性。人们会感觉自己是客体而非主体,谁来决定AI的价值排序?比如,当自由与安全冲突时,AI应该如何权衡?科技不仅是把双刃剑,也是放大器——它既能放大人的善念,也能放大人的偏见和错误,不过,那都是建立在现有科技对AI的认知上的。”
“你什么意思?”
“费因觉得我是人类吗?一个正常的人类,在距离地球不知道多遥远的太空漂流了多年的人,回到地球不仅保持着身体康健,还维系着年轻时的心态,这已经不是基因修正可以解释的了;在没有地球上的发射系统和能源及时供给,‘伊甸之东’怎么能靠着自己的本领回来的呢?”
艾伦发觉楚斩雨的态度理智得可怕,态度也坚决冷酷,那点对往日友情的怀念瞬间就让位于警惕,让艾伦还没来得及打感情牌就被下马威,而瞬间意识到自己意图的楚斩雨也完全不跟着艾伦的思路走,而是一个劲地反问,不停地逼问他的真实目的,本来艾伦可以伪装更长的时间,但是他早预料到楚斩雨很快就会察觉自己的异常,还不如主动承认,比起被抓包要好一点,也顺便可以测定楚斩雨目前成长到了什么程度。
都说谈合作的时候,甲方乙方都要拿出足够让自己心水的报酬才能拧成一股绳,静下心来想想……对于序神,对于楚斩雨,祂最想要的,最渴望的是什么呢?死吗?
怀着负罪的心,被排异的痛苦和赎罪的心时时刻刻不停折磨的楚斩雨,肯定矢志不渝地在追求这个东西。
但是艾伦知道这并非祂的心愿,只是无奈的选择去解脱。
“我之前说过能感受到这些年来你确实变了很多,可是我也经历了很多;这些年来在宇宙里,我见证了许多文明的覆灭,对于我想要改造的世界,具体要采取怎样的过程,我已收集了足够的样本,我并不是一个陶醉在救世主梦里的人,我有思考和计划,也愿意和你,和任何人探讨这方面的问题,实际上任何自称或者被授勋为救世主的都是一群傀儡和野心家,我想过一个很关键的问题:如果全球所有人都要达到目前发达国家的生活水平,地球乃至火星的资源根本无法承受,那么我的世界是否只能为少数人存在?这又违背了普遍性的理想。”
楚斩雨听到这