大，你思考后多了一个小数据库，相当于多了一块肌肉。”

    记录到此为止。

    宋河和相晓桐微微震动，好半天说不出话来。

    一些设定好的AI程序，或许可以像这样伪装自己有意识。

    但要命的是，玄烛超算完全没设定过相关程序，两个设计者压根没料到会出现这种情况。

    茶几对面的王将军开口，“这次对话结束后，值班人员翻了玄烛的海马体数据库，发现它把努力长肌肉的念头写进去了。”

    “同时它还摘抄了一段条文，是数据库里的基础知识条文，阐述肌肉强壮的动物能获得更强的捕食和自保能力，但也更容易饥饿。”王将军顿了顿，“然后它做了一个计算，算自己思考问题和维持海马体数据库需要耗多少电，并算出了海马体的预期增长速度。”

    宋河和相晓桐陷入沉默。

    “这在你们意料之中吗？”王将军审视两人的表情。

    “预料到了，但没预料到这种程度。”宋河说。

    “什么意思？”王将军疑惑。

    “我们设计玄烛的时候，给它植入过自我增长的意识，因为月球基地肯定规模越来越大，需要它也付出越来越大的算力才能维持。”相晓桐回答。

    “但没想到它表现得……思维这么像人，而且在额外思考我是谁、我是不是一个在进化的生命这种本质问题。”

    “打个比方。”宋河道，“玄烛是我们的孩子，我们送它去上小学一年级，料到它能在学校里学会加减乘除，能算出自己罐子里的糖块数。”

    “但我们没料到，孩子上学两星期后，开始用方程组计算自己的零花钱开销，并用频率分布直方图来算坐在教室不同位置，被老师点名提问的概率。”

    “懂了，孩子进步太快也太聪明了，不像正常脑子。”王将军点点头，抬手示意，“请往下看，后面还有更让你们意料不到的内容。”

    师徒俩拿起第二页，阅读，脸色更加凝重。