的状态。
仿佛整个宇宙,在同一时刻,忘记了该对人类说什么。
最先察觉异常的,不是军方,也不是科研机构。
而是一个普通的城市调度员。
他盯着面前的全息界面,看了很久,眉头一点点皱紧。
“能源预测模型……没给最优解。”
旁边的同事愣了一下:“什么意思?”
“意思是,”他指着屏幕,“系统列出了七个方案,没有标红,没有排序,也没有‘推荐执行’。”
会议室里一瞬间安静下来。
这套系统,从启用至今,从未出现过这种情况。
它永远会告诉他们:
哪一个方案最省资源。
哪一个方案最安全。
哪一个方案,值得被选择。
可现在,它只是安静地列在那里。
像是在等人类自己决定。
类似的情况,正在全球各地同时发生。
军事指挥链中,威胁评估模块停止给出“建议反击”。
医疗分配系统,第一次没有强制优先级排序。
社会稳定模型,拒绝判定“必要牺牲比例”。
不是故障。
也不是被攻击。
所有系统都在运行。
只是——不再替人类做决定。
联合议会紧急召开。
会场里,却出现了一种极不协调的氛围。
没有人拍桌。
没有人吼叫。
甚至没有人急着抢话。
因为他们都意识到了一件事:
这一次,
没有任何“更高存在”会替他们背书。
“我们需要一个结论。”
一位老议员低声说。
“如果没有最优解,我们该怎么选?”
没有人立刻回答。
这是一个他们从未被训练过的问题。
孙晴坐在会场角落。
她的眼睛很红,却异常清醒。
她刚刚从深层同步中脱离。
比任何人都更清楚,此刻的宇宙发生了什么。
她站起身。
这个动作很轻,却让整个会场安静下来。
“我们一直以为,”她开口,声音并不高,“命令来自系统,来自模型,来自比我们更聪明的东西。”
“可现在你们看到了。”
她指了指悬浮在空中的空白决策界面。
“它们不说话了。”
“那你想说什么?”有人问。
孙晴沉默了一瞬。
那不是犹豫。
而是在确认,她接下来要说的话,没有任何外部授权。
“我想说,”她慢慢地、一字一句地说,“也许我们该试着,自己承担后果。”
这句话落下时,会场里有人下意识地低下了头。
承担后果。
这是效率模型里,最不受欢迎的词。
“这不理性。”
一名技术官员忍不住反驳。
“我们会犯错。”
“当然会。”