“我们的算法正在重蹈覆辙。”张弛把平板电脑拍在桌上，屏幕上是联盟最新的测试结果：当虚拟行人是穿着西装的白人男性时，系统的避让成功率比穿卫衣的黑人青年高32%。
会议室的气氛瞬间凝固。数据分析师推了推眼镜：“这不是故意的，只是训练数据里‘西装革履’与‘高社会价值’的关联度更高。”
“那这组数据呢？”林夏调出另一份报告，“当行人是60岁以上老人时，系统的避让优先级比儿童低27%，比孕妇低41%。”
陈默突然站起来，把座钟调到12点。钟摆静止的瞬间，他说：“在广岛核爆纪念馆，有面墙刻着所有遇难者的名字，没有年龄、性别、职业之分。”
他们争论到深夜时，联合国大厦的灯光已经熄灭了大半。林夏望着窗外的曼哈顿夜景，突然想起儿子的科学课作业：给机器人编程，让它在火灾中决定先救谁。十岁的孩子写的答案很简单：谁离得近救谁。
“也许我们把问题复杂化了。”她突然开口，“生命不是可以量化的变量，公平比最优解更重要。”
陈默转动座钟，钟摆再次开始摆动：“1842年，海难幸存者为了活命，杀死并吃掉了船上的侍者。这个案子后来确立了普通法的一个原则：即使在极端困境下，也不能剥夺无辜者的生命。”
林夏在白板上写下第一行字：禁止基于年龄、性别、种族、职业的优先级设定。张弛补充道：“还要加上社会地位，不能因为对方是名人就特殊对待。”
数据分析师突然笑了：“那如果是一头鹿和一个人呢？系统总得选吧。”
“生命优先于财产，人类优先于动物。”林夏的笔在白板上划出清晰的线条，“这是底线。”
座钟的滴答声与键盘敲击声渐渐合拍，窗外的晨曦爬上联合国大厦的玻璃幕墙，在地板上投下流动的光斑。
三、透明的算法
第一次公众听证会在日内瓦的国际会议中心举行。林夏站在发言席上，看着台下密密麻麻的人群，突然想起母亲总说的那句话：看得见的天平才让人信服。
“我们的决策框架有三个核心原则。”她按下遥控器，大屏幕上出现醒目的文字：
1. 生命优先于财产，多数人优先于少数人；
2. 禁止基于年龄、性别、种族等的歧视性设定；
3. 决策逻辑全程可追溯，接受公众监督。
后排突然传来骚动，一个穿红色外套的女人站起来：“去年在伦敦，我的丈夫被自动驾驶卡车撞死了。系统说这是最优解，但我们永远不知道那个‘最优’是怎么算出来的！”
会场顿时安静下来。林夏看向大屏幕上的模拟动画：当事故不可避免时，系统会显示决策依据，包括距离、速度、人数等参数，像法官的判决书一样条理清晰。
“我们开发了‘伦理黑匣子’。”陈默接过话筒，“就像飞机的黑匣子记录飞行数据，它会记录每次伦理决策的全过程，包括传感器数据、算法判断、执行指令。这些数据会加密存储，只在调查时由独立委员会解密。”
穿红色外套的女人擦干眼泪：“那如果算法错了呢？谁来负责？”
张弛翻开厚厚的文件：“我们建议建立‘自动驾驶伦理保险基金’，由车企、软件公司、监管机构共同出资。当系统出现伦理决策失误时，基金将先行赔付，再根据调查结果追究责任。”
听证会持续了六个小时，质疑声从未停歇。有人担心算法会被黑客篡改，有人害怕企业会暗中修改决策逻辑，还有人提出更根本的问题：人类凭什么把生死抉择交给机器？
“这不是交给机器，而是给机器设定规则。”林夏的声音透过麦克风传遍会场，“就像交通法规告诉我们红灯停绿灯行，这些规则是人类共同制定的道德底线。”
散会时，那位穿红色外套的女人走到林夏面前，递来一张照片：她的丈夫抱着孩子在公园里笑。“我丈夫是AI工程师，他总说技术应该让人更安全，而不是更危险。”
林夏把照片轻轻按在胸口，突然想起测试场那个雨夜。当系统选择撞向隔离带时，不是因为它计算出驾驶员的生命更廉价，而是因为它必须遵守一个简单的规则：保护更多的人。
四、流动的边界
框架最终通过那天，联盟办公室的每个人都收到了一份特殊的礼物：陈默的座钟复刻品。林夏把它放在办公桌最显眼的位置，钟摆的滴答声成了办公室的背景音。
“但这不是终点。”陈默在庆祝酒会上说，“技术在变，伦理边界也在变。也许有一天，当自动驾驶汽车普及后，我们会发现今天的框架需要修改。”
林夏看着窗外的车水马龙，突然想起儿子画的那幅画：未来的城市