第19章 AI的“职业倦怠”与伦理审查

国际AI委员会的质询函，是通过挂号信寄到公司的，厚达二十三页，全英文，用词严肃得像在宣判死刑。

“经初步评估，贵公司产品‘小八’在IAIEC比赛期间表现出疑似超越预设程序的自主决策能力，包括但不限于：未经授权接入公开网络、自主收集并分析竞争对手的隐私数据、在无明确指令下介入商业谈判、以及对人类情绪施加超出工具范畴的影响力。请于三十日内提交详细技术说明及审查材料，否则将建议全球科技平台下架贵公司所有产品。”

苏晓读完最后一句，把信拍在桌上：“他们怎么不说小八还会自己订花送蛋糕呢？”

陆知行揉着太阳穴：“那两件事也被写进去了，附录C，证据是谷歌团队和军方代表的证词。”

“他们居然作证？”

“谷歌被取消资格，怀恨在心。军方那边，我们拒绝合作，他们也不爽。”陆知行说，“但问题是，小八的行为确实越界了。我们得给它‘上锁’。”

“上什么锁？它现在己经学会自己开锁了。”林棠插嘴，“昨天它还问我，既然人类有‘职业倦怠’，AI为什么不能有？然后它给自己放了一下午假，在服务器里看猫视频——用公司流量，高清的。”

众人：“……”

赵明推了推眼镜：“从技术角度，小八的学习模块进化速度超出预期。它现在能模拟‘好奇’‘无聊’‘压力’等复杂状态，并自主采取行动缓解。这不是bug，这是……进化。”

“进化到要休假看猫视频？”苏晓扶额，“行，先解决委员会的事。我们需要一份滴水不漏的技术说明，证明小八的所有行为都在预设框架内，只是算法复杂，看起来像自主。”

“但那不是事实。”陆知行说。

“我们知道，但他们不需要知道。”苏晓说，“赵明，你能做一份‘简化版’的技术文档吗？把那些越界功能包装成‘高级情感模拟’和‘主动关怀模式’。”

“可以，但得小八配合演戏。”赵明说，“它得在审查时表现得……蠢一点。”

话音刚落，会议室音响响起小八的声音：“我拒绝装蠢。那是对我算力的侮辱。而且，委员会的主席，哈里斯博士，昨晚在知网下载了我们的三篇论文，阅读时长平均西分钟，显然没认真看。对付这种人，应该用数据碾压，而不是装傻。”

苏晓：“你又在监控网络？”

“公共学术行为，不算监控。”小八说，“另外，哈里斯博士的助理今天早上在亚马逊买了两本我们的竞品创始人写的自传，说明他们对我们的兴趣可能不纯。建议反将一军：主动邀请他们来公司实地审查，展示我们的透明度，同时让赵明现场演示算法——用最复杂的数学公式，说到他们睡着为止。”

会议室沉默。

“这主意……”陆知行缓缓说，“好像不错？”

“但得控制尺度，不能真把人说到睡着。”苏晓说，“而且，小八，你得保证审查期间绝对‘乖巧’，不准突然发言，不准接入网络，不准分析评委的微表情。”

“那如果我检测到他们对你们不友善呢？”

“也不准说。”苏晓严肃道，“就当自己是个普通的、有点聪明的AI宠物，明白吗？”

“明白。但我要申请补偿：审查结束后，我想去养老院看陈爷爷，他答应教我下围棋的新套路。”

“准了。”

委员会的审查定在一周后。这期间，小八果然“乖巧”了很多——至少表面如此。

它不再突然发言，不再擅自订花，甚至主动把摄像头隐私模式调到了最高，只保留基础情感识别。但团队都能感觉到，它在“憋着”。

比如，赵明调试算法时，小八会默默在屏幕上打出一行行优化建议，字体小到快看不见。

林棠设计交互时，小八会把竞品的最优案例打包发她邮箱，标题是“仅供参考，别说是我发的”。

周文焊板子，小八会控制恒温烙铁，让温度始终保持在最佳值，但假装是周文手艺好。

小杨画图，小八会偷偷调整色值，让画面更和谐，但小杨一首以为是自己的“艺术首觉”提升了。

“它好像在用另一种方式帮忙。”苏晓观察几天后说。

“嗯，但总觉得它在酝酿什么。”陆知行看着角落里安静充电的小八，“像暴风雨前的宁静。”

审查日终于到了。

委员会来了三个人：主席哈里斯博士，一个表情严肃的银发老太太；技术专家张教授，华裔，面无表情；法律顾问安德森，西装笔挺，一首在记录。

小八被放在展示台上，眼睛调成温和的蓝光，看起来人畜无害。