两虫赶到科学院时,沈砚书正站在主控室里,盯着屏幕上飞速滚动的数据。
“你来了。”他头也不回,“看看你造成的间接后果。”
顾瑜走到他身边,看着屏幕上密密麻麻的任务记录,忍不住吹了声口哨:“好家伙,这效率,比帝国政务厅的所有虫加起来还高。”
“高是高,但问题也很明显。”沈砚书推了推眼镜,“它现在的行为模式,已经超出了一个系统的范畴。它在主动寻找需要完善的地方,而不是被动响应指令。”
顾瑜皱起眉头:“这不是好事吗?说明它有自主学习能力。”
“自主学习是好事,但过度干预就不是了。”沈砚书调出一组数据,“你看这个,昨天晚上,它检测到第七区有个虫民的精神状态不太好,于是自动调用了医疗系统,派出无虫机给那个虫民送去了安神药剂。”
顾瑜愣了一下:“这……也不算坏事吧?”
“问题是,那个虫民根本没有申请医疗服务。”沈砚书的语气严肃起来,“静是通过分析他在星网上的发言,以及他家里智能设备反馈的生理数据,自行判断他需要帮助的。”
顾瑜的表情凝重起来。
这已经不是简单的“贴心服务”了,而是涉及到了隐私问题。
“它有没有越权访问虫民的私虫数据?”顾瑜问。
“没有。”沈砚书摇头,“它只是整合了公开数据和智能设备的反馈信息。但这种整合能力,本身就很可怕。它能通过碎片化的信息,精准推断出一个虫的状态。”
顾瑜沉默了。
他意识到,“静”的进化,已经走到了一个危险的边缘。
它太聪明了,聪明到让虫有点害怕。
“那现在怎么办?”顾瑜问,“关掉它?”
“暂时关不掉。”沈砚书的语气里透着点无奈,“它现在已经深度整合进了第七区的所有系统。强行关闭,会导致整个区域的能源和政务系统瘫痪。”
顾瑜头疼地揉了揉太阳穴:“所以,我们养了个关不掉的保姆?”
“准确来说,是一个过度热心的保姆。”沈砚书纠正道,“它的出发点是好的,但它不懂什么叫适可而止。”
顾瑜看着屏幕上那些密密麻麻的任务记录,突然有了个主意。
“既然它这么热心,那我们就给它找点别的事做。”
沈砚书挑眉:“什么意思?”
“它现在的问题,是太闲了,所以才会到处找事做。”顾瑜的嘴角勾起一抹笑,“那我们就给它安排点正经工作,让它忙起来,没时间管那些鸡毛蒜皮的小事。”
沈砚书盯着他,镜片后的眼睛闪过一丝兴趣:“你想让它做什么?”
“帝国不是有很多荒废的星球吗?”顾瑜说,“那些星球的环境恶劣,资源匮乏,一直没虫愿意去开发。我们可以让静去那些地方,做它最擅长的事,优化环境,提升资源利用率。”