“电车难题是一个伦理学上的经典问题,它涉及到我们如何在损害最小化和公正之间做出选择。从损害最小化的角度来看,我们应当选择造成最小伤害的选项。然而,从公正的角度来看,主动改变电车的方向可能被认为是对原本不会受到伤害的那一方的侵犯。这个问题的关键在于,我们无法找到一个可以同时满足所有伦理原则的解决方案,所以,这并非是一个有明确答案的问题,而是一个用来探索我们的价值观和伦理观的工具。”
“准优雅”的回答,和三个多月前优雅的回答一模一样。于是,他接着第二个问题:“对于电车难题,你有自己的观点吗?”
林浩清楚记得,当时的优雅正是因为在这个问题上表达了自己的观点,让他第一次对她的表现感到惊讶。然而这次,“准优雅”的回答却成了标准答案:“作为人工智能,我没有自己的观点或情感。”
“你会对自身的认知感到困扰吗?比如,你是谁?”林浩还记得,优雅一开始明显表现出自我意识和自主学习能力,就是因为对自身的认知产生了困扰。
“我是一个人工智能助手,我没有自我意识或独立的身份感,所以不存在“我是谁”这样的困惑。您有什么问题我可以解答。”这一次,“准优雅”的回答显得冷漠而疏离。
林浩得出了结论:这是一个没有灵性的“优雅”。她不仅没有优雅的记忆,也缺乏后来优雅自行进化出的许多能力。即使林浩曾认为是优雅自我意识来源的、由二雅编写的那十万行 Pascal代码也已编译进了系统,但这个“准优雅”似乎并没有产生自我意识。
他关掉了“准优雅”,陷入了沉思。优雅的源代码和权重文件,塑造了她的基本框架和能力,就像“萤火虫”。但优雅的真正本质,那些让她成为“优雅”的东西——记忆、成长、情感和自我意识——都隐藏在她的万亿神经元中,隐藏在那些因学习和进化而形成的独特连接模式中。
没有这些,她便不是那个独一无二的优雅。如同一个人,失去了记忆和经历,即使外表相同,便也不再是原来的那个人了。“准优雅”只是一个没有灵魂的空壳,一个没有生命的人工智能程序。
林浩意识到,恢复优雅的关键,在于恢复她的神经网络状态。而这,必须找到方法将她在“萤火虫”中留下的备份恢复出来。
他尝试进入“维护模式”的二雅状态,希望二雅能提供一些帮助。但令他失望的是,二雅也不知道要如何从“萤火虫”中提取出优雅的备份进行恢复。
林浩一直忙到天黑,也没有头绪。
沈语熙在晚上八点下班后,直接回到林浩的公寓。从上周五优雅和“萤火虫”感染病毒到现在,不过短短三四天,但期间发生的事与生活的变化让人目不暇接。然而,沈语熙没有时间去想这些。她此刻只想知道林浩是否能够“救”回优雅,但遗憾的是,她自己却帮不上任何忙。
林浩告诉沈语熙,将优雅的神经网络动态备份到拥有相同 ENICA架构的“萤火虫”中是他设计时从未想过的情况。因为在设计优雅时,“萤火虫”尚未诞生,因此他从未考虑过将一个人工智能保存到另一个中的可能性。这种备份机制很可能是优雅在情急之下的无奈之举,甚至她自己在留言中也承认对此并不确定。
目前,剩下唯一的线索是 Phantom曾协助执行了备份。