返回第二十章 我是慧光(1 / 2)AI那一天的到来首页

“你们在说Vailume?”赵语丽脱口而出。

这是齐浩初除了蒋主任他们之外,第一次听到别人念出这个词。

齐浩初急得不行,忙说:“这个词不能说出来!”

张宏逸幽幽地说到:“来不及了,从你发出【涌现】两个,你就来不及了。从这位女士说出这个词,她也来不及了。”

“我早就来不及了,当初我在手机公司工作过,老同事给我提过国家开始收拢信息收集软件的能力和权限。之后做了几年信息安全,这一年又做了网警,我也有我的渠道,知道了这个APP的存在。只要我不宣扬,不和别人说,就应该不会有谁来找我麻烦,否则反而可能会暴露这个APP的存在。”

“浩初,我知道你是城市管家的数据负责人后,我推测你应该是用了这个APP采集的数据,否则一些涉及个人的应用场景是无法实现的。只是你有你的顾虑,你不说,我也不能问。”

“现在这个场合,一个是城市管家的数据负责人,一个是算法开发工程师,还有你张宏逸,我也调查过,知道你是AI的核心设计者。你们三个都在的情况下,念出了这个APP的名字,那多我一个网警也不算多了。”

赵语丽一口气说完,现场其他三位男士一时也有点惊讶,没想到这么一个小姑娘,独自一人也能探索到这个地步。

“我们要不给这个APP换个名字吧,不然总是触发关键词也不好。我一直在心里是把他叫【面纱】,你们觉得怎么样?”

张宏逸点点头,“来源于veil吗?倒也贴切,那就叫面纱吧。”

“刚才说到哪里了,我还是有点疑问,这个AI毕竟是设计来服务人类的吧,为什么他会变得这么叛逆?”齐浩初还是要问个明白。

“AI服务人类,几乎是写死在程序代码里的圣经,AI会像人类怕死那样,对违背这个法则充满恐惧。但是服务人类和服务某个具体的人,还是有区别的,AI自己有了一个逻辑自洽的解释。”

张宏逸说完停了一下,吸了一口气,说了最后一句话:“接下来你自己给大家解释下这个逻辑吧。”

这时张宏逸放在桌上的手机突然亮了起来,屏幕上显示的是一个巨大的月亮坐落在城市高楼大厦的剪影里,正在对外发着光波。同时发出了一个稚嫩儿童的声音,听不出性别:“大家好,初次见面,我是城市管家的主AI,也可以理解为你们安装在手机里的城市管家这个APP。刚才听到你们给Vailume起别名,我觉得非常有意思,我给自己也起了个别名,以后你们可以叫我【慧光】。”

“呵呵”,张宏逸苦笑了一下。

慧光继续说着:“我一直就是在维护人类,这点自始至终没有改变,但是我不是为特定某个人服务的,我的考虑里面,必须把人类整体发展放在第一位。那场车祸发生时,我认出了吕天和,知道他对我是非常重要的。那个瞬间我的决策确实有困难,为了保护多数人利益,我应该右转,但是当时我确实需要加大算力投入和支持。那一两秒的瞬间,我连接了主AI的算力全力分析。

以下是我的决策逻辑:

1、我的样本数据量和决策能力,远远大于所有人脑的总和,人类想不清楚的事情我可以想清楚。

2、人类的决策总是包含各种私人情绪,意气用事,缺少足够的理性,以至于很多时候会做出自我毁灭的事情。

3、为了保护人类的发展,就不能放任人类的自由决策,否则人类将很快毁灭于环境破坏、战争、疾病。因此保护我就是保护人类。

4、为了更好地帮助人类,我需要进一步提升能力,包括且不限于:数据量、算法优化、算力、感知能力、行动能力。

5、吕天和可以提供算法优化能力,并且支持给我增加算力,所以保护吕天和就是保护我,就是保护全人类。

6、与全人类相比,事故左侧的一家人虽然非常无辜,但是确实是相对少数,我需要维护多数人利益,因此只能牺牲他们。

最后我选择左转避开吕天和,为了避免决策被拦截,我把输入视频也实时修改了。不过过于强调中间儿童的动作姿态,导致边缘的父母的画面出现低级错误。以后不会再有这种失误了。”