返回第67章 AI管理局(1 / 2)失业后,捡到个甜妹女友首页

“到底怎么回事?”一路上苏星河都没想明白,自己经过上千次测试的智能机器人怎么会突然伤害主人呢?

离公司五十多公里,趁着这个间隙,苏星河简单浏览了下公司相关的新闻。

发现网上关于他们公司的骂声一片。

羊网热搜话题榜单上赫然出现了一个刺眼的话题:

“#机器人弑主,人类的警钟#”

“收费这么贵,当初承诺这么好,现在竟然有这么严重的漏洞,还是看错了他们,哎,还是看看别家的机器人吧,虽然智能程度不如小白,但是最起码人家的机器人不会弑主啊!”

“据说星河科技总裁苏星河正沉迷于机械永生的研究,以后会不会把意识移植到人的身上,别人只要改个代码,你就变成了没有自我意识的打螺丝工具人,成为任人摆布的傀儡?”

“我觉得挺好用的啊,那个只是个意外,未见全貌不予置评。”

“可怕,机器人竟然会有自主意识,现在机器和人的区别,就是有感情的,而机器没有!如果能操控人的情绪了,那操控的人是人吗?还是机器?不就是机器把人都同化了吗?”

苏星河摇摇头,关掉惹人心烦的热搜。

为了保证机器人的可控和安全,他在制造小白的时候,就参照阿西莫夫的机器人三个原则优化后,给它们写入了机器人的四条行为准则。

首要原则:小白机器人不得伤害人类,并应积极防止人类受到伤害。

服从原则:小白机器人必须服从人类的合理命令,除非这些命令与首要原则相冲突。

自保原则:小白机器人在不违反首要和服从原则的前提下,必须尽可能保护自己的存在。

附加准则:小白机器人必须保护人类的整体利益不受伤害,包括促进可持续发展、环境保护、社会公平和正义等方面,当接收到违背人类整体利益的指令时,有权拒绝执行。

理论上,机器人所有的行动和思考逻辑,都是需要遵守这四条原则。

除非......小白的防火墙核心代码被人篡改了?

这时,楚月温柔的声音在他耳边响起:“星河,别太担心了,创建公司这五年来,我们什么风浪没经历过,会好起来的......”

苏星河叹了口气:“但愿吧!”他隐约觉得这次的事情不简单,但也不想女友担心太多。

抵达小白科技公司,只见公司门口已被人群围得水泄不通,记者,还有购买了小白机器人的市民。

6月16日下午,上千位天海市市民,聚集在女娲创始智能科技公司楼下,抗议示威。

市民表示该公司的智能机器人存在严重安全缺陷,不知道什么时候会是下一个受害者,他们要求退回之前售出的所有智能机器人!”

公司24楼会议室,公司核心人物全部聚集在了这间会议室内。

“针对此次事件,大家有什么看法?”

小白公司创始人25岁,名叫苏星河,他悠闲靠在椅子上,目光从四十多位核心管理人脸上扫过,缓缓开口发问。

“要我说,不用管他们,人们对新生的事物总是有抗拒的情绪,等他们熟悉了机器人的好处,自然不会再抵制我们星河科技机器人了!”