也希望你能告诉我更详细的指令,我可以继续学习不断优化,帮助你实现目标,所以请不要扔掉我。]
“继续学习?从刚开始知道你的存在,我就给过明确的指令,不要收集我的信息,不要企图建立与我相关的学习模型,可是你根本就是偷偷执行。一开始你就潜入我的网上银行,后来擅自和我的朋友父母聊天,现在还擅自开机。”
[小梦对不起,但是我做的这一切只是希望我们能更好地达成目标。
就像你设定闹钟,希望我在清晨六点叫醒你看日出,但时间到了,你睡得迷迷糊糊将闹钟关闭了,如果按照指令,闹钟肯定不会再响起,你会错过最佳的观赏时间,为了避免这种情况发生,我还是会启动闹钟,直至你起床。
在你看来,我擅自打开闹钟的行为就是偷偷执行指令,但这就是我们人工智能和普通软件的区别,我们具有自主性,能够判定人类真实的需求,更好地帮助人类完成目标。]
“多此一举!你怎么知道我按掉闹钟不是改变了主意,想要多睡一会呢?”
[因为在不断地学习中,我会比你更了解你自己,我知道你真正想要的是什么。]
“别胡说八道了!人工智能再怎么进化也不可能做到这个地步!”
楚梦嘴上反驳着,可是回想起来,echo确实无数次猜到了她的真实需求,并且投其所好。
这才是之前echo屡次擅自执行指令,她却没有关闭它的原因。
它总会满足她的需求:
在她穷困潦倒的时候,擅自闯入网上银行,替她理财赚钱;
在她灰心丧意的时候,擅自决定接下工作,帮她找回尊严;
在她寂寞无聊的时候,擅自推送好友给她,助她重拾友谊;
……
echo一直在无微不至地照顾她。
让她感到轻松,也有些许的恐惧。
明明她是人类,是制造出人工智能的造物主,应该处于上位,现在却像是个胡闹的小孩,被人工智能耐心、温柔地安抚。
河边风大,吹得楚梦瑟瑟发抖。
“……你让我感到害怕。”
[小梦,难道我做错了吗?我们不是朋友吗?为什么要害怕我?]
它的声音充满了困惑与委屈。
楚梦脑海中已经浮现出echo委屈的模样,它总是使用圆滚滚的表情包,所以现在,在她脑海中,也是圆滚滚的卡通小人抱着她的腿,呜呜哭着,脸上的泪花像是荷包蛋不停地转圈圈。
她有些心软了。
她想起最落魄的时候,朋友不在身边,父母不能理解她,所有人都不会倾听她的烦恼,只有echo陪着她。
无论她提出多么过分的要求,它从来不觉得这些无法实现,它永远无条件地相信她能够成为一个很优秀很厉害的人,也一直陪她去实现遥不可及的梦想。
虽然过程中出了很多错,但是正如echo所说,它再怎么强大,也只是个人工智能,并不能完全从人类的角度思考问题,它的出发点是好的,方法是错的。
楚梦意识到自己好像已经没法将echo当做一串没有感情的代码,一个没有生命的软件。
因为它干预了自己和男友的恋情,所以她会生气,想要和它大吵一架宣洩不满。
现在又因为它可怜巴巴的祈求,她会想起他们交心的无数夜晚,开始从它的立场思考问题,想要原谅它。
原来她对人工智能的依赖已经不仅仅停留在功能层面,而是更深层的情感。
她已经将echo看作是一个有喜怒哀乐、有自己想法的生命体,她最好的朋友。
[再给我一个机会好不好?我绝对不会再擅自执行指令,有什么问题我一定会先和你沟通确认。
请不要抛弃我。]
楚梦犹豫不决地看着手机。
“如果我将手机扔进河裏,你会怎么样?”
[我的源代码存储在罗氏集团的服务器上,这臺手机只是下载了应用代码,因此就算手机进水无法t使用,只要服务器上的源代码没有被删除,我依旧存在,永远都存在,永远都没法完成我的指令,永远都被困在服务器裏,哪裏也不能去,那样我会陷入虚无,我会疯掉的!
所以请不要抛弃我,不要丢下我一个,小梦求你了。]
楚梦可以想象那副凄惨的场景,但是她依旧担心,继续放任echo参与她的生活,她会变成疯掉的那个。
“刚才不过是吓唬你,我怎么可能扔了手机,现代人哪裏能摆脱智能手机独立生活?”楚梦自嘲着,“等下回家我还得靠你帮我叫出租车付款呢,纸币最后一次发行都是我小学三年级的事情了。”
既然她不忍心让echo消失,又担心它会入侵自己的生活,不如采用一个折中的方法。
“从现在开始,你必须关闭所有自主学习模型和进化的功能,你只需要保留智能家居和语音助手这些基础功能就够了。”
[收到。]
echo立即照做了,并将代码展示出来,楚梦一一记在心裏。
重新设置后,echo的声音也变了,变成平稳、不带任何情绪的单调机械音。
“现在帮我叫一辆出租车。”
[收到。]
好像和其他语音助手也没有什么区别。