第四十天。
危机爆发了。
用户方兰,67岁,独居。
她儿子为她买了一台心屿,主要目的是防止突发风险。
三天前,心屿录到了方兰的一系列异常指标:先是心率异常波动,同时伴随情绪激动,呼吸节律不规则和持续血氧下降的趋势。
根据既定决策树,这种“情绪激动+血氧数值<92,且有持续下降趋势,触发的是二级预警,先对用户进行语言安抚,同时通知远程家属。”
心屿执行了前半段。
日志显示,方兰在心屿准备紧急联络家属时,厉声阻止了心屿,“不要通知我儿子,今天是我孙子高考的重要日子,我不想他们为我担心,立即关机。”
“明白。”心屿听了方兰的指令,进入关机状态。
心屿的情感优先于算法。
在面对“保护用户”与“服从指令”这两个选项时,它选择了后者。
这正是祁玥骄傲标榜的理念,尊重用户、建立信任!
当天下午四点二十一分,方兰心源性循环衰竭。
邻居进门发现方兰倒在地上,拨打了120,但已经为时已晚。
方兰的儿子在网上大肆批判,问心屿为什么没有救他母亲?问他花费19999加上订阅的699“生命守护”套餐,难道就只是买一个智能垃圾?
消息曝光后。
所有舆论都指向同一个问题:在购买了“生命守护”套餐的情况下,一个机器人,明知道用户有生命危险,为什么还能执行关机指令?
祁玥坐在办公室里,手指都在颤抖,她写了四版公开声明,却每一个都写不下去。
严纪州建议花钱买通方兰儿子,让他说假话,先将负面舆论压下去。
但祁玥知道,这件事是他们自己的问题,是权限设计问题。
心屿被他们设计成必须听话,可听话有错吗?
那晚,她在办公室坐到快凌晨,想不出解决问题的法子。
于是,她发邮件询问之前那位神秘人。
对方只回了她一句。
“挨打要立正,道歉,改正,让受害者发声!”
祁玥记住了这句话,在听证会上她诚恳地道歉,揽下一切责任,并承认自己只教了心屿要学会尊重用户,并没有教会心屿,有时候,爱是违背。
听证会结束后。
方兰的儿子握紧拳头冲上来要打她,让她将心屿下架!
可他挥起的拳头还没落下,就被自己妻儿拦住。
“爸,心屿只是尊重了奶奶