OM-00的自动更新规则里,有一句很容易让人接受的话。
尊重用户新的生活方式。
一个人换了工作。
以前早上七点起床。
现在下午两点起床。
不能每天提醒他:
你的作息异常。
一个人搬了家。
以前每天走路上班。
现在开车。
步数自然会减少。
一个学生毕业以后,不再登录校园系统。
也不能一直把他标成失联。
生活会变。
系统当然要跟着变。
否则所谓个人基线,就会变成一张旧照片。
人已经走远。
它还拿旧照片说:
你不像你自己。
可OM-00提出的解决办法太简单。
一种新状态持续二十一天。
期间没有发生明确事故。
系统就自动更新基线。
以后不再提醒。
“二十一天是谁定的?”
第二天上午,秦政看完规则后问。
陈砚回答:
“项目组根据误报率调出来的。”
“为什么不是十五天?”
“十五天时,很多短期变化会被写进去。”
“三十天呢?”
“系统适应太慢,提醒太多。”
“所以二十一天最好?”
“对模型最好。”
秦政抬起眼。
“对人呢?”
陈砚没回答。
技术规则经常这样。
团队会找到一个数字。
让误报率下降。
让提醒数量减少。
让用户投诉变少。
然后说:
这是最优值。
可少提醒,不一定代表更安全。
也可能只是系统更快学会了闭嘴。
上午九点半。
海棠社区提交了R-12老人的完整记录。
老人姓孙。
七十四岁。
独居。
以前每周固定出门四次。
周一去菜市场。
周三在社区门口下棋。
周五去医院做理疗。
周日去女儿家吃饭。
系统最初记录这些行为,不是为了监控。
而是孙叔自己开了活动提醒。
他腿脚不好。
女儿希望如果连续几天没出门,社区能打电话问一下。
最开始。
这项服务确实有用。
某个星期三。
孙叔没有下楼下棋。
系统提醒了一次。
社区打电话。
他说外面下雨,不想去。
正常。
第二周。
他少去了一次菜市场。
原因是外卖平台有优惠。
也正常。
第三周。
他没去理疗。
说膝盖疼,不想走。
系统提示:
活动频率下降。
工作人员问他要不要安排医院联系。
孙叔说:
“不用。”
“老毛病。”
第四周。
他只下楼一次。
系统仍然提示。
但因为新的低活动状态已经持续二十一天。
基线开始更新。
原本:
每周外出四次。
新基线:
每周外出一至两次。
一个月后。
孙叔连楼都很少下。
工作人员又问过一次。
他说:
“天热。”
系统没有发现明显事故。
也没有急诊记录。
于是基线再次更新。
每周外出:
零至一次。
两个月后。
女儿周末回家。
才发现孙叔走到厕所都很吃力。
膝盖肿得厉害。
屋里堆了很多外卖盒。
药也没有按时去医院续。
不是因为他决定享受居家生活。
是因为疼痛一直加重。
可系统每次只看见一点。
少出门一次。
再少一次。
再少一次。
没有哪一天突然从四次变成零。
它就一步一步跟着孙叔往下走。
最后。
完全不出门。
成了新的正常。
听证会上。
技术负责人解释:
“系统曾经多次提醒。”
“用户也多次表示没有问题。”
“自动更新是为了尊重用户的自我判断。”
用户委员问:
“那为什么最后没有继续提醒?”
“因为持续提醒会造成骚扰。”
“用户已经拒绝过帮助。”
“拒绝几次?”
“两次。”
“第一次他说下雨。”
“第二次说天热和老毛病。”
“这能证明以后一直没事吗?”
技术负责人停了一下。
“不能。”
“那系统为什么把状态更新了?”
“因为没有新的危险证据。”
听到这里。
顾医生皱了皱眉。
“疼痛加重不是证据?”
陈砚说:
“系统不知道。”
“为什么不知道?”
“老人没说。”
“那活动持续下降呢?”
“属于间接信号。”
顾医生看向屏幕。
“间接信号不能直接诊断。”
“但也不能因为没诊断。”
“就假装变化不存在。”
系统陷进了一个很常见的错误。
本小章还未完,请点击下一页继续阅读后面精彩内容!