“弹窗”的算法不是法,凭什么能限制人身自由?

日前，我在网上看到老人到湖州开会，回京时妻子的健康宝突然出现“弹窗”，导致他们无法购买火车票或飞机票。他们各方求助，都没有得到解决。他们甚至都不知道为什么出现了弹窗。而且，二人一直同行同住，为什么只有一人弹窗？健康宝系统的AI女士在解答问题时虽然软语温柔，但是不解决任何实际问题，给人的感觉是冷冰冰的。两位老人孤独无助地滞留他乡的这段经历，令人感慨万分。

于是，我又想到了发生在自己身边的事情。我的亲戚在两个月前从深圳来到北京。这也是一对七八十岁的老人。他们在北京饭店住了几天，按规定进行核酸检测。一天早上，ta他们要乘坐出租车外出时，丈夫的健康宝突然出现了弹窗。他们急忙回饭店询问工作人员，后者回答说可能是他们在深圳的住宅区出现了疫情。

按规定，他们要就地隔离，搬到特定楼层的房间。工作人员考虑到他们的年龄，又征求了他们的意见，然后通过酒店帮他们购买了返回深圳的飞机票， 并且叫来出租车，亲自向司机说明有关情况。当天晚上，他们顺利地回到了深圳的家中。他们非常感谢北京饭店的工作人员！

健康宝的弹窗是科学技术的产物。防疫部门利用这种科技手段进行流行病学调查和疫情风险排查，具有一定的必要性与合理性。但是，把弹窗作为直接限制公民自由的工具， 缺乏法律依据，因为这等于把信息系统的“算法”当作了限制公民权利和拘束公民行为的法律。

健康宝的弹窗功能是以算法为基础的，而算法是信息技术人员为实现特定目的或解决特定问题而设计的一系列准确而完整的指令，是通过相关的软件、程序或代码表达的系统性技术规则。毫无疑问，算法的设计是一项科学工作。但是，在一个国家中，限制公民权利和自由的决策不仅要考虑科学性，还要考虑许多涉及国家治理和道德规范的因素，例如公平、秩序、人性、友善、和谐等。因此，把限制公民权利和自由的权力交给算法，既不符合人类文明的要求，也不符合依法治国的原则。

算法虽然具有科学性，但是在设计过程中也可能出现疏漏，或者说，算法的内部结构与实现逻辑也可能存在漏洞，甚至包含某些设计人员私自安植的“后门”。因此，涉及公民权力和自由的重大问题，不能完全交由算法进行规制处理。另外，作为健康宝弹窗之基础的算法，往往还会运用大数据抓取技术去选择对象，于是就出现了同行同住的夫妻中只有一人弹窗的现象。用这种带有随机性的选择方法确定限制人身自由的对象，显然不符合公平正当的法治原则。

我以为，健康宝的弹窗技术具有科学性，可以作为防疫部门进行流行病学调查和疫情风险排查的工具，但是不能直接用来限制公民的人身自由。我建议防疫部门采取修正措施如下：1.要求信息技术人员修改算法，使那些需要提醒的可能与新冠病毒感染者有接触的人不再出现手机弹窗，而改为手机短信提示；2.明确规定健康宝弹窗只是对个人的提醒，不影响其乘坐交通工具和进入公共场所。诚然，笔者只是个法学教授，既不懂疫情防控，也不懂信息技术，因此，这只是从法治的角度提出的一点建议， 供决策者参考而已。

随着大数据和人工智能等新型科学技术的迅速发展，我们正在快步进入人类社会的智能时代。在这种形势下，算法会以各种方式干预人类的生活，而智能机器和信息系统等搭载算法的各类产物也会干方百计地入侵人类的社会。假如有一天，国家的法治变成了“算法之治”，人类恐怕就将沦为机器人的奴隶！

我这是杞人忧天吗？