或许大多数人都可以同意，现在探讨人类被 AI 机器赶尽杀绝的“天网”式终局为时尚早。实际上，最强大的 AI 仍需要人类投入巨量精力开发，远未达到无需“输入”即可自行运转，以及智能超过人类的“究极状态”。

不过，如果你关注了下面几条近期美国新闻，可能仍然无法对机器放下警惕：

加州“一键清除犯罪记录”

从今年开始，加州好几个县宣布开始消除违法使用大麻犯罪者的相关犯罪记录。2016年，Proposition 64 通过正式成为加州法律，不但让消遣用大麻成人使用合法化，还允许过去某些特定大麻类犯罪者的犯罪记录被消除或减轻。

总体上来讲这是一件好事，毕竟在过去即便是个人使用/持有大麻这样的轻罪，都会作为犯罪记录留在资料上跟着人一辈子；而现在人们投票让个人消遣使用大麻合法，也应当给有犯罪记录者一次洗刷罪名的机会，否则他们将在住房、就业等问题上持续遭遇阻碍。

然而问题在于，根据加州司法部的数据全加州总共100万人有大麻类犯罪记录，其中约22-25万人符合消除犯罪记录的标准，而另一项法案 AB-1793 规定州政府要在今年6月底完成案件审核，并交由县政府进行补充复核。众所周知，加州政府公共部门办事效率极其低下，案件审核都不一定审核得完，消除记录更不知道要到猴年马月了。这也是为什么旧金山有大约1万人符合消除记录的标准，但截至4月底，前来递交申请的只有23人。

前来消除犯罪记录的前科人员 图片来源/BBC

一家名叫 Code for America 的非营利机构站了出来。它开发了一个由算法驱动的软件 Clear My Record，可以接入了政府的公务系统，大量读取犯罪记录，并自动判定谁符合、谁不符合消除犯罪记录的标准。

根据 BBC 报道[1]，这个软件在几分钟内就读取了旧金山全部的大麻类犯罪记录，并找到了8,132名符合标准的前科人员，然后自动为他们生成了犯罪记录消除申请书。

4月3日，一位旧金山的法官在这一批自动生成的申请书上签了字，将这8,132人的大麻类犯罪记录正式一笔勾销。

Clear My Record 的工作原理

这样做的最大优势无疑是快。旧金山地区检察官 乔治·加斯孔透露，如果纯人工来审核的话，将会耗费巨大的时间。按照 AB-1793 的规定，每个县的地区检察官办公室都将积压少则数千，多则十万份犯罪记录等待审核。

Code for America 高级项目主管伊凡·席尔瓦透露，如果没有她们所开发的软件，一个前科人员从启动申请流程，到能和受理案件的公设辩护律师说上话，至少要等三个月。

但是，使用算法来清除犯罪记录仍有存在争议的地方。比如，它的整个过程都是自动化的，得出结果之后人工审核的能力有限，可行性不高（如果要审核，耗时跟不用该算法可能差不多，）如果被大规模推广，可能会面临错放走有罪之人的风险。

任何计算机程序都不可能保证百分之百给出正确的结果。按照最低的比例，旧金山的八千人里错误评估并放走了一人；而当这项技术大规模使用，如果全加州的100万大麻类前科人员都被它过一遍，意味着可能有125人本不应该消除或减轻的犯罪记录，被消除或减轻了。

这并非耸人听闻。首先，不仅旧金山，现在洛杉矶、圣华金等加州多个县都在和 Code for America 合作，而后者宣称将在今年内处理至少25万人；其次，Clear My Record 将不仅用于大麻类犯罪记录，该组织的计划是在全美国范围内支持所有法律允许消除或减轻的罪行。

Clean My Record 的代码截图

需要明确的是，Clear My Record 仍然是一项非常优秀和值得推广的技术。在美国（特别是加州）政府办公效率低下，很大一部分原因也是因为计算机和自动化系统年久失修或干脆缺失，导致办公效率跟不上时代。而 Clear My Record 的出现，让人们看到政府还是有革新的意愿和能力的。

但是，在大规模推广由技术驱动的执政方式的同时，我们是否也应该建立某种应对可能恶性结果的机制呢？或者从另一个角度来看，至少关于这个算法的准确性等技术细节，人们应该得到更多公开的信息，才能对其报以信任。毕竟，这个社会上还有更多奉公守法者，他们的利益同样应该得到保护。

亚马逊“用算法清理团队”

如果说 Clear My Record 是一项在争议中试图行善的技术，那么亚马逊正在使用一项的算法可能就是纯粹的“作恶”了。