人工智能可以用来预测犯罪吗？应该吗？

fabiha01

近日，阿根廷政府宣布成立人工智能应用安全联盟（UIAAS），旨在利用人工智能（AI）预防、侦查、调查和起诉犯罪。该计划涉及使用机器学习算法分析历史犯罪数据并预测未来的犯罪。预计该部门还将部署面部识别软件来识别“通缉犯”，监控社交媒体，并分析实时安全摄像机镜头以检测可疑活动。

这一发展引发了不同的反应。一些人担心它可能对公民的权利构成威胁，而另一些人则对利用技术创造更安全社会的潜力表示赞赏。即使是最注重隐私的人也可能会受到减少暴力和创造更安全环境的承诺的诱惑。那么，我们应该为这样的举措欢呼，还是害怕呢？

本文将深入探讨人工智能是否可以（以及是否应该）用于预测犯罪，并作为一项思想实验，探索欧盟的人工智能法规将如何处理像 UIAAS 这样的机构。

人工智能可以预测犯罪吗？
人工智能是指能够从数据中学习、推理并自主决策的系统。这些系统可以生成预测或建议，随着时间的推移进行调整，并且独立于人类的直接控制运行。例如，音乐流媒体服务使用人工智能来了解您的音乐偏好，并根据过去的行为提供个性化推荐。同样，人工智能可以从数百万张医学图像中学习，并学会识别癌症的迹象，甚至可能比医生更早。

按照这些前提，人工智能可以分析数百万份犯罪记录，以识别可能有助于预测犯罪可能发生的地点或谁可能犯罪的模式，从而使当局能够更有效地分配警务资源。

但这在实践中真的有效吗？

甚至在当前人工智能热潮之前，世界各地的当局就已经尝试利用大数据和机器学习（人工智能的支柱）来支持警务工作。然而，犯罪预测人工智能系统在现实世界中的部署暴露出了一些局限性：

数据偏差：犯罪预测模型严重依赖历史犯罪数据，这可能会夸大流浪或游荡等轻微犯罪行为。这就形成了一个反馈循环，贫困地区警力的增加导致逮捕人数增加，进一步增加了弱势群体的犯罪率。这样一来，这些模型就有可能将贫困定为犯罪，而不是解决严重犯罪问题。
范围有限：由于训练数据不足，这些模型经常忽视白领犯罪。富人犯下的金融欺诈或腐败行为往往得不到监管，导致系统性问题得不到解决，而人工智能模型则专注于街头犯罪。
种族和经济差异：在许多国家，地理位置与种族或民族密切相关（即同一种族或民族群体的成员在某些社区中往往占比过高）。即使人工智能被训练不直接考虑种族以避免歧视，它对地理数据的依赖可能会成为种族的替代因素，从而加剧警务工作中的种族不平等。这种间接偏见进一步加剧了刑事司法系统中的不平等。
目标有缺陷：犯罪预测模型往往是为了最大限度地提高逮捕率，而不是为了建立信任或改善社区关系。这种惩罚性的做法破坏了制定更积极的警务策略的努力，而这种策略原本可以加强执法部门与其服务社区之间的联系。
现有工具的无效性：最广泛使用的犯罪预测软件系统之一 PredPol 被发现出人意料地无效。 2023 年的一项研究表明，西班牙商业传真列表 PredPol 的预测准确率不到 1%，这使得人们对人工智能犯罪预测的整体可靠性产生了严重怀疑。
此外，为了使人工智能模型真正有效，它必须从错误中吸取教训。理想情况下，如果预测某人会犯罪但实际上并未犯罪，系统就会调整其推理，以避免将来出现类似的误报。然而，执法机构通常没有未犯罪个人的数据。即使有这样的数据，维护一个动态的、自我修正的人工智能模型也会非常复杂和昂贵。

对于那些有兴趣深入探究犯罪预测算法所带来的社会风险的人来说，凯茜·奥尼尔的《数学毁灭武器》一书对这些技术的意外后果提供了宝贵的见解。

思想实验：应用欧盟人工智能法案
尽管阿根廷不受欧盟法规的约束，但让我们考虑一下阿根廷人工智能应用安全联盟 (UIAAS) 在欧盟人工智能法案（旨在规范人工智能系统的道德和安全部署的法规）下的表现。

根据阿根廷第710/2024号决议，UIAAS将履行几项关键职能，包括：

使用面部识别实时识别通缉犯
分析安全摄像机录像以检测可疑活动
利用机器学习根据历史数据预测未来犯罪
处理大型数据集以创建嫌疑人档案并建立案件之间的联系
部署无人机进行空中监视和应急响应
根据欧盟《人工智能法案》，许多此类做法可能属于禁止人工智能使用的类别。该法第 5 条明确禁止在公共场所使用面部识别等实时生物识别技术（极少数例外）。出于对隐私、歧视和公民自由的担忧，基于分析的预测性警务也受到严格限制。

此外，即使是系统中未被禁止的部分，也会因根据《人工智能法案》附件三被归类为高风险人工智能系统而面临挑战。例如，将人工智能用于执法目的或远程生物识别将受到严格的规则约束，这些规则要求建立全面的风险管理系统、适当的人工监督和透明度要求。此外，该系统需要在欧盟高风险人工智能数据库中注册。

此外，根据工具的具体用途，还可能出现其他问题。例如，UIAAS 将负责分析社交媒体活动以识别潜在威胁。在最坏的情况下，这可能迅速演变为对政治反对派的迫害并违反民主价值观。

简而言之，UIAAS 的许多核心功能将被视为非法，其余功能则需要根据欧盟人工智能法案进行非常严格的合规努力。

结论
尽管人工智能具有改变许多行业的巨大潜力，但它在执法领域（一个具有高风险和道德复杂性的领域）的应用却存在多种灰色地带。人工智能在犯罪预测中的应用可能会受到数据偏见、范围有限以及加剧现有种族和经济不平等的风险的影响。此外，这些工具的有效性也远未得到保证。

从监管角度来看，与世界其他法律体系相比，此类系统在欧盟人工智能法案下将面临重大限制，这一事实凸显了该立法在维护公民自由和防止滥用方面的作用。

最终，使用人工智能预测犯罪引发了人们对公共安全与公民权利之间平衡的质疑。虽然更安全的社区前景很诱人，但必须仔细权衡潜在的利益与巨大的风险。