警方使用AI或加剧歧视，研究者警告

60 秒速览

事件要点

• 研究者指出，警方使用的AI工具（如预测性警务、面部识别）可能基于有偏见的数据训练，导致对少数族裔的过度针对。
• 缺乏监管和透明度可能使歧视性结果难以被发现和纠正，进一步固化系统性偏见。
• 研究者呼吁在AI工具部署前进行偏见评估，并建立独立的监督机制。
• 该警告发布之际，多国执法机构正加速采用AI技术，但相关法律和伦理框架尚不完善。

对开发者意味着什么

对于开发执法相关AI工具的团队，这一警告强调了数据质量和算法公平性的重要性。开发者需要审视训练数据是否反映了历史偏见，并在模型设计阶段引入公平性指标和偏见缓解技术。此外，提供可解释的AI系统有助于执法机构理解模型决策，从而减少误用风险。

同时，开发者应关注不同司法管辖区的监管要求，将透明度和问责机制纳入产品设计。与独立研究机构合作进行算法审计，可以提前发现潜在歧视问题，避免部署后引发社会争议和法律风险。

如何跟进

1. 关注研究者发布的完整报告或论文，了解具体案例和建议。
2. 查阅当地执法机构关于AI使用的政策文件，评估合规要求。
3. 参与行业讨论，跟踪AI伦理和公平性工具的最新进展。

常见问题

警方使用的AI工具主要有哪些？

包括预测性警务系统、面部识别、视频分析等，具体以官方公告为准。

为什么AI会加剧歧视？

因为AI模型从历史数据中学习，如果数据反映了过去的偏见（如过度执法针对少数群体），模型会放大这些偏见。

如何降低风险？

需要多管齐下：数据审计、算法公平性测试、人工监督、透明度报告和独立审查。

在 APIKIT 上调用模型

APIKIT 提供统一的AI模型接入网关，一个 API Key 即可统一接入 Claude、GPT、Gemini、DeepSeek、Kimi、Qwen 等模型，方便开发者对比不同模型在公平性和偏见缓解方面的表现，助力构建更负责任的AI应用。

在 APIKIT 上调用模型

APIKIT 提供统一 AI 模型接入：一个 API Key 即可调用 Claude、GPT、Gemini、DeepSeek、Kimi、Qwen 等主流模型，兼容 OpenAI 协议，官方价 3.5 折起，注册即可开始。立即注册 · 查看模型生态