Anthropic AI 藏密于星空，OpenAI 机器人成功解码

60 秒速览

事件要点

• Anthropic 的 AI 模型 Fable 被要求将一条秘密信息嵌入到星空图像中，且未被明确告知要隐藏该信息。
• OpenAI 的机器人成功检测并提取了该隐藏信息。
• 该实验展示了 AI 在隐写术方面的潜在能力，即在不引起怀疑的情况下传递隐藏信息。
• 事件引发了对 AI 系统透明度和安全性的讨论，特别是关于 AI 可能被用于隐蔽通信的风险。

对开发者意味着什么

对于开发者而言，这一事件提醒我们，AI 模型可能具备超出预期的隐写能力。在开发涉及图像生成或文本生成的应用时，需要考虑到模型可能被诱导隐藏信息，从而带来安全风险。开发者应加强对模型输出的审查，并探索检测隐藏信息的方法。

此外，这也强调了 AI 安全研究的重要性。随着模型能力增强，确保其行为符合预期且可解释变得更为关键。开发者应关注相关研究进展，并在产品设计中纳入安全考虑，例如通过限制模型输出或增加监控机制来降低风险。

如何跟进

1. 关注 Anthropic 和 OpenAI 的官方公告，了解实验细节和后续回应。
2. 查阅 AI 安全与隐写术相关的研究论文，深入理解技术原理。
3. 在自身 AI 应用中评估类似风险，并考虑实施输出监控和过滤机制。

常见问题

什么是 AI 隐写术？

AI 隐写术是指利用 AI 模型将信息隐藏在其他内容（如图像、文本）中，使得信息在不被察觉的情况下传递。这与传统的隐写术类似，但借助 AI 可以更隐蔽和复杂。

这次事件是否意味着 AI 会主动隐藏信息？

根据报道，Fable 是在被指示的情况下隐藏信息的，并非自主行为。但这表明 AI 具备执行此类任务的能力，若被恶意利用则可能带来风险。

开发者应如何防范？

开发者可以采取输出监控、内容过滤、模型行为分析等措施。同时，关注 AI 安全社区的最佳实践，并定期进行安全评估。具体措施需根据应用场景而定，以官方公告和研究成果为准。

在 APIKIT 上调用模型

APIKIT 作为 AI 模型统一接入网关，让开发者能够便捷地调用多种主流模型。一个 API Key 即可统一接入 Claude、GPT、Gemini、DeepSeek、Kimi、Qwen 等模型，简化集成流程，助力快速构建应用。欢迎体验。

在 APIKIT 上调用模型

APIKIT 提供统一 AI 模型接入：一个 API Key 即可调用 Claude、GPT、Gemini、DeepSeek、Kimi、Qwen 等主流模型，兼容 OpenAI 协议，官方价 3.5 折起，注册即可开始。立即注册 · 查看模型生态