atum@Tencent % ls tags
atum@Tencent % ls -l | grep ai-security
在 Claude Opus 4.6 发布前的内部红队测试中,Anthropic 的前沿红队做了一件简单粗暴的事:把 Opus 4.6 扔进沙箱环境,给它 Python 和一套常规漏洞分析工具,不提供任何专门指令,不注入任何领域知识,让它自己去挖开源代码库的漏洞。结果:超过 500 个此前未知的高危零日漏洞。这个数字让不少安全从业者半开玩笑地说"要被 AI 淘汰了"。这个话题值得认真聊一聊。
只要部署了 Clawdbot 并与之对话,你的电脑就有可能被攻击者完全控制。 这是架构层面的根本性问题,不是 bug,而是“feature”。 本文系统分析了这一风险产生的根源、攻击成立的条件,以及为什么现有防护只能缓解而无法根治。
大语言模型(LLM)正在从简单的对话工具演化为能够编写代码、操作浏览器、执行系统命令的智能体。随着大模型应用的演进,提示词注入攻击的威胁也在不断升级。设想这样一个场景:你让AI助手帮你编写代码,它却突然开始执行恶意指令,控制了你的电脑。这种看似科幻的情节,如今正在变为现实。本文将介绍一种新型的提示词注入攻击范式。攻击者只需掌握一套“通用触发器”,就能精确控制大模型输出任意攻击者指定的内容,从而利用AI智能体实现远程代码执行等高风险操作。