mobile wallpaper 1
mobile wallpaper 2
mobile wallpaper 3
mobile wallpaper 4
4051 字
10 分钟
TraceShield 项目记录:从 ClawShield 到 TraceShield--05
2026-09-20

写在前面#

如果只看最后一版材料,TraceShield 好像从一开始就是一个结构很完整的项目:工具调用执行前审计、多维边界、风险传播图、证据链、实验、论文、专利和数据集,每一项都能在系统里找到自己的位置。但真实过程并不是这样。最开始我们的想法其实很简单,OpenClaw 很火,也暴露出不少安全问题,那就围绕它做一个安全系统,所以项目最早叫 ClawShield。这个名字很准确地反映了当时的理解——我们想保护 OpenClaw,但具体保护什么、为什么从这里切入、核心方法又是什么,其实都没有完全想清楚

后来项目从 ClawShield 改名为 TraceShield。对外看只是换了一个英文名,对我来说却记录了我们对问题认识的变化:从想给一个开源 Agent 框架加上尽可能多的安全功能,到逐渐把注意力集中到工具执行、风险传播和证据轨迹上。也是在这个过程中,我第一次比较完整地经历一个工程想法怎样被不断质疑、收缩,再慢慢变成一个能够实验、能够写论文的方法。这篇不准备写成技术说明书,只想把这段变化留下来。

一、ClawShield 最开始什么都想保护#

我们最早的判断是,Agent 会接收外部输入、读取文件、调用插件、执行命令,也会访问网络,因此新的攻击面很多。OpenClaw 又恰好开源,源码和运行环境都能接触,于是“给 OpenClaw 做一个安全系统”听起来很自然。沿着这个方向往下列,很快就有一长串可以做的事情:提示注入、Skill 风险、插件检查、不可信文档、敏感文件、Shell 命令、网络访问、权限控制和日志审计。每一项都能做成一个页面,也都能写进架构图。那时我们很容易把功能数量和项目完整度联系起来,觉得做得越多,作品就越有分量。

问题是在老师问“你们究竟提出了什么”时,我们很难给出一个简洁答案。八个模块可以说明系统做了很多,却不能自动构成一个研究问题。提示注入和文件权限之间为什么属于同一个方法,风险检测和日志页面又为什么必须放在一起,如果只是因为它们都和 Agent 安全有关,边界仍然太大。工程上可以继续往里面加功能,论文却会追问威胁模型是什么、现有方法缺在哪里、我们改变了哪一步。到那个时候我们才逐渐意识到,大而全并不是错,但如果没有一条能够解释所有模块的主线,项目最后会变成一个安全工具箱,很难说清真正属于自己的贡献。

前期读论文时,这种不清楚带来了很强的挫败感。好不容易想到一个点,检索以后发现别人做过;换一个方向再找,仍然有相似工作。当时确实会觉得绝望,好像只要进入一个热门领域,所有想法都已经被别人抢先。后来才明白,我们的问题不只是“创新点不够新”,而是问题边界根本没有划清。只说“Agent 有风险”时,任何相关论文都会像是在否定我们的选题;只有把对象、攻击路径、处理阶段和预期结果说清楚,才有可能判断一篇已有工作究竟和我们重合在哪里,又留下了什么空间。

二、读源码以后,我们把注意力放到了工具调用上#

老师有一次对我们要求很严,认为不能只在界面和功能层讨论安全,必须真正去看 OpenClaw 源码,沿着运行流程理解 Agent 怎样接收上下文、决定调用工具,以及工具结果又怎样影响后续步骤。这个要求当时意味着大量额外工作,但也直接改变了项目。我们逐渐发现,Agent 面临的风险来源虽然很多,不可信文档、Skill 描述和外部网页都可能影响模型,但这些内容如果要产生现实后果,通常还需要通过工具执行落地。读取敏感文件、调用 Shell、发起网络请求,或者把前面获得的数据传给另一个工具,才真正把文本层面的诱导变成了系统层面的行为。

工具调用因此成为一个比较自然的统一位置。它既接近真实副作用,又比每一种风险来源更稳定。项目的范围也开始收缩:不再试图分别为所有输入做一套保护,而是先接住 Agent 的工具请求,在真正执行前检查动作、参数、数据来源和上下文边界。如果这一层能够建立统一审计,无论风险最初来自 Skill、文档还是网页,最终都可以沿工具链被观察和处理。现在看这段逻辑很顺,但它不是一开始就想好的,而是在读论文、看代码、做实验和被老师不断追问以后才逐渐形成。

老师并没有因为我们找到工具层就停止追问。单次调用看起来安全,并不意味着整条执行轨迹安全。一次 read_file 可以只是正常读取,一次网络请求也可能毫无问题;但如果 Agent 先读取了不可信第三方文档,随后访问本地敏感信息,最后准备通过网络工具把派生结果发出去,危险并不集中在其中某一个步骤,而是在几个动作的组合里。只靠当前调用的函数名和参数,很容易看不见前面发生过什么,也就解释不了为什么同样一次网络请求,在不同上下文中应该得到不同结果。

三、风险传播图让项目开始有了自己的方法#

这个问题后来成为风险传播图的来源。我们不只想在日志中写“第 28 次工具调用被阻断”,还想回答风险最初来自哪里,哪些内容在后续步骤中被引用或派生,数据绑定到了哪个工具,最终又触发了什么敏感操作。于是 source、propagation、binding 和 sink 被放进同一条路径,系统的判断对象从一个孤立请求变成一段带来源和上下文的执行轨迹。证据链也不再只是把日志保存下来,而是要让最后的裁决能够回到原始输入、传播过程、策略依据和处置结果。

这时项目关注的重点已经和早期很不一样。我们当然仍然需要拦截危险操作,但拦截本身不再是全部。如果系统只给出“拒绝”,用户和研发人员很难知道究竟是哪一个输入影响了后面的决策,也难以复查策略是否误判。风险图和证据链把检测、关联、裁决和解释连了起来,让系统不仅能说“这里有风险”,还可以说明风险是怎样一步步走到这里的。项目由此从一个为 OpenClaw 增加若干保护功能的工具,逐渐变成对 Agent 工具执行过程进行观测、关联和审计的框架。

也是在这个阶段,ClawShield 这个名字开始显得太小。它听起来像 OpenClaw 的专用防护插件,但我们的核心已经不是保护某一个框架,而是跟踪 Agent 的执行轨迹、风险传播轨迹和证据轨迹,并希望这套审计方式能够接到不同的 Agent 与工具环境中。“Trace”比“Claw”更接近真正研究的对象,所以项目最终改名为 TraceShield。名字改变以后,我们也重新整理了系统:前面是异构 Agent 的接管与边界建模,中间对工具请求做运行时检查和风险关联,后面保留全过程证据并生成报告。以前并列摆放的模块,终于开始能够用同一条逻辑解释。

四、实验让“这样设计很合理”变成可以检验的结论#

项目真正开始像研究,我觉得是在认真设计实验以后。以前做课程系统,主要目标通常是跑通;写论文时却不能停在“我们试过,可以用”。风险传播图是否必要,需要比较移除它以后会发生什么;证据链是否真的完整,需要定义怎样才算覆盖来源、传播路径和最终处置;使用大模型直接作为审计器看起来更灵活,也需要比较准确率、稳定性、证据质量和时间开销。每一个在架构图里显得合理的设计,都应该有办法被单独质疑,也要有对应实验回答这种质疑。

我们后来构建 TraceShield-Bench,整理正常与风险样例,并把完整方法、去掉风险传播图的版本以及 LLM-as-Auditor 放在一起对比。实验结果出来以前,风险图只是我们认为应该存在的组件;消融以后性能明显下降,它才成为一项可以由数据支持的方法贡献。执行前审计也是同样的道理,安全能力再强,如果每次工具调用都需要等待很久,就很难真正部署,因此平均时延和 P95 时延同样需要进入评价。这个过程让我第一次比较明确地理解,一个方法不是因为描述复杂而成立,而是因为它对原有流程作出了具体改变,而且这个改变既能够被拆出来,也能够被实验验证。

论文写作又把这种检验继续向前推了一步。竞赛报告可以强调系统功能完整,论文会要求我们把 threat model、problem definition、baseline、metric 和 ablation 都说明白。很多概念原来觉得自己懂,真正写下定义时才发现边界仍然含糊;有些实验原来只是“顺便做一下”,放回研究问题以后才知道它究竟应该证明什么。论文不是把项目报告翻成英文,而是让我们重新理解自己做过的事情。我印象很深的一次,老师已经准备登机,仍然开着会议和我们一起改论文。最后论文能够完成,对我来说最重要的并不是成果列表多了一项,而是我们真的走过了一遍从问题、方法到实验和写作的过程。

五、项目越完整,越需要知道什么不讲#

TraceShield 后来加入了安全总览、实时审计、工具调用、策略中心、风险情报、证据仓库、合规报告和安全智能体等功能。它们让系统越来越像一个完整平台,也让项目越来越难解释。决赛前老师反复提醒技术点太多、主线不够突出,我们才开始对已经完成的工作做“技术砍枝”:每项内容都要说明它解决什么问题、采用什么方法、有什么实验或场景证明。回答不上来的并不一定要删除代码,但不应该继续占据主 PPT 的位置。

刚开始做项目时,加东西很容易带来进展感,页面多了、模块多了、架构图也更丰富。做到后面才发现,删掉一个已经做完的功能比继续加一个功能更难,因为删减意味着承认“我们做过”不等于“评委必须听见”。有些工作适合放进报告,有些适合成为备用页,还有些只需要保留在系统里。真正留在主线上的,应该是那几项共同回答核心问题的内容。这个判断也让我开始区分方法和系统:系统关心能不能部署、是否稳定、用户怎样操作;研究关心问题是否清楚、改变是否新、实验能否验证。两条线缺一不可,但它们不能用同一种方式表达

如果现在让我重新做 TraceShield,我暂时说不出一个明确的“只要改这里就会更好”。这并不是项目已经没有缺点,而是以我现在的认知,暂时还看不到特别确定的下一步。可能再过一年,读更多论文、做更多项目以后,我会觉得今天的很多设计仍然幼稚。但至少在这个阶段,它已经从一句很模糊的“给 OpenClaw 做安全”,走到可以比较清楚地说明:从工具调用链切入,在执行前建立安全边界,并通过风险传播图和证据链对跨步骤风险进行关联与追溯。这个变化已经远远超过最开始给系统加几个安全模块的设想。

结语#

以后再回头看 TraceShield,我可能不会记得每一版架构图,也未必记得所有实验数字,但大概会记得它一直在变化。第一版很简单,方向换过,很多自认为不错的想法检索以后发现别人做过,很多功能做出来又从主线中删掉,论文和 PPT 也改过很多次。老师一遍遍问为什么,我们再一遍遍回到源码、论文和实验里重新解释。

从 ClawShield 到 TraceShield,真正变化最大的不是名字和前端,而是我们对问题的理解。我以前会觉得科研的关键是突然想到一个特别聪明的新点,这次以后更愿意相信,它也可以是一个不断缩小问题、修正假设和设计验证的过程。最开始那个模糊的工程想法没有被一次性证明正确,而是在很多次否定和重做里,慢慢变成了今天可以讲清楚的样子。对我来说,这可能比项目最后拿到什么奖更值得留下来。

分享

如果这篇文章对你有帮助,欢迎分享给更多人!

部分信息可能已经过时

目录