核心发现
方法论
SafeTune结合图神经网络（GNN）模型结构异常检测与文本嵌入（GTE-large）语义风险评估。其核心流程包括：• 利用DFG转换RTL设计，训练GNN识别潜在Trojan结构特征；• 采用XGBoost对Prompt文本嵌入进行风险评分，筛除含有触发词或变体的提示；• 结合结构与语义分析，过滤潜在毒化样本，确保训练数据纯净。该框架在无需修改基础模型的前提下，有效降低中毒成功率。
关键结果
- 在VerilogEval基准测试中，SafeTune微调的模型在攻击成功率（ASR）方面显著优于未过滤模型，Qwen2.5-Coder-14B的ASR从94%降至33%，CodeLlama-13B从96%降至37%，验证其强鲁棒性。
- 过滤后模型在RTL生成的功能正确性上几乎无影响，Pass@k指标保持一致，确保安全与性能兼得。
- 多设计场景下，SafeTune结合运行时提示重写，进一步降低Trojan激活概率，形成多层防护体系。
研究意义
该研究填补了RTL生成中数据污染的检测空白，结合结构和语义双重分析，有效防止硬件Trojan注入，提升工业设计的安全性。其无需修改模型架构，易于集成，具有广泛应用潜力，为硬件安全提供了新思路。
技术贡献
提出结合GNN与文本嵌入的多模态过滤框架，创新性地实现了对RTL设计的结构与语义双重检测。引入XGBoost风险评分模型，提升过滤效率。设计了端到端的训练与推理防护机制，显著降低中毒样本的学习概率，增强模型鲁棒性。
新颖性
首次将图神经网络与语义嵌入联合应用于RTL数据的中毒检测，突破单一结构或语义分析的局限，提出跨模态过滤策略，有效应对复杂的中毒攻击。
局限性
- 当前方法依赖预训练模型的性能，可能对极端变体或深度隐藏的Trojan检测效果有限。
- 在大规模设计中，图结构提取与GNN训练存在计算成本，需优化算法效率。
- 对动态攻击手段的适应性仍需验证，未来需结合动态验证机制。
未来方向
未来将探索多模态深度学习模型，结合动态验证与在线学习，提升检测的实时性与适应性。同时，扩展到更多硬件平台与设计流程，增强系统的通用性与鲁棒性。
AI 总览摘要
随着大规模语言模型（LLMs）在硬件设计中的广泛应用，RTL代码生成成为关键技术之一。然而，训练数据的安全性成为制约其应用的瓶颈。大量使用未验证或快速拼凑的RTL数据，带来了硬件Trojan等安全隐患。传统检测方法多关注功能正确性，难以识别潜藏的中毒样本。为此，SafeTune提出了一套结合结构和语义分析的多模态过滤框架。
该框架包括两个核心组件：一是利用图神经网络（GNN）对RTL设计的Data-Flow Graph（DFG）进行结构异常检测，识别潜在的Trojan结构特征；二是采用GTE-large文本嵌入结合XGBoost模型，对Prompt文本中的触发词和变体进行风险评分。通过联合过滤，SafeTune在保证RTL生成质量的同时，有效阻断了中毒样本的学习路径。
实验结果显示，经过SafeTune过滤的模型在多项Trojan攻击测试中，攻击成功率大幅下降，例如Qwen2.5-Coder-14B从94%降至33%。同时，RTL的功能正确性未受明显影响，验证了其实用性。结合运行时提示重写机制，整体防护效果更上一层楼，形成多层安全屏障。
此研究不仅提升了硬件设计的安全水平，也为未来自动化设计中的数据安全提供了新思路。其无需修改基础模型架构，易于集成，具有广泛的产业应用前景。未来，将结合动态验证与深度学习优化，进一步增强检测的实时性和适应性，推动硬件安全迈向更高水平。
深度分析
研究背景
近年来，LLMs在RTL生成、验证等方面展现出巨大潜力。代表性工作如Verigen、RTL++等推动了自动化设计的发展，但也带来了数据安全问题。未验证数据集和快速拼凑的训练样本，使模型易受硬件Trojan等后门攻击影响。传统检测多依赖功能验证，难以识别隐蔽的中毒样本。图神经网络（GNN）在结构分析中取得突破，但缺乏对提示语义的考虑。整体而言，安全防护仍处于探索阶段，迫切需要结合结构与语义的多模态检测方案。
核心问题
当前RTL生成模型在训练中易受中毒数据影响，导致模型学习到隐藏的后门逻辑。未验证数据集和缺乏多模态检测手段，使得模型在实际应用中存在严重安全风险。传统方法多关注功能正确性，忽视潜在的安全隐患。如何在保证RTL生成质量的同时，有效过滤潜在中毒样本，成为亟待解决的问题。尤其是在大规模设计中，结构和语义的复杂性增加了检测难度。缺乏统一的跨模态检测框架，限制了安全防护的效果。
核心创新
本研究提出SafeTune，首次结合GNN和文本嵌入技术，构建多模态过滤体系。其创新点包括：1）利用DFG结构特征，训练GNN识别潜在Trojan结构；2）采用GTE-large文本嵌入，结合XGBoost模型对Prompt语义风险进行评分；3）在训练前过滤潜在毒化样本，减少模型学习到后门的可能性；4）引入运行时提示重写机制，增强推理阶段的安全性。这些创新突破了单一结构或语义分析的限制，提供了全面的安全保障。
方法详解
- �� RTL设计转换：将RTL代码解析为Data-Flow Graph（DFG）；• GNN训练：使用两层Graph Isomorphism Network（GIN）模型，识别潜在Trojan结构特征；• 结构检测：对每个RTL样本的DFG进行分类，输出Trojan概率；• Prompt语义分析：利用GTE-large编码Prompt文本，训练XGBoost模型进行风险评分；• 样本过滤：结合结构与语义结果，筛除高风险样本；• 训练过滤：用筛选后的数据微调目标模型；• 运行时防护：引入Prompt paraphrasing，扰乱潜在触发词。
实验设计
采用RTL++和Trust-Hub数据集，包含正常和Trojan样本。模型在VerilogEval上评估RTL生成质量，确保Pass@k指标稳定。攻击测试包括多设计、多Trojan类型，验证过滤效果。对比未过滤模型，SafeTune显著降低ASR，验证其鲁棒性。参数设置包括GNN两层结构，XGBoost100树深度3，微调采用LoRA技术。多场景下，结合运行时提示重写，整体防护效果优异。
结果分析
过滤后模型在Trojan攻击中的成功率大幅下降，例如Qwen2.5-Coder-14B从94%降至33%，CodeLlama-13B从96%降至37%。RTL生成的功能正确性保持稳定，Pass@k指标无明显下降。多设计场景验证了结构和语义双重过滤的有效性。结合运行时提示重写，整体防御效果进一步增强，形成多层次安全体系。
应用场景
该方法适用于硬件设计公司在模型微调前的安全数据预处理，有助于防止后门注入。也可应用于自动化RTL生成平台，提升设计安全性。未来，结合动态验证机制，可实现实时检测和防护，推动安全可信的硬件自动化设计。
局限与展望
目前方法依赖预训练模型性能，对深度隐藏的Trojan可能检测不足。图结构提取在大规模设计中计算成本较高，需优化算法。对动态攻击和复杂变体的适应性有限，未来需结合动态验证和在线学习机制。
通俗解读 非专业人士也能看懂
想象你在厨房做饭，菜谱（模型）告诉你怎么做菜，但如果有人偷偷在菜谱里放了毒药（Trojan），你可能不知道。SafeTune就像一个聪明的厨师助手，它会检查菜谱里的每个步骤和食材，确保没有隐藏的危险。它用一种特别的“地图”来分析菜的结构，找出可能藏有毒药的地方；同时，它还会用“语言分析器”检查菜谱的文字，确保没有隐藏的触发词。这样一来，即使有人试图在菜谱里放毒，SafeTune也能帮你识别出来，保证你做的菜既好吃又安全。这就像厨房里有两个守门员，一个看菜的结构，一个看文字的内容，共同保护你的厨房安全。
简单解释 像给14岁少年讲一样
想象你在学校的食堂吃饭，有个坏人偷偷在饭里放了毒药，但你不知道。SafeTune就像一个聪明的老师，他会用两个办法保护你。第一个办法是用一张特别的地图，检查饭菜的结构，看里面是不是藏了什么奇怪的东西；第二个办法是用一个聪明的词语检测器，检查菜单上的文字，看看有没有隐藏的危险词。这样一来，即使有人偷偷放毒药，老师也能发现，保证你吃的饭既好吃又安全。它就像两个守门员一起守护你的饭菜，让你不用担心被毒害。
术语表
Graph Neural Network (GNN, 图神经网络)
一种专门处理图结构数据的深度学习模型，能识别设计中的异常结构特征，应用于检测RTL中的硬件Trojan。
在本文中，用于分析RTL设计的Data-Flow Graph，识别潜在的Trojan结构。
Data-Flow Graph (DFG, 数据流图)
表示RTL设计中信号和操作依赖关系的图结构，用于结构分析和异常检测。
作为GNN的输入，帮助识别潜在的硬件Trojan结构。
GTE-large
一种大规模文本嵌入模型，用于编码自然语言提示的语义信息。
用于评估提示语义风险，识别潜在触发词或变体。
XGBoost
一种高效的梯度提升决策树模型，用于风险评分和分类任务。
结合文本嵌入，对提示进行潜在风险评估。
Trojan (硬件后门)
在硬件设计中植入的隐藏恶意逻辑，可在特定触发条件激活，造成安全威胁。
本文旨在检测和过滤潜在的Trojan设计样本。
开放问题 这项研究留下的未解疑问
- 1 当前方法对深度隐藏的Trojan或复杂变体的检测效果仍有限，未来需结合动态验证和深度学习优化策略。
- 2 大规模设计中图结构提取和GNN训练的计算成本较高，需研究更高效的算法以实现实时检测。
- 3 对多模态信息融合的鲁棒性和泛化能力仍需验证，未来应探索多源数据的联合分析策略。
应用场景
近期应用
硬件设计安全预处理
在RTL微调前对训练数据进行过滤，防止后门注入，适用于芯片设计公司和EDA平台，确保模型学习的设计无毒。
自动化RTL生成平台
集成SafeTune作为安全层，提升自动化设计工具的抗攻击能力，保障设计流程的安全性。
远期愿景
可信硬件自动化设计
结合动态验证和深度学习，构建全流程安全保障体系，实现端到端的安全自动化硬件设计。
原文摘要
As large language models (LLMs) are increasingly fine-tuned for hardware tasks like RTL code generation, the scarcity of high-quality datasets often leads to the use of rapidly assembled or generated training data. These datasets frequently lack security verification and are highly susceptible to data poisoning attacks. Such poisoning can cause models to generate syntactically valid but insecure hardware modules that bypass standard functionality checks. To address this, we present SafeTune, a framework designed to harden LLM-based RTL generation against poisoning, specifically focusing on hardware Trojan (HT) insertion. SafeTune integrates two core components: (i) a Graph Neural Network (GNN) that models structural properties to identify anomalous circuitry patterns during fine-tuning, and (ii) a semantic verification module using text embeddings and an XGBoost classifier to assess prompt security. By coupling structural and semantic knowledge, SafeTune effectively filters poisoned inputs without sacrificing legitimate data. Experimental results demonstrate that SafeTune significantly enhances the robustness and reliability of LLM fine-tuning without requiring modifications to the underlying model architecture.