ToxiTrace: Gradient-Aligned Training for Explainable Chinese Toxicity Detection¶

会议: ACL 2026
arXiv: 2604.12321
代码: https://huggingface.co/ArdLi/ToxiTrace
领域: social_computing
关键词: 中文有毒内容检测, 可解释性, 梯度约束, 细粒度证据抽取, 对比学习

一句话总结¶

ToxiTrace 提出了一种面向 BERT 类编码器的可解释中文毒性检测方法，通过 CuSA（LLM 引导的弱标注）、GCLoss（梯度约束损失）和 ARCL（对抗推理对比学习）三个组件，在保持高效编码器推理的同时实现了句级分类准确率和连续有毒片段提取的双重提升。

研究背景与动机¶

领域现状：现有中文毒性检测方法主要针对句级分类任务，已通过预训练语言模型（如 RoBERTa、MacBERT）和大语言模型取得了较好的分类性能。

现有痛点： - 大多数方法只做句级分类，无法指出句中哪些具体片段是有毒的，缺乏可解释性 - 中文采用字级分词，梯度/注意力等归因信号在单个字上碎片化，难以形成人类可读的连续片段 - LLM 虽然解释能力强，但直接分类性能不如编码器且推理开销大

核心矛盾：编码器模型分类准确但解释性差（归因碎片化），LLM 解释性好但分类弱且推理慢，二者优势无法兼得。

本文目标：在保持编码器高效推理的前提下，让模型既能准确分类，又能提取连续、可读的有毒片段作为解释。

切入角度：通过训练阶段对梯度信号进行显式约束，使编码器的 token 级归因自然聚焦在有毒证据上，推理时直接从显著性图中提取连续片段。

核心 idea：将梯度归因从"事后解释"提升为"训练目标"——用 LLM 生成弱标注指导梯度集中于有毒 token，同时用对比学习锐化毒性/非毒性语义边界。

方法详解¶

整体框架¶

ToxiTrace 的流程分为四步：(1) 热身训练获得基础分类能力；(2) CuSA 利用编码器归因线索 + LLM 精修生成弱标注的有毒片段；(3) GCLoss 梯度约束损失显式提升有毒 token 的梯度响应并抑制非毒 token；(4) ARCL 对抗推理对比学习锐化毒性/非毒性的语义边界。推理时先判分类，若为有毒则用 BiCSE 算法从显著性图中提取连续片段。

关键设计¶

CuSA（线索引导片段标注）:
- 功能：在无细粒度标注的情况下自动生成有毒片段的弱监督信号
- 核心思路：先热身训练编码器获得基础分类能力，然后计算 token 级显著性分数，用 BiCSE（双向悬崖扫描）算法提取初始高显著性片段作为线索，再喂给 LLM（Gemini 2.5 Pro）精修片段边界
- 设计动机：现有中文毒性数据集只有粗粒度标签，但 LLM 直接标注缺少定位线索；先用编码器自身归因信号提供候选区域，再用 LLM 的理解能力精修，两者互补
GCLoss（梯度约束损失）:
- 功能：显式塑造 token 级梯度分布，使有毒 token 的梯度响应高于非毒 token
- 核心思路：由两部分组成——PGR Loss 强制有毒/非毒 token 梯度间保持 margin；PPT Loss 用样本内统计量（15 百分位 + α·max）分别约束非毒 token 梯度上界和毒 token 梯度下界
- 设计动机：仅靠分类损失训练的模型，token 级归因分散不准确；通过直接对梯度进行约束，可以让归因更集中在有毒证据上，从而使推理时的片段提取更可靠
ARCL（对抗推理对比学习）:
- 功能：锐化毒性与非毒性文本之间的语义边界
- 核心思路：用 LLM（Gemini 2.5 Flash）生成正反两方面的推理论证（"假设文本有毒/无毒，生成支持理由"），以此作为正负样本进行自适应 InfoNCE 对比学习
- 设计动机：GCLoss 只约束句内 token 级梯度关系，无法捕捉句间语义差异；利用 LLM 辩论机制生成的推理内容比简单数据增强更具针对性和语义深度

损失函数 / 训练策略¶

总体训练目标：\(\mathcal{L} = \mathcal{L}_{CE} + \lambda_{grad}(\mathcal{L}_{PGR} + \mathcal{L}_{PPT}) + \lambda_{sem}\mathcal{L}_{con}\)

训练流程：先热身 3 个 epoch（仅交叉熵）→ 引入 GCLoss + ARCL 联合训练。热身步数过多或过少都会导致最终性能下降。

实验关键数据¶

主实验（分类）¶

数据集	指标	本文 (RoBERTa+ToxiTrace)	之前SOTA (RoBERTa)	提升
COLD	Macro-F1	83.68%	82.56%	+1.12%
COLD	Acc	83.84%	82.68%	+1.16%
ToxiCN	Macro-F1	83.83% (MacBERT)	82.81%	+1.02%

片段提取（CNTP）¶

模型	Overlap F1	Character F1	IoU	推理时间
RoBERTa+ToxiTrace*	77.90%	77.63%	61.56%	1m 58s
Qwen3-8B	77.87%	74.74%	59.67%	14m 33s
Gemini 2.5 Pro	80.39%	79.67%	66.22%	~1.5h

消融实验¶

配置	分类 Macro-F1	提取 F1	说明
Full model	83.68%	77.90%	完整模型
w/o CuSA	82.90%	71.96%	弱标注退化为原始 BiCSE，提取 Recall 大降
w/o ARCL	83.12%	75.16%	语义对比缺失，分类和提取均下降
w/o GCLoss	83.36%	65.15%	提取 F1 下降最大（-12.75%）
RoBERTa baseline	82.76%	65.08%	基线

关键发现¶

GCLoss 对片段提取的贡献远大于 ARCL（-12.75% vs -2.74%），是方法的核心组件
编码器+ToxiTrace 在 ~1/7 推理时间内达到与最强 LLM（Qwen3-8B）可比的片段提取 F1
BiCSE 算法比传统 top-k 选择显著提升了提取性能（RoBERTa 52.34→65.08 F1）
掩码有毒片段后模型置信度大幅下降，验证了梯度归因的因果忠实性

亮点与洞察¶

将梯度归因从被动分析工具提升为主动训练目标的思路很新颖，打通了"训练时塑形梯度→推理时提取片段"的闭环
巧妙利用 LLM 的两个角色：CuSA 中做弱标注精修器、ARCL 中做对抗推理生成器——都不是直接做分类，避免了 LLM 分类弱的短板
BiCSE 双向悬崖扫描算法解决了中文字级分词下归因碎片化的实际问题
效率优势明显：编码器推理 ~2min vs LLM ~15min，片段提取质量相当

局限与展望¶

未处理同音字替换、拼音混淆等"隐形有毒表达"
仅在中文上验证，对日语、韩语等其他字级语言的适用性需进一步研究
LoRA 方式迁移到解码器 LLM 效果有限，可能需要更深度的参数高效梯度塑形策略
CuSA 依赖外部 LLM 做标注精修，引入了额外成本

评分¶

新颖性: ⭐⭐⭐⭐ 梯度归因作为训练目标 + LLM 辩论对比学习的组合很有创意
实验充分度: ⭐⭐⭐⭐ 多数据集、多模型对比、消融、忠实性验证均完备
写作质量: ⭐⭐⭐⭐ 框架清晰，动机推导逻辑性强