1. DiCoME：基于"分而治之"的多视图证据学习深度伪造检测

来源：武汉大学、中国科学院大学等 | arxiv 2606.01885 | ICML 2026 接收

内容：研究者提出DiCoME（Divide-and-Conquer Multi-View Evidential Learning），针对深度伪造检测中的语义掩蔽效应（Semantic Masking Effect）——即单视图模型中主导语义特征淹没细微伪造痕迹、导致过度自信但脆弱预测的问题。方法分为两阶段："Divide" 阶段通过几何视图净化将纠缠的表示空间解耦为语义视图与伪影视图；"Conquer" 阶段利用不确定性感知证据学习显式建模两种线索之间的认知冲突，输出经过校准的不确定性估计而非刚性判定。

值得关注的原因：DiCoME 同时提升了深度伪造检测的泛化能力与可解释性，其不确定性量化对高风险场景（如司法取证、公众人物验证）的决策可信度评估尤为重要。代码已开源，便于复现与工业部署。

2. 提升深度伪造图像检测器对抗鲁棒性的统一框架

来源：Concordia University 等 | arxiv 2606.02797 | USENIX Security 2026 接收

内容：现有深度伪造检测器在对抗攻击下性能急剧下降。该研究提出无需对抗训练数据的统一鲁棒性增强框架，整合三项互补设计：①基于离散余弦变换（DCT）的四阶矩池化高阶统计建模；②来自噪声残差的内容无关特征表示；③通过块级语义扰动实现的跨场景泛化。核心洞察是：对抗攻击主要操纵低阶统计与视觉语义，而高阶残差-频率特征（尤其是峰度）基本不受约束。实验显示，该方法在六个不同架构检测器上持续提升鲁棒性，最佳检测器在攻击下的准确率从 81.9% 提升至97.15%，召回率退化降低达88.9%。

值得关注的原因：深度伪造检测的"实验室性能"与"实战鲁棒性"之间存在显著鸿沟，对抗攻击是部署中的关键威胁。该框架不依赖对抗训练数据，具备较强的工程落地价值，对安全关键场景的深度伪造防御具有直接参考意义。

3. TextFake：面向图文富集场景的 AI 生成图像检测基准

来源：中国科学技术大学等 | arxiv 2606.01050

内容：现有 AI 生成图像（AIGI）检测器在自然图像基准上表现良好，但对伪造截图、文档、新闻页面等图文富集场景的行为尚未被系统评估。研究提出TextFake基准，包含 20,000 张图像，覆盖 28 种语言、4 个主题类别和 2 种场景模态。通过四阶段合成流程控制文本密度、渲染保真度等变量。对 14 个专用检测器和 3 个前沿 VLM API 的零样本评估发现：没有任何方法准确率超过 80%，部分方法较自然图像基准下降超过 60%。

值得关注的原因：虚假新闻、伪造截图和文档是社交媒体上传播最快、危害最大的 AI 生成内容形态之一。TextFake 揭示了现有检测器在"文本密度诅咒""渲染保真遮蔽"和"阈值坍塌"等失效模式，为下一代多模态检测器设定了关键诊断基准。

4. SV-Detect：基于引导向量的 AI 生成文本检测

来源：Mikhail Vishnyakov, Tatiana Gaintseva | arxiv 2606.07313

内容：机器生成文本检测在跨领域、跨源模型和编辑攻击等分布偏移场景下表现脆弱。研究提出SV-Detect，从冻结语言模型的隐层表示中提取引导向量（steering vectors）：在每一层构建区分人工文本与机器文本的方向，用输入与这些方向的层间对齐特征训练轻量级分类器。实验表明，该方法在分布内和跨域、跨源模型、机器改写等场景下均表现稳健，且可解释分析显示学习到的方向与可识别的风格线索对齐。

值得关注的原因：SV-Detect 将生成文本检测重新定位为"表示空间探测问题"，避免了对特定生成模型或领域的依赖。随着 LLM 生成文本的普及和改写攻击的演化，这种模型无关、可解释的检测思路具有重要的实际应用潜力。

5. ProvenanceGuard：面向 MCP 智能体的来源感知事实性验证

来源：Multiverse Computing 等 | arxiv 2606.18037

内容：工具型 LLM 智能体 increasingly 使用 Model Context Protocol（MCP）从搜索、API、数据库、临床记录等异构来源获取证据。传统事实性指标只检查答案是否被汇总证据支持，忽略了跨源混淆（cross-source conflation）风险：声明可能在某处被支持，但被错误归因到另一来源。ProvenanceGuard 捕获 MCP 调用轨迹，将答案分解为原子声明，按来源路由证据，通过 NLI 和 token 对齐检查支持关系，并比对声明归因与实际来源，输出逐声明判定和答案级放行/拦截决策。在 281 条医疗领域 MCP 智能体轨迹上，拦截 F1 达到0.802，来源准确率达0.858。

值得关注的因由：MCP 正在成为 LLM 工具调用的标准协议，但来源归因错误是事实性失败的关键新模式。ProvenanceGuard 首次将"来源感知"作为事实性验证的独立维度，对医疗、法律、金融等高风险领域的 AI 智能体部署具有直接指导意义。

6. FC-MAD：可解释的多智能体辩论事实核查系统

来源：越南胡志明市国家大学等 | ICT Express | 2026.05.29

内容：研究提出FC-MAD（Fact-Checking Multi-Agent Debate），一种无需训练的多智能体辩论框架。该框架协调多个 LLM 通过结构化批判、上下文摘要和裁判引导的共识推理完成事实核查。在越南语 ViFactCheck、多语言 X-Fact 和英语 FEVER 基准上的实验显示，FC-MAD consistently 优于强微调和提示基线，在 ViFactCheck 和 FEVER 上达到 SOTA 性能。

值得关注的原因：单智能体 LLM 事实核查容易产生幻觉，而 FC-MAD 通过结构化辩论和共识机制在零训练成本下显著提升鲁棒性和可解释性。对资源有限的事实核查机构而言，这是一种可快速部署、成本可控的验证范式。

7. MAFC：基于可信度评分的多智能体事实核查框架

来源：日本京都大学 | Scientific Reports | 2026.03.03

内容：研究提出MAFC（Multi-Agent Fact-Checking）框架，将事实核查任务分解为三个模块：预处理模块提取原子声明并生成查询；多智能体核查模块分别基于 Google 搜索、维基百科和 LLM 自身生成内容作为信息源；可信度评分模块通过自研对数加权聚合算法将多源判断融合为 0-1 区间的声明级和文本级可信度分数。实验显示，在二分类任务中 MAFC 在 SciFact 上准确率达79%，比单智能体 SelfCheckGPT 高 7%；在多标签任务中，MAFC 在自建 SciFact-Mixed 数据集上准确率达97%，显著优于基线。

值得关注的原因：MAFC 首次明确区分"声明级真实性"与"文本级可信度"，并针对"部分真实"这一复杂场景提出可复现的多标签事实核查方案。其对数加权聚合机制有效缓解了简单平均和求和策略的缺陷，为多智能体判断融合提供了新思路。

8. 欧盟正式通过 AI 生成内容强制标识实践准则

来源：European Commission | 2026.06.10

内容：欧盟委员会正式通过《AI 生成内容透明度实践准则》（Code of Practice on Transparency of AI-Generated Content），为 AI 法案 Article 50 的透明度义务提供可操作的合规指引。准则由 6 名独立专家和 180 余名利益相关方起草，分为两部分：①生成式 AI 系统提供者的义务——确保音频、图像、视频或文本生成/操纵内容被清晰标注；②使用者的义务——明确其标注责任。若 AI 法案修订案正式通过，相关义务将从 2026 年 8 月 2 日延至12 月 2 日起强制执行。违规罚款最高可达1500 万欧元或全球年营业额 3%。 adherence 仍属自愿，但可作为合规推定依据。

值得关注的原因：这是全球首个 G7 级别将 AI 生成内容标注从自律倡议升级为法律义务的配套细则。随着 8 月/12 月强制执行节点临近，平台、AI 提供商和内容创作者面临紧迫的合规窗口期。准则对"深度伪造""AI 生成文本"等具体场景的标注要求值得中国企业和研究者高度关注。

9. Google 2026 年 6 月核心更新：精准打击 AI 内容农场

来源：Google Search Central | 2026.06.24

内容：Google 发布 2026 年 6 月核心更新，首次在搜索排名算法中针对大规模低质量 AI 生成内容站点（AI 内容农场）设置降权信号。识别模式包括"极端发布量"（日发超 500 篇 AI 文章）、模板化结构、薄内容/信息再包装、缺乏 E-E-A-T 信号（作者归属、来源引用、更新日志）等。初步数据显示受影响站点非品牌关键词可见性平均下降 40-60%。Google 强调不惩罚所有 AI 辅助内容——只要体现专家经验、原创价值和人机协作即可继续排名。

值得关注的原因：这一更新标志着搜索引擎从"识别 AI 内容农场"走向"算法级降权治理"，与 NewsGuard 等监测机构、欧盟 AI 法案形成互补的多层次防线。对内容生态治理而言，关键在于如何区分"AI 批量垃圾内容"与"AI 辅助优质内容"，这仍是技术与政策的共同挑战。

10. NewsGuard AI 追踪中心：3,749 个 AI 内容农场站点且持续增长

来源：NewsGuard | AI Tracking Center | 最后更新 2026.06.23

内容：NewsGuard 的 AI 追踪中心最新数据显示，其团队已识别出3,749 个 AI 内容农场新闻与信息网站，覆盖 16 种语言（含中文）。这些站点通常以通用名称运营、日发数十篇文章，内容涉及品牌、公共卫生、政治人物和名人的虚假声明。其盈利模式多为程序化广告——广告技术行业在不审查网站性质的情况下投放广告，导致知名品牌无意中资助了这些站点。

值得关注的原因：3,749 个站点是监测数据，但更重要的是它揭示了 AI 虚假信息产业化的规模与跨国特征。内容农场、搜索引擎降权、平台标签与法规约束正在形成治理闭环，但广告变现链路的切断和跨国协作仍是薄弱环节。