对抗数据投毒,量子AI给出了全新解法
随着人工智能(AI)加速落地高复杂度与高风险场景,构建安全、鲁棒的“可信AI”已成为亟待解决的核心课题。当前,大模型高度依赖底层数据质量,自然噪声、恶意“投毒”以及AI生成内容的自我循环,正日益加剧数据污染风险。
Nature Machine Intelligence | 大模型知识机理探索:知识编辑与持续学习
论文题目: Towards principled knowledge editing methods for large language model reasoning论文链接:https://www.nature.
机器视觉 - 2026年第31周热点论文精选
逻辑链条:先通过文本到质心映射器和预言机实验确证一个关键观察——从类名合成的视觉原型在分布偏移下失效,但真实目标原型具有强判别力 → 由此引出核心思路:用冻结的语义分类器和域模板分类器对无标签目标图像进行类关联分组 → 基于置信度排序的图像特征构建归一化视觉原型 → 通过一个全局标量权重将视觉原型与语义分类器融合,无需任何迭代精炼 → 最终产出一个完全冻结、可缓存、无需目标端优化的分类器。
中科院大学团队揭秘AI"健忘症":为什么机器学会了就是忘不掉?
研究团队首次深入探索了人工智能模型在“遗忘”特定信息时遇到的一个令人困惑的现象,这个发现对于保护数据隐私和构建更可靠的AI系统具有重要意义。
这款AI文献神器,能让“论文党”少掉些头发|New Things
提起写论文,很多人都感到“头秃”,但凡你写过,就知道这个过程有多痛苦,就像一场漫长的马拉松,不管你看过多少别人的通关攻略,只要你踏上马拉松的第一步——看文献,就能让你焦虑到薅光自己的头发。
合成数据≠生成模型:一文读懂合成数据的全新范式
尤其是在医疗等高价值场景中,真实数据本身难以获取,「依赖数据自然产生」的范式正在失效。在这样的背景下,合成数据正在从「真实数据的补充」,转变为“主动构造高质量训练与评估数据的核心机制”。
CVPR 2026|最优遗忘就是做投影
牛津团队这篇CVPR 2026做机器遗忘(machine unlearning)。不重新训练,把某个类或概念从已经训练好的视觉模型里删掉。现在主流的遗忘方法大多只改分类头,让模型对遗忘类的输出logits看起来和没学过一样,但底层的特征表示几乎没动。
模型遗忘不代表记忆抹除,首次系统发现「可逆性遗忘」背后规律
研究人员发现,大语言模型的遗忘并非简单的信息删除,而是可能隐藏在模型内部。通过构建表示空间分析工具,区分了可逆遗忘和不可逆遗忘,揭示了真正遗忘的本质是结构性的抹除,而非行为的抑制。