检索系统学会了"看错题本":UniME-R1如何用失败经验教AI找对答案
你有没有想过,一个搜索引擎在给你返回结果之前,会不会先"反思"一下自己可能哪里想错了?大多数时候答案是不会。现在的多模态检索系统,不管是找图片、找视频还是找文档,基本套路都是把你的问题一股脑塞进模型,编码成一个向量,然后去数据库里找最相似的向量。
70%大小,100%准确,完美压缩LLM性能0损失,推理速度最高飙升39倍
人人都想有一个自己的DeepSeek,但并不是人人都有「一打」96GB显存的H20。虽然量化可以极大地降低模型对于显存的需求,但它本质上是一种有损压缩技术。换句话说就是,量化模型的输出分布不可避免地会受到影响,进而降低LLM的准确性和可靠性。
AI在线强化学习“边做边学”,斯坦福团队让7B小模型性能飙升,甚至超越GPT-4o
斯坦福等新框架,用在线强化学习让智能体系统“以小搏大”,领先GPT-4o——AgentFlow,是一种能够在线优化智能体系统的新范式,可以持续提升智能体系统对于复杂问题的推理能力。
GPT太「奢侈」,平替大汇总来了,再也不用担心部署大难题
近年来,生成式预训练模型的兴起彻底颠覆了自然语言处理领域,其影响甚至已经延伸到其他多种模态。然而,像 ChatGPT 和 GPT-4 这样的模型,由于其巨大的模型规模与计算复杂度、复杂的部署方式以及未开源的训练模型,这些因素都限制了他们在学术界和工业界的推广与应用。
智能体系统如何「边做边学」?斯坦福团队探索在线优化的新范式
如何让智能体进行复杂推理与工具调用?传统方法主要有两类:训练单一的大语言模型,使其同时承担思考与工具调用的任务;要么依赖静态提示词驱动的 training-free 智能体系统。
斯坦福7B智能体全面超越GPT-4o,推理流登顶HF
【导读】传统智能体系统难以兼顾稳定性和学习能力,斯坦福等学者提出AgentFlow框架,通过模块化和实时强化学习,在推理中持续优化策略,并使小规模模型在多项任务中超越GPT-4o,为AI发展开辟新思路。
早报|曝华为Mate90将搭载「韬定律」新麒麟芯片/英特尔上调CPU售价/企业微信发布AI录音硬件
此前曝光的演员包括张小斐、张艺兴、迪丽热巴、宋康昊、赵丽娜、张天一、徐娇等,其中赵丽娜和李佳悦均有女足经历。
AI哪怕答案正确,逻辑链却惨不忍睹,奥数级不等式证明成功率不到50%
这不是段子,而是正在发生的现象。大语言模型解决不等式证明问题时,可以给出正确答案,但大多数时候是靠猜。推理过程经不起推敲,逻辑完全崩溃。
华为是怎么让大模型提速的?
没有人不在期待大模型能够成为下一个电动车,作为代表中国的新兴产业,在世界范围内掀起狂澜。然而主流的MoE架构大模型,却苦于其结构上的“先天不足”:巨大的硬件成本与多重拖累效率的环节,使得中国企业在这场芯片堆砌与效率挖掘的苦径上难以提速。
华为昇腾推出高性能保精度量化方案,更好适配DeepSeek
(文/万肇生 编辑/张广凯) 近日,华为公开了昇腾服务器上部署DeepSeek V3/R1推理的最佳实践,并介绍了一系列创新技术。 其中,华为在降低计算资源需求方面,创新提出了昇腾亲和的低比特量化解决方案OptiQuant,最终实现了INT8量化模式与FP8的模型推理精度持平。