手机AI再进化:OPPO向个性化主动智能迈出关键一步
封面新闻记者 且菲 珠海报道2026年9月17日,OPPO开发者大会在珠海启幕,ColorOS 17正式亮相。OPPO宣布ColorOS全球活跃用户突破7.7亿,OPPO、一加、realme三大品牌首批同步升级ColorOS。
混合架构用线性注意力or滑窗注意力?复旦团队:我全都要
复旦创智邱锡鹏团队的最新工作混合架构的长文力学 Mechanics of Long-Context Hybrid Models 给出了一个有趣的答案:我全都要。研究团队在 376M、776M、1B 和 3B 四种规模上开展实验。
NeurIPS'26:注意力也是FFN?从快权重出发,重新理解高效注意力
一直以来,在Transformer架构中,注意力与前馈网络被认为是两个功能不同且互补的模块:前者让词元彼此交互,后者对每个词元进行非线性变换。
混合线性注意力大模型中的「尖峰」与「平台」之谜首次揭开
这一规律随后在五个数据域得到验证,在 Full Attention 前一层恰好取得前置 Linear Attention 区间最大激活值的平均比例达到 99.4%—100%,远高于随机选层时 9.1% 的期望值。
OPPO宣布旗下三大品牌首批同步升级ColorOS:迈向个性化主动智能
来源:环球网 【环球网科技综合报道】9月17日, 2026 OPPO开发者大会(ODC 2026)在珠海举办。大会上,OPPO宣布OPPO、一加、realme三大品牌首批同步升级ColorOS。
多头注意力有哪些局限?MQA、GQA、Flash Attention 怎么解决?
开场:面试官怎么把"MHA 优化"问穿 讲讲多头注意力(MHA)有哪些局限?工业界怎么优化? MHA 局限我知道,就是计算复杂度 O(N²),长序列特别慢。Flash Attention 用了一些数学技巧让它变快。 「数学技巧」是什么技巧?具体说。
世界模型、预测模型之后的AI路在何方?小鹏给出的答案是:TuringViT
封面新闻记者 李继龙在智能驾驶竞争不断升级的背景下,车企之间的较量正从应用层逐渐向底层AI能力延伸。近日,小鹏汽车发布视觉基础模型TuringViT。这是继世界模型、预测模型等技术之后,小鹏今年推出的又一项AI底层技术成果。
对话马学喆:注意力机制研究了十年怎么读,现在该重新思考怎么写
马学喆目前是南加州大学计算机系研究型助理教授,也是南加大信息科学研究所研究负责人。他本硕毕业于上海交通大学,博士毕业于卡内基梅隆大学语言技术研究所,师从国际知名计算语言学家、自然语言处理领域先驱 Eduard Hovy,曾获 ACL 2016、EMNLP 2023 杰出论文奖。
匿名大象模型被蚂蚁认领!推理速度冲到第一,还能生成百万小说
智东西4月22日报道,上周冲上OpenRouter热榜第一的匿名测试模型Elephant Alpha今早正式揭晓真身——蚂蚁旗下的百灵模型Ling-2.6-flash。匿名上线以来,该模型调用量持续增长,连续多日位列热榜榜首,日均tokens调用量达100B级别。