全网最详细!油管1小时视频详解AlphaTensor矩阵乘法算法
DeepMind前不久发在Nature上的论文Discovering faster matrix multiplication algorithms with reinforcement learning引发热议。
不用 ONNX Runtime,不用 JNI:我用纯 Java 写了一个 PP-OCRv6 推理引擎
做 OCR 的 Java 开发者,大概率都遇到过这样一个问题:Java 本身写业务很舒服,但一碰到 AI 推理,最后还是绕不开 native。
基于深度学习构建4D Radar的环境感知算法解决智驾Corner Case
作者 | Jessie出品 | 焉知随着最近的发展,汽车雷达的性能已显着提高。下一代4D雷达可以实现高分辨率点云形式的成像能力。在此背景下,雷达感知深度学习时代已经到来。然而,雷达深度学习的研究分散在不同的任务中,缺乏整体的认知。
使用Tensorboard投影进行高维向量的可视化
Tensorflow是最受欢迎的免费开放源代码机器学习库之一,可帮助您执行各种机器学习和深度学习项目。 它可以用于各种任务,包括训练,推理,可视化ML和DL模型。 它还提供了各种各样的预训练模型。TensorBoard是tensorflow的可视化工具包。
SLM 生成式高并发推理引擎:延迟约束下的有效吞吐优化
搜索和推荐场景中想要使用语言模型提高在线效果,往往面临着在线极低延迟的约束,现有通用大模型推理引擎并非在这一延迟约束下设计,因此本文从「具有确定 decode 次数上界的请求」这一工作负载出发,重新设计在线执行路径:以静态 DAG 组织完整业务请求,结合 AOTInductor
心物同一:EQT 过程自然哲学中的意识与主观性
导读:物理过程为何会伴随着第一人称的当下体验,而非仅仅停留在结构与计算的“沉默运行”中?
决策模型也有专用推理引擎了:StartLux 开源 Prism,单卡最高提速 5.3 倍
作者 | 蔡芳芳 最近,两家中国 AI 公司相继开源针对自家模型优化的推理系统。
18秒出片、视频生成提速265倍!北大清华阿里提出SparkDiffusion
更令人困惑的是,当研究者试图通过极致稀疏化来突破性能瓶颈时,却发现了一个反常现象:训练损失持续下降,生成视频质量却急剧恶化——人物破碎、背景扭曲、时序混乱。