cuTile vs Triton：三个维度解析GPU编程工具选择之争
Tile范式已成为GPU编程生态竞争核心，英伟达cuTile与OpenAI主导的开源工具Triton形成两大阵营。二者从技术架构、硬件支持、生态定位三个维度呈现显著差异，最终需依开发场景选择，未来将长期并存。
GitHub 16.7K Star！DeepSeek、Qwen 本地跑，这个推理引擎值得关注
以前想运行一个参数规模达到数百 B 的大模型，通常离不开数据中心级别的 GPU 和昂贵的硬件资源。普通开发者想在自己的电脑上部署这类模型，往往第一步就被显存限制劝退。但现在，有个开源项目正在尝试改变这件事。
Triton入门教程：安装与编写和运行简单Triton内核
Triton是一款开源的GPU编程语言与编译器，为AI和深度学习领域提供了高性能GPU代码的高效开发途径。本指南将全面阐述Triton的核心功能、跨平台安装方法、基础应用实例、高级性能优化策略、与CUDA及PyTorch的技术对比，以及在实际项目中的应用场景。
LLM推理选型两难：vLLM vs Triton服务器，谁才是生产环境最优解？
90%开发者都踩过的坑！vLLM和Triton到底该怎么选？做AI推理部署的开发者，几乎都被同一个问题困住：vLLM和Triton服务器，到底选谁？有人说vLLM吞吐量碾压，部署简单又高效，是LLM推理的“天花板”；有人称Triton灵活百搭，能搞定所有模型，生产环境离不开它。
英伟达亲手终结CUDA「护城河」？传奇芯片架构师引发争议
【导读】一文看懂CUDA Tile背后的算盘与野心。英伟达的CUDA，刚刚宣布了该平台诞生20年来最重大的一次更新！其中，最核心也是最颠覆性的更新的就是CUDA Tile，让开发者可以用Python代替C++写内核代码。 在CUDA 13.
NVIDIA Triton 系列文章（6）：安装用户端软件
为了适应更多种使用场景，Triton 用户端支持 C++/Python/Java/GO 等通用性高的在编程语言，底层还支持 HTTP/REST 与 gRPC 通讯协议，甚至还支持 SSL/TLS 加密选项，以及多种在线压缩算法，内容是相当丰富并且多元化，完整的内容可以在 见原文链接 开源仓里找到，本文只先提供 Python 用户端的部分。
从零开始用自定义 Triton 内核编写 FlashAttention-2
本文实现 FlashAttention-2 的前向传播，具体包括：为 Q、K、V 设计分块策略；流式处理 K 和 V 块而非物化完整注意力矩阵；实现在线 softmax 算法保证数值稳定性；支持因果和非因果两种注意力模式；用 Triton autotuner 自动调优内核配置；最
速度超快！字节跳动开源序列推理引擎LightSeq
2017 年 Google 提出了 Transformer 模型，之后在它基础上诞生了许多优秀的预训练语言模型和机器翻译模型，如 BERT 、GPT 系列等，不断刷新着众多自然语言处理任务的能力水平。