MicroPython 序列类型与 CPython 的不同
涉及 bytes/bytearray/list/tuple/str/array/memoryview/range 等,参考自官方文档,并整理与验证。编码转换未实现带关键字的 str(...) 与 bytes(...),且仅支持 utf-8 编码。
震惊本地大模型部署圈!AirLLM用一张4GB显卡就可以跑70B大模型
如果你用消费级显卡跑过大模型,大概率遇到过这个场景:下载了 70B 参数的模型权重,兴致勃勃地运行,显存直接爆了。然后你开始研究量化、剪枝、蒸馏这些优化手段,最后妥协到 4-bit 量化版本,效果勉强能用,但总感觉差了点什么。AirLLM 走了一条不依赖量化的路。
4GB显存跑70B大模型?AirLLM让低配电脑也能玩转AI
大语言模型(LLM)的能力越来越强,但随之而来的是对硬件要求的指数级增长。动辄几十GB甚至上百GB的显存需求,让无数开发者和AI爱好者望而却步。难道没有顶级显卡就不配拥有“智能”了吗?
服务器磁盘IO飙升告警?5个命令揪出元凶
业务突然卡成幻灯片,top 一看 CPU 不高、内存也够,最后定位到磁盘 IO 飙满。磁盘 IO 飙升是服务器最隐蔽的性能杀手,应用卡顿、接口超时、数据库慢查询,八成都是它在背后搞鬼。今天分享 5 个命令,一步步把元凶揪出来。
一次 Redis MISCONF 故障,背后竟是磁盘 I/O 异常
前言昨天碰到一个 Redis 故障,应用突然报错,提示 Redis 无法写入。一开始看到 MISCONF,以为就是常见的 RDB 持久化失败。之前也遇到过类似问题,大部分都是磁盘空间不足,清理一下空间或者处理持久化目录就能恢复。
Python 中间件系列:kafka学习
Kafka 是一个高性能、分布式、可扩展的消息队列系统,常被用于:日志收集用户行为埋点异步任务削峰订单事件流转数据同步流式计算微服务解耦大数据实时处理简单理解:Kafka 就像一个高性能的“消息中转站”。生产者把消息写进去,消费者从里面读取消息,中间通过 Topic 进行分类。