📝 CloudLink 技术博客

← 返回首页

AirLLM实测:70B大模型在4GB显卡上的分层推理,到底行不行

29.2K star的AirLLM,不做量化剪枝蒸馏,靠分层卸载让70B模型在4GB显卡上跑起来。实测4-6 tokens/s,与LSA稀疏注意力对比——两者是互补不是竞争。

🧠 大模型推理 · 2026-08-06 · 含实测数据

我用稀疏注意力把12GB显卡的上下文撑到了64K

RTX 5070 12GB 跑 Qwen 7B,上下文从 8K 极限到 64K 只用了 0.32GB 峰值内存。实测数据:预填充加速 32x,KV 压缩 4x。全部本机实测,附踩坑记录。

📊 长上下文优化 · 2026-08-06 · 含实测数据表

锂电化成车间的K值离散度,我盯了三个月的数据

K值离散异常的排查过程:从设备检查到工艺参数,最后定位到化成柜温度均匀性——6°C温差导致SEI膜质量分层。附数据驱动排查清单。

🔋 锂电池工艺 · 2026-08-06 · 工厂实战

勒贝格积分:为什么比黎曼积分更强大?

分割值域的革命:黎曼分割定义域,勒贝格分割值域。狄利克雷函数黎曼不可积但勒贝格可积,控制收敛定理让极限与积分可交换。

📐 数学 · 2026-08-09 · 含数值验证

锂电硅碳负极涂布工艺:TD-MD 闭环控制全解析

硅碳负极体积膨胀300%的挑战下,TD-MD双闭环如何控制面密度CPK>1.67。27伺服千分尺+双架β射线实时反馈的完整参数体系。

🔋 锂电工艺 · 2026-08-09 · 参数表

2026年本地大模型推理优化实战:RTX 5070 部署指南

12GB显卡跑7B模型的完整指南:Q4量化、16K上下文、蒸馏模型选择。qwen2.5:7b实测35 tok/s,附SLM趋势分析。

🧠 本地推理 · 2026-08-09 · 实测数据

我的Agent学会了自动进化技能,但这东西有坑

给25-Agent集群接入技能自进化三层架构(提炼/验证/淘汰),235个技能验证后发现一半以上质量不达标。三个真实踩坑记录。

🤖 Agent工程 · 2026-08-06 · 含论文编号