ID: EXT_001
LLM.int8():Transformers 大规模 8 位矩阵乘法
Tim Dettmers 与 Hugging Face 的这篇经典合作文章详细介绍了如何将大模型显存占用减半而不损失精度。其核心在于混合精度分解:将绝大多数参数进行 int8 量化,而对异常值(Outliers)保留 fp16 计算。这对我们在边缘端部署小参数模型极具参考价值。
BLOOM-176B (FP16): ~350GB VRAM
BLOOM-176B (INT8): ~175GB VRAM
Tim Dettmers 与 Hugging Face 的这篇经典合作文章详细介绍了如何将大模型显存占用减半而不损失精度。其核心在于混合精度分解:将绝大多数参数进行 int8 量化,而对异常值(Outliers)保留 fp16 计算。这对我们在边缘端部署小参数模型极具参考价值。
Altium 官方关于 Fly-by 拓扑的深度解析。相比于 DDR2 时代的 T 型拓扑,Fly-by 利用菊花链结构减少了桩线(Stubs)反射,极大提升了信号完整性,但代价是引入了必须通过 Write Leveling 解决的时钟偏斜。这是绘制 V3s 或 RK3588 核心板的必读材料。
当在 WiFi 环境下运行 ROS 2 时,默认的 DDS 配置往往会导致通信卡顿。官方指南详细列出了 Fast DDS 和 Cyclone DDS 的 OS 缓冲区调整策略。对于水质监测船这种远距离 WiFi 图传场景,增加 `rmem_max` 和 `wmem_max` 是救命稻草。
记录非遗文化生成式表达中的技术实践:使用 Stable Diffusion 与 LoRA 探索模型适配,结合 DeepDanbooru 初步标注与人工校正,梳理数据质量和标签一致性对生成结果的影响。
// 可直接复制,用于 STM32 电机控制。
float PID_Calc(PID_TypeDef *pid, float target, float current) {
const float error = target - current;
const float delta = pid->Kp * (error - pid->last_error)
+ pid->Ki * error
+ pid->Kd * (error - 2.0f * pid->last_error + pid->prev_error);
pid->output += delta;
pid->prev_error = pid->last_error;
pid->last_error = error;
return pid->output;
}