handsomestwei
Preview Image

大模型预训练微调与对齐三阶段

大模型预训练微调与对齐三阶段 一篇大模型从「零」到「能用」,通常经历 预训练 → 指令微调(SFT)→ 对齐(RLHF / DPO) 三段。三段各自往模型里注入的能力并不相同:预训练是事实与语言能力的主战场,SFT 主要教输出格式与指令遵循,对齐则校准价值观与偏好。本文结合三阶段分工、知识类型划分,以及 LIMA 等研究所提出的 表层对齐假说,梳理「微调到底能不能注入知识」这一争论背...

Preview Image

胸片多标签分类疾病检测技术简介

胸片多标签分类疾病检测技术简介 以开源库 TorchXRayVision 为主线,整理胸片多标签分类疾病检测的技术要点:框架与公开数据集、预训练权重下载、整图 0/1 监督与 DenseNet、增类标注,以及质控 / Grad-CAM / 解剖分割等增强能力。库不附带训练影像;权重托管于 GitHub Releases v1(文档亦称 1.x)。非诊疗建议。 参考与延伸阅读: ...

Preview Image

医疗影像AI通用逻辑与第一性原理

医疗影像AI通用逻辑与第一性原理 非诊疗建议。医疗影像里模型名目繁多,初学者容易被各种 Net 淹没。本文从任务类型、通用流水线、特征与决策、局部与全局几层,说明「通用逻辑」是什么、为什么不是「一个模型通吃一切」。帮助建立整体认知,不替代课程、论文与临床规范。 目录 一、结论先行 二、第一性原理:任务类型 三、通用流水线 四、特征提取与决策头 五、CN...