引言：一间阅片室的二十五年
国内大型三甲医院的放射科，一天的阅片量动辄三四千份。一位放射科医师从早上八点坐到晚上，眼睛在显示器和报告系统之间来回切换，午餐经常是一份凉掉的外卖。培养这样一位能独立签报告的医生，需要十年。而影像检查的需求量，每年还在以两位数增长。
医学影像AI辅助诊断，就是在这样的缝隙里长出来的。它大概是医疗人工智能里商业化最早、落地最实的一条赛道：从2016年第一套AI阅片系统进医院，到今天大模型在放射科里起草报告，这条路走了将近十年。复盘这段历史，能看清三件事——技术演化的脉络、临床真正的需求，以及支撑这一切的算力该怎么配。
里程碑一：影像组学，把片子变成几百个数字（2012—2016）
医学影像AI的起点，比深度学习热潮更早。2012年，Lambin等人提出“影像组学”（Radiomics）的概念：从CT、MRI、PET图像中高通量地提取形状、灰度、纹理等数百上千个定量特征，再用传统的统计学习方法去关联诊断、分期和预后。2017年Lambin等人在《Nature Reviews Clinical Oncology》上把这条路定义为“连接医学影像与个体化医疗的桥梁”。
这套思路今天看很朴素——特征靠人设计，模型是小样本上的逻辑回归或随机森林——但它立下了医学影像AI的第一个范式：影像可以量化，量化的影像可以预测临床结局。影像组学至今仍是肿瘤疗效评估、放疗计划研究里的常用工具，不少课题组的第一个模型就是从影像组学起步的。
局限也很明显：手工特征依赖先验知识，跨设备、跨中心的泛化能力弱。影像AI需要一种能自己学特征的方法。
里程碑二：深度分割时代，nnU-Net把“调参玄学”工程化（2015—2021）
2015年Ronneberger等人提出U-Net，编码器—解码器加跳跃连接的结构天然适合医学图像的像素级分割。随后几年，各研究团队沿着这条路不断加注意力、换骨干网络、堆模块，论文发了不少，临床真正用上的却不多——因为换个数据集，整套预处理、patch大小、数据增广、训练策略全要重调，调参凭经验，复现靠运气。
真正的转折点出现在2021年。德国癌症研究中心（DKFZ）的Isensee等人把这套经验全部写进一个自动配置框架里，命名为nnU-Net，发表在《Nature Methods》上。它保留U-Net的基本结构，先“摸”一遍数据集——图像尺寸、体素间距、类别分布——然后自动决定预处理方案、网络拓扑、增广策略和训练计划。结果是实打实的：医学分割十项全能挑战赛冠军，53个国际分割任务中拿下33个第一；到MICCAI 2020，十个挑战赛的冠军方案中有九个基于nnU-Net。
nnU-Net给整个领域上了一课：分割任务的成败，方法配置的细节比网络结构的创新更重要。它也让“一个课题组没有专业算法工程师，能不能做出可用的分割模型”这个问题，答案从“很难”变成了“可以”。病灶勾画、器官分割、影像组学的ROI自动提取，都可以站在nnU-Net的肩膀上做。
武汉的两条真实时间线
复盘国内，华中科技大学附属的两家医院走了两条互相印证的路，公开报道都查得到。
一条在2020年春天。新冠疫情暴发初期，胸部CT成为筛查和评估的重要依据，患者多、病灶变化快、复查频繁，影像医生的量化分析压力巨大。华中科技大学电信学院与华为云等团队合作，快速研发出新冠肺炎AI辅助医学影像量化分析系统并推向临床。公开报道中，许永超副教授提供了基于纹理感知的病灶分割核心算法，实现单病例全自动精准量化的秒级输出；实验室负责人白翔教授表示，该系统可辅助医生区分早期、进展期与重症期，并通过多次复查影像的量化分析评估病情进展与用药疗效。把一个算法在几天到几周内推到临床可用，靠的既是算法功底，也是本地算力的随叫随到。
另一条更漫长。同济医院放射科自2016年起建设AI阅片体系，2016年10月AI-DR辅助诊断技术上线试用，2017年的公开报道显示其单张X线片诊断耗时不到0.1秒，准确率超过九成，还曾发现医生阅片遗漏的病灶。近十年迭代下来，这套“基于影像AI的精准诊疗系统”已覆盖肺、冠状动脉CTA、脑卒中、乳腺、泌尿、肝胆、骨疾病等多类病症的病变识别与定量分析，放射科年阅片量超过110万份，并在2025年获评湖北省人工智能典型应用案例。
两条时间线放在一起看，结论很清楚：临床认的只有一件事——系统要稳定、快速、不出错，论文指标只是入场券。前者靠工程化，后者靠算力冗余。
里程碑三：多模态大模型，从“圈病灶”到“写报告、答问题”（2023至今）
第三轮变化来自大模型。视觉模型负责在片子上圈出病灶之后，临床环节的下一个瓶颈其实是文字：报告怎么写、术语怎么规范、历史片子怎么比对、指南知识怎么随问随答。通用语言大模型展示出的长文本理解、结构化输出和推理能力，恰好对上了这些需求。
于是医学影像AI的工作流正在变成三层：影像设备产出数据，视觉模型（分割、检测、分类，nnU-Net这一类仍是主力）产出结构化结果，语言大模型把结果翻译成报告草稿、质控意见和随访建议。华中科技大学人工智能学院夏天、白翔团队此前提出的联邦学习开源框架UCADI，则提示了另一条必须守住的底线——多中心协作训练时，数据留在本地，只传模型参数。
问题随之而来：医院和研究数据严禁出域，公有云API再方便也用不了。大模型本地推理部署，从“可选项”变成了课题组的必修课。
课题组的四个真实瓶颈
在华中科技大学医学影像学这类专业方向上，做AI辅助诊断课题，绕不开四堵墙。
第一堵是数据合规。DICOM文件里嵌着患者身份信息，脱敏、分级、审计一个环节都不能少，等保二级起步、涉及临床业务往往要三级。
第二堵是数据体量。一个腹部增强CT序列几百张切片，一个课题几百例，再加上nnU-Net训练需要的五折交叉验证，数据吞吐压力远超普通办公场景。
第三堵是标注成本。高质量的病灶标注要放射科医师逐层勾画，一份3D标注动辄几十分钟，标注往往比训练更拖进度。
第四堵是算力预算。既要训练视觉模型，又要跑大模型推理，还要留余量给全组人同时用，钱必须花在刀刃上。
大模型本地推理部署：六个必须想清楚的环节
本地部署一个医学影像大模型，远不止“下载权重、跑起来”这么简单。围绕预分配的模型池——主力推理模型GLM-4-32B-0414，轻量高并发模型Qwen2.5-14B-Instruct——下面六个环节每个都要落实。
任务场景：先定活，再选模型
把需求列成清单再动手。常见的五类活：影像报告结构化与草稿生成，检查所见到初步印象的转写，科室知识库与指南问答，报告质控（术语、左右、单位、矛盾描述核查），科研辅助（文献摘要、标注说明生成）。其中质控和问答并发高、单条文本短，适合小模型；报告草稿需要理解长上下文、保持医学表述严谨，适合大模型。任务清单一出来，模型池里谁干什么就清楚了。
模型选择：一主一备的模型池
GLM-4-32B-0414是智谱2025年4月开源的320亿参数稠密模型，原生32K上下文，开启YaRN后可扩展至128K，MIT许可证，商用友好，中文医学文本的理解和结构化输出能力强，放在主力席位：报告草稿、复杂推理、长病史摘要都归它。Qwen2.5-14B-Instruct是140亿参数、128K上下文，许可证宽松，推理开销大约只有前者的四成，放在高并发席位：质控初筛、知识库问答、教学模拟。预分配模型池的好处是提前把权重、评测集和回滚方案都准备好，上线前不至于临时抱佛脚。视觉侧的分割与检测模型另算一层，与语言模型池通过结构化结果对接。
量化与显存估算
显存账要会算。经验公式很简单：权重显存约等于参数量乘以每参数字节数。FP16或BF16精度下，32B模型权重约64GB，14B约28GB；INT8量化后分别约32GB和14GB；INT4量化后约16GB到20GB、7GB到10GB，量化格式常用AWQ、GPTQ或GGUF。别忘了KV缓存——它是长上下文场景的显存大头，上下文拉满时往往需要再给权重显存的三到八成做预留。实践上的稳妥做法是：给主力模型按INT8估算整机显存，再按目标并发数反推余量，宁可买大一圈，也别让推理在高峰期排队到临床等不起。
推理框架
服务化推理优先选成熟框架：vLLM凭借PagedAttention和连续批处理，在吞吐上一直是开源方案里的标杆；SGLang在结构化输出和多模型混布上更灵活；TensorRT-LLM适合把推理进一步压榨到硬件极限；轻量场景或边缘节点可以用llama.cpp或Ollama跑GGUF格式。框架选型的判断标准就三条：目标并发下的首token延迟、每token延迟、以及框架对目标量化格式的原生支持程度。医学场景对延迟的容忍其实比对错字的容忍高，先保证吞吐，再抠单条速度。
离线与数据安全
医院内网部署，物理隔离是第一道墙。数据侧，DICOM头信息清洗脱敏进管线，脱敏规则和保留字段要经伦理与信息科双确认；模型侧，权重文件分级管理，加载校验哈希；访问侧，按角色分权，所有推理请求留审计日志；流程侧，对标等保2.0相应等级逐项自查。有多中心协作需求时，联邦学习让参数多跑路、数据不出门，华中科技大学团队的UCADI框架在这点上已有公开实践可以参照。
运维监控
上线只是开始。需要持续盯的指标包括：GPU利用率与显存水位、首token延迟、每token延迟、每秒生成token数、请求队列深度、错误率与超时率。工具链很现成——Prometheus抓指标，Grafana出看板，NVIDIA DCGM暴露显卡状态。管理上还要配齐三件事：模型版本管理与灰度发布，出问题能一键回滚；推理日志按合规要求留存可查；每月一次的容量复盘，根据临床使用量的增长决定扩卡还是缩上下文。
避坑指南
第一条坑：跳过评测直接上线。模型池定下来之后，一定要用本院的脱敏数据建评测集，报告草稿类任务尤其要测幻觉率——大模型编造不存在的病灶描述，在临床上是零容忍的。
第二条坑：只测单并发。验收时用一条请求测延迟很好看，早高峰三十个医生同时用就原形毕露。压测必须按目标并发乘以峰值系数来。
第三条坑：显存只算权重。长上下文加高并发，KV缓存能把显存翻倍，预算阶段就要把它算进去。
第四条坑：视觉和语言两层脱节。分割模型输出的结构化结果没有统一的字段规范，大模型拿到的就是一堆没法用的字符串，接口契约要在项目第一天定死。
第五条坑：忽视数据治理的持续性。脱敏规则、字段字典、术语表都在演进，管线要跟着维护，指望一次性做完迟早出事。
四档投入的机型与硬件配置
按课题组规模和任务负载，投入大致分四档，每档给出推荐机型与完整硬件参数，具体构成仍需结合视觉模型训练量和大模型并发量细算。
入门档，面向教学演示和轻量推理试点，跑通“分割模型加单一大模型”的最小流程。推荐机型：A350 15364-MBT。
- CPU：Intel Core Ultra 7 265K，20核（8性能核全核5.3GHz/12能效核全核3.8GHz）（5.3GHz为全核超频实测优化频率）
- GPU：RTX 5090D v2 24G 水冷（GPU水冷），24GB GDDR7显存，384bit位宽，1.34 TB/s显存带宽，PCIe 5.0 x16
- 内存：64GB DDR5
- 存储：2TB NVMe SSD
这档的关键是把流程跑通而不是跑快：24GB显存足以承载Qwen2.5-14B-Instruct的INT8量化推理（权重约14GB）并留出KV缓存空间，GLM-4-32B-0414按INT4量化（权重约16GB到20GB）也能完成教学级验证；nnU-Net可跑通2D任务与小patch的3D baseline训练，训练与推理分时复用同一张卡。
进阶档，面向常规课题组，能同时支撑nnU-Net五折训练和GLM-4-32B-0414的INT8推理，组内三到五人共用。推荐机型：AR350 145128-MCE。
- CPU：AMD锐龙9950X，16核4.5G（4.5GHz为全核超频实测优化频率）
- GPU：RTX 6000D 84G，84GB GDDR7显存，448bit位宽，1.57 TB/s显存带宽，PCIe 5.0 x16
- 内存：128GB DDR5
- 存储：4TB NVMe SSD
84GB显存让“推理不中断、训练穿插跑”成为常态：GLM-4-32B-0414按INT8部署占用约32GB权重显存，再按权重三到八成预留KV缓存后仍有富余，nnU-Net的3D五折交叉验证可错峰排队执行，组内三到五人共用不必互相等待。报价表给这档标注的适用方向里就包括医疗多模态与智能体场景。
专家档，面向有临床合作课题的团队，推理并发上到二三十路，量化前还能保留全精度推理的余量，训练与推理互不争抢。推荐机型：GX660M 227512-MD2A。
- CPU：2×Xeon金牌6530 (64核2.7G)（2.7GHz为全核超频实测优化频率）
- GPU：2×A100 80GB 水冷（GPU水冷），单卡80GB HBM2e显存，显存带宽2 TB/s
- 内存：256GB DDR5
- 存储：4TB NVMe SSD
双卡各管一摊：单卡80GB显存可完整承载GLM-4-32B-0414的全精度FP16推理（权重约64GB），另一卡专供nnU-Net五折训练与视觉模型微调，训练与推理物理隔离、互不抢占；推理侧量化到INT8后，单卡权重加KV缓存的余量足以撑起二三十路并发。双路64核CPU同时兜住DICOM预处理与五折并行的CPU端负载。
集群档，面向院系级平台，多节点分担训练、推理与数据存储，支持联邦学习节点接入和多课题组分时调度。推荐按三个节点搭建：训练节点GX660M 227384-MD4T，推理节点GX660M 227256-MD4T，存储管理节点参照分布式集群方案的存储管理节点配置。
- 训练节点 GX660M 227384-MD4T
- CPU：2×Xeon金牌6530 64核2.7-4G（2.7GHz为全核超频实测优化频率）
- GPU：4×RTX 4090 48G 水冷（GPU水冷），单卡48GB GDDR6X显存，384bit位宽，1.01 TB/s显存带宽，PCIe 4.0 x16
- 内存：384GB DDR5
- 存储：8TB NVMe
- 推理节点 GX660M 227256-MD4T
- CPU：2×Xeon金牌6530 64核2.7-4G（2.7GHz为全核超频实测优化频率）
- GPU：4×RTX 5090D 32G 水冷（GPU水冷），单卡32GB GDDR7显存，512bit位宽，1.79 TB/s显存带宽，PCIe 5.0 x16
- 内存：256GB DDR5
- 存储：8TB NVMe
- 存储管理节点（参照分布式集群方案）：2颗Xeon银牌4314（32核），192GB DDR4内存，126TB并行存储（集群方案存储节点标配23TB闪存阵列加126TB并行存储）
分工很清楚：训练节点四卡合计192GB显存，并行承担nnU-Net大批量五折与视觉模型微调；推理节点四卡合计128GB显存，用vLLM或SGLang把GLM-4-32B-0414与Qwen2.5-14B-Instruct池化成多实例服务，二三十路并发只算起步；存储管理节点统一纳管DICOM原始数据、脱敏数据集与模型权重，多课题组分时调度由它收口。有联邦学习协作需求时，各参与单位用进阶档机型作为边缘节点接入即可——数据留在本地，只传模型参数。
结尾
从影像组学的几百个手工特征，到nnU-Net把分割做成流水线，再到今天GLM-4-32B-0414这类开源大模型在放射科本地起草报告，医学影像AI辅助诊断的每一步都在向临床靠近。技术的部分已经准备好了，剩下的问题是谁能提供稳定、安全、算得动的本地环境。把模型池、量化方案、推理框架、安全合规和运维监控这五件事提前想清楚，课题组的每一步都会走得比现在快。
工作站配置选型欢迎咨询~
微信号：maxftxwx
fuyiqin@xasun.com
