专注高性能计算领域资讯
专注高性能计算领域资讯
H100
做大模型预训练的工程师都懂,PyTorch跑百亿参数模型最崩溃的不是loss不收敛,而是DeepSpeed ZeRO-3刚配好,训练到某一步优化器状态分片通信阶段直接OOM,或all-gather卡死导致GPU利用率跌到10%以下。去年夏天,一个做金融大模型基座预训练的团队找到我们,离模型交付只剩七天。他们的Llama-3架构模型(135B参数,PyTorch+DeepSpeed ZeRO-3,B […]
本文采用技术分析视角,以清华大学分布式学习研究为参照系探讨行业趋势。文中提及的学术成果均来自公开文献,不代表任何官方立场。硬件配置建议仅供参考。 一、写在前面:数据不出域,模型怎么训? 2024年,一个让AI圈头疼的问题愈发尖锐:大模型训练需要海量数据,但数据分散在各个机构、医院、银行,谁也不愿意把”家底”交出来。 在北京邮电大学计算机学院,齐涛博士(2024年毕业于清华大 […]
本文采用技术分析视角,以清华大学科学计算研究为参照系探讨行业趋势。文中提及的学术成果均来自公开文献,不代表任何官方立场。硬件配置建议仅供参考。 一、写在前面:2024年诺奖引发的”AI for Science”狂潮 2024年10月,诺贝尔物理学奖授予了John J. Hopfield和Geoffrey E. Hinton,表彰他们在人工神经网络和机器学习领域的基础性贡献。 […]
本文采用技术分析视角,以清华大学计算化学研究为参照系探讨行业趋势。文中提及的学术成果均来自公开文献,不代表任何官方立场。硬件配置建议仅供参考。 一、写在前面:溶剂效应——计算化学的永恒难题 2025年7月8日,清华大学朱永法教授和香港大学汤初阳教授团队(第一作者郭燕)在Nature Communications发表了一项引人注目的研究:通过设计电荷互补的π电子位点,他们开发的卟啉基光催化剂实现了1 […]
本文采用技术分析视角,以清华大学计算化学研究为参照系探讨行业趋势。文中提及的学术成果均来自公开文献,不代表任何官方立场。硬件配置建议仅供参考。 一、写在前面:当AI开始”抢”DFT的饭碗 2025年10月,清华大学化工系王笑楠团队在Nature Computational Science发表了一篇让计算化学圈震动的研究——SurFF模型。这套基于机器学习力场(MLFF)的催 […]
摘要:本文以产业前沿视角,梳理清华系在三维生成领域的技术布局与开源生态。结合胡事民院士团队的学术积淀、曹炎培作为核心开发者之一的threestudio开源项目,以及清华集成电路学院在3DGS硬件加速领域的探索,深入剖析NeRF与3D Gaussian Splatting的技术本质与硬件瓶颈,提供从算法验证到产业落地的四级算力配置方案。 一、引言:当”threestudio” […]
一、引言:当”开拓1000″点亮算力新基建 2024年对清华高性能计算领域而言,是承前启后的一年。 这一年,清华高性能计算平台完成了**”开拓1000″智算系统**的建设。从2005年的”探索3号”到如今的”开拓1000″,清华超算中心已经走过了近二十年。官方数据显示,平台累计服务46个院系、312个课 […]
“微米级器件,纳米级精度,原子级崩溃。” 一、写在前面:MEMS仿真的”地狱难度” 各位刚入组的师弟师妹: 如果你导师给你的课题是”MEMS加速度计多物理场耦合优化”或者”BioMEMS微流控芯片流固耦合分析”,请做好心理准备——这可能是你在清华遇到的最折磨人的仿真课题之一。 本人在清华精仪系做MEMS […]
“在燃烧仿真领域,RANS是工程,LES是科学,而DNS是理想。” 一、写在前面:为什么航空发动机仿真成了”算力无底洞” 如果你正在组建或升级一个航空发动机仿真课题组,面对燃烧室和涡轮叶片这两个核心部件,一定会遇到一个灵魂拷问:到底需要多大的算力才够? 以清华大学能源与动力工程系的某型航空发动机燃烧室课题为例,一个完整的仿真流程是这样的: RANS算 […]
说实话,看到AMD Zen 6架构的Venice EPYC处理器供不应求的消息,我倒不觉得意外。这事儿背后反映的其实是整个AI行业的一个尴尬现状——我们对算力的渴望,远远超过了半导体工厂的生产能力。 先说说让我印象深刻的几个数据。Zen 6 Venice处理器用的是台积电2nm工艺,单个CCD能塞下32个核心,8个CCD拼在一起就是256核的庞然大物。更夸张的是L3缓存能堆到1GB,能效还比上一代 […]
一、问题的提出 当你第一次将两张RTX 4090装入机箱,满怀期待地启动训练脚本时,可能很快就会遇到一个令人困惑的现象:第二块GPU的温度迅速攀升至83°C,风扇转速拉满,训练速度却不升反降。这不是硬件故障,而是多GPU深度学习系统中最常见的热管理困境。 注:NVIDIA GPU的83°C温度墙可通过nvidia-smi命令调整(如设置为88°C),但这会增加硬件风险,不建议长期运行。 根据NVI […]