专注高性能计算领域资讯
专注高性能计算领域资讯
PyTorch
从一则校园新闻说起 2025年12月,华中科技大学对外公布了一项进展:学校鲲鹏昇腾科教创新孵化中心基于完全国产化的昇腾算力平台,借助 vllm-ascend 推理框架,完成了华为盘古Pro MoE 72B 大模型的本地化部署,并面向校内师生开放应用服务。这则经中国教育报报道的消息,在高校圈里引起的讨论比想象中持久。 值得琢磨的是模型规模。72B 参数的 MoE 模型,权重文件超过 140 GB,放 […]
前言 做非侵入式负荷分解(NILM)的同行,对这个场景大概率不陌生:几千块智能电表的采集数据拉回来训练分解模型,seq2point网络刚跑到第几十个epoch,GPU直接报显存溢出(OOM);好不容易把batch砍小跑起来,loss又突然变成NaN——模型精度上不去,负荷分解的试点验收就在眼前催。更麻烦的是,用户用电数据涉及隐私安全,电表曲线、负荷特征、训练数据集全是涉密资产,代码和数据不敢往云端 […]
开场:一个问题,两种答案 课题组要换设备那天,导师把采购申请拍在桌上:”买台好点的游戏本行不行?显卡反正都是那家芯片。”做散射成像的学生摇头,但真让他说出塔式图形工作站强在哪,他大概率只能憋出一句”散热好”。 计算光学成像这个方向,硬件账比外人看的要复杂。先把真实的研究现场摆出来,再一组一组对决。 真实的实验室:散斑背后站着神经网络 南京航空航天大学 […]
从黑箱车间到透明工厂 北京理工大学智能制造团队的一项长期研究,揭示了传统装配车间的一个普遍困境:物理产线如同黑箱,管理人员只能看到最终产出,却对中间过程缺乏实时掌控。该团队数字化制造研究所的研究资料显示,针对复杂产品装配车间普遍存在的黑箱作业、返工返修多、质量追溯难、现场需求响应慢等工程瓶颈,他们突破了多层次多环节装配过程数据建模、数模驱动的装配性能在线预测与质量精准追溯、装配车间实时调度等核心技 […]
做过自动驾驶多模态感知的工程师都懂,BEVFusion跑端到端训练最崩溃的不是mAP上不去,而是相机分支的6路高分辨率图像经过View Transformer投影到BEV网格后,与LiDAR点云体素化特征一拼接,显存直接溢出,或者点云对齐阶段CPU内存吃满导致数据加载线程卡死,GPU空等利用率归零。去年春末,一个做城区NOA感知算法的团队找到我们,离模型交付只剩五天。他们的BEVFusion改进模 […]
做大模型预训练的工程师都懂,PyTorch跑百亿参数模型最崩溃的不是loss不收敛,而是DeepSpeed ZeRO-3刚配好,训练到某一步优化器状态分片通信阶段直接OOM,或all-gather卡死导致GPU利用率跌到10%以下。去年夏天,一个做金融大模型基座预训练的团队找到我们,离模型交付只剩七天。他们的Llama-3架构模型(135B参数,PyTorch+DeepSpeed ZeRO-3,B […]
2026年3月,哈尔滨工业大学王亚东教授团队与哈尔滨医科大学程亮教授团队的论文登上Nature Methods。论文标题很长:DECODE: deep learning-based common deconvolution framework for various omics data。核心意思却很直接——他们做了一个通用去卷积框架,能把组织水平的混合组学数据解开,还原出里面每种细胞类型的比例和 […]
2024年,高性能计算领域有一条不太显眼但业内人都在讨论的消息:哈工大(深圳)计算机应用研究中心的大规模分布式训练系统,在2048块GPU组成的集群上跑出了百万级图片识别训练的最快纪录。成果发表在ASPLOS、EuroSys、INFOCOM这些系统顶会上,其中一篇拿了INFOCOM 2021的最佳论文奖。 2048块GPU同时运转,功率接近1.5兆瓦,相当于一个小型工厂的用电量。这种规模的集群,全 […]
2024年全国大学生交通运输科技大赛上,哈尔滨工业大学一支学生团队的作品《基于自主感知导航的空地协同搜救系统》拿了一等奖。这套系统由自主无人机和自主搜救车组成,无人机负责高空侦察,搜救车负责地面执行,两者之间需要实时交换感知数据、协同路径规划。评委会给出的评语里有一条很具体:空地协同的核心难点不在单平台智能,而在多平台之间的信息同步与决策一致性。 这句话放到车路协同领域,同样成立。一年后,哈工大交 […]
2026年全国两会吹响”人工智能+”的行动号角。作为回应,哈尔滨工业大学在三月集中发布了一批标志性成果:土木工程学院孙澄教授团队构建了覆盖设计、制造、装配、运维全流程的智能建造技术体系,让中央广播电视总台黑龙江总站新址实现了综合节能率56.8%;刘昌永教授团队研发的基于数字孪生的重大基础设施施工安全主动控制技术,使哈尔滨都市圈西南环松花江特大桥在极寒凌汛环境下施工时,冻土区 […]
在人工智能制药与计算化学交叉领域,基于 PyTorch 的分子生成模型已成为 de novo 药物设计的核心引擎。与图像生成不同,分子生成需要同时处理图结构(原子为节点、化学键为边)、序列表示(SMILES/SELFIES 字符串)与三维构象(GEOM 数据集),模型架构涵盖 Graph VAE、Transformer(如 MegaMolBART)、流模型(MoFlow)与扩散模型(DiGress […]
在百亿参数大模型成为NLP基座的今天,微调(Fine-tuning)早已不是改几层全连接层的轻量活。当清华NLP实验室某团队承接某垂直领域大模型适配项目,试图在PyTorch中对LLaMA-2 13B进行指令微调时,遭遇了一个极其普遍的工程困境:单张RTX 3090的24GB显存连BF16权重的全参数微调都容纳不下,转向LoRA低秩适配后,序列长度稍长即触发CUDA Out of Memory,而 […]