专注高性能计算领域资讯
专注高性能计算领域资讯
NVLink
2025年4月，西安交通大学发布DeepEdu1.0教育智能体——”交晓智”平台（来源：西安交通大学新闻网，2025-04-01），综合利用开源与闭源国产大模型，以开源大模型为计算推理和生成基座，设计了闭源大模型API智能模块，集成丰富的人机交互功能，为高校教育场景打造了12个专业教育垂直大模型，覆盖79门专业核心课程。同月，学校将2025年定为”人工智能赋能年 […]
做大模型预训练的工程师都懂，PyTorch跑百亿参数模型最崩溃的不是loss不收敛，而是DeepSpeed ZeRO-3刚配好，训练到某一步优化器状态分片通信阶段直接OOM，或all-gather卡死导致GPU利用率跌到10%以下。去年夏天，一个做金融大模型基座预训练的团队找到我们，离模型交付只剩七天。他们的Llama-3架构模型（135B参数，PyTorch+DeepSpeed ZeRO-3，B […]
2024年，高性能计算领域有一条不太显眼但业内人都在讨论的消息：哈工大（深圳）计算机应用研究中心的大规模分布式训练系统，在2048块GPU组成的集群上跑出了百万级图片识别训练的最快纪录。成果发表在ASPLOS、EuroSys、INFOCOM这些系统顶会上，其中一篇拿了INFOCOM 2021的最佳论文奖。 2048块GPU同时运转，功率接近1.5兆瓦，相当于一个小型工厂的用电量。这种规模的集群，全 […]
做CIM数字孪生城市平台开发的工程师都懂，UE5加载城市级全要素场景后最崩溃的不是BIM模型没导进来，而是推进到GIS+BIM多源融合实时渲染阶段，进度条卡在”Streaming GIS tiles / Building Nanite / Compiling shaders”一动不动，GPU显存占用顶到24 GB，然后疯狂回退到共享内存，帧率从60 fps暴跌到3 fps， […]
2026年全国两会吹响”人工智能+”的行动号角。作为回应，哈尔滨工业大学在三月集中发布了一批标志性成果：土木工程学院孙澄教授团队构建了覆盖设计、制造、装配、运维全流程的智能建造技术体系，让中央广播电视总台黑龙江总站新址实现了综合节能率56.8%；刘昌永教授团队研发的基于数字孪生的重大基础设施施工安全主动控制技术，使哈尔滨都市圈西南环松花江特大桥在极寒凌汛环境下施工时，冻土区 […]
在百亿参数大模型成为NLP基座的今天，微调（Fine-tuning）早已不是改几层全连接层的轻量活。当清华NLP实验室某团队承接某垂直领域大模型适配项目，试图在PyTorch中对LLaMA-2 13B进行指令微调时，遭遇了一个极其普遍的工程困境：单张RTX 3090的24GB显存连BF16权重的全参数微调都容纳不下，转向LoRA低秩适配后，序列长度稍长即触发CUDA Out of Memory，而 […]
一、引言：当”开拓1000″点亮算力新基建 2024年对清华高性能计算领域而言，是承前启后的一年。 这一年，清华高性能计算平台完成了**”开拓1000″智算系统**的建设。从2005年的”探索3号”到如今的”开拓1000″，清华超算中心已经走过了近二十年。官方数据显示，平台累计服务46个院系、312个课 […]
引言：当无线通信进入”看得见的时代” 2024年11月，中国电子学会第三十一届信息论学术年会在南京召开。在”6G近场通信理论与技术”专题论坛上，一位来自清华的长聘教授报告了团队最新成果——面向6G超大规模MIMO（E-MIMO）的信道测量与建模研究。这项工作解决了近场传播、空间非平稳性等6G核心难题，所开发的信道仿真平台已成为国内6G标准化推进的重要 […]
说实话，看到AMD Zen 6架构的Venice EPYC处理器供不应求的消息，我倒不觉得意外。这事儿背后反映的其实是整个AI行业的一个尴尬现状——我们对算力的渴望，远远超过了半导体工厂的生产能力。 先说说让我印象深刻的几个数据。Zen 6 Venice处理器用的是台积电2nm工艺，单个CCD能塞下32个核心，8个CCD拼在一起就是256核的庞然大物。更夸张的是L3缓存能堆到1GB，能效还比上一代 […]
文章分类
新闻订阅
订阅新闻简报
掌握信息主动权
精选行业动态 + 全网热点，不遗漏关键信息