专注高性能计算领域资讯
专注高性能计算领域资讯
TensorRT
深度学习推理号称”模型落地的最后一公里”，TensorRT能把PyTorch模型压缩加速好几倍，但这把利剑要开刃——引擎构建阶段的算子融合、精度校准、内核自动调优，一个模型可能要烤机几小时。构建看着是”跑一次程序”，实际是显存和版本依赖的连环坑。更头疼的是，模型权重、校准数据集、部署目标全是企业核心资产，数据涉密不敢传云端AI，环境版本不匹配、构建O […]
2025年，北京理工大学集成电路与电子学院的郎平老师团队在国际权威期刊连续发表了多项关于深度学习与电磁频谱智能感知的交叉研究成果（来源：https://ice.bit.edu.cn/szdw/jsfc/xhytxclyjs_558330b877f54d81bc1c24c527ee0912/zj_558330b877f54d81bc1c24c527ee0912/95d99258093144a7a55 […]
在人工智能与多模态感知交叉领域，基于 Transformer 的视觉-语言-音频融合模型已成为智能座舱、医疗影像诊断与工业质检的核心推理引擎。与单模态 CNN 不同，多模态融合需要同时处理高分辨率图像（ViT 编码器）、长文本序列（BERT/GPT 编码器）与梅尔频谱（Audio Spectrogram Transformer），通过跨模态注意力（Cross-Modal Attention）在统一 […]
一、模型训完，部署才是开始 做深度学习应用的团队，往往把精力全放在训练阶段：调网络结构、刷SOTA指标、发论文。但模型真正产生价值，是在部署落地之后。很多团队卡在”最后一公里”——模型精度很好看，一到边缘设备上就跑不动。 去年接触过一个做医疗影像的团队，基础模型是ResNet-152改的三维UNet，训练完Dice系数0.91。但往医院PACS系统部署时，问题全暴露出来了： […]
一、那个尴尬的延迟：当观众已经转身，你的画才生成一半 2024年，某新媒体艺术展览现场。 一位观众站在交互装置前，对着摄像头比了一个手势。按照设计，系统应该实时捕捉他的姿态，生成一幅风格化的数字画像，投射在眼前的屏幕上。观众期待的是”所想即所得”的魔法体验。 但实际情况是：观众的手放下了，画面还在”正在生成中”转圈；观众已经转身离开，第一帧才渲染出来 […]
说实话，看到AMD Zen 6架构的Venice EPYC处理器供不应求的消息，我倒不觉得意外。这事儿背后反映的其实是整个AI行业的一个尴尬现状——我们对算力的渴望，远远超过了半导体工厂的生产能力。 先说说让我印象深刻的几个数据。Zen 6 Venice处理器用的是台积电2nm工艺，单个CCD能塞下32个核心，8个CCD拼在一起就是256核的庞然大物。更夸张的是L3缓存能堆到1GB，能效还比上一代 […]
文章分类
新闻订阅
订阅新闻简报
掌握信息主动权
精选行业动态 + 全网热点，不遗漏关键信息