NVIDIA要用上X3D堆叠设计!下代GPU将引入LPU单元
虽然NVIDIA目前在AI训练领域无可匹敌,用上引入元但面对日益增长的堆叠U单即时推理需求,其正筹划一项足以改变行业格局的设计“秘密武器”。
据AGF透露,下代NVIDIA计划在2028年推出的用上引入元Feynman(费曼)架构GPU中,整合来自Groq公司的堆叠U单LPU(语言处理单元),以大幅提升AI推理性能。设计
Feynman架构将接替Rubin架构,下代采用台积电最先进的用上引入元A16(1.6nm)制程,为了突破半导体物理限制,堆叠U单NVIDIA计划利用台积电的设计SoIC混合键合技术,将专为推理加速设计的下代LPU单元直接堆叠在GPU之上。

这种设计类似于AMD的堆叠U单3D V-Cache技术,但NVIDIA堆叠的设计不是普通缓存,而是专为推理加速设计的LPU单元。
设计的核心逻辑在于解决SRAM的微缩困境,在1.6nm这种极致工艺下,直接在主芯片集成大量SRAM成本极高且占用空间。
通过堆叠技术,NVIDIA可以将运算核心留在主芯片,而将需要大量面积的SRAM独立成另一层芯片堆叠上去。
台积电的A16制程一大特色是支持背面供电技术,这项技术可以腾出芯片正面的空间,专供垂直信号连接,确保堆叠的LPU能以极低功耗进行高速数据交换。

结合LPU的“确定性”执行逻辑,未来的NVIDIA GPU在处理即时AI响应(如语音对话、实时翻译)时,速度将实现质的飞跃。
不过这也存在两大潜在挑战,分别是散热问题和CUDA兼容性难题,在运算密度极高的GPU 再加盖一层芯片,如何避免“热当机”是工程团队的头号难题。
同时LPU强调“确定性”执行顺序,需要精确的内存配置,而CUDA生态则是基于硬件抽象化设计的,要让这两者完美协同,需要顶级的软件优化。
(责任编辑:综合)
-
上个月,索尼辩称,“理性消费者”本就清楚自己并不真正拥有付费购买的数字商品。如今,消费者权益维基网站整理出一份清单,收录了超过30个索尼曾告知消费者“付费数字游戏归其所有”的实例。近期针对索尼提起的一
...[详细]
-
在第十二届"出行智选"评选中,问界M9与M8分别荣获"商务座智选车"和"年度车"大奖。基于千万级商旅用户真实选择,此次获奖标志着智慧出行领域正从技术竞争转向体验竞争。两款车型凭借领先的智能科技与人性化
...[详细]
-
为进一步深化双拥共建,支持驻地卫生医疗事业,近日,汉阴县双拥办牵头,驻汉部队官兵、退役军人志愿者积极响应,开展了系列无偿献血公益活动,60余人无偿献血18600ml,共同为生命护航,谱写军民血脉相融的
...[详细]
-
利用商家满减、平台红包和淘宝粮票,吕先生在饿了么点单,不花钱吃“霸王餐”。(图为吕先生以前的订单截图)海峡网讯厦门日报记者 兰京)最近,上海一市民凭借满墙的优惠卡省下全家80%
...[详细]
-
导读: 38岁重疾险买合算,38岁保险怎么买最划算?38岁买什么重疾险合适?2022有热门的重疾险产品推荐吗?重疾险买来有啥用?相信很多小
...[详细]
-
在第十二届"出行智选"评选中,问界M9与M8分别荣获"商务座智选车"和"年度车"大奖。基于千万级商旅用户真实选择,此次获奖标志着智慧出行领域正从技术竞争转向体验竞争。两款车型凭借领先的智能科技与人性化
...[详细]
-
北京时间11月8日消息,马刺客场88-95不敌热火,马刺遭遇2连败,而热火迎来2连胜。值得一提的是,由于个人原因,热火球星德维恩-韦德缺席该场比赛。另外,“大白边”怀特塞德本场
...[详细]
-
近期玻璃现货市场整体走势趋于稳定,生产企业以增加出库和回笼资金为主。经过中旬以来各个区域轮动涨价,目前厂家价格已经有了非常大幅度的上涨,需要下游加工企业消化和接受一段时间。总体看库存环比上月也有一定幅
...[详细]
-
随着浮法玻璃技术的出现,大批量制造平整均匀的优异玻璃成为可能,同时也使深加工玻璃的种类愈加丰富。除了常用的高度度钢化玻璃以外,还有注重隐私保护的磨砂玻璃、调光玻璃,增强防弹安全性能的夹层玻璃、夹丝玻璃 ...[详细]
-
库里受腿伤影响未参加训练 萌神恐缺席德州两战发布时间:2016-03-15 13:14 来源:豫都网 我来说说 我要投稿[摘要]北京时间12月30日,《圣何塞水星报》报道,金州勇士队球星斯蒂芬-库里受
...[详细]

孩子重疾险有必要买吗?给孩子的重疾险有没有必要买
2020年光伏市场化序幕拉开,玻璃薄片化或将要点应用,市场研究
玻璃中的高溢价产品:广受欢迎的超白玻璃,行业资讯
本週重點回顧:美國升息三碼、台灣PMI連4個月緊縮、殖利率倒掛|天下雜誌
《心之眼》开发商遭员工起诉:偷装侵入式监控软件
