大模完美电竞子激动AI存储本领进化深度解读首款HBM4限度器IP

 行业动态     |      2024-12-11 11:01:27    |      小编

  跟着大说话模子的参数目已超越万亿大闭,并继续展现延长态势。正在此配景下,冲破内存带宽与容量的固有瓶颈,对待知足AI正在陶冶和推理历程中对及时功能的紧急需求,显得尤为闭节。正在IDC使能技巧和半导体集团副总裁Mario Morales看来,HBM4 IP的显示将行动一个不行或缺的赋能修建模块,为正戮力于开荒前沿AI硬件的安排职员供应声援。

  指日,面向优秀的AI加快器、图形和高功能盘算推算(HPC)行使,着名芯片和半导体IP供应商Rambus推出了业界首款HBM4内存掌握器IP。Rambus探索员兼优秀发现家Steven Woo博士、Rambus大中华区总司理苏雷接收芯东西等媒体的采访,深化解读了HBM4掌握器IP的技巧改进和生长趋向。

  最新宣布的HBM4掌握器IP基于Rambus行业当先的接口和安一切字IP组合,专为AI 2.0安排,供应了32个独立通道的接口,总数据宽度可达2048位。基于这一数据宽度,当数据速度为6.4Gbps时,每个HBM接口的总带宽抵达1.64TB/s,将比HBM3越过2倍以上,从而能够声援最新的AI模子。

  Rambus HBM4掌握器IP可与第三方或客户的PHY处置计划搭配运用,合伙修建出完备的HBM4内存子体系。该IP现已盛开授权,早期安排客户可立地申请。

  这是Rambus数字掌握器处置计划组合中的最新产物,进一步扩展其正在HBM IP界限的商场指挥位子。目前Rambus正在HBM掌握器商场的商场份额位居第一,基于100多项HBM获胜安排案例,或许确保芯片一次流片获胜。此前Rambus已获胜交付业界当先的HBM3E内存掌握器、业界最高数据传输速度的HBM2E内存掌握器(速度达每秒4Gbps)。

  Steven Woo估计客户将正在本年晚些期间采用Rambus HBM4掌握器IP,来岁将IP集成到他们的芯片安排中,这些芯片安排估计最终将正在2026年上市完美电竞。

  另据苏雷分享,面向中国客户,Rambus除了供应优秀的HBM技巧表,还格表着重售中和售后任职,会针对客户的项目产物规格、摆设等方面正在技巧上予以极少最佳倡议和参考,帮帮客户提前规避极少技巧困难,更疾推生产物。

  正在AI体系中,内存代替计划有DDR硬件产品、LPDDR、GDDR、HBM等。此中DDR是目前最规范的内存式样,平凡行使于环球各地的任职器和数据核心;LPDDR是一种低功耗DDR内存,可用于手机、AI角落推理及汽车(ADAS)行使场景。

  Steven Woo预测HBM和GDDR将共存,任职于差其它功能,拥有差其它带宽、容量、集成格调解运用本钱。GDDR更省钱,正在带宽、本钱和牢靠性方面完成了优良的平均,不光用于图形盘算推算,还用于AI推理;HBM更腾贵,高带宽及密度远超市道上常见的普及DRAM,合用于最苛刻和最高功能的AI陶冶、高功能盘算推算和收集行使。

  HBM的DRAM客栈采用多层堆叠架构。DRAM客栈会通过有一个中介层的物理线,与SoC相连。每个HBM3内存兴办与经管器之间的数据通途由1024条“线”或信号途途构成。HBM4将具有2048条线。

  上千条信号途途远远跨越了规范PCB所能声援的限造,因而采用硅中介层行动桥梁,将内存兴办和经管器相连起来。相像于集成电途,硅中介层上能够蚀刻出间距格表幼的信号途途,从而完成所需数主意信号线来知足HBM接口的央求。

  恰是因为这种灵活的构造安排和DRAM堆叠形式,HBM内存才干供应极高的内存带宽、优异的能效、极低的延迟,同时占用最幼的面积。

  HBM每一代的鲜明变革是单个客栈带宽的快速推广。具备TB级带宽的HBM3已成为AI陶冶硬件中不行或缺的内存技巧。SK海力士、美光、三星等主流DRAM成立商均已告示推出HBM3E兴办,数据传输速度最高可达9.6Gbps。

  而今正正在开荒中的HBM4是由JEDEC协议规范的下一代技巧。 这些数值仍正在开荒中,尚未最终确定,但每个客栈的带宽仍然抢先了HBM3E。

  Rambus HBM4掌握器IP旨正在加快下一代AI任务负载,可供应高达的6.4Gbps数据传输速度,每个HBM接口的总带宽抵达1.64TB/s。Steven Woo分享说,HBM4的上风正在于能够通过裁减恭候光阴来抬高功能,以及通过下降功耗来下降运营本钱。

  HBM4掌握器IP被安排为模块化,使之足够轻巧,以便能够对其实行摆设和编削以知足特定的客户央求,并估计对IP定造的需求将继续存正在。

  按照客户正在行使场景中的奇特需求,Rambus供应定造化任职,涵盖尺寸、功能、成效等方面。闭节的可选成效搜罗ECC、RMW(Read-Modify-Write)、过失清算等,又有多种内存测试算法选项以及内存测试了解主旨。

  通过掌握器测试平台,用户可推行完备的掌握器代码库的回归测试。Rambus还供应验证IP,并长远与Avery Design Systems(西门子旗下公司)协作。

  西门子EDA副总裁兼安排验证技巧总司理Abhi Kolpekwar解说了预验证IP处置计划的苛重性:“正在而今庞人人变且神速生长的半导体安排界限,预验证的IP处置计划对待完成芯片一次流片获胜来说格表闭节。”

  确保IP能与体系的其他片面无缝相连是一项挑拨。Rambus花费了大宗光阴来确保其掌握器兼容,并或许完成神速集成和初度流片获胜。

  要完成一次流片获胜,离不开对物理中介层PHY的声援,因而Rambus将其掌握器与各式第三方PHY实行成家、认证和验证,确保客户正在运用其掌握器与第三方PHY时或许轻松集成。

  Rambus高级副总裁兼半导体IP部分总司理Matt Jones笃信,业界首款HBM4掌握器IP处置计划将帮帮客户正在其最优秀的经管器与加快器中完获胜能的冲破式晋升。

  Rambus供应的半导体IP处置计划组合,通过高功能接口和硬件级安宁完成加快盘算推算。

  Rambus供应了一整套高功能内存掌握器处置计划,涵盖HBM、GDDR、LPDDR、DDR内存;又有一系列互联掌握器,笼罩首要的高速互撮合同,如CXL完美电竞、PCIe和MIPI。针对显示行使,Rambus供应声援无损视频压缩和前向纠错的处置计划,可正在而今接口技巧下供应最高的区分率和帧率。

  其用于AI的半导体IP处置计划供应了高功能芯片的主旨修建模块,搜罗HBM/GDDR内存掌握器、PCIe/CXL合同掌握器,以及后量子暗号学、相信根、内存内加密(IMI)等安宁成效。

  当通过PCIe/CXL相连经管器时,Rambus供应数据完备性和加密成效,以确保数据正在链途中的传输安宁。其相信根IP通过安宁启动完美电竞、数字标识和认证签字等成效,保卫硬件和数据安宁,同时供应其他加密任职。

  将这些整合正在一块,Rambus的IP产物组合或许统筹高速数据传输和数据安宁性。

  “HBM4将代表天生式AI和其他HPC行使正在内存技巧方面的强大冲破。确保HBM4 IP处置计划的可用性,对待为HBM4正在商场上的平凡采用奠定坚实根本而言拥有至闭苛重的事理。”三星电子推行副总裁兼晶圆代工IP生态体系认真人Jongshin Shin说道,三礼拜待与Rambus及更平凡的生态体系密适协作,合伙为AI新时间开荒全新的HBM4处置计划。

  Abhi Kolpekwar称,Rambus与西门子之间设备了长远且获胜的协作闭连,愿望赓续协作推出新一代的、经西门子高质地验证IP验证的、一流的Rambus HBM4内存掌握器。

  Cadence芯片处置计划职业部合同IP营销高级总监Arif Khan说:“跟着异构盘算推算架构的范围继续扩展,以声援有着海量数据挪动的多样化任务负载,HBM IP生态体系务必继续晋升其功能,并推出可互操作的处置计划,以知足客户日益延长的需求。”

  他很愿意看到Rambus供应可互操作的HBM4掌握器IP处置计划以声援生态体系,并与Cadence正在HBM PHY和处置计划功能界限的指挥位子相团结,合伙促使行业向先导新一代HBM内存过渡。

  行动前沿内存IP处置计划供应商,Rambus具有抢先30年的高功能内存架构体会,平素戮力于扩展内存的功能和容量,正在多个HBM代际的客户施行中堆集了平凡的获胜案例,并与内存成立商和PHY供应商合作无懈,愿望行使其专业学问来帮帮行业向HBM4过渡。

  据Steven Woo分享,Rambus愿望或许知足商场对AI的近期需求以及他日几年的需求。其内部探索机构Rambus Labs着眼于他日的内存需求硬件产品,探索议程的一片面是探索何如订正他日的AI内存,搜罗何如供应更疾的内存、更高的容量和更好的功耗功用。丰盛的HBM客户安顿体会,以及产物部分与探索部分之间的合作,是Rambus愿望连结他日逐鹿上风的形式。

  正在他看来,他日AI将赓续必要正在功能、成就和内存容量方面得到强大订正。这将必要很多差其它公司合伙极力,内存成立商和像Rambus云云的公司将订正内存体系,经管器厂商通过压缩数据、运用新的数据格局等形式来订正经管硬件产品,软件和硬件之间的协同安排将有帮于确保软件充裕行使可用的硬件。大模完美电竞子激动AI存储本领进化深度解读首款HBM4限度器IP