华体会-Rambus发布业内首款HBM4内存控制器IP，助力AI训练持续突破性能瓶颈

[导读]作为“AI加快年”，2024年AI进展迅猛。得益在GPU、TPU等硬件计较能力的延续晋升、算法优化的深化和数据搜集范围的扩年夜，AI模子在天然说话处置、计较机视觉、主动驾驶等多个范畴获得了显著冲破。例如，OpenAI、Google和Meta等公司推出的超年夜范围模子鞭策了AI手艺的前沿成长，且模子练习的范围不竭创下新记载。 作为“AI加快年”，2024年人工智能进展迅猛。得益在GPU、TPU等硬件计较能力的延续晋升、算法优化的深化和数据搜集范围的扩年夜，AI模子在天然说话处置、计较机视觉、主动驾驶等多个范畴获得了显著冲破。例如，OpenAI、Google和Meta等公司推出的超年夜范围模子鞭策了AI手艺的前沿成长，且模子练习的范围不竭创下新记载。 但是，跟着模子范围的扩年夜，AI扩大法例迎来了新的挑战。若何优化练习方式、下降计较本钱并提高模子能效，成为当前研究的重点。跟着AI模子、特殊是年夜范围深度进修模子在练习和推理中对计较资本和内存带宽的需求不竭增添，传统内存手艺（如DDR）已没法知足年夜范围模子的需求，这使得HBM手艺变得相当主要。 而作为HBM手艺的下一代进级，HBM4有望显著晋升机能，特别在AI和高机能计较范畴。它将为冲破当前瓶颈供给强有力的硬件撑持，助力年夜范围深度进修模子的练习和推理，进一步鞭策AI手艺的前进。Rambus日前在业界率先推出了HBM4内存节制器IP，旨在在进一步鞭策高带宽内存手艺的利用，知足日趋增加的AI计较需求。 “纵不雅全部行业，我们发现处置器破费年夜量时候期待内存中的数据返回才能对其进行处置。更高带宽的内存可以更快地将数据返回处处理器，从而削减期待时候，提高数据处置效力，并下降延迟。功耗效力的提高也使我们可以或许以更低的本钱完成处置，是以HBM4的优势在在可以经由过程削减期待时候来提高机能，和经由过程下降功耗来下降运营本钱。”近日我们有幸加入了此次重磅发布，Rambus研究员兼卓异发现家Steven Woo博士针对新产物进行了出色的讲授。 HBM4来了，单个仓库带宽已达1.6TB/s 经由过程一个中介层的物理毗连，HBM内存得以与处置器相连，该层在毗连布局中起到了相当主要的感化。所有这些组件终究经由过程基板毗连并焊接在PCB上，确保了内存和处置器之间的慎密协作。HBM内存的多层堆叠架构使得每一个内存芯片可以或许直接与处置器进行毗连，并经由过程1024根旌旗灯号路径进行数据传输。这些旌旗灯号路径包罗号令、地址、时钟等多个附加旌旗灯号，跟着HBM3尺度的实行，旌旗灯号路径数目增添到约1700条，超越了传统PCB的承载能力。 作为内存装备与处置器之间的桥梁，为了知足这些高密度旌旗灯号需求，HBM3采取了硅中介层手艺。硅中介层可以或许在极小的空间内蚀刻出更多的旌旗灯号路径，从而撑持更高的带宽需求，并包管数据传输的高效性和不变性。这类周详的设计使得HBM内存不但能供给更高的带宽和容量，还能显著下降延迟，优化了能效，并将内存占用面积最小化。是以，HBM内存在需要极高数据吞吐量和低延迟的利用场景中，特别是在AI练习和高机能计较范畴，阐扬侧重要感化。 作为高机能计较和AI范畴的主要手艺，HBM成长履历了多个阶段，从第一代到最新的HBM4，每代的改良都在不竭鞭策内存手艺的鸿沟。 从HBM的第一代到第二代、2E、3E，每代最显著的转变就是单个仓库带宽的显著晋升。跟着手艺的不竭前进，HBM3E在带宽上的冲破尤其凸起，单个装备的带宽已跨越1.2TB/s，知足了高带宽内存需求日趋增加的市场。首要DRAM制造商，如SK海力士、美光和三星，已公布推出撑持9.6Gbps数据传输速度的HBM3E装备，鞭策了HBM手艺的普和和利用。 跟着HBM3E的成功，下一代HBM手艺的研发进入了一个新的阶段。当前正在开辟的HBM4，作为JEDEC尺度化的最新一代手艺，预示着内存手艺将在机能上获得进一步的冲破。固然HBM4的具体参数还没有终究肯定，但从已知的开辟数据来看，HBM4的单个仓库带宽已到达了1.6TB/s，比拟HBM3E进一步晋升，这一前进不但带来了更高的数据传输速度，还为年夜范围AI模子的练习和高机能计较使命供给了更强的撑持。 HBM手艺的不竭进级离不开内存节制器的撑持，特别是在更高带宽和更复杂架构的鞭策下。Rambus作为内存节制器IP供给商，在这一进程中阐扬着相当主要的感化。凭仗着最新发布的HBM4节制器IP，Rambus将会助力内存客户加快推出HBM4的相干产物。 业内首款HBM4节制器IP，加快下一代AI工作负载 Rambus公布推出业内首款HBM4节制器IP，旨在为下一代AI工作负载供给更壮大的硬件撑持。跟着AI手艺的快速成长，特殊是在年夜范围深度进修模子和高机能计较范畴，对内存带宽的需求越发火急。Rambus的HBM4节制器IP恰是为此而设计，可以或许撑持新一代HBM内存的摆设，普遍利用在AI加快器、图形处置器（GPU）和其他高机能计较利用。 全新的HBM4节制器IP基在HBM3的机能根本，进一步晋升了数据吞吐量，到达了全新的程度。其供给32个自力通道的接口，数据宽度可高达2048位。以6.4Gbps的数据速度为例，HBM4的总内存吞吐量将比HBM3提崇高高贵过两倍，到达1.64TB/s。这一晋升为年夜范围数据处置供给了加倍高效的解决方案，特别合用在需要高带宽的AI和高机能计较使命。 “HBM4节制器IP跟前一代比拟最年夜的改良和区分就是可以或许撑持更年夜的带宽，我们的节制器可以或许以更高的速度从DRAM获得数据并将其传回处置器。”Steven Woo强调到，“功耗也加倍主要，我们的IP不但设计为低延迟，并且还具有高能效，由于这些对处置器来讲也很主要。” 与Rambus的HBM3E节制器一样，HBM4内存节制器IP一样具有模块化和高度可设置装备摆设的特点。客户可以按照分歧利用场景的需求，定制适合的内存节制器，知足在尺寸、机能和功能方面的多样化要求。可选的要害功能包罗毛病更正码（ECC）、读-点窜-写（RMW）操作和毛病清算等，这些都能进一步晋升系统的不变性和靠得住性。 定制化办事，确保高效成功的HBM系统设计 Rambus推出的HBM4节制器IP不但在机能上有所冲破，还为客户供给了高度定制化的办事，帮忙其按照具体利用场景的需求，切确选择适合的内存解决方案。不管是尺寸、机能仍是功能，Rambus都供给矫捷的选项，以知足各类高机能计较、AI加快和图形处置等范畴的需求。要害的可选功能包罗毛病更正码（ECC）、读-点窜-写（RMW）操作和毛病清算等，进一步晋升了系统的不变性和靠得住性。 为了确保客户可以或许顺遂完成系统集成，Rambus与领先的PHY供给商睁开了计谋合作，确保用户可以或许按照需要选择适合的第三方PHY，并包管流片成功。Rambus在HBM内存范畴深耕多年，堆集了丰硕的经验和手艺积淀，其市场份额一向领先，并已成功完成跨越100次的HBM设计项目。Rambus不但交付了业界领先的HBM3E内存节制器，还供给了业内数据传输速度最高的HBM2E节制器，速度高达每秒4Gbps。凭仗多年的手艺堆集，Rambus可以或许确保客户在开辟进程中高效推动，避免从头设计，确保一次流片成功。 为进一步提高开辟效力并确保高质量的产物交付，Rambus还为客户供给了三年夜首要撑持办事。起首，经由过程节制器测试平台，Rambus为客户供给完全的节制器代码库回归测试，涵盖普遍的测试序列，包罗特定节制器与PHY的组合测试，并基在功能笼盖率进行验证，确保系统的完全性和不变性。 另外，Rambus还供给了验证IP，并与Avery Design Systems（现为西门子子公司）持久合作，为客户供给多种验证功能模块（BFM），如内存模块BFM、主机内存节制器BFM和PHY BFM。Rambus深知，成功的系统设计离不开对物理中介层（PHY）的有用撑持，是以，Rambus尽最年夜尽力为各类第三方PHY供给普遍撑持，确保其节制器可以或许与各类PHY完善匹配、认证并经由过程验证，帮忙客户轻松实现高效集成。 经由过程这些定制化的办事和全方位的手艺撑持，Rambus为客户供给了壮大的手艺保障，使他们可以或许在复杂的高机能计较和AI加快范畴中，顺遂完成系统设计与集成，终究实现一次流片成功，避免任何开辟进程中的障碍。 领先结构将来AI内存需求成长，赋能最高机能AI利用 据悉，在Rambus内部不但设置有常规的产物研发部分，还一个名为“Rambus Labs”的研究机构，专门着眼在将来的内存需求，研究若何改良将来的人工智能内存，包罗若何供给更快的内存、更高的容量和更好的功耗效力。而这也就是Rambus可以或许延续引领HBM节制器的手艺前进，领先在市场供给对人工智能的近期和将来几年的需求的IP组合手艺方案的缘由地点。 HBM4 节制器的推出意味着内存行业此刻有了一个新的领先解决方案，它具有更高的机能，可以撑持下一代AI利用。“回忆曩昔十年，人工智能已获得了庞大的前进，此刻我们可以或许进行说话处置。新的利用之所以成为可能，现实上是由于有了更好的硬件，而HBM4节制器IP对内存行业的意义在在，我们正在撑持下一代利用法式，这将利用户和硬件和软件开辟人员受益。”Steven Woo说到。

欲知详情，请下载word文档 下载文档

北京2024年8月27日 /美通社/ -- 在8月23日举行的2024年长三角生态绿色一体化成长示范区结合招商会上，软通动力信息手艺（团体）股分有限公司（以下简称 软通动力 ）与长三角投资（上海）有限...

要害字： BSP 信息手艺

上海2024年8月26日 /美通社/ -- 本日，高端全合成润滑油品牌美孚1号联袂品牌体验官周冠宇，开启全新路程，助力泛博车主经由过程驾驶去摸索更广漠的世界。在全新发布的品牌视频中，周冠宇和分歧布景的消费者表达了对驾驶的酷爱...

要害字： BSP 汽车制造