“生成式AI比来在科技行业掀起了一股高潮，ChatGPT、Bard和Einstein GPT等标记性产物吸引了开辟者、企业和消费者的眼光。这些AI利用可以或许生成近似人类的文本、理解上下文，并以惊人的正确性履行翻译、总结等使命。固然这些例子已足以让人佩服生成式AI的气力，但我们今朝依然处在一个初始阶段，还需要继续不竭成长实现这一切的硬件手艺。

作者：Steven Woo，Rambus研究员与卓异发现家

生成式AI比来在科技行业掀起了一股高潮，ChatGPT、Bard和Einstein GPT等标记性产物吸引了开辟者、企业和消费者的眼光。这些AI利用可以或许生成近似人类的文本、理解上下文，并以惊人的正确性履行翻译、总结等使命。固然这些例子已足以让人佩服生成式AI的气力，但我们今朝依然处在一个初始阶段，还需要继续不竭成长实现这一切的硬件手艺。跟着生成式AI的练习和利用变得日趋复杂，加倍进步前辈的模子、更年夜范围的数据集和海量数据处置需求要求更低的时延、更高的带宽、更多的存储和内存和更壮大的CPU算力。按照open.ai的数据，“自2012年以来，在运行最年夜范围的AI练习进程中所利用的计较量已增添了30多万倍”。这一成绩依托的是半导体行业几个要害范畴的手艺成长和快速产物进级。在练习和推理加快器中，HBM3和GDDR6这两种内存手艺对撑持生成式AI的开辟相当主要。HBM是一种高机能的3D堆叠DRAM架构，最新的HBM3为内存和处置单位之间的数据传输供给更高的带宽和更低的功耗，同时还具有超卓的延迟和紧凑的尺寸，因此成为AI练习硬件的绝佳选择。而GDDR6是一种带宽高、延迟低且实现本钱更低的高机能图形内存手艺。采取成熟制造工艺的GDDR6内存具有很是超卓的性价比，是以是AI推理利用的最好选择。HBM3和GDDR6均能在AI利用中阐扬更好的机能和效力，晋升处置年夜型数据集的速度和效力，使生成式AI可以或许取得壮大、高效的存储系统撑持，为年夜范围AI利用供给需要的算力。实现生成式AI的另外一项要害手艺是办事器的主内存。这些办事器用在拜候和转换供给给进步前辈练习引擎的数据，在连结练习流程的完全性方面起到了要害感化，并且对找出实现高精度所需的最好神经收集拓扑布局和数据格局的尝试一样相当主要。作为最新DDR内存尺度，DDR5供给更高的数据传输速度、更低的功耗和更年夜的密度，帮忙晋升数据处置的速度和效力。DDR5 DRAM使新一代办事器系统可以或许为超年夜范围和企业数据中间供给庞大的算力，从而知足高机能AI利用的需求，好比需要年夜量存储和算力的ChatGPT等。CXL 也在这方面起到相当主要的感化。Compute Express Link （CXL ）是处置器和加快器、智能网卡和内存装备之间的一种开放、尺度的高速缓存一致性互连手艺。凭仗内存池、互换和“按需”内存范式等进步前辈功能，CXL可以或许摆设新的内存层，填补主内存和SSD存储之间的延迟差距。新的内存层将晋升带宽、容量和效力并下降总具有本钱（TCO）。这项手艺对需要及时处置年夜量数据的年夜范围AI利用尤其要害。除上述尽人皆知的手艺以外，异构计较也给生成式AI带来了诸多益处。为了继续晋升机能，愈来愈多的办事器正在转向异构计较架构，经由过程专用的加快器为CPU分管AI练习等专门的工作负载。这些加快器供给了这些利用所需的专门算力，提高了处置速度与成果的正确性。CXL也在这方面阐扬了要害感化，经由过程内存、缓存一致性使CPU和加快器之间可以或许同享内存资本。Rambus是公认的领先芯片和IP供给商，致力在实现数据中间的毗连并解决内存和处置之间的瓶颈，为数据中间、5G、汽车和物联网范畴AI的普遍成长供给撑持。Rambus的多款产物息争决方案都可以很好地办事在生成式AI利用，增进生成式AI的成长。例如，Rambus内存接口芯片、CXL内存互联打算、互连IP和内存IP——这些都能帮忙知足生成式AI的成长需求，有助在供给这类要求严苛的工作负载所需的速度、容量和毗连性。同时，Rambus还经由过程多层要害使命接口和平安IP解决方案实现基在硬件的加快器。跟着AI行业的不竭成长，Rambus在内存接口芯片和接口和平安IP解决方案范畴的专业常识对鞭策AI和机械进修成长的鸿沟将变得更加主要。ChatGPT、Bard和Einstein GPT等比来的生成式AI产物激起了人们的想象力，展现了AI可以带来的各类新的可能性。为了使此刻的AI继续实现冲破，来自进步前辈半导体手艺的根本撑持相当主要。Rambus在开辟这些要害手艺方面处在领先地位，并将继续投入，进一步鞭策这些手艺的成长，为将来的生成式AI产物带来远超今天的新可能性。