用光电混合突破算力边界,WAIC上这家企业大秀肌肉

2024-7-9 9:14:00
  • 用光电混合突破算力边界,WAIC上这家企业大秀肌肉

用光电混合突破算力边界,WAIC上这家企业大秀肌肉

当前,摩尔定律遇到了非常大的挑战,传统硅器件要实现性能提升需要付出高昂的代价。在这个大背景下,光电混合被认为是未来计算芯片突破性能瓶颈的有效手段。就连有全球半导体风向标之称的ISSCC会议对光电混合也是高度关注,在2024年世界人工智能大会(以下简称:WAIC 2024)上,曦智科技所展示的领先的光电混合技术同样得到了广泛的关注。

面向AI大模型所需要的计算和互连两大关键环节,曦智科技展示了首款基于片上光网络技术(oNOC)的全长、全高、双插槽PCIe Gen3的人工智能推理卡OptiHummingbird,CPO共封装光学 (Co-Packaged Optics)方面技术储备,以及其他光计算、光互连硬件等。

打造硅光技术和光电混合算力新范式

很多人将光电混合定义为未来的科技之光,这其实并不夸张,硅光芯片和光通信等前沿技术在计算和传输方面所体现出来的优势是巨大的。比如,光子芯片具有高速、大带宽和低功耗的特点,可以更好地实现海量数据的高效处理,并避免电信号的传输噪声和传输延迟。同时,硅光计算芯片能够在单芯片内融入多种光子器件,不仅有更高的集成度,而且能够兼容传统的硅半导体器件和制造工艺。

曦智科技OptiHummingbird里面的芯片便是采用先进的封装技术,将硅光芯片和微电子芯片通过中间层进行垂直封装。在这颗芯片内部,微电子芯片提供了64个计算核,硅光芯片则提供oNOC(Optical Network on Chip)片上光网络。oNOC可以实现单个电芯片(EIC)内部的数据传输,也可以实现封装内部多个电芯片(EIC)之间的数据通信,因此oNOC是实现片上多核异构计算的核心技术。通过oNOC技术和光电混合,使得搭载相关芯片的OptiHummingbird加速卡具有非常高的计算能效,只需要被动散热,硬件功耗仅为65W。

为打造集成硅光技术与光电混合的算力新范式,曦智科技目前拥有多项前沿的技术储备。比如oMAC光子矩阵计算:通过光来替代传统的电子进行数据处理,可执行线性运算,主要指乘法与加法,也可理解为矩阵-矩阵或矩阵-向量之间的乘法;oNET片间光网络:光芯片起到类似optical BUS的作用,将单元内部需要传输的数据集中起来,通过光传播介质(如光纤)与其他单元进行数据交互。

基于这些前沿的技术,曦智科技也展示了一些前沿的成果,比如曦智科技第二代光子计算处理器PACE,PACE的核心是64x64的光学矩阵乘法器,由一块集成硅光芯片和一块CMOS微电子芯片以3D封装形式堆叠而成。PACE的单个光子芯片中集成超过10000个光子器件,运行1GHz系统时钟。在展会现场,曦智科技演示了PACE在解决最大割问题上的速度,显著优于该产品发布时市场上领先的GPU芯片。

助力实现资源池化和全光互连

除了光电混合的计算能力,曦智科技也在积极布局光电传输,现阶段这方面的需求是巨大的。举两个典型的市场需求,第一个是数据中心采用计算和存储分离式架构,很大程度上依赖于PCIe和CXL等低延迟互连,通过光互连实现CXL是非常有效的手段;第二是全光底座的打造,通过超大规模全光组网、城域池化波分和全光综合接入等关键技术,实现超大带宽、超低时延、超高可靠的连接网络,在全光底座和计算单元的连接上,也有巨大的光电混合需求。

WAIC 2024上,曦智科技展示了首款兼容PCIe和CXL协议的数据中心计算光互连硬件产品Photowave,具有标准PCIe卡、OCP 3.0 SFF卡和有源光缆等多种产品形态。该产品系列可配置x16、x8 、x4 、x2等不同通道数,适用于服务器平台、CXL交换机、存储应用以及xPU之间的互连,兼容性强。Photowave具有非常明显的低延迟和能效优势,设计数据传输延迟低于20纳秒,其中有源光缆延迟低至1纳秒以下,功耗也降至15瓦以下。这里需要特别提到的是,Photowave的核心技术便是oNET片间光网络,oNET和CXL的融合是一种强强联合,可以帮助数据中心更好地实现资源池化和横向扩展。

曦智科技Photowave计算光互连硬件产品

曦智科技工作人员表示,Photowave让数据中心主要资源全部解耦和池化,支持单模和多模光纤实现,最大支持数十米的传输距离,并且资源可灵活调配和增减。

曦智科技还展示了基于OCS的跨服务器XPU光互连。OCS(Optical Circuit Switching)是一种基于光学交叉开关原理的光信号控制交换技术,其核心功能是在光层面对信号进行快速、灵活的路由和切换,使服务器端口实现直接光学互连,过程中无需光电转换,能耗大幅度降低。

综合而言,曦智科技在光互连方面提供的产品包括互连线缆、OBO板载光组件、OCP转接卡和互连板卡。

结语

Yole的统计数据显示,2022年全球硅光市场规模达到6,800万美元,受益于用于提升光纤网络容量的数据中心收发器的推动,预期2028年全球硅光市场规模将达到6亿美元,其间硅光芯片年复合增长率预估为44%。当前,光传输在数据中心领域已经得到了广泛的认可,随着硅器件的计算瓶颈愈发明显,未来光电混合的计算芯片也有巨大的发展前景。无论是计算还是传输,曦智科技都已经走在了产业前沿。