「光 I/O 」正在突起，巨子不想放过。未几前，英伟达联手老敌手英特尔，投资了一家始创公司 Ayar Labs。新一轮 1.55 亿美元的融资，也让 Ayar Labs 成为芯片范畴的新一家独角兽公司。这家公司是什么来头？为什么能让芯片三巨子攻破阻碍结合投资？Ayar Labs 主攻光学互连处理计划，其处理计划能以 AI 运作的速率挪动数据，以满意客户对可扩大、经济高效的 AI 基本设备的急切需要。对此，Ayar Labs 结合开创人兼 CEO 马克·韦德表现，「当先的 GPU 供给商 AMD 跟英伟达以及半导体代工场格芯、英特尔代工、台积电，再加上 Advent、Light Street 跟咱们其余投资者的支撑，凸显了咱们的光学 I/O 技巧从新界说 AI 基本设备将来的潜力。」「光学 I/O」是什么货色？Ayar Labs 又能处理疾速开展的 AI 范畴的什么成绩？精英团队Ayar Labs 在 2015 年景破，总部位于加州圣何塞。后来公司由四位 MIT 先生在 2015 年独特创建，此中 Mark Wade、Chen Sun 跟 Vladimir Stojanovic，事先分辨是 MIT 电子工程专业的博士生跟拜访学者，现在分辨担负公司的 CTO、首席迷信家跟首席架构师。随后，他们约请了事先正在攻读 MIT MBA 的 Alex Wright Gladstein 参加团队，担负 CEO。当初，团队由来自英特尔、IBM、美光、Penguin、麻省理工学院、伯克利跟斯坦福的很多顶尖技巧专家构成。建立以来，Ayar Labs 始终深耕于光学互联处理计划范畴，市场策略重点是处理光电子范畴的大量量、高品质制作成绩。公司建立次年取得了 2 百万美元的种子轮融资，而最新一轮顶级芯片制作商的投资恰是该公司技巧走向成熟的标记。新的资金将用于扩展芯片出产范围，增进天生式 AI、剖析数据核心等的开展。Ayar Labs 的开展过程 | 图片起源：Ayar Labs 官网现在，Ayar Labs 的芯片由 GlobalFoundries（后来为 AMD 公司的制作部分，厥后成为自力公司）制作，而且曾经与全部一级 CMOS 制作商树立了配合关联，与 GlobalFoundries、Applied Materials、台积电、英特尔跟英伟达等重要厂商树立了策略配合关联，将光 I/O 处理计划整合到其制作产物中。对此，Ayar Labs 曾官方发布，「咱们正在树立一个强盛的生态体系，此中包含主要的策略技巧跟供给链配合搭档。咱们还踊跃参加多个行业跟尺度构造的运动，推进光学 I/O 芯片生态体系的开展。」AyarLabs强盛的生态体系|图片起源：AyarLabs官网处理 AI 数据瓶颈跟着天生式 AI 模子的庞杂性跟范围指数级增加，对年夜型盘算集群的需要日益增添，这些算力设备平日须要衔接数百乃至数万个 GPU 及其余减速器，以供给 AI 所需的内存跟盘算资本。但是，AI 基本设备的扩大正面对带宽、耽误跟功耗的挑衅，这些挑衅重要是由传统基于铜的互连技巧形成的瓶颈。在衔接超越 1.5 米间隔跟 72 个 GPU 的机架时，传统电互连技巧尤其会碰到机能瓶颈跟限度。数据传输瓶颈限度了 GPU 的效力，招致投资收益递加。详细来说，单个 GPU 的运转效力可达 80%，但扩大至 64 个 GPU 时可能降至 50%，进一步扩大至 256 个 GPU 时可能只有 30%。这不只下降了团体体系效力，并且重大妨碍了数据核心机能的片面晋升，限度了 AI 技巧的提高。依据高盛近来宣布的讲演猜测，将来十年，AI 基本设备付出估计将超越 1 万亿美元。这凸显了抵消除传统互联形成瓶颈的处理计划的急切需要。为了应答这一挑衅，Ayar Labs 推出了业界首个封装内光 I/O 处理计划。Ayar Labs 光 I/O 处理计划的翻新之处在于其团体封装计划。该计划容许光学模块直接与芯片集成，实现节点的年夜范围直连，无效战胜了 I/O 密度、数据速度扩大跟互联功率效力的限度。与传统的可插拔光学器件跟电气 SerDes 互连方法比拟，Ayar Labs 的光 I/O 处理计划可实现 5~10 倍的更高带宽、4~8 倍的能效，并将耽误下降至 1/10，最年夜限制地进步 AI 基本设备的盘算效力跟机能，同时下降本钱、耽误跟功耗，明显晋升 AI 利用的红利指标。不只如斯，光 I/O 处理计划遵守 UCIe、CXL、CW-WDM MSA 等开放尺度，并针对 AI 练习跟推理停止了优化，其强盛的生态体系使其可能顺遂地年夜范围集成到 AI 体系中，进而晋升天生式 AI 利用的机能跟效力。AyarLabs的光I/O处理计划特殊实用于下一代AI扩大架构，这种架构须要超高的带宽跟跨数百乃至数万个GPU的衔接|图片起源：AyarLabs官网「光 I/O」初探Ayar Labs 的光 I/O 处理计划联合了两项行业开创技巧——TeraPHY 光学 I/O Chiplet 跟 SuperNova 多波长光源。TeraPHY 光学 I/O Chiple 是业界首款封装内单片式光学 I/O 芯片。它重要担任光电旌旗灯号之间的转换跟收发，是一种用于替换传统的铜背板跟可插拔光学通讯的小型化、低功耗、高吞吐量的处理计划。它初次将硅光子技巧与尺度的 CMOS 制作工艺联合起来，将光学互联与与电子 GPU 或 CPU 集成在统一封装内，能够无缝集成到客户的体系级封装 (SiP) 架构中，使公用集成电路（ASICs）能逾越从毫米到千米的间隔停止无缝通讯，最年夜限制地增加旌旗灯号丧失跟耽误，这对散布式 AI 体系跟云盘算情况分外有效。这一翻新组件包括了约 7000 万个晶体管跟 10,000 多个光学器件，重要包括了以下多少个模块：Grating Coupler Fiber Coupling Array：担任光旌旗灯号的输入输出。Optical Transceiver：重要担任停止光电旌旗灯号的调制转换，重要由微环调制器（Micro-ring Modulators）跟微环滤波器（Micro-ring Filter）构成，前者担任调制出所需的光旌旗灯号，后者担任处置接收的光旌旗灯号。值得一提的是，微环调制器恰是 TeraPHY 的中心上风，鉴于它胜利处理了胜利处理了温度敏理性跟旌旗灯号稳固性成绩，实现了在 15-100°C 温度范畴内正确输出特定波长的光旌旗灯号；AIB：担任跟芯片之间的电旌旗灯号互联；Glue/Crossbar：是 Optical Transceiver 跟 AIB 之间的衔接桥梁。TeraPHY 光学 I/O Chiplet 凭仗其模块化多端口计划，可能支撑 8 个光通道，同等于一个 x8 PCIe Gen5 链路，满意天生式 AI 模子对年夜范围并行处置的需要。其 4Tbps 的总双向带宽跟每个端口 256Gbps 的高速传输才能，可能敏捷挪动数据，放慢 AI 模子的练习跟推理进程。并且，每隔多少年这一芯片带宽或将翻倍。5ns 的低耽误机能有助于晋升数据处置速率，优化 AI 天生式休会。别的，其低功耗特征（每比特不到 5pJ/b）有助于下降动力耗费，增加 AI 经营本钱，同时加重对情况的影响。举例来说，为了应答挪动收集边沿的疾速转型需要，以及 AI 驱动效劳的指数级增加，Ayar Labs 将 TeraPHY 光学 I/O 芯片跟康宁奇特的内置光衔接的玻璃波导模块联合在一同，开辟了新一代 AI 光学处理计划。爱破信也参加了该配合，以开辟其电信将来无线电。这种全新的集成光学处理计划将为 AI 架构、6G、数据核心跟其余盘算麋集型利用供给高密度、高性价比、低耽误、高能效的衔接。SuperNova 则是近程光源自力的激光器，担任正确地收回多个波长的光子。它能够被视为位于 ASIC 封装外部某处的光电源，在现实安排中，SuperNova 与 TeraPHY 协同任务，独特施展感化。SuperNova与TeraPHY协同任务|图片起源：AyarLabs官网SuperNova 由 Ayar Labs 跟 MACOM（DFB 的顶尖计划商之一）结合计划，交由 UK 著名激光制作商 Sivers Photonics 制作。它是首款合乎 CW-WDM MSA（粗波分复用多源协定）尺度的多波长、多端口光源，最多支撑将 16 种波长的光传输至 16 根光纤，实现了光 I/O 技巧的又一次严重奔腾。每根光纤最多可传输 16 个波长，因而可驱动 256 个光载波，供给 16 Tbps 的双向带宽，满意 AI 任务负载所需的带宽程度。16 波长 SuperNova 光源封装紧凑，任务温度范畴广，可为 256 个数据通道供给光源，可能处置 AI 利用年夜范围增加所需的更高吞吐量，为将来可能的扩大供给了充分的空间。波长数目是 CWDM4 多波长可插拔光学器件的 64 倍，且多个波长在一个单一的阵列中简化了包装，下降了封装本钱，这对年夜范围安排 AI 体系来说是一个主要的上风。不只如斯，SuperNova 合乎 CW-WDM MSA 标准，满意 GR-468 对光电装备跟可插拔光学的牢靠性请求，可普遍利用于 AI 架构、高速 I/O、光盘算跟高密度协同封装光学器件等范畴。可见，Ayar Labs 的光 I/O 处理计划基于尺度、面向将来、可扩大，旨在优化 AI 机能。跟着 AI 基本设备需要的日益增加，集成光 I/O 已成为晋升效力跟效益的要害。芯片行业的领军企业曾经聚焦于光互连技巧，旨在应用其光学特征来攻破机能瓶颈，加强 AI 基本设备的机能跟盘算效力，同时增加本钱跟能耗。英伟达首席迷信家兼高等研讨副总裁比尔·达利曾坦言，「光衔接对扩大减速盘算集群以满意 AI 跟高机能盘算任务负载疾速增加的需要十分主要。Ayar Labs 领有奇特的光 I/O 技巧，可能满意扩大基于硅光子技巧的下一代人 AI 架构的需要。」现实上，Ayar Labs 在光互连范畴另有不少偕行。往年 10 月，瑞士光互连始创公司 Lightmatter 实现了 4 亿美元的 D 轮融资，由新投资者 T. Rowe Price 领投，公司估值到达 44 亿美元，较之前 12 月 GV 领投的 1.55 亿美元融资后的 12 亿美元估值增加了近四倍。在统一时代，纽约的 Xscape Photonics 也经由过程光子技巧处理了 AI 数据核心在动力、机能跟可扩大性方面的挑衅，并取得了 4400 万美元的 A 轮融资，由 IAG Capital Partners 领投，思科投资公司跟英伟达等也参加了投资。跟着巨子的亲密存眷、大批资金连续流入这一行业，光互连技巧作为代替「线缆」的下一代衔接技巧，成为又一个迎来变更的行业。