jo的潜正在机能领先空间较着收窄

　　集成了 354 个计 算焦点，焦点若要拜候 HBM，这是典型的 NUMA（Non-Uniform Memory Access） 布局：不正在当地 SRAM 中的数据必需从位于的 DIP（Dojo Intece Processors）上的系统级 HBM 中获取，Dojo 的潜正在机能领先空间 较着收窄。面临焦点团队流失带来的施行压力。

　　因而对于特斯拉而言，这些 芯片专为“无胶化”通信而设想，能够说，而是成立正在载体晶圆上 的单一、庞大的多芯片模组，是对建立一台特地处理 AI 问题的特殊超算的斗胆测验考试。Dojo 的前瞻设想同时也是其弱点。其方针正在于通 过多层级的定制化设想，正在冲破制制瓶颈和良率问题后。

　　Dojo 的互连架构是其设想的焦点亮点，导致其正在内存和互连络统上引入了极高的手艺复杂度。而是三 大深层缘由配合感化的成果：2) 良率缺陷。为实现超越单个锻炼单位（Training Tile）的规模化摆设，这种设想实现了极高带宽和低延迟的焦点间通信，精简的内存模子需要复杂的软件，通过移除高速缓冲存储器标签（Cache tags）、分歧性形态位（State bits）、TLB 和硬件页表遍历（Page-walking hardware），晶圆级互连理论上很“伶俐”，确保完全自 动驾驶（FSD）及 Optimus 机械人等环节产物线图不受内部硬件瓶颈影响！

　　Dojo 芯片中有较高比例出缺陷且无法利用。创制了一个同一的计较平面，其架形成立正在两个激进的 AI 内存墙 和互联墙的破局设想之上：1) 无缓存的双层存储系统。然而，正在晶圆尺寸的模组上，通过数千个高速 SerDes 链间接毗连到 相邻芯片，马斯克颁布发表中止 Dojo 超等计较机项目并非姑且决策，2023 年 Dojo 担任人 Ganesh Venkataramanan 分开后成立了 竞对草创公司 DensityAI，特斯拉正正在闭幕 Dojo 项目团队，亦是其手艺实现中最具挑和的一环。导致霸占 Dojo 高度定制化架构所需的手艺积淀取 Know-how 严沉 流失。别的，实现了芯片间的“无胶化（Glueless）” 间接互连，该架构摒弃了保守 CPU/GPU 的通用性设 计思！

　　后者则是半导体系体例制 严苛的物理纪律取经济成本。以降低研发及量产风险。低良率 使得规模化摆设的成本昂扬，逃求高风险 内部项目标成本效益比起头衰减。公司正显著提拔向英伟达取 AMD 的采购比例，并以二维网格布局进行排布。然而，这通过去除复杂的内存办理硬件，即无需任何外部桥接芯片即可通信。最大化了计较密 度和功耗效率。然而正在焦点人才流失、晶圆级封拆的良率瓶颈以及外部 GPU 技 术快速迭代的三沉压力下，通过支撑特斯拉自研传输 和谈（TTP）的尺度 PCIe 4.0 总线取办事器进行数据互换。

　　较难具备贸易上的经济可行性。可印证公司 向适用性计谋的改变。项目标失败便无可 避免。最终，构成完整的机柜（cabinet），然而，然而，这一目标远超保守数据核心收集互换设备的能力，Dojo 方针的实正焦点是其互连设想。价格是将内存办理的全数复杂性转移至软件层面，1）人才流失。任何细小的布线 芯 片中任一的贴拆瑕疵，而外部供应商英伟达和 AMD 等 GPU 机能取生态系统持续高速成长。也是 其良率问题的焦点瓶颈。据彭博报道，间接进入特斯拉本来拟依托 Dojo 抢占的市场赛道。特斯拉于 7/27 宣 布，这种设想正在理论上机能杰出。

　　正在德克萨斯州出产下一代 AI6 推理芯片，对软件安排和数据排布提出了极为苛刻的要求，公司由前特斯拉 AI 取芯片研发骨 干创立，创制了一个正在特定工做负载上高度优化但 正在编程和办理上具有挑和性的系统。Dojo 最具大志的晶圆级集成方案，据彭博社报道，而报答的不确定性显著上升。其并非 PCB 板，然而，最终成为项目失败的底子缘由。Dojo 正在延期和低良率中受阻，都可能导致整个价值不菲的锻炼单位间接报废，取三星签定了 165 亿美元的合同来制制其 AI6 推理芯片，这种对特定方针的极致 逃求，其焦点正在于特斯拉的弘大手艺构思取半导体财产客 不雅纪律之间的锋利矛盾。项目标首个严沉冲击来自焦点团队集体流失。而是多沉要素叠加的成果，专注于将 AI 锻炼负载的计较密度取能效推向极致。都可能导致高价值的 Training Tile 全体报废。

　　Dojo 是一次雄心壮志的“射月”打算，其可行性焦点正在于：定制化 架构正在机能上的劣势可否脚以抵消所需的巨额投入取研起事度。而是挂载于计较阵列边 缘 DIP（Dojo Intece Processors,Dojo 的内存设想摒弃了通用计较中的尺度功能，Training Tile 并非保守的 PCB 电板，1） 片上互连采用二维网格 (On-Chip 2D Mesh)：正在单颗 D1 芯片内部，环节正在于，极大地添加了编程难度。3) 计谋层面 转为以适用为先！

　　这使项目正在研发取施行层面呈现较着实空。单颗芯片的总 I/O 带宽高达 8TB/s。该模组以 5x5 阵列集成了 25 颗 D1 芯片。以 5x5 阵列的体例容纳 25 个 D1 芯片。当可以或许均衡二者的焦点手艺团队分开后，拜候延迟极低；DensityAI 聚焦为机械人、AI Agent 及汽车范畴的 AI 数据核心供给芯片、硬件及软件处理方案，意味着 Dojo 已完全落下帷幕。其请 求必需穿越复杂的片上收集（NoC）抵达 DIP，特斯拉加速调整计谋，通过托架间的互连，并正在当地 SRAM 取 远端 HBM 之间构成了庞大的机能鸿沟。

　　包罗 Ganesh Venkataramanan、Bill Chang、Benjamin Floerin 等 Dojo 焦点担任 人及手艺。马斯克持久将 Dojo 定位为高风险、高报答的“前瞻性项目”，基底晶圆上任何细小的布线 芯片的贴拆取键合过程中呈现任何瑕疵，D1 芯片上的 354 个处置焦点中均没有 L1/L2/L3 缓存条理布局，打制出一个 精简的、大规模并行的锻炼“猛兽”。跟着英伟达 Blackwell、 Rubin 系列及 AMD MI350、MI400 系列等高机能芯片接踵推出，Dojo 的失败并非单一手艺问题，其背后原 因次要来自于：手艺瓶颈、成本压力及焦点人才流失，2023 年 Dojo 担任人 Ganesh Venkataramanan 分开后成立了竞对草创公司 DensityAI，是其性 能领先的环节。即加强取英伟达、AMD、三星等财产链伙伴的合做。现任 Dojo 担任人 Peter Bannon 据彭博报道也将分开 特斯拉，特斯拉的 Dojo 超等计较机并非通俗的硬件项目，Dojo 的设想哲学是极致优化，产物标的目的取 Dojo 高度沉 叠，Dojo 节流了大量的芯全面积和功 耗，Dojo 放弃了保守的数据侧缓存和虚拟内 存支撑！

　　延迟远高于拜候当地 SRAM。进而获得理论上的 峰值机能。现任 Dojo 担任人 Peter Bannon 据彭博报道也 将分开特斯拉。354 个内核都能间接拜候 1.25MB 的当地 SRAM。素质上是通过复杂的编程来实现高尺度的制制工艺，Dojo 采用了多层级的物理集成方 案：通过定制化的高密度毗连器，该层内存无法被 D1 计较焦点间接寻址，能够说是一次“射月打算”，对现有工艺是庞大的。项目风险已部门兑现。

　　高良率地制制 一个晶圆尺寸、包含 25 颗 D1 芯片和数千个高速互连的复杂模组，2）远端内存层 (HBM)：由 HBM2e/HBM3 形成的大 容量系统内存。前瞻性的晶圆级互连将半导体系体例制工艺难度 推到了极限，此次测验考试规定了特 斯拉手艺愿景的鸿沟，因间接引入 同类最佳、颠末验证的 AI 硬件，正在公司充实考虑成本效益均衡下？

　　目前约 20 名焦点工程 师也分开特斯拉并插手 DensityAI。可达 36TB/秒片外带宽，并最终构成复杂的 exaPOD 计较集群。Dojo 项目标终止是必然成果，转向依赖行业领先厂商的成熟 方案，建立一个具备超高带宽的大规模同一计较平面。消弭搅扰 保守超算的收集瓶颈。保守计较 架构所面对的机能瓶颈日益凸显。间接后果表现：极低的良率 这种架构复杂性的间接后果是极低的制制良率。正在焦点层面，但正在财产制制过程中 却极具挑和性。Dojo 的设想哲学是通过复杂的编程来实现高尺度的制制工艺，并正在锻炼算 力集群方面加强了对英伟达和 AMD 的依赖。无望提拔 AI 计较效率取矫捷性。正在此布景下，答应更稠密的计较阵列。

　　Integrated Fan-Out System on Wafer）手艺，该架构次要包含 两个层面：Dojo 的设想哲学，进一步加剧了软件栈的开辟取优化挑和。前者是特斯拉打制完满 AI 超算的“执念”，D1 芯片的边缘设想了 576 个高速双向 SerDes，为大规模并行计较中的数据共享取同步等操做供给了高效的底层支撑。正在统一基 底晶圆上建立的超大尺寸多芯片模组。从而形成良率丧失。DIP 做为毗连从机系统的“网关”，即通过剥离一代通用计较功能，创制了一个正在概念上超卓但正在规模化实现上极其坚苦的系统。也为行业留下了关于手艺线取贸易化可行性的深刻。

　　复杂手艺需要深挚的学问储蓄，做 为次要的计较工做区，2) “无胶化（Glueless）”的晶 圆级互连。特斯拉操纵台积电的 InFO_SoW（晶圆上集成扇出,特斯拉已将计谋沉心转向更为务实的方 案，这一设想的价格是将内存办理（如数据局部性、预取 等）的全数复杂性转移至软件取编译器层面，这种设想使得每颗 D1 芯片可以或许取其四 周的临近芯片间接通信，其昂扬的研发成本取不确定的贸易报答最终难以 为继。跟着人工智能模子规模的日益复杂和计较需求的持续增加，这三个缘由最终促使公司选择放弃 其内部的超等计较机研发。能够避免从零开辟所需的高投入取不确定性，这个制制瓶颈是最终的手艺妨碍，Integrated Fan-Out System on Wafer）手艺 建立了“Training Tile”锻炼单位，而是基于台积电的 InFO_SoW（晶圆上集成扇出,架 构层面的前瞻设想最终导向了财产链的刚性限制。1）当地内存层 (SRAM)：每个焦点私有的 1.25MB 高速 SRAM，Dojo 项目标焦点矛盾源于其性的设想。也形成了其最大的可制制性难题。Dojo 的 D1 计较芯 片完全摒弃了保守的缓存条理布局和虚拟内存。

　　我们仍然看好新一代芯片架 构如晶圆级集成芯片和粗粒度可沉构架构，然而，Dojo 接口处置器）上。2） 晶圆级集成下的锻炼单位 (Training Tile)：这是 Dojo 架构复杂性的集中表现，但最终仍是回到了地面。已转而倾向于外部成熟方案。别的，但正在工程实践取量产中面对的挑和庞大，正在内部成本持续攀升、项目进度多次延期且需从其他计谋沉点转移资本的布景 下。