如何测试 2080 亿个晶体管？
英伟达的 Blackwell Ultra 在两颗芯片上拥有 2080 亿个晶体管。这些芯片是在一家规模宏大的晶圆厂中制造的，采用了包含数百个步骤的复杂工艺，处理的精度达到了几十纳米。
那么，有一个愚蠢的问题：我们如何知道所有这些工艺都奏效了？我们如何能确定制造出来的这个东西确实能各司其职，而不是变成一堆“废铁”？这就是价值数十亿美元的自动测试设备（简称 ATE）行业存在的原因。在今天的视频中，我们将探讨半导体生态系统中一个被低估的部分。
## 始源
早在第一批半导体晶体管诞生时，我们就需要通过测试来鉴定它们。在 20 世纪 50 年代，生产商要运行 10 到 20 项测试，以确保晶体管符合所需的规格。这些测试方法极其简陋。
曾在仙童半导体首次接触相关技术的哈里·塞洛（Harry Sello），在计算机历史博物馆的一份口述历史中回忆了这样一项测试：“当时我们唯一要做的就是学会如何使用泰克（Tektronix）公司生产的阴极射线示波器。你拿两根探针，把它们接触到器件上。如果测试机——也就是测试仪——上的示波器显示出某些特定的图案，你就知道这是一个好的器件。如果没有显示出那些图案，你就知道这是一个坏的器件。”
这仅仅是一项测试。制造商通常会使用整套的测试方案，并在生产过程的关键节点进行测试。确定具体要运行哪些测试以及何时运行，构成了我们所谓的“测试策略”，这也是该行业的关键部分。
## CAT 测试仪
在 20 世纪 50 年代中期，这些测试是由成排的人工操作员（大部分是女工）手动完成的。这种方式既没有效率，也无法适应晶体管生产规模的扩大。这很快就成了半导体先驱德州仪器（TI）面临的一个难题。
1954 年，德州仪器协助生产了第一款在商业上取得成功的晶体管收音机——Regency TR-1。其生产设计使用了 6 个锗晶体管。其中两个必须是特性相近的 2N185 晶体管——成对匹配以确保良好的音频质量。然而，要找到相匹配的 2N185 晶体管对却是一项挑战。20 世纪 50 年代的半导体制造工艺很粗糙且容易失败。当时的一名德州仪器员工曾开玩笑说：“我们几乎无法做出两个一模一样的东西。”
此外，TR-1 售出了 10 万台。需求量很大且在不断增长。他们真的要手动测试所有这些晶体管吗？1958 年，埃德·米利斯（Ed Millis）和德州仪器的一个小团队组装出了第一台被称为 CAT（即中央自动测试仪）的设备原型。
操作员首先需要手动将晶体管安装到 CAT 上。然后，它会自动循环对晶体管进行大约 18 项测试。每个测试结果都被记录为简单的合格或失败（即“能运行或不能运行”）。接着，晶体管会被分拣到 10 个料箱中。这里我是不是可以讲个哈利波特分院帽的笑话？不管怎样，被分到同一个料箱里的晶体管就被认为特性足够相似，可以在收音机中配对使用。而那些没有被分类的则是失败品（就像我一样）。
米利斯回忆说，那个东西看起来就像“一件垃圾”。但到了 1958 年底，这台被称为“垃圾猫”的设备每小时可以测试整整 2000 个晶体管。顺便提一句，如果让这台可怜的 CAT 逐个测试英伟达 H200 上的 8000 亿个晶体管，将需要大约 4570 年的时间。
德州仪器在一家行业杂志的文章中表示，他们计划改进并最终销售其 CAT 工具。德州仪器后来推出了一款名为 Super CAT 的改进版本——它每小时可以通过包含 40 多项测试的完整方案测试大约 6000 到 9000 个晶体管。其他半导体公司也开始销售他们内部研发的工具。西格尼蒂克（Signetics）销售了一款名为 Model 1420 的产品。仙童也销售测试仪。但该行业真正腾飞，还是伴随着第一批全独立商业测试系统公司的出现，这由波士顿的一位先驱引领。
## 德沃尔夫与 Transitron
时间到了 20 世纪 50 年代末，尼克·德沃尔夫（Nick DeWolf）正在苦苦思考下一步该做什么。从麻省理工学院毕业后，德沃尔夫在通用电气工作，负责组装电视机。他回忆说，把电视机组装好后，在进行测试之前，他完全不知道它们能不能正常工作。他对那种工作感到厌倦并辞了职。
随后，他加入了波士顿的一家名为 Transitron 的半导体公司，担任首席工程师。他的大部分工作涉及数百万个分立晶体管的工程设计和生产。尽管德沃尔夫对半导体几乎一无所知，但他还是加入了。但这没关系。因为正如我所说，在 20 世纪 50 年代，谁也搞不懂半导体。在为计算机历史博物馆撰写的口述历史中，德沃尔夫说道：“我们的核心产品是锗二极管……没有任何可控性，基本上就是一块半导体加上一根接触它的探针。我们不明白其中的原理，它就是凑巧能用。后来我们转而制造金键二极管，它的结稍微可控一些。但实质上的挑战在于：如何将一根探针刺入一块硅片中，并建立起连接。”
在那个时候，还没有晶圆厂。没有用机器人拾取和放置晶圆的自动喷锡光刻机。当时那只是一个仓库，里面坐着几排把探针刺进石头里的女工。这种缺乏技术先进性的现状使得测试变得非常重要。德沃尔夫说：“在那个世界里的任何人看来，测试显然非常处于整个工厂经济效益的核心位置。因为良率往往非常低……当你把一个物件放进测试系统时，它将决定这个东西是值 0.20 美元还是 5.00 美元。哇。因此，测试需要非常可靠。”
这些测试非常剧烈。相当于给二极管来了一场海豹突击队式的训练课。他们将电压和电流注入二极管，把它们放入熔炉和湿度室中，并且简而言之——用他的原话来说——“在电气上狠狠地折磨它们”。
## 泰瑞达
德沃尔夫最终离开了 Transitron，部分原因是他觉得没有得到公司老板的器重。在最终决定涉足半导体测试领域之前，德沃尔夫曾考虑过创办好几家企业。他招募了自己在麻省理工学院的同班同学兼好友亚历克斯·德阿贝洛夫（Alex d’Arbeloff）。亚历克斯负责市场营销和行政管理，而德沃尔夫则负责工程研发。
他们在一个班级里相识，这很有名，因为他们两人的姓氏都以字母“D”开头。起初这两个人并不十分了解对方，但德沃尔夫就是有一种直觉，觉得他们会很合得来。事实也确实如此。他们写出了一份商业计划书，筹集了风险投资资金——其中还包括来自数字设备公司（DEC）的一位投资人的资金——并于 1960 年创立了泰瑞达（Teradyne）。
## 泰瑞达的调整
泰瑞达的第一款产品是二极管测试仪，这是基于德沃尔夫在 Transitron 制造二极管的经验开发的。简单来说，二极管就像是电流的单向阀门。当你沿着正确的方向让电流通过它时，你希望看到一个特征电压降。然后，当你尝试让电流反向通过二极管时，你希望看到它被阻断，只留下一丁点漏电流。
为了测试这一点，Transitron 曾使用过一种被称为正向/反向双表头架构的仪器。顾名思义，它有两个模拟表头。操作员运行二极管并查看测量结果，以确认其是否在规格范围内。这种双表头架构是一台为实验室设计的旧式设备。它非常不稳定，需要技术人员不断在旁边守着，进行微调和调整以维持其工作。
德沃尔夫意识到这并不实用。他产生了一个天才的想法，那就是把表头去掉，让仪器直接输出一个简单的二进制结果：通过或不通过。德沃尔夫看到了极少数人看出的趋势：半导体正在从实验室里的稀奇玩意转变为工厂里大批量生产的商品。测试系统必须适应这种变化。它们不能再是实验室里娇贵的仪器，而必须是工厂里坚固的工业工具。在实验室里，准确性至关重要；而在工厂里，生产率和开机率要重要得多。
因此，德沃尔夫将工具设计得更小、无风扇且可靠。他还深入思考了如何让工具提高人工操作员的生产率。这种周到考虑的一个例子就是测试仪的二极管夹具。它带有磁铁，操作员基本上只需把二极管往夹具上一扔，它就会自动锁紧。测试完成后，他们只需用手指弹一下，就可以把它弹进合格品或不合格品的料箱中。
## 电阻测试仪
泰瑞达的二极管测试仪在概念上是一个突破。但它卖得并不好。在早期，真正让公司维持运转的是为一位非常特殊的客户制作的测试仪。
在 20 世纪 50 年代，有一家名为艾伦-布拉德利（Allen-Bradley）的公司，生产工厂自动化设备。尼克·德沃尔夫回忆说，他们是一家“老式、死板、扎实的公司”。非常保守且难以取悦。他们拥有一家每天生产数百万个碳膜电阻的工厂。这些是在电路中用于限制电流的普通分立元件。它们很简单——基本上就是包裹在陶瓷芯里的石墨——但艾伦-布拉德利每天能生产数百万个。
为了生产它们，工厂需要调制一批批的碳“汤”——本质上就是泥浆——然后倒入模压机中。这家工厂面临的问题是，不同批次的泥浆质量各不相同，而且他们直到电阻做出来之后才能检测出坏的批次。
于是泰瑞达制作了一款简单的“合格/不合格”电阻测试仪，这使得艾伦-布拉德利能够在电阻制造过程中对其进行测试和监控。他们向艾伦-布拉德利出售了数十台这种测试仪，赚到的钱支撑着公司度过了早期的艰难时光。
## 集成电路的兴起
在 20 世纪 60 年代中期，我们迎内了集成电路的兴起。引用一句典型的领英思想领导力帖子的话来说，集成电路改变了一切。集成电路也改变了半导体测试。对于分立晶体管，由于它们有引线进出，你可以把手伸进去测量它们。但由于集成度如此之高，集成电路并不允许你进行物理接触。
因此，泰瑞达不得不回到重新构思的阶段，为市场上尚未出现的产品开发一款测试仪。1963 年，他们把几个人关在一间房间里，设计出了第一款由计算机控制的集成电路测试仪：Model J259。德沃尔夫经常喜欢给他的机器起素数名字。在这种情况下，259 并不是一个素数——它能被 37 和 7 整除——但一份小册子的印刷错误导致这个数字被沿用了下来。
它是如何工作的？客户首先通过纸带将一个“测试程序”加载到系统的计算机中。该程序包含测试向量或测试图案。这些是一组电激励信号，测试仪通过引脚将其注入集成电路测试对象（被称为“被测器件”）。集成电路/被测器件会做出响应并产生一组输出信号，J259 会收集这些信号并将其与预期结果进行对比。
J259 经常被称为第一台真正的自动测试仪。它是一款极其成功的产品，巩固了泰瑞达作为顶级商业半导体测试公司的地位。该工具以及类似工具由数字设备公司（DEC）著名的 PDP-8 小型机驱动，这使得泰瑞达在一段时间内成为了 DEC 最大的单一客户。
## 竞争对手
在那些日子里，泰瑞达面临的主要竞争来自于垂直整合半导体厂商内部的测试部门。例如，IBM 就拥有一个规模庞大的测试部门。在 20 世纪 70 年代，这家巨头在测试设备上的工程师人数比泰瑞达还要多。然而，IBM 仅将这些工具用于自己的生产。
几家集成设计厂商将他们的内部测试工具出售给客户。例如，仙童凭借其计算机控制的集成电路测试仪 Series 4000 和 5000 变为了一个严峻的竞争对手。德州仪器拥有他们的自动测试系统（ATS-960）——这是一款由德州仪器自己的数字计算机（同样被称为 960）驱动的测试平台。
在整个 20 世纪 70 年代，各路创业者推出了自己的初创公司。其中几个较为严重的挑战者是 Macrodata（与电视剧《人生切割术》无关）和 LTX。后者是由一帮泰瑞达的前高管创立的，他们一成立就立刻开始从前东家那里抢夺客户。德沃尔夫认为他们是一个非常严重的威胁。但最终，最严峻的竞争在 20 世纪 80 年代从日本涌现。
## 爱德万测试
1954 年，一家名为武田理研工业（Takeda Riken Industry）的公司成立，作为一家电子测量仪器的制造商。在成立的前 15 年左右的时间里，该公司生产静电计和其他电子计数器。随后在 20 世纪 70 年代，他们开始生产像 T-31/31 这样的存储器集成电路测试仪。
接着在 1976 年，武田理研与日本的 NTT 实验室合作，对其下一代存储芯片进行测试。这促成了他们突破性的测试仪：武田理研 Advantest T3380。Advantest 代表“先进测试技术”（Advanced Test Technology），这个名字是在美国的一次深夜饮酒聚会上想出来的。
T3380 于 1979 年推出，因其 100 兆赫兹的惊人速度而引人瞩目。这意味着测试仪可以以每秒 1 亿次的速率施加和采样数字信号。当时其他所有人都停留在 30 到 40 兆赫兹左右。美国的 ATE 公司曾考虑过将速度提升到那么高，但考虑到必须克服的严重工程问题，他们认为在实际应用中这是不切实际的。事实证明他们是对的——循环次数较低的模型更便宜且卖得更好——但 T3380 仍然让武田理研一举成名。
后来在 1985 年，他们将公司名称更改为爱德万测试（Advantest）。他们希望让自己的公司更具西方亲和力，因为有太多的西方人把“Takeda Riken”误读为“Take Da Riken”。他们还与日本计算机巨头富士通（Fujitsu）关系密切，后者持有其大约 20% 的股票。这种关系始于多年前的一笔财务救助，并延续到了工程知识共享方面。
在日本日益发展的存储器行业的推动下，日本测试仪的市场份额从 1978 年的 30% 增长到 1985 年的 45%。爱德万测试以及安藤（Ando）等其他公司在美国市场取得了一定的进展——他们的存储器测试仪因其可靠性而赢得了赞誉。
泰瑞达通过提高产品质量进行反击——派遣员工去日本学习全面质量管理（TQM）等知识。他们还参与了由美国政府资助的合作组织 SEMATECH。他们还在日本设立了销售办事处，这迫使爱德万测试和安藤不得不“捍卫自己的地盘”。泰瑞达的工具还引入了创新概念，例如并行测试，即系统可以同时测试多个存储芯片。这提高了测试吞吐量，降低了工具的总拥有成本。
这些努力基本上取得了成功。到那个十年结束时，泰瑞达和爱德万测试已经巩固了自己作为行业主导者的地位。其他虽小众但重要的玩家包括惠普（Hewlett-Packard），它通过为摩托罗拉的 PowerPC 提供服务而建立起了良好的数字逻辑业务；还有来自意大利的 SPEA，它是欧洲的大型玩家，尤其是在汽车和功率电子芯片测试仪领域；以及前述的 LTX，还有 Credence 和 Schlumberger——后者在被石油设备巨头收购之前曾是仙童半导体。
## 20 世纪 90 年代与摩尔定律
在 20 世纪 90 年代初期，个人电脑销量的增长推动中央处理器（CPU）超越了其模拟和混合信号同行，成为了半导体行业的代表。在摩尔定律的推动下，这些芯片爆炸式增长的晶体管数量赋予了它们更多的功能，但也给测试设备公司带来了巨大的挑战。
在过去，公司通过将芯片置于正常运行状态下来进行测试。就像如果你想测试一栋建筑里的所有水管，你会走到每个洗手间的每个水龙头前把它们拧开。他们称之为“功能测试”——意即“它是否如预期般发挥功能？”这种方法是明智的，它让设计人员能够通过复用设计过程中的工作来轻松产生测试图案。
但摩尔定律让功能测试变得不切实际。测试图案的数量呈指数级增长，直到甚至完全测试非常简单的电路都变得不可能。举个例子，一个只有两个输入的简单 32 位加法器电路需要 2 的 65 次方个测试图案才能进行完全测试。一台 1 兆赫兹的测试仪系统需要花费 1000 多年的时间才能把它们全部跑完。
这还仅仅是一个电路。想象一下，即使是 30 多年前 20 世纪 90 年代的 CPU，其内部也有着极其庞大的复杂度。因此功能测试最终会漏掉许多非显而易见的故障。换句话说，故障覆盖率太低了。
即使故障覆盖率良好，也存在经济制约。测试芯片可以确保质量并有助于提高良率——这在理论上可以为制造商带来更多的利润。但这是一个间接的效果。大多数公司的观点是，测试是一个成本中心。花出去的钱并不能直接产生收入。因此，英特尔的 CPU 可以自由地以摩尔定律的速度增长，但它的测试仪绝对不能，这让测试设备制造商陷入了困境。
这推动了测试理念从功能测试向基于结构故障模型的测试转变。我们不再去问芯片是否能正确处理所有输入，而是去问芯片硬件是否包含物理缺陷。设计人员针对特定故障编写测试——比如某个门电路永久卡在逻辑值 1 上。或者如果某个门电路切换速度不够快，这会导致时序问题。或者如果存在本不应该桥接在一起的线路桥接在了一起。
然而，其方法仍然与以前类似。我们将比特流移入集成电路被测器件中。然后我们施加一个时钟周期以在器件内部触发一个事件并捕获响应。接着我们将这些比特流移出——通常是在我们移入下一组比特流的同时。这整个过程被称为扫描测试图案。这种设计需要设计人员在其中插入一些额外的测试逻辑，这就是为什么他们可能也会称之为“可测试性设计”（Design for Test）。基于结构故障模型的测试具有良好的扩展性，并且在今天仍在使用。有时会与功能测试的演进版本或其他测试方法一起使用。
## 电信与 OSAT
个人电脑在 20 世纪 90 年代中期有所放缓，但这被来自汽车和电信等新市场的需求所取代。尤其是电信市场非常火爆。各家公司正在全美构建光纤网络。此类网络需要用于交换机设备等的模拟和混合信号芯片。
那个十年还见证了外包半导体组装和测试公司（即 OSAT）的兴起，例如台湾的日月光集团（ASE Group）和矽品（SPIL）。这种趋势有几个驱动因素。首先，它与台积电和纯晶圆代工厂的兴起是同步的。这很合理。如果无法将后端封装和测试外包，那么将前端晶圆制造外包并不能让你走得太远。因此，随着一个环节的成长，另一个环节也随之成长。
然而，外包测试不同于晶圆制造。在晶圆制造中，芯片设计人员必须遵守工艺节点的设计规则。但在测试中，客户向 OSAT 指定测试策略——这可以包括 OSAT 必须去购买什么样的 ATE 工具。随着这些自动测试设备变得越来越昂贵——在许多情况下达到数百万美元——OSAT 可以将多个客户的测试需求聚集起来，保持那些昂贵工具的充分利用，同时还能传授最佳实践。许多 OSAT 最初是通过购买垂直整合厂商（IDM）的内部设施开始的——这有助于那些公司变得更加“轻资产”。并从那里扩大规模。
爱德万测试和泰瑞达顺应了这两股浪潮，获得了巨大的利益。1997 年，爱德万测试以 16 亿美元的收入成为全球第四大半导体设备公司。泰瑞达以 8.41 亿美元位列第十。直到 2000 年，新闻报道还提及 OSAT 是如何难以从供应商那里获得足够的测试设备。一位名叫罗恩·莱基（Ron Leckie）的分析师说：“在大多数情况下，测试运行得相当接近产能极限，但对于某些产品，尤其是通信器件，我们没有足够的测试产能……测试分包商正在疯狂地扩张并购买自动测试设备……但问题是设备的交期已经延长了。”
## 泡沫破裂后
2000 年收入飙升——爱德万测试当年的增长率为 53%——随后在第二年电信泡沫破裂时戛然而止。对新芯片和晶圆厂产能的暴跌给测试公司带来了极其沉重的打击。爱德万测试的 ATE 销售额暴跌了 70%，泰瑞达暴跌了 65%。订单积压的崩溃甚至更为剧烈。
半导体行业见证过许多次的繁荣与萧条。但光纤和电信泡沫的破裂触发了一场特别深刻的反思。那是测试行业黄金时代的终结。英特尔和其他公司已经意识到，到 2001 年，测试成本已经增长了大约 25 倍，已经失去了控制。他们开始在成本上施加压力。
泰瑞达外包了工具生产——关闭了其在美国的工厂，将精力集中在设计、销售和维护上。据我所知，他们大约 85% 的工具是由分包商制造的。第二梯队的 ATE 玩家也经历了一大波整合。LTX、Credence 和 Schlumberger 在 21 世纪初合并组成了 LTX-Credence。随后在经历了几次合并之后，现在变成了 Xcerra。
得益于移动设备的繁荣，测试行业最终从泡沫破裂后的低迷中反弹。移动电话拥有这些处理数字和模拟信号的复杂系统级芯片（SoC）：混合信号系统。例如泰瑞达的 UltraFLEX，这是一款用于最终测试（意即在封装完成后进行测试）的混合信号工具。它显然是用微软的 VBA 进行编程的，这听起来……有点不靠谱。
为了节省成本并保持灵活性，爱德万测试和泰瑞达还将各自的各种产品整合到了模块化系统平台中。如今，测试系统可以通过配置兼容的仪器卡来进行定制。此类卡提供了不同的电气功能，如波形、数字接口或电源——这一切都是为了实现特定的测试策略。这让泰瑞达能够开发出像 J750 这样畅销的工具。这是一款价格合理的工具，配合正确的卡，它可以测试微控制器、无线器件、甚至图像传感器。泰瑞达已经出货了 6000 多台这种设备。
## 测试人工智能芯片
如今，人工智能加速器是行业中占据主导地位的芯片。这些家伙带来了巨大的测试挑战。最显而易见的是，它们是具有多种异构特性的组合体——采用了先进封装技术，将多个处理器、输入输出（IO）和存储器芯片封装在一起。如果该组合体中的任何一部分变坏，那么整个东西都会失效。因此我们首先要对每个小芯片进行单独测试。
此外，由于这些东西在更大、相互连接的人工智能系统中运行，我们还需要在那个上下文环境中评估其性能。先进封装还将芯片的晶体管数量推升到了疯狂的水平：500 亿、800 亿，甚至 2000 多亿。为了检测所有这些晶体管和连接的故障，意味着需要移入和移出海量的数据。每个 GPU 可能需要数太字节（TB）的数据。
还有散热方面的担忧。这些家伙会散发出巨大的热量。测试它们可能会将它们或 ATE 工具推向极限，从而需要更多专门的工程设计。爱德万测试已经写了一些关于利用人工智能来改善这些流程的文章——在这些流程中，使用数据可以训练模型以提高良率并标记故障模式。目前我还不完全清楚这些措施在多大程度上得到了实施。
## 结论
我想感谢测试社区中的几位人士，他们为这个视频提供了灵感并与我进行了交流。特别感谢里奇（Rich）、兰迪（Randy）、比尔（Bill）和埃德（Ed）。
与半导体供应链中的其他公司一样，人工智能的繁荣对测试公司来说是一件好事。得益于人工智能的繁荣，爱德万测试的收入大幅飙升。他们估计人工智能测试仪市场将同比激增 30%，达到大约 100 亿美元。该公司的市值超过 1130 亿美元。截至本文撰写时，他们是东京证券交易所第 10 大最具价值的公司。而在 ChatGPT 引发繁荣之前，他们的市值还不到 90 亿美元！
我们能够信赖我们的半导体和系统，是因为它们通过了测试。随着前沿的人工智能芯片达到 2000 亿个晶体管并仍在继续增加，这些测试人员所必须完成的工作是不可思议的。