北京时间 2025 年 6 月 28 日,路透社报导,OpenAI 已经最先租用google的 TPU 为其 ChatGPT 和其他 AI 产物提供算力撑持。此举标记着作为英伟达 GPU 持久以来的最年夜采购商之一的 OpenAI,也最先于其 AI 年夜模子运算中本色性地年夜范围利用非英伟达 GPU 算力。
早于去年 6 月,OpenAI 就传出正于踊跃从google TPU 团队招募顶尖研发人材,自研 AI 专用芯片。而除了OpenAI 外,苹果、Anthropic、Safe Superintelligence、Cohere 等公司也一直租用google云的 TPU 用在 AI 年夜模子练习和推理。北美 AI 巨头公司们的战略转向凸显了 AI 行业更广泛的厘革趋向:领先的年夜模子开发商都于踊跃摸索英伟达 GPU 以外的替换方案,追求基础举措措施多元化,拥抱以 TPU 为代表的 AI 专用芯片的新架构标的目的。
OpenAI 转向google TPU 的三重动因OpenAI 是当下 AI 年夜模子海潮的引爆者及代表者。持久以来,OpenAI 利用英伟达 GPU 举行 ChatGPT 模子练习(即经由过程年夜范围数据集及繁杂的神经收集架构,练习出一个具有强盛进修及推理能力的深度神经收集模子)及推理事情负载(即让已经练习好的模子可以依据用户需求及时天生猜测),OpenAI 既是英伟达 GPU 最早被用在 AI 计较场景的天使客户之一,也是英伟达GPU的持久最年夜采购商之一。
然而,跟着年夜模子计较需乞降繁杂度的指数级增加,传统 GPU 架构芯片于用在年夜模子练习时的成本高、算力使用率低、能耗年夜的局限日趋凸显。不停上涨的 GPU 计较成本及供给限定,促使 OpenAI 摸索替换性 AI 芯片方案。经由过程接入google云(Google Cloud)对于外开放的TPU资源(早年仅供google内部利用),OpenAI 患上以使用专为张量计较优化的专用芯片,有望降低单次模子计较成本,并得到怪异的机能体现。
OpenAI 的这一决议计划源在三方面因素的配合作用:
·成本效益: TPU 专为深度进修的焦点——年夜范围矩阵与张量运算而打造。相较在通用 GPU,其单元功耗吞吐量高,片上内存层级设计激进,凡是能为练习及推理实现更低的整体成本。
·供给链韧性: 算力供给商多元化可降低危害,防止因英伟达面对出产压力、分配延迟、其他行业需求激增而致使的瓶颈,确保其研究试验及年夜范围部署所需算力可以不间断。
·软件生态集成:google TPU 成熟的全栈软件生态——包括与 XLA 编译器慎密耦合的 TensorFlow 框架、TPU 专用运行时、机能阐发东西以和google云上的托管办事,可以极年夜简化年夜型 AI 运用的模子开发、调优与部署流程,显著降低工程承担,缩短产物上线周期。
TPU 芯片:为 AI/ML 而生的架构
GPU 最初设计用在图形处置惩罚,特别是及时衬着及图象处置惩罚,是以对于此中面子布局的矩阵及向量运举动当作了专门优化,厥后逐渐成长成为通用计较装备(GPGPU)。GPU 具备年夜量布局较为简朴的并行处置惩罚单位,合适处置惩罚高度并行的使命,如图形衬着及科学计较,是以被广泛运用在计较机图形学、游戏开发、视频编码/解码、深度进修练习及推理。
TPU 是google专为加快呆板进修及深度进修使命而设计的专用芯片,尤其是针对于深度进修模子的练习及推理。TPU 针对于张量运算举行了高度优化,单个的脉动阵列架构吞吐量及处置惩罚效率相较 GPU 有了更年夜晋升,尤其合适在处置惩罚矩阵乘法等常见在神经收集的操作,重要用在呆板进修及深度进修模子的练习及推理,尤其是利用 TensorFlow 框架的使命。
相较在传统 GPU 架构,TPU 设计具备多项上风:
·慎密集成的内存与计较单位:每一个 TPU 焦点集成为了年夜容量、高带宽的片上内存,并与矩阵乘法单位慎密耦合,显著降低了数据挪动延迟及功耗。
·高效推理:这类慎密集成使患上 TPU 能于更低能耗下实现连续的高吞吐量推理,这对于在日处置惩罚数百万哀求的推理事情负载至关主要。
·优化的集群互联:TPU 集群配备了精简高效的互联络构,专为漫衍式模子练习固有的团体通讯模式优化,相较在传统的 GPU 加快集群,可带来更优的扩大性及资源使用效率。
AI 算力硬件竞争的要害迁移转变
OpenAI 采用google TPU,打破了英伟达 GPU 于 AI 算力基础举措措施范畴霸主职位地方不成撼动的不雅念。持久盘踞主导职位地方的英伟达,如今面对着来自作为重要终端用户的 AI 年夜模子提供商们追求算力使用率、成本节制与供给矫捷性替换方案的真实压力。google云则博得了 OpenAI 这一标杆客户,进一步印证了其不雅点:于特定 AI 事情负载上,TPU 机能可媲美甚至逾越 GPU。
与此同时,OpenAI 的这一举措是 AI 硬件行业多元化海潮的一部门,已经有愈来愈多的世界顶尖科技公司于踊跃研发本身的 TPU 或者类 TPU 架构的 AI 专用芯片,并已经获得了浩繁领先 AI 年夜模子企业的广泛采用:
·早于 2019 年,英特尔就收购了来自以色列的 AI 芯片制造商 Habana Labs,并于2024年 4 月推出了专攻深度进修神经收集推理的类 TPU 芯片 Gaudi 3;估计2025 年头,IBM Cloud 将率先部署英特尔 Gaudi 3 AI 加快器;
·2023 年 7 月的 xAI 集会上,特斯拉以和 X(即 Twitter)的 CEO 马斯克公然公布了特斯拉正于自研芯片且必然不会将其称为 GPU,表示着特斯拉可能正于开发一种与传统 GPU 差别的芯片架构,以满意特斯拉的需求;
·2023 年 11 月,微软于其全世界技能年夜会 Ignite 上公布推出专为 Azure 云办事及 AI 事情负载设计的 ASIC 芯片 Maia 100,估计 2026 年正式发布;
·2023 年11月尾,AWS 于其“AWS re:Invent 2023”年夜会发布了为天生式 AI 及呆板进修练习设计的云端 AI 算力芯片 Trainium 2;2024 年末,AWS 与 Anthropic 官宣配合打造名为 Project Rainier 的 EC2 UltraCluster,将利用数十万片 Trainium2 芯片;
·2024 年 7 月 30 日,苹果公司发布了研究论文暗示,Apple利用了google的2048 片 TPUv5p 芯片和 8192 片 TPUv4 芯片——而非英伟达的 GPU 芯片,来练习其人工智能体系“苹果智能”(Apple Intelligence)中的 AI 模子 Apple Foundation Model;
······
北佳丽工智能及半导体圈正于发生的AI算力硬件的转向,AI芯片市场也进入了更具竞争性的新阶段。
中昊芯英国产全自研 TPU AI芯片公司
中昊芯英作为海内独一一家把握 TPU 架构AI 专用芯片焦点技能并实现全自研 TPU 芯片量产的公司,焦点开创团队组建在 2018 年,其开创人和 CEO 杨龚轶凡曾经作为google TPU 芯片焦点研发者,深度介入过 TPU v2/3/4 的设计与研发事情。继 Apple 以后,OpenAI 对于 TPU 的选择,再一次有力验证了当下中昊芯英所对峙走的TPU技能线路。
TPU 为 AI 年夜模子而生的自然上风架构,使其于面向 AI 计较场景时,于划一出产制程下相较在 GPU 可以拥有 3-5 倍的机能晋升。以中昊芯英用时近五年全自研的海内首枚已经量产 TPU AI 芯片“刹那 ”为例,“刹那 ”于处置惩罚年夜范围 AI 模子运算时与英伟达今世的进步前辈芯片比拟,计较机能可以逾越其近 1.5 倍,于完成不异练习使命量时的能耗降低 30%,将价格、算力及能耗综合测算,“刹那 ”的单元算力成本仅为其 42%。
OpenAI 拥抱googleTPU或许其实不象征着英伟达 GPU 时代的闭幕,但它清楚地宣告了以 TPU 主导的AI专用算力基础举措措施的时代已经然到来。成本压力、供给链颠簸以和模子范围的连续膨胀,势必使患上效率因素比传统供给商上风更主要。于这类情况下,专用张量处置惩罚器——不管是来自google、AWS 如许的科技巨头,还有是中昊芯英、Cerebras、Groq 如许的新兴企业——将塑造年夜范围 AI 的下一篇章。
-PT电子