【技术前沿】OpenAI 与博通联合研发首款自研推理芯片 “Jalapeño” 细节曝光:定制加速器深度优化 Transformer 架构

内容要点: • 针对推理端硬件级裁剪:OpenAI 与博通联合设计的首款定制 ASIC 芯片“Jalapeño”最新细节流出。该款芯片在架构层砍掉了大量训练用算力单元,专注于优化大模型的端到端低延迟推理,旨在以极低能耗支撑 OpenAI 的大规模在线 API 调用。 • Transformer 注意力引擎加速:Jalapeño 配备了专门针对 Transformer 架构“注意力机制(Attention Mechanism)”优化的定制硬件加速内核,能够将 KV 缓存的存取延迟降低约 45%,在大上下文推理时的整体吞吐量提升显著。 • 破局算力高墙与商业闭环:首批 Jalapeño 芯片已在台积电完成流片并进入试产测试,这表明 OpenAI 正在通过“自研算法 + 定制硬件”的深水区融合,试图打破英伟达的供应链溢价,将多模态推理成本压缩至原先的十分之一。 久湛洞察: OpenAI 定制推理芯片 Jalapeño 的推出,标志着 AI 算力竞争进入“软硬一体化定制(Co-design)”时代。通用 GPU 虽然强大,但在特定的 Transformer 推理任务中存在严重的功耗与带宽瓶颈。未来,随着自研 ASIC 芯片的规模化部署,AI 推理成本将迎来断崖式下跌,企业级大模型应用将进入“低价、长文本、全量实时”的新阶段。建议技术团队在系统架构设计时保持充分的底层算力适配弹性,拥抱即将到来的低成本推理洪流。   >  权威源:OpenAI-博通定制硬件开发项目技术白皮书及半导体分析月刊(2026年6月下旬)   >  关键词:OpenAI、博通、Jalapeño、自研芯片、Transformer加速、AI推理、硬件软件协同   >  真实链接:真实链接...
阅读更多

【行业洞察】OpenAI 携手博通推出首款自研定制 AI 芯片,开启大模型服务硬核降本之路

内容要点: • 打破算力垄断与降本增效:2026年6月中下旬,OpenAI 正式发布了与博通(Broadcom)联合研发的首款定制 AI 推理芯片,旨在降低大模型日常推理的高昂算力成本,并逐步摆脱对英伟达单一代工生态的过度依赖。 • 先进制程与能效比飞跃:该款定制芯片采用台积电 3nm 工艺制造,针对 Transformer 架构的注意力机制(Attention Mechanism)进行了底层的硬件级矩阵乘法加速,在每瓦吞吐量(Tokens per Watt)上较主流 GPU 提升了近一倍。 • 算力生态自主权争夺战:此芯片的问世,标志着 AI 巨头们已从“软件算法战”和“算力采购战”正式跨入“芯片底座自主化”阶段。亚马逊、微软、谷歌与 OpenAI 均已完成自研芯片闭环,AI 算力格局正加速向多元分化演进。 久湛洞察: OpenAI 的“造芯”举动是行业进入“深水区成本战”的必然产物。随着企业内部大模型调用频次和长上下文需求的爆发,算力成本已成为限制 AI 应用商业化的核心瓶颈。企业在制定中长期 AI 策略时,必须意识到未来算力硬件的多样化和碎片化趋势,建议在设计 AI 应用架构时采取“硬件解耦”策略,利用多云部署 and 跨平台模型接口,灵活适配各类高性价比自研芯片,避免在单一算力硬件生态中越陷越深。   >  权威源:OpenAI 与博通联合芯片研制公告及全球 AI 算力供应链月度展望(2026年6月下旬)   >  关键词:OpenAI、博通、定制AI芯片、硬件底座、大模型降本、Transformer加速、算力去垄断   >  真实链接:OpenAI Blog...
阅读更多