微软CEO萨蒂亚·纳德拉周四在推特上发布了一段视频,展示了公司首个部署的大规模AI系统——英伟达喜欢称之为AI"工厂"。他承诺这是将在微软Azure全球数据中心部署的"众多"英伟达AI工厂中的"第一个",用于运行OpenAI工作负载。
每个系统都是一个由超过4600台英伟达GB300机架计算机组成的集群,搭载备受追捧的Blackwell Ultra GPU芯片,并通过英伟达名为InfiniBand的超高速网络技术连接。(除了AI芯片,英伟达CEO黄仁勋还具有前瞻性地在2019年以69亿美元收购Mellanox时垄断了InfiniBand市场。)
微软承诺,随着在全球范围内推出这些系统,将部署"数十万颗Blackwell Ultra GPU"。虽然这些系统的规模令人瞩目(公司还分享了更多技术细节供硬件爱好者研究),但这一公告的时机也值得注意。
这一消息发布正值OpenAI——微软的合作伙伴兼众所周知的亦敌亦友——与英伟达和AMD签署两项备受瞩目的数据中心协议之后。据估计,OpenAI在2025年已经获得了1万亿美元的承诺来建设自己的数据中心。CEO萨姆·奥特曼本周表示,还有更多协议即将到来。
微软显然希望让世界知道,它已经拥有数据中心——在34个国家拥有超过300个数据中心——并且在"满足当今前沿AI需求"方面具有"独特优势"。公司表示,这些巨型AI系统还能够运行拥有"数百万亿参数"的下一代模型。
我们预计本月晚些时候将听到更多关于微软如何加速服务AI工作负载的消息。微软首席技术官凯文·斯科特将在TechCrunch Disrupt大会上发言,该大会将于10月27日至29日在旧金山举行。
Q&A
Q1:微软部署的AI工厂具体配置是什么?
A:每个AI工厂系统都是由超过4600台英伟达GB300机架计算机组成的集群,搭载Blackwell Ultra GPU芯片,通过英伟达InfiniBand超高速网络技术连接,微软承诺将部署数十万颗Blackwell Ultra GPU。
Q2:微软为什么在这个时候宣布AI数据中心建设?
A:这一公告正值OpenAI与英伟达和AMD签署大型数据中心协议,并获得1万亿美元承诺建设自己数据中心之后。微软希望强调自己已经在34个国家拥有超过300个数据中心的优势地位。
Q3:这些AI系统能处理多大规模的模型?
A:微软表示这些巨型AI系统能够运行拥有"数百万亿参数"的下一代模型,并且在满足当今前沿AI需求方面具有独特优势,可以有效服务OpenAI等AI工作负载。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。