人工智能（AI）基础设施，正在吸引大批科技巨头“重金”投资。美国当地时间11月15日，微软在总部所在地美国西雅图亮相了“微软硅”计划，并推出两款为AI基础设施打造的自研芯片：AI加速芯片Maia 100及服务器CPU芯片Cobalt 100。
微软是继亚马逊、谷歌、Meta等之后，又一亲手打造芯片的AI基建开发商。自研芯片既是这些科技巨头降本增效的有效手段，也是维护其行业地位的必要措施。
不过，微软尚未立即使用自研芯片取代外部供应的芯片。该公司同时宣布，将在云服务中率先采用AMD新款服务器芯片MI300 X及英伟达H200芯片，显示出该公司希望捍卫AI基建中的技术领军者地位。
人工智能仍在如火如荼地发展，令人惊艳的应用背后，是高昂的硬件、软件、人工成本。在接受南方财经全媒体记者采访时，有创业者介绍，降低硬件成本的需求十分迫切，因为未来还将面临其他成本的上升。
“2016年之前，微软云基建主要依赖于第三方采购。”微软云硬件（AHSI）部门项目经理Pat Stemen坦言。继亚马逊、谷歌、Meta推出自研芯片后，微软的“硅计划”一直为市场期待，因为这一度被视为微软的短板。从此次发布来看，微软仍未放弃第三方供货芯片，但自研芯片取得了重要进展。
此次亮相的Maia 100是一款AI加速器芯片，用于大型语言模型的训练和推理；Cobalt 100则是微软为微软云Azure开发的第一款CPU。
Maia正是传说中的微软“雅典娜（Athena）计划”，该计划起步于2019年左右。由于生成式AI在2023年急速发展，微软的这项计划获得了极高的关注，大半年来的市场讨论持续升温。这反映出微软可能会推出与英伟达等公司竞争的芯片。
而有关自研发服务器CPU，微软硬件产品开发副总裁Wes McCullough介绍，Cobalt 100选用了Arm架构，旨在优化整个数据中心的“每瓦性能”，也就是令消耗的每个单位能源形成更多的计算能力。多名同行已经在早前开发出Arm架构的服务器CPU，微软属于“后来者”。
要开发大模型和运营大模型下的应用，AI加速器芯片和服务器CPU必不可少。但此前这些芯片和服务器主要依赖于少数巨头的供货，例如英伟达、AMD、英特尔等，这给作为采购者的微软等公司带来巨大的成本压力。SemiAnalysis首席分析师Dylan Patel称：“和英伟达产品相比，若Athena具有竞争力，便可以将每片芯片的成本降低三分之一。”
不过，自研芯片并不代表微软“切割”与其他芯片供应商的关系。在本次Ignite大会上，微软还公布了对AMD和英伟达新款芯片的采用计划。
微软表示，云服务将采用AMD的最新款芯片Instinct MI300X，建立具有高宽带内存（HBM）的虚拟机（VM），每个虚拟机有1.5TB的HBM容量，这也是目前云服务中可用的最高HBM容量。
此外，微软云正采用英伟达H100芯片打造新款虚拟机，明年也会准备好采用英伟达最新款的服务器芯片H200。H200是英伟达在11月13日刚刚亮相的新产品，亚马逊云AWS、谷歌云、微软云Azure和Oracle云也将是首批用上H200的云服务商。
“微软硅”的亮相，反映出AI相关公司试图打破硬件端的垄断，降低整体建设成本。生成式AI解决方案从业者告诉南方财经全媒体记者，整体而言，人工智能开发成本依然水涨船高，而硬件成本是目前实现“降本增效”的关键一环。
生成式AI建模服务供应商Akkio联合创始人Jon Reilly向南方财经全媒体记者介绍，要利用人工智能开展工作，需要付出的成本包括硬件、软件、人工等。“目前而言，硬件成本占比十分可观。”
AI硬件是指能够处理大量数据和运算、进行数据存储的芯片，这些芯片比大众日常接触的计算机要昂贵许多。
数据中心所需要的硬件类型多元化，其中GPU知名度最高，但也并非唯一选择。根据计算需求、编程难度、应用复杂度，数据中心可能会采用不同的硬件方案。Jon Reilly介绍，GPU提供高水平的计算能力，但可能很昂贵；FPGA通常比GPU便宜，计算能力较高，但可能很难编程；ASIC可能很昂贵，但性能很高，有时用于复杂的人工智能应用。
以微软AI芯片计划“雅典娜”为例，其招聘成本可能十分高昂。有市场数据称，“雅典娜”有大约300名雇员。Dylan Patel认为，在高昂的人工开支下，“雅典娜”每年的开发成本可能高达1亿美元。11月16日，南方财经全媒体记者在微软招聘官网上看到，一名7年工作经验的高级芯片工程师底薪为每年11.2万至21.84万美元，若工作地点在旧金山湾区或纽约大都会地区，底薪还将小幅增加。
据Jon Reilly介绍，对于人工智能创业公司而言，招聘的通常是数据科学家、机器学习工程师和软件开发人员，这些职位在美国的年薪大约在10万至12万美元之间。
越来越多的公司需要为人工智能付出成本。尽管它们不像微软、谷歌等公司一般需要建立数据中心，但仍然需要租用云上服务器，并招聘相关的人才，这意味着云服务商仍然需要通过AI芯片增强市场竞争力。
人工智能成本因人而异，除了硬件成本和人工成本，部分从业者还将面临着持续上涨的软件成本。软件与数据收集、分析和处理相关，“用于AI训练的标记数据，需要收集、清理、组织和处理，过程非常耗时，因此也可能十分昂贵。”Jon Reilly称。展望未来，软件成本可能持续上升。
添加新评论