微软正式推出两款自研ai芯片,加速ai计算任务
11月16日消息,在今天于西雅图举行的Ignite开发者大会上,微软正式推出了两款自研AI芯片,用于强化AuzreAI和MicrosoftCopilot服务,分别为AzureMaia100及AzureCobalt100。
该系列芯片旨在加速AI计算任务,并为其每月30美元(IT之家备注:当前约218元人民币)的“Copilot”服务和企业软件用户提供算力基础,同时也为希望制作自定义AI服务的开发人员提供服务。
AzureMaia100:这是一款专为Azure云服务和AI工作负载设计的ASIC芯片,适用于x86主机。
该芯片将安装在定制的液冷机架中,同时最多可容纳4枚芯片。该芯片将支持标准INT8和INT4数据格式并利用嵌入式以太网接口。
这款芯片基于台积电5nm节点制造,可支持各种AI场景,包括自然语言处理、计算机视觉、推荐系统和生成型AI。
它可以与Azure软件栈无缝集成,包括AzureMachineLearning、AzureCognitiveServices和AzureSynapseAnalytics等,从而提供高性能、高效率和高灵活性。
Maia芯片旨在运行大型语言模型,这是一种支持微软AzureOpenAI服务的AI软件,也是微软与ChatGPT开发者OpenAI合作的产品。
微软表示,他们不打算出售这些芯片,而是将它们用于为其自己的订阅软件产品赋能,并作为其Azure云计算服务的一部分。
微软和其他科技巨头如Alphabet正在努力应对提供AI服务的高成本,这可能比传统服务如搜索引擎的成本高出10倍。
微软高管表示,他们计划通过一套通用的基础AI模型来处理公司几乎所有的AI产品工作,以解决这些问题。据称,Maia芯片正是为此优化的。
“我们认为这为我们提供了一种能力,可以为客户提供更快、更低成本和更高质量的解决方案,”微软云和AI集团执行副总裁ScottGuthrie说道。
微软还表示,明年它将为Azure客户提供在Nvidia和AMD的最新旗舰芯片上运行的云服务。微软表示,它正在AMD的芯片上测试OpenAI最先进的模型GPT4。
“这并不是取代Nvidia的东西,”分析师公司CreativeStrategies的首席执行官BenBajarin说。
他表示,Maia芯片将使微软能够在个人电脑和手机功能强大到足以处理它们之前,在云端销售AI服务。
“微软在这里有一个非常不同的核心技术机会,因为他们的服务每个用户都能赚很多钱,”Bajarin说。
AzureCobalt100:这是一款Arm芯片,专门用于在微软Cloud上运行通用计算工作负载。这款芯片可以提供高密度、高可靠性和高安全性的计算服务,适用于Web应用、数据库、容器和微服务等。
它还可以与Azure的生态系统兼容,包括AzureKubernetesService、AzureFunctions和AzureAppService等。这款芯片的优点在于可以提供低成本、低功耗和低碳排放的计算平台,支持可持续发展的目标。
微软表示,它总共拥有128个NeoverseN2内核,支持12通道DDR5内存,与即将推出的ARM服务器芯片相比,每个内核的性能提高了40%。
微软还透露,他们已经在尝试用Cobalt为Teams赋能。
微软Guthrie表示,公司还希望直接向客户出售Cobalt的使用权,以与亚马逊网络服务(AWS)提供的“Graviton”系列芯片竞争。
“我们正在设计我们的Cobalt解决方案,以确保我们在性能以及价格-性能方面都具有竞争力(与亚马逊的芯片相比),”Guthrie说。
AWS将在本月晚些时候举行自己的开发者大会,一位发言人表示,其Graviton芯片目前已有5万名客户。
“AWS将继续创新,为任何需要的客户工作负载提供下一代AWS设计的芯片,以提供更好的性价比,”微软宣布其芯片后,该发言人表示。