微软正式推出两款自研ai芯片,加速ai计算任务

2023-11-16 12:58    来源:浅语科技

11月16日消息,在今天于西雅图举行的Ignite开发者大会上,微软正式推出了两款自研AI芯片,用于强化AuzreAI和MicrosoftCopilot服务,分别为AzureMaia100及AzureCobalt100。

该系列芯片旨在加速AI计算任务,并为其每月30美元(IT之家备注:当前约218元人民币)的“Copilot”服务和企业软件用户提供算力基础,同时也为希望制作自定义AI服务的开发人员提供服务。

AzureMaia100:这是一款专为Azure云服务和AI工作负载设计的ASIC芯片,适用于x86主机。

该芯片将安装在定制的液冷机架中,同时最多可容纳4枚芯片。该芯片将支持标准INT8和INT4数据格式并利用嵌入式以太网接口。

这款芯片基于台积电5nm节点制造,可支持各种AI场景,包括自然语言处理、计算机视觉、推荐系统和生成型AI。

它可以与Azure软件栈无缝集成,包括AzureMachineLearning、AzureCognitiveServices和AzureSynapseAnalytics等,从而提供高性能、高效率和高灵活性。

Maia芯片旨在运行大型语言模型,这是一种支持微软AzureOpenAI服务的AI软件,也是微软与ChatGPT开发者OpenAI合作的产品。

微软表示,他们不打算出售这些芯片,而是将它们用于为其自己的订阅软件产品赋能,并作为其Azure云计算服务的一部分。

微软和其他科技巨头如Alphabet正在努力应对提供AI服务的高成本,这可能比传统服务如搜索引擎的成本高出10倍。

微软高管表示,他们计划通过一套通用的基础AI模型来处理公司几乎所有的AI产品工作,以解决这些问题。据称,Maia芯片正是为此优化的。

“我们认为这为我们提供了一种能力,可以为客户提供更快、更低成本和更高质量的解决方案,”微软云和AI集团执行副总裁ScottGuthrie说道。

微软还表示,明年它将为Azure客户提供在Nvidia和AMD的最新旗舰芯片上运行的云服务。微软表示,它正在AMD的芯片上测试OpenAI最先进的模型GPT4。

“这并不是取代Nvidia的东西,”分析师公司CreativeStrategies的首席执行官BenBajarin说。

他表示,Maia芯片将使微软能够在个人电脑和手机功能强大到足以处理它们之前,在云端销售AI服务。

“微软在这里有一个非常不同的核心技术机会,因为他们的服务每个用户都能赚很多钱,”Bajarin说。

AzureCobalt100:这是一款Arm芯片,专门用于在微软Cloud上运行通用计算工作负载。这款芯片可以提供高密度、高可靠性和高安全性的计算服务,适用于Web应用、数据库、容器和微服务等。

它还可以与Azure的生态系统兼容,包括AzureKubernetesService、AzureFunctions和AzureAppService等。这款芯片的优点在于可以提供低成本、低功耗和低碳排放的计算平台,支持可持续发展的目标。

微软表示,它总共拥有128个NeoverseN2内核,支持12通道DDR5内存,与即将推出的ARM服务器芯片相比,每个内核的性能提高了40%。

微软还透露,他们已经在尝试用Cobalt为Teams赋能。

微软Guthrie表示,公司还希望直接向客户出售Cobalt的使用权,以与亚马逊网络服务(AWS)提供的“Graviton”系列芯片竞争。

“我们正在设计我们的Cobalt解决方案,以确保我们在性能以及价格-性能方面都具有竞争力(与亚马逊的芯片相比),”Guthrie说。

AWS将在本月晚些时候举行自己的开发者大会,一位发言人表示,其Graviton芯片目前已有5万名客户。

“AWS将继续创新,为任何需要的客户工作负载提供下一代AWS设计的芯片,以提供更好的性价比,”微软宣布其芯片后,该发言人表示。



湿冷“魔法攻击”上线!南方遭今冬来最强雨雪 这份防抖指南请收好
科技

湿冷“魔法攻击”上线!南方遭今冬来最强雨雪 这份防抖指南请收好

本文转自:中国天气网 中国天气网讯 眼下,2024年首场寒潮天气正在影响我国,南方多地遭遇今冬来强度最强、范围最广的雨雪天气。今天(1月22日)早晨,最低气温0℃线已南压至贵州南部至江西北部一线,低温叠加雨雪,南方人熟悉的湿冷“魔法攻击”上线了,网友纷纷吐槽“南方的雨雪天冷到刺骨”。湿冷到底是一种怎 [详情]

周鸿祎称不能套用过去的模式看人工智能 大模型不是OS
科技

周鸿祎称不能套用过去的模式看人工智能 大模型不是OS

【CNMO新闻】在2023年1月21日的猎户星空大模型发布会上,360集团创始人周鸿祎分享了他对大模型应用前景的看法。他预测,2024年大模型应用将迎来巨大的机会,而企业级应用将成为其突破口。 周鸿祎强调,大模型与已有业务场景的结合将带来巨大的机会。随着技术的发展,越来越 [详情]

“听见”两会丨海南省政协委员何逸舟:建议搭建文旅服务区块链评价系统 助推海南文旅服务实现高质量发展
科技

“听见”两会丨海南省政协委员何逸舟:建议搭建文旅服务区块链评价系统 助推海南文旅服务实现高质量发展

点击查看更多视频 新海南客户端、南海网1月22日消息(记者 王燕珍)如何提升海南文旅服务水平和服务质量,助推海南文旅服务实现高质量发展?参加海南省政协八届二次会议的省政协委员何逸舟建议可搭建一个以区块链作为底层技术的评价系统,推动海南文旅服务生态的评价、反馈机制升级。  [详情]

雍禾医疗携手国内三甲医院展开合作 雍禾植发助力行业健康发展
科技

雍禾医疗携手国内三甲医院展开合作 雍禾植发助力行业健康发展

根据《都市人群毛发健康消费白皮书》调研显示,国内毛发医疗服务行业市场规模从2021年至2030年将以21.8%的复合年均增长率(CAGR)增长,2030年将达到1381亿元。市场前景广阔的同时,消费需求也在升级迭代。 此前,北京大学人民医院与雍禾医疗共建“北京大学人民医院X雍禾医疗毛发联合实验室”( [详情]

杭州3年引进731家首店,近半已销声匿迹
科技

杭州3年引进731家首店,近半已销声匿迹

都市快报讯 刚过去的2023杭州写字楼商业市场表现出了弱复苏状态。 近日,戴德梁行发布相关数据,并对杭州2023年整年度的零售商业市场及写字楼市场进行多维度的解读,并对2024年的发展趋势进行展望和预测。 “当下消费市场真正发生的既不是单纯的升级,也不是简单的降级,而是分层。顺应消费分层这一主流趋势 [详情]