

关于正在为自罕有据中心甄选AI处事器芯片的企业而言,比较英伟达,亚马逊领有一大中枢上风:价钱。
爱尔兰商榷机构CoDriverLabs专注为企业提供AI基础措施落地商榷处事,该机构分析师卡罗尔・皮亚泰克暗意:在同等算力负载下,使用亚马逊第二代Inferentia推理芯片与Trainium磨砺芯片部署现存AI模子开展推理业务,算力资本可比英伟达H100芯片镌汰80%。
如今越来越多自建数据中心的企业,齐在寻找性价比更高、供货更领悟的替代芯片决策。近几个月,亚马逊向这类客户任意推介自研两款AI专用芯片:用于大模子磨砺的Trainium、用于业务推理的Inferentia,越来越多企业启动招供这套决策。
皮亚泰克的一位保障行业客户,出于合规监管条目,必须在自罕有据中心为客户运行AI业务,无法使用公有云处事。该企业此前一直采购英伟达芯片,如今正在寻找替代决策;经由前期测试,亚马逊芯片凭借价钱上风与领悟的算力承载材干,测试甩腕弘扬亮眼。
滚球app中国官方网站基于可以的测试效能,这家保障公司就地向亚马逊云科技(AWS)客户司理商榷,能否在AWSOutposts土产货部署一体机中搭载Inferentia推理芯片。但亚马逊方面回复,现在该芯片暂未怒放Outposts场景测试。
皮亚泰克称:“惟有能在企业土产货机房部署Inferentia芯片,这家保障公司就会坐窝落地。即便土产货部署的资本是云霄租用价钱的两倍,企业也依然围剿袭在自有机房部署AWS提供的这款芯片。”
他暗意,天然企业土产货机房部署芯片的资本大约率高于班师租用AWS云处事器,华游体育中国官网入口但相较英伟达芯片,合座算力开支依旧会大幅镌汰。
英伟达官方发言东说念主援用公司近期一篇博客著述的不雅点回答:单纯对比芯片采购单价好奇有限,中枢要看芯片的骨子算力产出。若是廉价芯片在换取期长内可承载的AI算力任务远少于高价芯片,那么从单元算力资正本看,高价芯片反而更合算。
英伟达在博文中写说念:“咱们的芯片能够终了行业最低的模元(Token)单元资本与最高的模元处理浑沌量。”
信息本领商榷公司高知特(Cognizant)云与基础措施处事负责东说念主斯里拉姆・库马雷桑暗意,现时各人算力供给垂死,不少客户正在评估、试点亚马逊自研芯片,其中就包含企业土产货数据中心的落地场景。
库马雷桑在书面声明中提到:“咱们不雅察到,客户的AI业务算力需求依然超出现时可用算力供给,乐动手机app这也让企业不再单一依赖英伟达GPU,启动积极寻找多元化算力决策。如今AWS的Trainium与Inferentia芯片依然成为业内靠谱的量产级备选决策,不再仅仅GPU缺货时的济急剿袭。”
不外亚马逊芯片并非扫数坦途。云架构商榷企业RhythmicTechnologies首席推行官克里斯・达尼卢克暗意,天然不少客户在探讨芯片替代决策,但现在齐仅处于早期调研阶段,企业广泛担忧适配这类自研芯片需要全新软件体系,存在本领落地风险。
在去年12月AWS年度本领大会re:Invent上,亚马逊细腻推出全新处事,复古客户在AWS公有云以外部署亚马逊自研AI芯片,同期发布AWSAIFactories(亚马逊AI算力工场)贬责决策,企业可在自罕有据中心混搭部署亚马逊Trainium芯片与英伟达芯片。
恒久以来,AWS通过Outposts土产货一体机处事,让自建机房的企业可以在土产货部署亚马逊全套软硬件、存储与蚁合资源。据知情东说念主士走漏,近几个月,AWS销售团队依然和好意思国电话电报公司(AT&T)等企业张开前期洽谈,探讨通过Outposts处事租出亚马逊自研AI芯片。
另有知情东说念主士暗意,亚马逊还在洽谈班师向政企客户售卖自研AI芯片。本年4月,亚马逊首席推行官安迪・贾西在年度鼓舞信中说起,公司推敲对外班师出售自研AI芯片,自此企业客户的诱导意愿权贵进步。
贾西曾测算:若是亚马逊不再仅通过云处事出租芯片,而是班师对外销卖,芯片业务年化营收有望达到500亿好意思元。现在,包含通用处理器Graviton、云霄部署的Trainium芯片在内,亚马逊芯片业务当客岁化营收为200亿好意思元。
《信息》杂志分析数据自大:尽管英伟达靠近诸多芯片竞品冲击、五行八作加快布局AI替代算力决策,但英伟达在AI推理算力商场的份额仍在握续走高。
AWS正在效仿谷歌的发展旅途。谷歌自研TPU张量处理单元AI芯片,去年就启动策动Anthropic等企业,推动客户在自罕有据中心部署该芯片;上个月乐动手机app,谷歌还与黑石集团建造结伴公司,打造TPU专属云业务,对标当下广泛向AI厂商出租英伟达算力的专科云处事商。