北京时间周三凌晨,全球云计算“一哥”亚马逊AWS在Re:Invent大会期间宣布,华尔街翘首期待的新一代自研AI芯片Trainium3正式公开上市。
综合公司介绍 ,Trainium3是亚马逊首款3nm制程芯片 。与上一代Trainium芯片相比,Trainium3计算性能最高提升4.4倍,能效提升4倍 ,内存带宽几乎提升4倍,主打AI算力竞争的性价比赛道。由Trainium3组成的UltraServer系统还可以互联,每台可容纳144枚芯片 ,为单个应用提供多达100万枚Trainium3芯片,为上一代的10倍。
公司表示,与同样使用图形处理单元(GPU)的系统相比 ,训练和运行AI模型的成本能够降低最多50% 。
当然,指望亚马逊Trainium3与谷歌TPU一战,甚至“挑战英伟达”的投资者可能会有些失望 ,毕竟没有任何资料显示这款芯片除了“性价比 ”之外的其他优势。
亚马逊拒绝透露新款AI芯片与谷歌、英伟达最新产品的基准性能对比,也未披露功耗参数。目前我们仅知道每枚芯片集成144GB的高带宽内存,而谷歌最新的Ironwood TPU为192GB,英伟达的Blackwell GB300则最高可达288GB 。
负责Trainium项目的AWS副总裁兼首席架构师Ron Diamant也直言:“我不认为我们会试图取代英伟达”。
Diamant进一步表示 ,归根结底,这款自研芯片最大的优势就是性价比。他的主要目标是为客户在不同的计算工作负载上提供更多选择 。
对于亚马逊的AI芯片而言,最大的短板并不是芯片本身 ,而是亚马逊缺乏足够有深度且易于使用的软件库。
除了亚马逊自己以及公司大力投资的AI初创企业Anthropic外,现在几乎找不到使用Trainium芯片的知名公司。
而Anthropic也在10月表示,将采购最多100万块谷歌的TPU ,又在11月宣布与英伟达签署投资入股协议,并将进一步购买英伟达芯片的算力 。不过Anthropic也强调,亚马逊仍然是其“主要的训练合作伙伴和云服务提供商” , 预计到年底将使用超过一百万颗Trainium 2芯片。
使用人工智能赋能施工设备自动化的Bedrock Robotics介绍称,公司基础设施运行在AWS服务器上,但在为挖掘机构建引导模型时 ,就得用英伟达芯片。公司首席技术官Kevin Peterson总结称:“我们需要它既高性能又易于使用,那就是英伟达。 ”
亚马逊似乎也意识到了这个问题 。在Trainium3的公告中,公司特别强调Trainium4已在研发中,最大的亮点是“能与英伟达芯片协同工作”。
公司表示 ,Trainium4将支持英伟达NVLink Fusion高速芯片互连技术,最终形成一种兼顾GPU与Trainium服务器的经济高效机架级AI基础设施。
英伟达介绍称,NVLink Fusion的核心是NVLink Fusion chiplet ,超大规模云服务商可以将该chiplet嵌入其定制ASIC设计中,以连接NVLink规模化互联和NVLink交换机 。
(NVLink Fusion芯片组使72个定制ASIC以每个ASIC 3.6 TB/s的带宽实现全互联,来源:英伟达)
这意味着 ,基于Trainium4的系统将能够与英伟达GPU互操作,并提升整体性能,同时依然使用亚马逊自研的 、更低成本的服务器机柜技术。这也将使得那些以英伟达GPU为核心构建的大型AI应用 ,更容易迁移到AWS。
个人股票开户选哪个券商好:实盘股票配资公司-出手调控母猪产能与二次育肥?知情人士:头部企业已接到通知 利于产业健康发展
哪个软件能买卖股票:个人股票开户选哪个券商好-原油价格震荡 国内成品油调价或搁浅
炒股用杠杆怎么操作:哪个平台开户买股票-首创证券冲击第14家“A+H”上市券商 上半年净利仅增2.79%
股票交易的软件有哪些:股票开户哪个券商好点-涨涨涨 多晶硅期货创上市新高!广期所再出手 连发两道“金牌”!
股票开户选哪个券商好:股票配资惠管钱-A股重大调整!或涉及这些股票(附名单)
a股配资:股票开户哪个网站开户-AI重磅!两大巨头牵手!全球掀起新一轮“AI基建”热潮
配资天眼-配资炒股理财-配资炒股官网开户提示:文章来自网络,不代表本站观点。
配资天眼-配资炒股理财-配资炒股官网开户⑯我们注重客户反馈的收集和处理,通过定期的客户满意度调查,了解客户对服务的评价,不断改进和提升服务质量。
当地时间3月11日,美国白宫贸易顾问纳瓦罗表示,12日不会对加拿大钢铝产品征收50%的关税。当天早些时候,加拿大...
据中国网,工业和信息化部总工程师谢少锋在发布会上表示,持续培育发展动能。组织实施国家科技重大专项和国家重点研发计划,...
6月27日晚间,光智科技(300489)发布公告,经董事会、监事会审议通过,公司终止本次发行股份及支付现金购买资产并...
3月24日,易方达国证自由现金流ETF公开发售。该产品跟踪国证自由现金流指数,这个指数是什么?有哪些优势?投资价值如何?...
界面新闻记者|龙力开年两个多月,不少头部量化私募都在积极“上新”。Wind数据显示,截至3月17日,...
3月24日,业内权威专家表示,MLF(中期借贷便利)不再有统一的中标利率,标志着MLF利率的政策属性完全退出。3月24日...
记者王珍中国国际经济交流中心副理事长、国务院发展研究中心原副主任王一鸣周一在“中国发展高层论坛2025...
当地时间3月24日,特斯拉美股涨幅扩大至5%,现报262.055美元/股。...