当前位置:首页 > 清远科技 > 正文内容

海外小作文袭扰AI信仰?GPU泡沫论甚嚣尘上 真相是……

admin6个月前 (10-14)清远科技688

《科创板日报》10月14日讯 日前,一则有关“2美元/小时出租H100:GPU泡沫破灭前夜”的报道引发国内市场高度关注。相关文章指出:

英伟达H100 GPU在2023年3月上市之后,因需求激增供不应求,其租赁价格从最初的每小时4.7美元一度飙升至每小时8美元以上。但今年以来,H100开始“供过于求”,每小时租赁价格降至2美元左右。

价格下跌是由于多方面因素导致:1)有些长期预订H100的公司完成模型训练之后,转售闲置未使用的算力;2)许多公司不再从头训练新模型,转而微调开放模型,算力需求大幅降低;3)专注构建大规模基础模型的新创公司数量大幅减少;4)H100的替代品出现,如AMD和英特尔GPU,等等。

对这篇报道进行溯源后可以发现,海外主流媒体及主要科技媒体暂未进行相关报道,原报道标题为《$2 H100s: How the GPU Bubble Burst》(2美元H100:GPU泡沫是如何破灭的),来自于一个名为Latent Space的网站,原文作者为Eugene Cheah。

根据网站介绍,Latent Space主要聚焦于AI,形式集内容讯息、博客、社区为一体,由swyx 及Alessio Fanelli共同主持,前者的社交平台账号并未给出具体身份自我介绍,后者则为早期风投公司Decibel VC的合伙人和CTO。

原文作者Eugene Cheah,则为初创公司Featherless.Ai的CEO。

据Cheah在“GPU泡沫”一文原文末尾介绍,Featherless.Ai目前托管着全球最大的开源AI模型,“每月10美元起,可立即访问,无限制请求,价格固定;可通过无服务器方式即时推理,无需昂贵的专用 GPU”。

▌H100租赁价格下跌 = GPU泡沫破灭?

在“GPU泡沫”一文原文中有张配图,那是法国艺术家让-莱昂•热罗姆在1882年创作的油画《郁金香狂热》(Le Duel à la tulipe)。

这幅画描绘了有记录以来历史上第一次投机泡沫——17世纪荷兰的“郁金香狂热”,郁金香价格在1634年持续攀升,并于1637年2月崩盘,投机者手中只剩下最初投资额的5%。

三百多年前的投机泡沫会否再次上演?这个问题牵动着每一位AI投资者的神经,或许也是这一次“H100租赁价格下跌”一文在AI圈引发高度关注的原因。

从算力租赁商Vast.ai网站报价可以看到,1x H100的一小时租赁报价确实已经在2~3美元区间内。

Vast.ai报价

但H100租赁价格下跌,真的能和“GPU泡沫破灭”画上等号吗?

一方面,从Eugene Cheah的文章来看,“H100价格下跌”可能用“分化”来形容更为合适——持续下降的主要集中在小规模集群的租赁价格,相较之下,大规模算力集群的价格则可能维持在较高水平。

而这些大规模算力集群背后,多是诸如特斯拉、微软、OpenAI一类的科技巨头。Omidia数据显示,H100发布之后的那个2023年第三季度,其出货量达到65万张,其中仅Meta和微软就分别拿下了15万张,占比接近一半。

另一方面,电子产品都有着更新迭代周期,GPU芯片同样如此。之前英伟达下一代GPU Blackwell系列传出设计存在缺陷,可能延迟出货。但摩根士丹利上周发布报告称,Blackwell的生产正在“按计划进行”,且未来12个月左右的供应已经售罄,这意味著现在下订单的客户要到2025年底才能收到货,“这将继续推动对现有Hopper架构产品的强劲短期需求”。

H100租赁价格并非骤然暴跌,波动已有时日。从A100到H100,从H100到H200,再到未来的Blackwell,新品出世势必带来前代产品的没落,更妄论Blackwell算力成本有望比Hopper进一步降低。

黄仁勋这位英伟达“掌舵人”也在日前现身说法。在接受Altimeter Capital采访时他强调,对英伟达的持续看涨与互联网泡沫顶峰时期围绕思科的狂热完全不同。英伟达正在“重塑计算”,未来将是“高度机器学习”的时代。

“摩尔定律已经基本宣告终结”,他表示,为了提供必要的算力以跟上未来计算密集型软件的步伐,未来4~5年内,现有数据中心将需要价值约1万亿美元的GPU来实现升级。

必须承认的是,“AI泡沫”论的警钟敲了又敲,“AI投资回报难达预期”的质疑声音一浪高过一浪,一边是OpenAI抱怨算力上线不及时不够用、英伟达新品售罄,另一边是算力租赁价格不断下降、还有公司“甩卖”GPU。

但局部、短期的算力过剩或短缺,似乎已难以代表AI的全盘局面,对于供需两方、多空两边来回博弈的AI领域来说,在硬件端之外,或许亟待更多新故事。

海量资讯、精准解读,尽在新浪财经APP

责任编辑:刘明亮

扫描二维码推送至手机访问。

版权声明:本文由清远中大创新发布,如需转载请注明出处。

本文链接:https://idrdc.com/post/594.html

分享给朋友:

“海外小作文袭扰AI信仰?GPU泡沫论甚嚣尘上 真相是……” 的相关文章

5.12亿,北京两高校发布仪器设备采购意向

5.12亿,北京两高校发布仪器设备采购意向

近日,北京理工大学围绕大科学装置发布多批政府采购意向,仪器信息网特对其进行梳理,统计出27项仪器设备采购意向,预算总额达1.95亿元,涉及精密微纳制造中心核心实验区洁净设备购置、精密微纳制造中心洁净设备购置、高性能光学测试平台等,预计采购时间为2024年9~10月。同时,近日北京中医药大学也围绕大科...

大摩:AI主题被“过度炒作” 建议买入优质防御性股

大摩:AI主题被“过度炒作” 建议买入优质防御性股

财联社9月12日讯(编辑 卞纯)过去一年多,大型科技公司纷纷斥重金加入AI竞赛,在股市掀起了AI投资热。然而,这些公司兑现“AI生财”的承诺似乎遥遥无期,这让投资者耐心日渐消磨。随着投资者对AI投资的回报越来越不耐烦,他们正在拼命寻找下一个大热点。摩根士丹利日前指出,AI主题被“过度炒作”,并建议投...

新版“国十条”对险企股东设限!资本荒 “补血”何以为继?

新版“国十条”对险企股东设限!资本荒 “补血”何以为继?

来源:A智慧保9月11日,《国务院关于加强监管防范风险推动保险业高质量发展的若干意见》对外披露,这就是行业所说的“新新国十条”。为保险业带来新的机遇的同时,也进一步强调对诸多方面实施严监管。2024年09月11日时隔十年保险“新新国十条”:五个“首次”释放新方向、新机遇!其中,对于股东方面仍然坚定穿...

历史新高!现货黄金升至2550美元 ,后市怎么走?

历史新高!现货黄金升至2550美元 ,后市怎么走?

机构认为,但从长期趋势看,随着美联储降息预期的增强以及全球经济的不确定性,黄金仍有望在未来几个月保持强势。9月12日晚间,现货黄金持续上扬,刷新历史新高。截至发稿,现货黄金报2550美元/盎司,涨1.54%,较日内低点走高近40美元。消息上,美国失业金、PPI数据今晚出炉。美国截至9月7日当周初请失...

中信证券投行负责人马尧离职,将出任中信集团副总经理?

中信证券投行负责人马尧离职,将出任中信集团副总经理?

炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!来源:机构之家9月13日,“券商一哥”中信证券发布公告,公司董事会于当日收到执行委员马尧先生递交的书面辞职报告。马尧先生因工作调整,申请辞去公司执行委员及在公司的其他职务。图片系中信证券关于高级管理人员变动的公告根据公开资料,马...

半导体大厂,进账19.1亿美元

半导体大厂,进账19.1亿美元

据路透社等媒体报道,英特尔波兰半导体封测厂建设已获欧盟批准,并将获得波兰政府提供的19.1亿美元的资金补助。报道称,波兰政府表示,欧盟委员会已批准波兰向英特尔的半导体组装和测试工厂提供超过74亿兹罗提(约19.1亿美元)的国家援助。据悉,这项投资符合《欧洲芯片法案》,该法案预计将动员超过430亿欧元...

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。