在持续(xù)已久的(de)“AI热潮(cháo)”中,各家争相推(tuī)出的大模型、AI应用,都进一步推(tuī)升了(le)对算力(lì)狂热的需(xū)求(qiú)。本周已(yǐ)有(yǒu)报(bào)道指出英伟达后续对AI顶级规格芯片需求明显看增(zēng),紧急向台积电追加预订先进封装产能。
需求飙涨下,英伟达(dá)GPU价格自然(rán)也是(shì)水涨船(chuán)高。据集微网消息,有代理(lǐ)商(shāng)透露,英伟达A100价(jià)格(gé)从去年12月开始上涨,截至今年(nián)4月上半月,其5个月(yuè)价格累计涨幅达到(dào)37.5%;同期A800价格(gé)累计涨幅达20.0%。
同时,英(yīng)伟达GPU交货周期也被拉长(zhǎng),之前拿货周期大约(yuē)为(wèi)一个(gè)月,现在基本都需要(yào)三个月或更长。甚(shèn)至,部分新(xīn)订单(dān)“可能要(yào)到12月(yuè)才(cái)能交付”。
供需的(de)巨大鸿(hóng)沟面前,在(zài)这一情形(xíng)之(zhī)下,众多客户也不(bù)得不(bù)“勒紧腰(yāo)带”。上述文章指出,国内可用于训练AI大(dà)模型的A100大约有4万-5万(wàn)个,供应相(xiāng)当吃紧,一些云服务厂商(shāng)已(yǐ)严(yán)格限木铎金声是什么意思在论语中,木铎金声的意思制(zhì)内部(bù)使(shǐ)用(yòng)这些先进(jìn)芯片(piàn),以(yǐ)将其保(bǎo)留至需要强力运算的任务。
值得一提(tí)的是(shì),类似(shì)的(de)事情在微(wēi)软(ruǎn)内部也早(zǎo)已发生。3月已(yǐ)有(yǒu)外(wài)媒(méi)报道指出,微软内部陷入(rù)AI服(fú)务(wù)器硬件短缺的窘境,不得不(bù)对AI硬件(jiàn)资源采(cǎi)取“配额供给”机制(zhì),限制公司内部其他AI工(gōng)具开发团队的资源用量。
拉(lā)长(zhǎng)时间线来看,有GPU业内人(rén)士指出,实际上从去年6月起,英伟(wěi)达就已宣布上调A100价格,涨幅20%左右,渠道商在加紧囤(dùn)货。至(zhì)于英伟达(dá)A800,在ChatGPT火爆之前就已出现涨(zhǎng)价,但反(fǎn)映到市场(chǎng)则(zé)有一定的滞(zhì)后(hòu)性(xìng),赶(gǎn)上ChatGPT爆火这一(yī)时间点(diǎn),更放大了(le)这一现象。
“英伟达(dá)GPU涨(zhǎng)价与ChatGPT有一(yī)定(dìng)的关联性(xìng),且交货周期也受到了连带的影响(xiǎng),导(dǎo)致市场(chǎng)上出现了众多炒(chǎo)卡的行为。”
此(cǐ)外,在(zài)海外电商(shāng)平台上,英(yīng)伟达新旗(qí)舰级GPU H100的价格在4月中旬就已炒到(dào)了(le)超(chāo)过4万(wàn)美元。
随(suí)着如今各家科技(jì)巨头争相推出自(zì)家大模型(xíng),GPU需(xū)求量仍在持续(xù)攀升。OpenAI指出,AI大模型要持续取得突(tū)破,所需要(yào)消耗的计算资源(yuán)每3~4个月(yuè)就要翻(fān)一倍(bèi),资金也(yě)需要通过指数级增长获(huò)得匹(pǐ)配。
据财通证券测算(suàn),2023/2024/2025年(nián)大模型有(yǒu)望为GPU市场(chǎng)贡献69.88/166.2/209.95亿美(měi)元增量。
其中在训练端,以目(mù)前主流的训(xù木铎金声是什么意思在论语中,木铎金声的意思style='color: #ff0000; line-height: 24px;'>木铎金声是什么意思在论语中,木铎金声的意思n)练端GPU英伟达A100测算,假设ASP为1万美元,2023/2024/2025年全球训练(liàn)端GPU需求市场规模预计分别为(wèi)0.74/2.00/4.07亿美元;
在推(tuī)理(lǐ)端,以(yǐ)目前(qián)英伟达用于推理(lǐ)端计(jì)算的A10测(cè)算,假设(shè)ASP为2800美元(yuán),2023/2024/2025年全(quán)球(qiú)推理端GPU需求市场规模预计分别(bié)为69.14/164.2/205.88亿美元。
业内人士也表(biǎo)示,AI大模型训(xùn)练成(chéng)本之一是(shì)基(jī)础算力,大概需要384-3000块左右的(de)A100才能基本满足要求,如果(guǒ)价格持续上(shàng)涨,无(wú)论是互联(lián)网(wǎng)、AI大厂、还(hái)是创业(yè)新贵,要(yào)追加的投入(rù)都可能远超当初。
未经允许不得转载:MP3i音乐网址大全-MP3下载,网址导航,音乐在线试听,中国音乐网址导航第一站 木铎金声是什么意思在论语中,木铎金声的意思
最新评论
非常不错
测试评论
是吗
真的吗
哇,还是漂亮呢,如果这留言板做的再文艺一些就好了
感觉真的不错啊
妹子好漂亮。。。。。。
呵呵,可以好好意淫了