莘羽科技资讯网
首页 > 手机 > ChatGPT最近火得一塌糊涂也将AI人工智能推向了新的

ChatGPT最近火得一塌糊涂也将AI人工智能推向了新的

ChatGPT最近火得一塌糊涂,也将AI人工智能推向了新的,而生成式AI需要海量的数据进行推理训练,高算力的GPU加速卡自然成了抢手货。

比如ChatGPT背后的GPT模型,其训练参数在2018年约为1.2亿个,到了2020年就猛增到近1800亿个,如今恐怕至少在万亿级别。

集邦咨询估计,生成式AI对于GPU计算卡的需求量在2万块左右,未来将达到3万块。

这其中受益最多的,自然是NVIDIA,其旗舰级计算卡A100已经在为ChatGPT默默服务,有估算需要3万块才能满足ChatGPT当前的访问量。

A100计算卡单块售价8-9万元左右,3万块就是大约25个亿。

但它往往不是单卖的,而是以DGXA100服务器整套方案的方式销售,每套八块计算卡,算力高达5PFlops(每秒5千万亿次浮点计算),相当于前几年的一套大型超级计算机,是大规模数据分析、AI加速计算的几乎不二之选。

DGXA100服务器单套售价约20万美元,3万块卡下来就是大约7.5亿美元,相当于人民币超过50亿元。

当然,AMD也有MI100、MI200系列加速卡,今年还会推出CPU+GPU融合的全新MI300,算力也很强,但市场份额远不如NVIDIA。

另外,有数据显示,GPT-3训练一次的成本约为140万美元,对于一些更大的LLM模型,训练成本介于200万美元至1200万美元之间。

标签:

猜你喜欢

iqooneo5 预备费学术会议...
为什么会有预备费? 在我们参加任何活动之前,无论是学术会议、音乐节还是体育赛事,都需要准备一笔费用,这笔费用被称为预备费。它包括了组织者为确保活动顺利进行...
vivo云服务 厨房新篇章打造...
在家庭生活中,厨房不仅仅是一个烹饪的地方,它更是家人的聚集地,是创造美好记忆的场所。因此,当我们谈到装修厨房时,不应只考虑功能性,还要兼顾风格和舒适度,以...
三星s8 装修大作战10...
装修大作战:100平米四房一厅,住得舒适又不占地盘! 挑战开始前 在现代都市中,空间的有限性成为了我们许多人生活的一大挑战。尤其是在人口密集的大城市里,寻...
vivos15 传统风格和现代...
在选择书柜时,人们往往会考虑到不仅仅是它的功能性,还有其与居住空间整体风格相协调的问题。传统风格和现代设计这两大流派各有千秋,它们之间的区别也映射了不同的...

强力推荐