上海人工智能研究院:人工智能算力需求增长

天天见闻 天天见闻 2023-05-25 陆军 阅读: 107
摘要: 国内GPU厂商也在调整自己的产品路线图,全球科技公司纷纷入场研发各自的大模型,用于人工智能训练任务的计算需求增加了约30万倍。也让全球GPU市场份额82%的英伟达成为其受益者。我们现在采购的是DGX高性能的一些解决方案。计算成本将在短期内给予从事这一大模型开发的初创企业。国内的GPU厂商可以拿出与之媲美的产品。吉原科技看到了大模型预训练之上的市场机会。

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!

  来自OpenAI的分析报告显示,2012 年至2018年的6年间,人工智能训练任务中使用的算力需求便增长了约30万倍。针对这样的需求变化,国内GPU厂商也在调整自身的产品路线图,使得它更加符合AIGC时代的人工智能算力需求。

  2016年,英伟达创始人黄仁勋将全球首款 DGX 交给了 OpenAI,加速了生成式AI革命的到来。如今,在ChatGPT这一现象级产品的带动下,全球科技公司纷纷入场开发各自的大模型,预训练和推理所需的算力需求也呈现指数级增长。

  来自OpenAI的分析报告显示,2012 年至2018年的6年间,人工智能训练任务中使用的算力需求便增长了约30万倍。这一趋势下,GPU被广泛应用于加速芯片,也让全球GPU市场82%份额的英伟达成为其中的受益者。

  “一台包含8张A800的DGX超算,现在市面上的价格可能要到230万元到250万元之间,价格还在持续上涨。”位于上海张江的一家数据公司内,公司负责人陈运文正在向技术负责人纪达麒询问算力设备的采购情况。

上海人工智能研究院:人工智能算力需求增长

  上海张江一家初创公司 内部正在商讨英伟达DGX的采购计划

  自从今年3月份发布了面向垂直领域的“曹植”大语言模型,庞大的算力规模需求,让英伟达DGX的采购计划,出现在了公司每周的日程表内。

  算力成本高企

  国内大模型开发者期待国产解决方案

  “我们的算力平台是自建的,像国内的云服务厂商,还没有这么大的算力服务。我们现在采购的是DGX的高性能的一些解决方案,单套8张GPU价格接近200万元,现在已经采购了很多套。”在陈运文看来,现在市面上英伟达A800的供应还是有保障的,就是得排队,真正难买的是存量的A100产品。

  不过,无论哪种解决方案,算力成本短期内将给这些从事大模型开发的初创公司,带来极大的困扰。陈运文表示,现在公司算力设施主要依赖于进口产品,他们也很期待,国内的GPU厂商能够推出与之媲美的产品,来有效降低算力成本的投入。

  而国内的GPU厂商,其实也已经看到了AIGC带来的算力机遇。国内GPU厂商燧原科技,早在两年前就落地了国内第二个千卡集群的训练项目,那时候AIGC还未引发关注。

上海人工智能研究院:人工智能算力需求增长

  燧原科技工作人员正在对产品进行测试

  而现在AIGC火了,燧原科技看到了大模型预训练之上的市场机会。燧原科技创始人、董事、CEO赵立东告诉记者,在大模型预训练之上,还有一层Fine-tune精调层,再上面是推理应用层。

  当有了基础模型以后,还可以针对场景做一些精调的训练,而这些训练需要的算力需求就小了很多,准入门槛也低了很多,会有大量的开发者涌入这个赛道。针对这样的需求变化,国内GPU厂商也在调整自身的产品路线图,使得它更加符合AIGC时代的人工智能算力需求。

  上海人工智能研究院院长助力、行业赋能中心主任杨浩也表示,国内通用芯片厂商目前有数十家,可能未来有一两家脱颖而出,而更多的厂家会在FPGA、ASIC等专用芯片领域,找到新的市场机会。

  新型算力研发提速

  国内首条光子芯片中试线有望明年建成

  传统电子芯片技术已经逼近物理极限,在AIGC时代,谁来承接人工智能计算需求的指数级增长?

  以光子计算、量子计算为核心的新型算力技术,可能成为新的接棒者。

  “传统的电子芯片,包括英伟达的GPU,再早的CPU,一直沿着摩尔定律向前发展,而我们现在新型架构的芯片,是沿着满足人工智能计算需求的方向发展,它的增长曲线一定是更陡峭的。” 图灵量子创始人、上海交大教授金贤敏对记者表示。

上海人工智能研究院:人工智能算力需求增长

  上海交大金贤敏团队将建成国内首条光子芯片中试线

  自从2014年带团队从事光子芯片研发以来,从在校学术成果积累,到创办公司进行产业化应用,金贤敏团队即将迎来阶段性成果——国内首条光子芯片中试线有望在明年年中建成,预计产能可达上万片。

  金贤敏非常自豪地告诉记者,如果在无锡的产线建成,他们将是全球范围内唯一一个拥有光芯片流片中试线的团队。

  在AIGC时代,算力已经成为大模型开发的短期瓶颈,而要解决算力短缺的问题,将是一个系统性的工程。上海社科院信息所研究员、互联网研究中心主任惠志斌表示,现在不光要看到国外GPU厂商的一些先进的产品,更要立足长远,在光子计算、量子计算等一些颠覆性技术的领域,也要加强科技攻关。

其他相关
炒股高手都这样做,倍量阴和倍量阳轻松识别主力机构建仓和拉升!

炒股高手都这样做,倍量阴和倍量阳轻松识别主力机构建仓和拉升!

作者: 天天见闻 时间:2024-03-31 阅读: 1
倍量是量大的最重要特征,倍量柱具有五种功能,往往是机构或主力建仓、试盘、加仓、补仓和拉升的标志柱。股票的最后一跌抄底之后找到了建仓模型,接下来就是通过倍量阴找拉升模型。以上三种模型讲解的都是倍量阴的方法,不仅可以找到主力机构的建仓位置,还可以找到拉升的模型。...

办公哪款笔记本电脑好 哪款笔记本电脑好

作者: 天天见闻 时间:2024-03-25 阅读: 21
想买款笔记本电脑,性价比比较高,有没有推荐的目前X东笔记本销量前三名,两款荣耀,一款联想,都是性价比比较高的笔记本。荣耀笔记本,真香预警!更高性能,更爽体验,性能战神荣耀MagicBook 2019锐龙R7 512G银色版本即将开售!5月21日首销,此外,锐龙R5 256G灰色与512G紫色全平台同步开启了预约……...
安卓播放器排行榜前十名 安卓播放器

安卓播放器排行榜前十名 安卓播放器

作者: 天天见闻 时间:2024-03-18 阅读: 15
安卓最强本地音乐播放器目前在安卓平台上,最强的本地音乐播放器应该是Poweramp。该应用具有丰富的音效调节选项和精美的界面设计,支持多种音频格式,可以播放高解析度的音频文件。此外,它还具有强大的扫描功能和智能播放列表功能,可以根据用户的喜好和播放历史自动创建播放列表,为用户提供更加便捷的听歌体验。同时,Pow……...

计量经济学 | 门限模型原理及应用

作者: 天天见闻 时间:2024-03-17 阅读: 16
门限模型计量经济学门限模型原理门限模型又称门槛模型,主要用来解决自变量在不同值域内对因变量影响不同的问题。仍旧以上一篇推送中参考的文章《生产性服务投入与制造业全球价值链地位:影响机制与实证检验》为例介绍门限效应的应用。门槛效应为非线性经济关系的研究提供了新的方法,但也提出了新的问题。...

北京现代怎么样(21款北京现代ix35怎么样)

作者: 天天见闻 时间:2024-03-03 阅读: 35
北京现代车怎么样?北京现代汽车公司,提到北京,成立于2002年10月18日,北京汽车投资有限公司和韩国现代汽车有限公司联合建立汽车制造公司。如果您喜欢现代汽车,可以考虑上述三款。如果您喜欢现代汽车,可以考虑上述三款。在现代店的汽车,折扣30,000,有些人选择不多。现代汽车品牌轿车具有领先和姓名,SUV具有IX35。...

FLUENT阻力系数和升力系数计算案例

作者: 天天见闻 时间:2024-03-02 阅读: 30
今天,我们做一个非常经典的简化小车模型的阻力系数和升力系数计算案例。本案例计算阻力系数和升力系数,根据相关定义,需要设置如下参考值。首先,我们看一下阻力系数和升力系数的监视结果,可以看出经过约200次迭代计算后达到收敛。本案例的阻力系数和升力系数计算结果同参考文献结果对比如下。...
我来说两句

年度爆文