ccc515.com 全程直击英伟达首创东谈主黄仁勋GTC演讲:Blackwell架构B200芯片登场

发布日期:2024-09-09 10:11    点击次数:119

ccc515.com 全程直击英伟达首创东谈主黄仁勋GTC演讲:Blackwell架构B200芯片登场

K图 NVDA_0

  北京期间3月19日4时-6时,英伟达首创东谈主黄仁勋在好意思国加州圣何塞SAP中心登台,发表GTC 2024的主题演讲《见证AI的变革技艺》。鉴于昔时一年多期间里AI带来的坐褥力变革,以及英伟达等一众宗旨股的发扬,老黄的演讲一经造成专家成本市集拭目而待的热点事件。

  以下为及时更新演讲内容:

image

  演讲行将开动,现场一经济济一堂。

imageimageimage

  播放开场影片。

imageimage

  黄仁勋登台,对不雅众们强调:我但愿你们搞了了今天这里不是演唱会,而是一场征战者大会。

imageimage

  黄仁勋先容了本届GTC的一些参与者,并强调这些公司不仅仅来参会,而是有我方的东西要来展示。

image

  黄仁勋展示英伟达发展史,又提了将首台DGX One送给OpenAI的故事。

imageimageimage

  黄仁勋:今天咱们将筹商这个新行业的好多问题。咱们要谈谈奈何进行计较、咱们要谈谈你所构建的软件类型,你将奈何看待这个新软件,新行业中的运用然后,也许(再谈谈)下一步是什么,咱们奈何从今天开手脚念准备,下一步会发生什么。

image

  黄仁勋:咱们使用仿真器用来创造居品,并不是为了镌汰计较成本,而是为了扩大计较领域。咱们但愿大约以统统保真、统统数字化的样式模拟咱们所作念的所有这个词居品。从实质上讲,咱们称之为数字孪生。

image

  老黄开动先容一系列合营伙伴ccc515.com,包括ANSYS、Synopsis、Cadence等。

imageimage

  跟着transformer模子被发明,咱们能以惊东谈主的速率膨大大型言语模子,试验上每六个月就能翻一番。而为了检察这些越来越大的模子,咱们也需要更强的算力。

image

  “非常庞杂”的Blackwell架构GPU登场。

image

  老黄现场对比Blackwell架构和Grace Hopper架构的GPU。

imageimageimage

  老黄现场展示Grace-Blackwell系统(两个Blackwell GPU、四个die与一个Grace Cpu纠合在一谈)。GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。

image

  为了措置大领域数据中心的GPU交互问题,也需要更强的纠合(NVlink)智商。

imageimage

  这个GB200新系统晋升在那处呢?老黄例如称,若是要检察一个1.8万亿参数目的GPT模子,需要8000张Hopper GPU,消费15兆瓦的电力,连气儿跑上90天。但若是使用Blackwell GPU,只需要2000张,相似跑90天唯一消费四分之一的电力。虽然不仅仅检察,生成Token的成本也会随之镌汰。

ai换脸 视频image

  把芯片作念大的平正:单GPU每秒Token隐约量翻了30倍。

image

  毫无疑问,微软Azure、AWS、谷歌云等一众科技巨头齐是Blackwell架构的首批用户。

image

  接下来应该是运用侧的部分,先讲的是生物医药的部分。

imageimage

  黄仁勋晓喻新的AI微办事,用于征战和部署企业级生成式AI运用。老黄示意,改日奈何征战软件?与当今一溜行代码不同,改日可能就要靠一堆NIMs(Nvidia inference micro service),用与AI聊天的神色相通一堆NIMS来完成检察、运用的部署。英伟达的愿景是成为AI软件的“晶圆厂”。

image

  英伟达的AI微办事NIM网站一经上线。

  NIM微办事提供了最快、性能最高的AI坐褥容器,用于部署来自NVIDIA、A121、Adept、Cohere、Getty Images和Shutterstock的模子,以及来自Google、Hugging Face、Meta、Microsoft、Mistral AI和Stability AI的通达模子。

imageimage

  NVIDIA AI Enterprise软件平台更新,包括NIM、构建RAG运用设施的器用等。随后老黄又共享了西门子科技、日产汽车等用如安在责任流中将Omiverse Cloud运用在责任流中。

image

  黄仁勋晓喻,当今相沿将 Omniverse 云推送至Vision Pro。

image

  可能是期间不太够了,老黄开动加快官宣一系列合营。其中提到专家最大电动车公司比亚迪将给与英伟达下一代智能汽车芯片Thor。

imageimageimage

  开动提机器东谈主了。黄仁勋示意,在咱们的全国里,类东谈主机器东谈主很有可能会阐扬更大的作用,咱们建筑责任站、制造和物流的样式,并不是为东谈主类策画的,而是为东谈主类策画的。因此,这些东谈主类或机器东谈主的部署可能会更有生效。黄仁勋同期晓喻一项名为GR00T的技俩,旨在进一步鼓吹英伟达在机器东谈主和具身智能的打破性责任。由GR00T驱动的机器东谈主不错领路当然言语,并通过不雅察东谈主类手脚来模拟通晓。

image

  除了机器东谈主影像外,迪士尼的orange和green机器东谈主也来到现场,这款机器东谈主用的是英伟达为机器东谈主策画的首款AI芯片Jetson。

image

  黄仁勋带着机器东谈主下场,现场播放ending影片。

image

  黄仁勋返场告别ccc515.com,全场发布会功令。