00:00/00:00
外链地址
http://www.eemp3.com/audiofile/bfa21459b47e59fa5d00234fa2dccc89.mp3
点击复制
本字幕由TME AI技术生成
用声音碰撞世界
生动活泼
hello
大家好
我是丁酱
欢迎大家来到第九季的watch科技早知道和全球创新第一时间同步
welcometothestageinvideofounderandceojenzenwongforgtceventamostrecentlyshownoffrobobygtcconferencecompletewithanentire
welcometogtc
hello
大家好
欢迎来到我们今天的科技早知道
我是丁教
大燕
那这期节目
我和雅贤
我们要聊一聊刚刚结束的二零二五年NVDRGTC大会
那这一次
我们还是想聊一点不太一样的一些观察啊
我们不太想重复的再去聊这个
各大科技媒体已经报道过的新的blackground的一些什么参数啊
然后性能提升啊
括括光光络络换机
它的能耗啊
成本降低
这些我们今天都不聊了
我们想聊一聊背后的一些观察
嗯 对 导演
其实我还还对这些节目还蛮期待的
在上期节目结尾的时候
我们其实跟艾on聊的特别热闹啊
我因为他说
现在资本市场都在等老黄抛出一个新的故事
一个完全不一样的故事
那老黄呢
现在也确实需要一个不同寻常的叙事来支撑英伟达的股价了
那你这次GTC参加下来
好像这个新故事也不是那么回事儿
我觉得应该是有蛮多人是带着有新故事的预期来参加GTC的
结果发现老黄讲的不是新故事
整体的二级市场
它的股价是下降了百分之三点四
那有意思的是
第二天基本上就反弹回来了
那我觉得这个其实也是说明了一个现象
大家一开始觉得是没有新故事
但是第二天好像又意识到了
可能这个才是真正的现实
英伟达还是未来的一个底座的一个基层的infrastructure
所以你说
其实他们不是讲了一个新故事
而是讲了一个新的现实
我觉得它这个新的现实是这个所有的行业都在以AI的方式重新再被做了一遍啊
其实这一次GTC它是一个横跨的芯片
云计算 软件
电 机器人
然后包括可能医疗啊
自动驾驶啊
甚至是可能还会触及到了什么能源啊
电网
量子计算
英伟达已经成了这些的超级基础设施的提供者
所以它没有在换故事线啊
它只是在拉长了整个这个产业带的这个叙事
英伟达这次其实并没有被deepsick这样的开源模型所动摇
我至少是我自己的感受
哈
这次GTC释放出来的信号其实是比较清晰的
未来是以推理为主
那这个推理其实就意味着并不是减少算力
而是它代表了更大规模
更高频次的这种算力的计算的需求
更持续的基础设施的这样子的一个投资
而且我觉得他用了一整套的这个策略来回应
所以你可以说
他的未来的统治力
或者他的未来这个发展方向
并不是原来的GPU
而是他在建构技术飞轮和基础设施的平台
好的 好的 对
其实我也看了老黄的这个keynotes演讲
哈
我发现他在演讲中就不断的强调说他们要建造一个叫所谓的AI的超级工厂
factorythatmanufacturerswawaverers
andthentheresthefactorythatmanufacturestheinformationtomanufacturethewaverers
everyindustry
everycompanythathasfactorieswillhavetwofactoriesinthefuture
thefactoryforwhattheybuildandthe
那其实就是指英伟达正在打造这些基础设施平台吧
所以你觉得英伟达的股价下跌百分之三点四
其实也不是一个拐点信号
反而是一种跟资本方一个情绪的错配
我个人的感受是
这一次GTC反而是强化了我们对AI行业接下来的发展的一些信心
比如说这次GTC一个信号是非常明确的
推理肯定是下一个主战场
我另外还发现
GPUcloud肯定是新的基础设施了
物理世界的AI然后刚刚开始启动
然后老黄一再反复的强调
数据才是新的货币
这是英伟达的布局已经到了每一个环节吧
嗯 哎 戴安
你说的特别对啊
推理
其实它现在已经不再是这个模型训练之后的一个附属品了
它呢
将会成为这个AI产品体验的核心组成
那我们看到vidia在GTC上花了很大的篇幅去谈他们拉马nemtral的推理模型
包括dynamo的推理系统
还有AI的数据模型
而且这次英伟达他们是把开源这个主题提的非常的高啊
那戴安
你觉得你是怎么理解他们这一次的这三大开源项目的呢
当时其实看到哦妮莫创的这个新的模型的时候
应该很多技术上的朋友第一时间会想说
哎
这个模型其实并不是很强啊
这个推理能力也比deepsigRE差
然后模型参数也更小
那它的意义到底是什么
英伟达为什么发布这样的一个大模型
如果我们在往戏里面看的话
其实尼莫创完全不是为了这个打榜而来的
这样子一个模型
它的核心意义
我觉得它是一个服务于推理
服务于企业级部署的这样子一个开源模型的这个系列吧
它不是为了做最强大的模型
而是为了让英伟达慢慢的能够把它自己的这个推理的基础生态构建起来
嗯
所以我们不断强调这个AI基础设施啊
它这个拉曼nemmoal开源大模型
其实就是基础设施的一环
如果打个比喻的话
更加主打是推理友好
然后以及与它自己的微服务
就是name
它的这个兼容
我们知道去年GTC英伟达推出了name
就是nvidiainferencemicroservice
英伟达推理微服务
那今年它已经成为推理平台的这个核心的一个结
它的定位
它不是一个模型
它是一个把模型变成产品化
它是一个产品
如果表述还是特别的抽象的话
我们可以用一个AI餐馆的方式来打个比喻吧
你可以把name理解成为中央厨房加上一个外卖的平台
它的目的就是帮你把任何的一个模型
你想要的打包成一个API
然后自动送达给你
然后快速的部署
门槛也很低
开发者就像点了一个外卖一样
你只要选好一个模型
下了一个单
name就把整个过程全都搞定了
你不用自己再去调代码呀
配资源啊
写调度逻辑
这些都不用了
这个比方实在是太生动了
所以
那像拉玛呀
伽马
还有英伟达自己的nimo厂
其实就是菜单上的菜
对对对 是的
就像是可能菜单上比较标准的像汉堡啊什么的
那英伟达的像是尼莫创的系列模型
它就是自己家的这种招牌菜
你可以选用他们家的
你也可以选用其他的一些开源的
然后们家可以聊一聊dynamo
dynamo的角色就是你要把这个菜做的很快
然后做的稳
做的省
然后就是背后的这个调度的系统
也就是dynamo的角色
你可以把它想象成是这个厨房里的大脑
它负责比如说是分配厨师啊
然后调度哪个炉灶主哪个东西
然后安排菜品的流程
让这个GPU的使用效率更高
然后推的更快
甚至还能按需的这样的来扩展
所以这次在keynote上面他们也说嘛
这个用GB两百集群跑depCR一的时候啊
用了dynamo
吞吐量直接就提升了三十倍
这个不是硬件堆出来的啊
是软件调度的能力
嗯
所以听起来其实就是一个标准的供应链平台的逻辑了
没错 没错
就是我们如果这么看啊
其实就是模型
它就是一个菜单
不管是开源还是自己家的
然后name就是下单配送系统
我让部署自动化
然后dynamo就是厨房的这个总控系统
提升资源的利用率和这个服务的性能
那这样的一个组合
我就觉得让英伟达从一个芯片公司
慢慢的就变成了一个AI推理时代的基础设施提供者
嗯
其实我看到这种说法
就是大家对dynamo这个评价都特别高啊
说是dynamo有可能是另外一个哭打
对
我其实自己也蛮同意的
因为哭打过去是这个训练时代的一个基础的软件嘛
dynamo有可能会成为这个推理时代的核心操作系统
它也是开原呢
大家在kindle上面也听到了
然后它支持这个拍torch啊
tensor二
TLM啊
然后VLM等等等等各种主流的框架
也可以部署在所有主流的GPU的cloud和本地的平台上面
其实对英伟达来说
它并不仅仅想是我绑定更多的开发者来我的平台上
而且是在扩展自己的推理操作系统它的这样的一个飞轮
所以我们总结一下刚才提到这个产品布局啊
英伟达这次的开源逻辑
其实不在于参与大模型争
而是想要有一个更大的战略
是的 是的
大家已经清晰的意识到
它不仅只是靠卖GPU来做增长了
你看它现在的微服务啊
dynamo的推理操作系统啊
还有group可能晚一点再仔细的聊一聊
和这个newton的这些物理的AI模型
甚至还有qup的这种优化的引擎
都开放了
都变成开源的了
这是一整套可以复用的
然后可以拓展的AI操作系统
其实就是sas平台的打法呀
是不是说他们其实现在也在做企业级的软件了啊
对
你说的非常对
其实他们在最新一季的财报数据里面显示啊
他们在软件相关的这个收入
已经超过了二十亿美元啊
这是年化收入啊
然后比再上一个季度的十五亿的美元
其实是有了明显的这个增长
然后用这个name的微服务企业也超过了一千多家
因为这个是去年才推出的嘛
然后这个数字其实还是在快速的增长了啊
那这个已经是一个中型sars企业的体量了
对 没错 没错
其实可能有一些人还没有意识到
因为大家正在悄悄的在从一个完全纯硬件的公司
在转向企业软件服务的这个平台
你看这个逻辑
对于他们自己的发展的路径来说
也是非常的通嘛
那库大最早就是开发者的生态
然后name现在是AI推理的部署平台
再加上一些enterprise的这种版本啊
就是企业版本
就开源生态的这个绑定
其实已经变成了整个这个AI时代的redhat加上VMwhere
然后再加上AWS的综合体了
就它的胃口其实是挺大的
这个战略听起来挺fancy的
哈
那这个英伟达正在从硬件的供应商转为一个全站式的解决方案提供商了
但是在软件领域
是不是他们其实也还存在着一些挑战呀
是的 是的
我其实这周末就刚好跟朋友在聚餐的时候
然后他自己其实是在一作为一个创业公司
然后刚好用了这个英伟达一个叫做deeptraint
他是一个资料库吧
他发现在用这个的过程当中
这个文档啊什么各种知识都不是特别的完善
所以他就告诉我
整个过程来说
这个上手和这个开发过程都还挺困困难的
所以我觉得可能这个也表明了
英伟达在从这个硬件转向软件的过程当中
其实还是有一些细节需要打磨和完善
对 当然了
这次GTC大会上面
如果参加了这个小伙伴们肯定会知道
其实他在整个的一楼
全部都是各种各样的word上
然后教你怎么样用他们的产品
用他们的这个硬件
然后二楼还有一个部分分出来的
就像那个苹果那个维修中心
那个geniusbar一样的这种客户服务
他们叫做问一问专家XOXper可以预约
然后你就可以跟他们服务人员来对接你的问题
然后帮你回答你的问题
对
还是挺好玩的
嗯
大家好呀
这里想要发布两则招聘信息
科技早知道正在招聘内容研究志愿者
如果你是我们的忠实听众
也是半导体
先进制造
人工智能等前沿科技行业的从业者或科研工作者
欢迎与我们联系
你将有机会参与到我们的节目制作当中
贡献你在行业内的观察与见解
报名方式可以在本期节目的shownotes中找到
期待你的参与
另外
我们生动活泼也开始春季招聘了
我们这次有六个全职与实习岗位开放招聘
详情也请在班级简介中查看
哎
那我们刚才是大概聊了一下这个开源的部分啊
我觉得好像今年GTC另外一个特别火的话题是关于GPUcloud的
好像在这方面在行业里也有一个重新的洗牌
然后你要不讲一一讲你是怎么样看这件事呢
对
今年确实GPUcloud是特别值得关注
我在现场也看有好几家GPUcloud的展商
那我们过去一年看到了一个明显的趋势
就是很多的AI企业开始放弃传统的三大云厂商
那就是AWS
googlecloud
asaser那开始转向原生的GPUcloud服务商
比如说是几个很火热的创业公司
叫corewave啊
lambda
laabs
还有lltrondata
还有sentelement这样的新玩家
哎
我这个AWS他们不自己不是也在搞AI
而且他们这个卡也多
钱也多的
为什么还不能满足大家的这个GPU需求呀
是 你
你说的没错
其实AW去年也推出了很多针对AI的服务
包括像是barrock
还有他trainium的这种芯片
但是问题在于
这个传统的云厂商的这个架构设计啊
资源调度系统
它本质上还是为之前的一代的通用计算场景服务的
不是为这种AI现在这种大规模密集实时性比较强的GPU工作负载优化过的
但是比如说是我听到的哈
你在AWS申请一个大规模的a一百的集群
可能需要排队个好几天
甚至有的时候可能就申请不到
哎
那这么一讲的话
你刚才提到的那些GPU的cloud厂商
他是怎么样弥补这个市场缺口的呢
宏宇其实是一个很典型的例子
他一开始有很多的峨伟达的GPU开始是来挖矿的
他是这么起家的
然后后来他们快速就开始转型做了GPU云服务
那他们的这个思路非常明确啊
只为AI工作的负载进行优化
不做杂七杂八的通用的计算
这个就意味着他们的调度系统呀
资源分配的逻辑啊
都是围绕着AI训练和推理的效率设计的
而且他现在已经成为了opena啊
还有inflation这些AI大户背后主要的运营合作伙伴之一
哎 也确实
听说corewave最近这股价涨的是很快
对
他们在二三年的时候还只有二十亿美元的估值
然后现在已经涨到了两百三十亿
就十倍多
去年他们还融了十多亿
准备在美国的中不啊
还有欧洲很多地方继续的建厂
然后他的投资人里面
你猜猜还有有谁
那肯定得有薇利亚呀
对对对
很多人确实是说他是nvia的亲儿子
或者是白手套
对
他本质上其实是帮助这个NVdia把GPU的资源给他云化了
或者是服务化了
所以在很多的情况下面
我听说这个NVdiab是优优先cclda来供芯片的
还提到另外两家
这个lambdalabs
还有这个sentient
这两家他们有什么特点
嗯
lambdalabs应该大家之前其实听过
他其实一个更早期的一个GPU的云服务商
之前有很多的科研机构呀
中型的AI公司都是他们的客户
然后他们最近刚刚也融资了一轮
那sentiineeleman其实是比较新公公司啊
后后的背背是是openi的投资
其实他们也在快速的部署不同的这种基础设施
在建厂什么的
特别是在这个欧洲和亚太的市场啊
那其实从你刚才比较这几家小公司和以前传统的云服务厂商
我感觉现在就是整个云计算的格局
在AI时代其实就是变得特别不一样了
对
其实从家一直在说
AI原生的应用啊
AI原生的各种东西
其实就是AI的cloud的原生化
AI云的原生化的这个过程
那以前的云就是计算啊
存储啊
网络呀
AI工具的这种标准的服务站
那现在的算力变成了第一要素
那谁能够提供最便宜
最高效
最灵活的这种GPU的资源嘛
那谁就能赢响这些AI公司的订单
那就像这个corewave这样只做AI资源高度绑定NV加的公司
肯定是有一定的先发优势的
那AWS
googlecloud虽然也会追赶
但肯定还是会有一些这种大公司难以掉头的这些历史架构的包袱
他们的响应速度肯定还是稍微慢了一些
刚才戴然你讲到GPUcloud正在重塑这个AI基础设施的市场嘛
那你刚才也提到
就是这次GTC上特别强调一点是
推理是未来AI的主战场
你能不能再给我们展开讲一讲
为什么这个主战场不再是训练了
或者说推理这背后的商业逻辑是什么呀
对
其实这个我觉得是老黄这个jennon这次在kinle里面反复强调
但是没有特别明说的一点
因为过去我们其实一直是在讲训练嘛
特别是去年GDC上面
然后这种可能底座大模型
它的scalelaw是什么什么
然后讲这个模型的参数
百亿千亿
比较的都是这些东西
但是呢
现在今年我们感觉大部分的模型已经都能跑起来了
而且能力都差不多
都还是挺易用的
那现在可能真正决定用户的体验啊
决定这个准确率啊
决定这商业化效率的
肯定还是推理这一块
训练当然很重要
那可能之前的训练是一次性的
你花两个月啊
上千个GPU去训练一个模型
但是现在推理是每天每秒都会发生的事情
就每一个用户问一句话
那背后就是一次推理的请求嘛
而且可能会产生几千个token
那老黄其实也在现场做了一个对比嘛
然后就是说
我记得是一个婚礼怎么样排座位的一个问题
大家可以去看
还挺搞笑的
那像是这个openAR
enthropy这些公司
现在他们的核心的商业指标肯定不是训练的时间了
它是吞吐量
就推理的吞吐量throopid和token的利润
这个叫做tokenrevenuemargin
那所以现在大家的关注点肯您从过去的我能不能训练出一个好的模型
转到了我能不能更高效
更低成本
更低延迟的服务这个模型
这个就是我觉得这个推理主战场的这样的一个由来啊
那你觉得老黄准备怎么打推理这场仗呢
对
我们刚刚其实不是讲的那个英伟达今年推出的dynamo嘛
然后我觉得这个其实就是他们的推理主战场的底层的操作系统
让你能在数千张GPU上面同时跑推理啊
又有比较合理的调度啦
然后减少重复的计算啦
特别它是支持agent的分阶段执行的一整套的一个系统
那比如说
那把这个LM的这个推理分成两个阶段
一个是理解问题
另外一个就是生成答案
那这两个阶段的计算的需求和内存的布局肯定是不一样的
那dynm就是能把这两个阶段分别调度在不同的GPU上面
做最优的这种配置
这种叫做这个分离服务separateservice这样的一个架构的思路
那其实现在很多大模型公司内部的这个做法都是差不多的
但是dynamo把它这个产品化了
然后开源了
就变成了一个平台了
所以我们刚刚聊的
其实就是它和name的微服务是相互结合起来的
所以你可以就理解
这个dynamo是这种调度层
然后name其实就是莫星的封装和服务的这个中间件
然后再加上底层的一些tensor
RTALAM
这几层叠加起来
哈
就是现在英伟达在推理战场上提出的完整的一个stack
嗯
其实我有看英伟达的官网
他们就有一张特别酷炫的图
就是把你刚才提到这几几都给大叠加起来
感觉整个推理系统他们已经各个环节已经全覆盖了
都想的很对的
很覆盖了
对对对
其实这背后也意味着一个判断啊
就是那推理呢
不会变得越来越便宜
甚至是会越来越贵
只不过呢
是会贵的更智能
还更值得花钱
我觉得是的
训练可以变得更快
那甚是未来大家会用这个更小的数据或更轻的模型就能训练出来不错的这样的结果
但是推理是刚需
对英伟达来说
是这种复利型的刚需
一旦有了用户
它就会这种重复的发生嘛
所以从商业的角度话来说的话
谁能把推理体验更加优化
谁就有最稳的这种token的收入嘛
那这样的一个收入来源并不是一次性的模型的license
而是持续的这样一个服务费
这就是为什么我们看到很多人都在开始说重新定义AI的基础设施
从专用的这个GPUcloud
到专门为推理优化的这样的一个架构
再到这个namedynamo这样的软件层的这样支持
嗯
所以你刚才说到这个推理作为服务啊
我想到这次GTC上其实有很多的合作伙伴也是往这个方向在走啊
比如说你像这个sap
还有这个servicenow
微软
adlanta这种老牌的软件公司
也都开始通过nime还有lambda
nimtron这套组合来开发自己的agent
也就是智能体了
对吧 没错
你会发现
他们现在都不是自己去训练自己的LM
他们选择路径就是用一个英伟达已经优化过了
然后推理也很快
然后部署也很容易的这样子的一个模型
然后再通过name的微服务部署
再加上AIQ
blueprint来建构自己的知识库和推理逻辑
那这个背后其实是有两个层面的变化
一个就是角色的变化
那过去他们是这个软件公司
那现在要变成一个AI智能体的平台
那这个就需要像英伟达这样公司做底层的支持的系统
那第二个就是推理已经变成了就像数据库查询一样
它是一种这种服务能力
需要持时啊
稳定啊 高效
所以我们就才推理才是现在真正需要运营能力的一个战场
咱们刚才把推理这几个环节都大概cover了一下
那我其实还有最后一个问题啊
那你觉得现在这个趋势会把AI行业带到一个什么样的方向呢
是不是我们很快就看不到一个所谓一家独大的LM的格局
而是一个有很多模型
很多推理场景并存的这么一个新生态呢
我觉得其实已经在发生了
你说像是deepsiick
misermatter的拉玛
甚至中国这边的miniCPM
这些模虽然不一定是最强的
但它只要能够跑得快
推理成本低
体验好
就能够找到自己的细分市场
比如像是医疗啊
法律啊
这些领域
肯定不能是追求万能嘛
然后它反而是追求稳定
可解释
推理链条短
然后作为他们的这样子一个卖点
所以我觉得AI行业正在进入一个推理服务的时代
而英伟达在这个时代扮演的角色
它并不是像买GPU
并不是建模型
而是把整个推理的服务变成了一个平台
然后让让别人在他的平台上面跑
这就是我理解他们想要达到的一个未来的平台的一个统治力吧
对
然后我们刚才其实聊了挺多关于智能体啊
就是这个agenticAI的落地场景
像perplexity啊
sap还有微软这些都已经在平台上部署了智能体了
那接下来是不是要进入我们今天最后一个大趋势了
其实刚刚聊了蛮多的
agenticAI
就是这个智能啊
或者是代理人AI
今年已经全面开始爆发了
从国内前段时间这个minus开始嘛
然后像这次整个在GTC大会上面
他有一个创业公司的一一个展厅厅吧
基本上我感觉jjankAI占了一大半
对
像各种这个写作助手啊
客服机器人啊
然后自动化工作流程啊
就很多这个场景
其实大家都已经看到有一些创业公司的存在
接下来我们要聊的
肯定就是今年的老黄也在他的keynote上面聊的就是让AI怎么样真正的走出屏幕
进入真实化这个现实世界
就是这个physicalAI
就物理AI也是可能我们现在看的这个机器人的AI
当然不仅仅是机器人啊
也包括像自动驾驶这些部分
那虽然说现在这些还比较早期啊
但是也看到越来越多的这个技术的尝试
我不知道大家记不记得jhnson在他的kindle里面那张图
就一开始那张图啊
就从感知AI
perceptionAI
然后到生成式AI
到了今年的agentAI
然后再到后面就是physicalAI
就物理世界的AI了
今年这个发布会的一个亮点
其实就是老黄跟迪士尼的那个小机器人我了在在台上的对话嘛
sasay
那你觉得英伟达的关键词在这个方面是机器人吗
机器人这块
它可以分为几个方面来讲吧
那可能在过去来说
它其实已经有了root这样的一个基础的模型呢
今年把它给开源了
而且它还是可以定制的一个通用的人形机器人的基础模型
然后它其实是模仿了人类的这个双系统
我知道大家可能都看过
思考
快与慢嘛
它就是两个模型
一个system一就是快速反应
就比如说是拿手去接掉下来的这个物体
那systemtwo就是慢思考
是整个任务的一些这个规划呀和路径执行
所以它把整个的这个isaacgroudnone这个模型就完全做成了这样的一个形式
这个none
它不仅是能够实现像这种单手啊
双手的这个抓取啊
搬运啊
手臂交接这样的任务
让它还能够通过这个模型的不断的这个微调呀
后训练适配不同的机器人的这个硬件
这次在GTC上面
我也看到了很多落地的例子
像这个机器人公司ones已经用在了它
他们有伽马的身上
然后实现了室内清洁作业的这个全流程
然后包括像是波士顿东力啊
nemantyrobotics
agagilityroboty也都开始用group进行这个部署了
另外的一个GTC很大的一个发布就是它的数据合成平台
就是cosmol
然后还有这个埃塞group
这个blueprint
在GTC上
其实你还采访了语数科技的负责人是吧
他们好像也对这块有一些应用
他们是怎么看的
嗯 对
我在GT上跟那个榆树的一个销售总监大概随便聊了两句
那强化学习迭代速度相比于以前会越来越快
那我们发现就是在做强化学习
然后以前开发的周期比以前缩短了很多
因为一方面是他的算力
呃 更快了
另外一方面就是整个AI的技术发展也也
也越来越
然后他们今年明显感觉到了一个变化
他说的这个localmotion
就是这个机器人身体运动的这个灵活性有非常大的进步
也就是过去的这一年哈
就是以前可能机器人的站立啊
行走
它可以站立行走
但是迈不开特别大的步子
然后变换姿态
可能会稍微缓慢一点
但是现在呢
因为强化学习的速度非常快了
然后算力也提升了
还有更精准的这些动作的摸型
所以啊
整个机器人它的动作的平滑度啊
稳定性啊
都有所提升
他们说的挺有意思啊
今年最大的不同就不是很多的是炫技啊
它就是带来的是可部署性
就是说机器人不仅仅是能够可能走起来
这还真正的能够帮人类做一点事儿
就是不是在春晚的舞台上搁那扭秧歌歌
那这个合成数据啊
也就是你说这个cosmoss跟sacgroupblueprint它们的作用是什么呀
它解决的就是数据匮乏的这个根本问题
这个在机器人的行业其实一直是一个很大的问题
你想训练一个机器人的模型
过去得靠真人一天一天的演示
或者让这个机器人他要看这个不同的在试验嘛
看试录像啊什么的
就非常的慢
然后采集这个一些运动的数据
这些东西都非常非常的缓慢
但是这个cosmol啊
blueprint让你可以通过一小段的人工演示
然后它能够帮你生成很多的合成数据来再去训练你的机器人
那这次GTC上公布的数据就是啊
十一个小时就可以生成七十八万条的
这个他们叫做合成轨迹
那这个数据就相当于是六千五百个小时的真人演示
那就是机器人需要训练九个月才能达到的这样子一些数据
那这样听起来
有合成数据的话
机器人领域现在其实也是进入了这个数据飞轮了
嗯
就是未来肯定我们是往这个方向在走的
那我们可以再说一下这个physical
就是物理AI的另外一个面
就是大家现在讨论的另外一个很大的话题
就是自动驾驶了
然后这次我也碰到了圆融起行的debrai
然后他们今年其实也是这个被邀请了
然后他们的创始人有一个panel做了一个演讲啊
他们自己今年的一个战略方向就是从这个l四的自动驾驶
转向一个叫做road的AGI道路上的通用人工智能
今年的话
其实主要就是讲新一代的这个VLA技术
我们叫肉的HI
这些移动物体都可以
比如说一些这种像
呃
一个小的类似于像一个scooter
它又能做一些delivery啊
所以就是送货
然后
而且它跟普通的那些又不一样
不仅仅未来的车是光会自己开啊
然后还得运用到各种路况呀
还可以迁移到其他的平台上面
就比如说是机器人啊
机器狗呀
然后配送机器人啊
然后电动滑板车呀
等等这种
所以他们的一个核心的技术路线就是一个端到端的这样个算法
就不太需要依赖高清地图
你知道原来的所有都是依赖高清地图的嘛
他们准备把这个部署在多种的平台上面
他们跟我讲
预计今年会部署在二十万台车上面
可能在明年会达到五十万台
就是圆融体形
他们用的也是nvidia的硬件平台嘛
他们是在用的nvidia的这个orange平台
同时也在开发自己的VLA模型
这个模型
这个我也看了一下他们给我的一些资料
也挺有意思的
他们就是把视觉呀
语言和动作这些结合在了一起
让自动驾驶能够更好的理解和应对不同的一些道路和交通状况
因为中国的角路状况跟美国的肯定是完全不一样
而且复杂的多
那所以呢
随着可能他们使用的英伟达的一些芯片的一些提升啊
或者他们的这个英伟达服务的一些提升
他们也希望能够跑更复杂的一些模型
最终走到通用道路的职能
嗯 所以
其实总结一下
从II
groute
newton还有原融起行
这一波呢
是真正把AI从云端大脑要变成一个物理身体
让他长出手脚了
对
我觉得其实也仅仅是一个开始吧
你说现在不管是在哪个国家
自动驾驶其实都还是没有办法完全的实现吧
肯定还是因为他这个训练的不够
然后还不够智能
那我觉得我们其实正在迈进physicalAI的时代
当然了
我觉得其实今年的更主要的更大的话题还是这个agent
哎
我觉得老黄画这个饼真的有点太大了
有点吃不下去
我觉得他其实把路径给我们描绘的非常的清楚
我觉得这个是对的
呃 确实是
上次aron不是说嘛
说马斯克是一个喜欢给你画大饼真大饼的人
但是老黄说的事情
他还真是一步步都能实现
这一次
我觉得他更加像是我给你了一套特别完整的未来的运行系统
它在不同的角度
然后不同的节点上面
关键的节点上面
都提前把点先占住了
所以你是说
不管是开源
还有GPU
cld
还有机器人推理平台
这些东西其实都不是孤立的
对
你说它每一个发布
然后每一个它的这个动作的背后
都是为了形成
我觉得它是一个系统性的一个飞轮嘛
然后呢
模型的开源啊
加上这个name的微服务
就是为了把这个部署更加的标准化嘛
这才是产品
然后更多的人才能使用它
dynamo的推理操作系统
其实就是为了提升这个大规模的这AI服务的这个效率和稳定性
那i塞gw啊
newton啊
那就是在重塑这个物理世界的这个感知啊
执行啊
那GPU的这个cloud生态
那就是能够把整个系统跑起来的
可以把它叫做燃料或者是供应链
我们老说护城河啊
英伟达最大的护城河
它可能不是它现在的发布的模型最强
也不是说它的这个芯片最多
而是把整个开发者和行业全部都绑定到它这张网里
那这张网呢
其实就是用它这个AI飞轮来编织的
嗯
节目的中间
想跟大家同步一个消息
我们生动活泼为AI时代的青少年打造了一档全新的晨间播客knockknock世界
这档节目每期十分钟
从青少年感兴趣的现象出发
欢读背后的深层逻辑启发
提出自己的好奇
欢迎九岁以上的青少年和家长们免费试听
可以在本期节目的单集简介中查看详情
那我们这期时间也差不多到尾声了
要不要给大家预告一下
我们接下来再会聊点什么
对
我不知道大家有没有发现
我们其实完全没聊今年特别重磅的一个东西
也是我们科早其实关注的就是量子计算
今年老黄他亲自牵头组织了一个quantumday
来了非常多的整个行业里的人吧
我们也就不做更多的剧透了
我觉得唯一能说的就是
英伟达其实在请所有的这些量子计算行业领域里面的头部玩家
CEO科学家上台之前
他自己宣布了在波士顿设立了加速量量子研究中心
所以我们也会在接下来的节目里面
和大家分析一下现在量子计算发展到了什么样的一个阶段
包括老黄跟所有的量子计算领域的头部玩家他们的对话
然后我们从这个对话当中发现了一些什么样的
呃
信息点和趋势吧
嗯 好的
那我期待接下来的节目吧
嗯 好的
那我们今天节目就到这儿喽
嗯 好的 就这样
拜拜 拜拜
嗯
这就是我们今天的wortsnext科技早知道
欢迎大家在评论区和我们留言互动
加入到科技和创新的下一步讨论中来
另外
如果你想支持我们在播客内容上的探索和创新
欢迎大家加入我们的生动胡同会员计划
详细的加入方式和信息请查看本期节目的生no
那我们下期再见哦