用声音碰撞世界,
生动活泼hello,
大家好,
我是丁,
欢迎收听全新一季技大家好,
我是刘灿,
那就在今天我跟另外一位小伙伴信宇在阿里云的峰会现场,
是见证了阿里官宣旗下所有产品未来都将接入通1000文大模型的时刻。
在这个官宣发生之前,
阿里的CEO张勇有好长一段是关于阿里云如何为这个智能化的时代做好准备的,
那那部分演讲里呢,
有一PPT刚好展示的就是本期节目嘉宾也是刚刚从阿里毕业的AI大神贾杨青,
他的团队在阿里巴巴所做的platformasservice平台及服务所有的产品。
作为曾经深度参与过cafe牌、
tenflow等产品开发的杨青,
那他在AI领域的影响力应该是无需我多言,
而很多人也好奇,
他这个时候离开阿里的原因是什么。
那硅谷徐老师也是北。
时间的昨天与杨青交流了大模型热潮下的一些创业思考,
就包括为什么他是没有选择大模型这个赛道去做创业,
那这也是杨青离开阿里之后第一次接受采访,
所以我们第一时间分享给大家,
欢迎收听。
非常欢迎贾阳青到我的科技,
早知道硅谷徐老师这个栏目来做客,
今年我做的硅谷徐老师的节目有几个了,
但是一对一的访谈这是第一个,
而且我也刚刚从欧洲回来几个小时啊,
马上就录这一个节目,
可见我是对你的这个访谈的重视性。
两三个礼拜前吧,
网上面有好几篇文章是说你从阿里出来创业了,
那我想这其实是一个很好的机会,
星期五是你的最后一天,
所以说理论上来讲啊,
是刚刚出来的,
不管是阿里还是之前的职业选择也好,
或者说是我们今天大家都很关心的大模型,
包括一些技术,
包括一些科技方面的话题,
像今天跟你好好聊一聊好呀,
那个谢谢徐老师,
之前的时候呢,
也经常听,
嗯,
徐老师的podcast,
如果我理解对的话呢,
声东活泼和声东击西等等,
大家也是和党联合起来,
一起做的非常优秀的节目。
所以也是深交已久,
这个感谢这次邀请,
能够有机会来,
就大家随便白活白活啊,
闲聊一下之前关于职业啊,
关于技术啊,
关于商业啊等等这一块的一些想法吧。
最近几年你啊,
先是从Facebook,
也就现在的madeda离开进入阿里,
然后在阿里工作了将近四年又离开,
能不能跟我们分享一下为什么会离开Facebook加入阿里,
然后为什么会现在这个时期离开阿里自己创业,
这个我觉得讲起来还是一段就是非常感到非常荣幸的一段经历吧。
最开始在Facebook的时候呢,
大家可能还能够记得,
就是之前的时候,
我们在Facebook做开源的AIinfrastructure,
当然也支撑Facebook内部的大量的AI应用啊等等。
那么我们呢,
在Facebook几年当中,
和团队一块我们做了呃,
在手机上的CAGO啊,
一个开源的神经网络的标准叫做unx,
以及后面现在大家都比较熟悉的拍orch,
以及进一步的一系列的上层的一些工作。
那么从Facebook出来呢,
对我来说,
最大的一个机会点其实是在于说Facebook是一个对内支撑做的比较好的一个。
公司,
但是因为他本身自己业务的缘故,
所以他并没有在提供云服务等等这一系列的对外和tob的服务,
对我来说呢,
其实当时的时候在18年的时候就跟阿里一块聊,
更早的时候其实跟阿里的非常多的技术leader也有也有接触,
那么对我来说最吸引我的一点是说在云的那么一个平台上面,
其实今天我们看见AI用的越来越多,
也会有越来越多的tob的客户需要来用到更加scaleble的啊,
更加可扩展的,
更加高效的AI的平台。
那因此的话呢,
从Facebook跳到阿里,
是也相当于是给我自己的一个挑战吧,
就是从纯技术跳到一个作为技术商业都要管的,
产品都要管的,
那么一个leader能够啊有更大的挑战,
也能够给整个社会做出更大的贡献,
这是当年的时候从Facebook跳到阿里的一个想法。
对,
所以说从这个角度上来讲,
在之前你在包括谷歌,
在Facebook之前在学校做的工作,
主要还是纯技术的啊,
虽然说技术上面,
你其实基本上那些包括cafetenflow,
拍O你啊,
要么是单独的呃来领导,
或者说是共同领导的这几个项目,
其实都是在,
呃,
我们人工智能界是非常有影响力的一些框架,
但是主要还是做技术,
加入阿里是给了你一个机会,
正式的领导一个部门,
这领导一个商业,
这是你的一个呃主要的出发点。
对,
我呢就把它总结成为四个词语,
就是从最开始在学校和在研究院做的研究,
到后来在谷歌大脑,
在Facebook所做的工程,
到后面在阿里所做的产品和更加进一步的接触到商业,
我觉得这个是一个不断扩展的一个过程,
也是一个新的技术从最开始实验室孵化出来到最后落地的那么一个过程嘛,
所以我也很开心能够前面几年一直走了那么一条。
这里面我稍微再再多问一个问题啊,
因为其实很多包括很优秀的华人工程师也好,
或者博士,
或者说做技术的人也好,
其实都是这样,
对吧?
就是从一个做技术,
然后领导一个团队,
或者说是怎么样,
但是你去阿里其实是不只是一个领导一个团队而已,
是商业的项目,
那你觉得这么一个转折点,
你是怎么去适应的,
不管是困难也好,
或者说自己跌过的坑也好,
呃,
能不能跟大家分享一下,
我觉得可能有两点是最有意思值得讲的吧,
第一点呢,
就是说是说怎么样从一个做研究的时候,
一人吃饱,
全家不饿这种状态,
到后面就说是怎么样跟团队,
尤其是有非常多聪明人的团队一块合作,
这是第一点。
第二点呢,
就说是怎么样来解决技术跟商业之间的一些很自然的挑战,
或者说冲突的一个问题,
第一点呢,
我觉得咱们其实这个非常多的,
尤其是在硅谷非常优秀的华人工程师。
我们都对于自己的技。
助能力,
有非常强的把握,
所以呢,
很多时候在工作的时候吧,
我们处于一个就是说我们自己写代码,
我们自己是上帝这样一种感觉,
经常会觉得说呢,
你看很多时候我最熟的领域,
我自己写代码比谁都快啊,
因此的话呢,
后面就说是说我觉得从这样的一个心态到一个就是说和一个团队,
尤其是相对比较大,
而且又涉及到很多的不同的专业方向,
比如像大数据啊,
像这个运维sre啊,
像AI计算啊,
像硬件啊等等,
不同团队合作的时候呢,
就会有一个就是要来识别自己的边界,
以及来和其他的人更好的定义合作的一种交互的模式,
那么一个坎儿吧,
我觉得嗯,
举一个例子吧,
就是我自己在带团队的时候,
因为大家也知道我更多的是在AI的这个领域,
那么这用大数据的话呢,
就虽然我带领大数据团队,
但是呢,
我显然不如我在团队里面对吧,
我们团队的这个大数据的专家来的那么的专业,
那这时候就会有一个问题说那我。
是去学大数据,
然后我比他们更牛,
干掉他们,
还是说是呃,
我和他们来找到一个能够相互互补的方式来做,
呃,
更加紧密的一个协同,
那前面几年的话呢,
我们发现非常有意思的一个方式是说我的团队吧,
我们的团队有非常强的系统的工程师跟系统的架构师,
他们对于大数据系统的理解是非常深刻的,
然后呢,
他们其实所需要的一个从我这边的一个互补和帮助呢,
是说从用户的视角更好的来看,
说今天我们说大数据结合了,
那么用户对于用户体验,
对于这个产品的成熟度,
对于这种新的一些以传统的BI和AI的结合这块有怎么样的一些新的变化跟需求,
因此我可以站在一个用户的角度和他们的专业性形成互补,
嗯,
这个时候就会需要有一点,
就说是说作为一个基础力的往后站一站,
然后完了之后让团队来做更多的决策,
那么一个模式。
我觉得你的你的一个词用的很好,
就是一个找到一个很好的边界,
这个边界不一定是你很自然的,
也或者说你是愿意的,
但有的时候你就要找到这么一个边界,
去尊重这么一个边界,
然后能够得到更好的共赢,
这一段我是蛮有共鸣的,
因为我其实也是跟一些呃,
其他的朋友啊,
同学啊,
也会经常交流到这个一个边界的这么一个问题,
因为自然而然的,
我们做技术的人都会觉得,
哎呀,
我好像这方面可能懂得不少,
然后或者说有些地方可以做得更多,
但如果说你是尊重一个边界的话,
你就会,
呃,
很多时候把这件事情就能够处理的更好,
对,
是的,
我觉得呢,
就是我们做技术的有的时候会陷入到一个白坡的,
就是两极分化的一个状态,
有些时候在自己熟悉的领域,
我们会几种自信,
说我是这个领域的专家,
在自己不熟悉的领域呢,
又会陷入一定的自卑,
说哎呀,
我不懂,
好像也没法贡献什么东西。
但是最后。
我发现其实很有意思的一点是,
在自己熟悉的领域呢,
呃,
反而更加需要来听一听,
说外行,
尤其是用户需要什么,
这个对我们来啊,
怎么样来调整自己的一些已经固化的观点是挺有帮助的,
在自己不熟悉的领域呢,
因为早晚还是需要有这个这种各种各样的技术的融合跟技术的协同呢,
所以呢,
反而应该相对比较自信一点的去想说,
诶,
那从我的角度,
有没有什么可以帮助那些领域的专家来相互印证,
来相互迭代的一些想法,
所以这个地方还是对自己的心态是一个挺好的锻炼,
千万今年嗯嗯嗯,
这个说的很好,
而且在这那些领域当中啊,
即使你不一定很熟悉,
但有可能你还是能问出很好的问题,
然后那个你在阿里具体的负责的商业方面的一个挑战,
讲这之前能不能讲一讲你在阿里啊,
具体负责的商业项目是什么。
好呀,
嗯,
这个我就讲一些公开的可以讲的信息吧,
那么嗯,
我在19年到阿里的时候,
其实我记得当时的时候也有一些报道,
然后讲讲的是说我在阿里的硅谷研究院来负责研究这一块的东西,
那其实不是这样,
就是其实的话呢,
我是有很长的时间在国内,
然后在杭州,
然后我们是带阿里云当中的,
我们叫计算平台事业部,
那么一个部门,
这个部门在做什么事情呢?
他负责了阿里几乎90%以上的数据的平台,
就是数据上面的各种数据的分析、
聚合、
开发等等都是在它上面的。
那么从数据开始呢,
我们又建设起来的叫PAplatformAI,
那么一个AI计算的一个平台,
嗯,
它基本上和国际的大厂相对对标的话呢,
就有点类似于像谷歌的bigqueryverexAI啊,
像亚马逊的redshift和亚马逊的这个cmaker等等这一系列的平台,
然后呢,
我们负责的业务的话呢。
第一个是支撑阿里集团内部,
比如说像淘宝天猫,
比如说像这个菜鸟等等的大数据计算跟AI计算的需求,
以及打磨院这边的AI的科研的需求,
那么另外的话呢,
我们从云也在服务,
就是云上的各种客户啊,
大家可能听说过的,
比如说像我们和小鹏汽车一起构建的他们非常大的那个一万张卡以上的那么一个叫做扶摇的超赞集群,
那么我们会和像小鹏这样的一些非常聪明的客户,
大家一块儿来,
就是共同建设云上的这种AI的和大数据的方案,
这是我在阿里就是做的这一块的事情。
那有了这个背景一下,
能不能回到刚才啊,
我们聊到的,
从一个职业转型或者说职业成长的角度上来讲,
走过的坑,
从一个主要是做技术的,
现在是一个,
或者说过去四年是一个带商业这一块的一些坑,
或者一些学习吧,
我觉得这个地方啊,
有两个可以挺值得讲的一个故事的,
我自己也是非常有深刻的感受,
第一个呢,
是我们在做技术的时候,
其实都有这样的一个追求技术先进性的那么一个新,
但是有的时候呢,
技术先进性会带带来一个缺点,
就是它的普适性一定程度上会降低,
于是呢,
会出现说我们搞了一个非常牛的东西,
但是用户用不起来那么一个状态,
我举个很典型的例子啊,
前面几年的时候,
AI编译器这个领域非常的热,
那么我们团队自己内部呢,
也有一个AI编译期的一个团队,
之前的时候我们也经历了一个相对比较痛苦的一个转型期,
这个转型期是怎么样的呢?
我们自己内部,
比如说实现了一系列的编译的算法呀。
这个优。
发的一些软件库啊等等,
然后呢,
我会发现说用户很难和他现有的比如说像tenflow派O等等这样的已经熟悉的软件站给很好的连接起来,
他需要用我们定义的SDKDK学习很多的这个我们自己这边的语法开发习惯的等等的,
他的模型转变成为我们要求的格式才能用得起来,
用户一看说哎呀,
太麻烦了,
这个懒得搞。
嗯,
在前面几年当中吧,
我们就逐渐的开始就说是把我们的整个的priority,
从说我们要搞到这个设计最精巧,
性能最好的那么一个AI的编译器,
从这样的一个目标变成一个说我们要让用户能够无感的用起来,
即使他在这个用起来当中和我们能够达到的最高的水平差了,
譬如10%,
20%。
那还是OK的,
就是我们首先让用户能够用起来比较顺畅的,
在他的习惯的环境里头,
我们能够增量的哪怕是5%,
10%的给他来,
呃,
提供价值,
然后再逐渐的把我们的一些就是更牛的技术,
一步一步一步的交给用户去用,
这个是更加有意思的一个,
或者说更加有价值的一个事情,
简单的讲的话呢,
就是技术不需要最牛,
但是要让用户用得起来的才是最牛的技术。
第二个呢,
我觉得是我们自己感到有很强的这个对于商业需求和对于用户需求的敬畏心,
举个例子吧,
呃,
我们团队有一位非常牛的一位全站的一位leader的非常年轻的90后的一位工程师啊,
男性工程师,
他有一天给我发了一张照片儿啊,
一个烈焰红唇的照片,
左边是一个红嘴唇,
右边是一个紫色的嘴唇,
我说啊,
怎么了,
你今天要开始这个这个对吧,
这个你家夫人这个过生日,
要要要要要买礼物了,
他说不不不不,
他说我在做超分辨率super。
Resolution超分辨率是做一个什么样的一个东西呢?
比如说我有一个呃,
540P的地清的图片进来,
那完了视频进来,
那我要比如说在手机上面实时的给他做到1080P或者4K,
对吧?
我们现在用深度学习等等这样一些方式去做,
大家可能很多时候在呃很多的DEMO里面也见到过,
然后他说我发现啊,
这个深度学习的算法分辨率做的是挺好,
但是他会把这个口红的色号给改了,
他说我去跟客户一聊,
客户觉得说啊这不行,
这个我本来就是卖口红,
我是色号一定要准对吧?
分辨率好不好不重要,
色号一定要准,
所以呢,
我们会发现说我们以前这个很多时候在做科研啊等等的时候,
超辨率我们也会有各种各样的,
比如说像叫做SSNR啊等等这样的一些标准的一些这个指标去测试他们,
但是实际到了真正应用的时候,
其实用户的真正的需求和我们定义的那个指标也许有偏差,
但是最终的话其实是用户的这个指标。
哦,
是最重要的一个指标,
所以这块呢,
就是在自己家里面做产品啊,
做技术啊等等啊,
是一方面挺重要的一方面,
然后另外呢,
Equally重要啊,
一样的重要,
甚至有可能更加重要一点的是说得去跟用户聊,
说诶现在最困扰你的是什么样的一个东西,
什么能够让你变得更加的高效啊,
我觉得这个口红的这个例子,
我们开玩笑说说,
两位大男生到了深夜的时候在讨论说哎呀,
这个口红的色号对不对,
是我自己在了解用户需求里面。
想起前面几年的经历来,
最逗的一个经历,
从那个呃,
分辨率和那个色彩这一个角度,
从某种角度上来讲,
这都是照片的好跟坏,
对吧,
但是客户说的好跟你你心中想的好不一定是一样的,
或者说很多时候就是不一样,
这个我也是非常有共鸣的,
因为我们不管是做初创公司还是做大公司,
跑出去说,
诶这个是不是?
呃客户的需求跑回来都说,
诶这个是客户需求的,
但其实不一定他的指标,
它的指标的细节跟你说的不一定一样啊,
像你刚才举的这个例子就是其实在这之前大家也是在为客户着想,
只是具体的细节就会很不一样一点,
那所以说你从这个角度上来讲,
你觉得如果说有什么,
就是回过头去看啊,
你觉得如果是从头开始做,
你会把这件事情做的更好或者更加完美一点的。
如果说觉得什么地方可以做的更。
更加好一点呢,
我可能会就是说从第一天开始就更加强调产品经理和解决方案的团队的重要性,
就因为我们本身自己都是技术出身嘛,
我们天生的一个就是自己脑子里面已经形成了一个固定的一个思维,
说首先我们会非常重视说诶我们要把这个事情研发开发出来,
然后呢,
对于产品啊,
解决方案,
我们潜意识里面会觉得说这个是我们研发,
我们把代码啊等等这些东西写完之后的下一步的事儿,
那么几年跑下来呢,
我觉得其实真的是一个有一点反向的来做开发的那么一种状态,
就是用户到底需要一个什么样的一个应用,
或者怎么样的一个场景,
然后我们再反过头来再来想说,
诶,
我们这个产品应该怎么样的一个设计解决方案,
应该怎么样的一个设计,
我们再和研发一块儿来想出来,
应该以什么样的一种系统的架构也好,
产品的架构也好,
把这些东西实现了,
所以很多时候我们会发现说在大厂吧,
也有这样的。
一个情况就是研发永远会天生的会有一定的优势,
因为他们的专业性更强,
对吧?
啊,
因此呢,
在组织结构上面,
有的时候往往会忽略了产品啊解决方案这个团队的重要性,
可能如果是重新再来一遍的话,
我会把这个产品解决方案的这个团队重要性拉得更高,
这样的话就使得我们在gotomarket的我们在就是产品跟市场的适配的时候会做得更加有效一些。
对,
你说的这个例子,
其实我觉得几乎所有的大厂多多少少都嗯,
很难避免在这方面可以做的好不少,
就比如说我就马上就想到为什么PT是从openAI这么一个初创公式出来,
而不是从Google出来啊,
其实没有道理,
对吧?
从某种角度上来讲,
Google是呃,
发明了transformer这个技术的呃公司,
然后有这么多优秀的工程师也好,
或者说数据科学家也好,
最终没有去发明那个其GPT很多时候就是工程师就在那边非常用功的做某一件事情,
但这件事情并不一定啊,
是客户最最需要的一件事情,
对,
好的,
那我们已经讲了很多那个关于你啊加入阿里,
然后在阿里学到的啊,
能不能讲一讲为什么现在呃,
四年以后又出来创业,
我觉得对我来说呢,
我自己最感觉到兴奋的一点还。
还是处于就像是当年的时候,
在研究生的年代,
包括后来在Facebook从零开到一开始来,
嗯,
做AI的infrastructure的那个年代的时候,
那种创造的热情,
嗯,
倒也不是说说大厂的坏话,
但是啊,
我们知道小厂跟大厂有自己的不同的风格吧,
小厂的话呢,
我们开玩笑说死的快,
但是决策和各种各样的迭代也快一些,
大厂呢,
因为他本身自己的业务的复杂性,
客户的复杂性,
因此呢,
很多时候的动作也会稍微慢一些,
然后同时的话,
内部的各种组织关系啊什么的,
也会需要花比较多的精力来协调,
因此的话呢,
我自己感觉到就说是说想来想去,
我还是更加怀念当年的时候能够半开玩笑的说熬夜写代码的那个年代啊,
在AI这个领域呢,
今天我们也会发现说新的东西变得越来越,
就出现的越来越快,
新的东西越来越多,
然后我们也会发现说其实从用户的。
角度来讲吧,
我们自己科技公司尚且如此,
那么我们会想见说非科技公司,
非互联网公司的这些企业,
他们会更加强烈的需要AI的技术,
同时他们和这些新的AI技术之间的这个鸿沟也会变得越来越大,
这个中间是需要人去填的,
呃,
我自己呢,
一直以来对吧,
在哎呀这个领域从研究开始往回走,
走到技术,
走到产品,
走到商业啊,
对这块也挺感兴趣,
我觉得这是一个比较啊,
说的稍微烂俗一点的话,
这是一个千载难逢的机会啊,
所以也就是出来来做的。
好的,
所以说并不是说PT出来以后觉得,
诶,
我一定要做一件跟PT有关的事情,
更多的是基于对于这么一个大方向的考虑,
就是那个怎么样让这个AI的技术能够在各行各业啊,
能够更好更快的深根落地,
能够被应用到,
能不能这么理解,
对,
是的,
就是创业的这个想法呢,
一五年左右的时候,
当时还在谷歌的时候,
其实也想过啊,
当时的时候我没有出来创业的一个理由,
可能我比较保守啊,
就是当时没有出来创业的一个理由呢,
是因为就是说觉得在谷歌那个年代刚还比较年轻嘛,
也没有带过团队,
也没有带过业务,
因此的话,
采取一个比较稳妥的一个方式,
说在Facebook继续进一步的看更多的业务啊,
包括在阿里云呢等等啊,
所以呢,
今天我觉得说也到了一个水到渠成的时间了吧,
也是当时的时候的,
不管是说是梦想也好,
当时的执念也好,
我觉得是值得做一做的,
所以倒也并不是真的是。
因为GPT所以出来的,
因为最近呢,
大家可能也都更加关注在GPT上面嘛,
不过我觉得创业本身是一个很常见的一个事儿,
就是很难说,
因为啊,
就是突然出现的一个东西,
然后就决定出来创业啊,
认认真真的做的话,
想想也得想好几年啊,
当然这个是我相对比较保守的这样一个观点,
就是想想也得想好几年,
然后呢,
要做的话,
那也是一个五年到10年的那么一个那么一个事业吧,
毕竟自己的时间最宝贵,
所以还是想清楚了,
然后再再出来做。
这里也插播一则消息,
本周五生动活泼旗下的另一档节目生动早咖啡将为大家带来保时捷经典车型911的商业故事,
那在去年,
其实有很多知名的公司是终止了自己的上市计划,
比如在美国,
终止上市企业的数量就达到了2000年互联网泡沫以来的最高水平。
而在这样的背景下,
欧洲却出现了近20年以来最大的一次IPO,
就是去年9月底的保时捷。
那保时捷当时上市的股票交易代码是P911,
而发行的股票数量也是9.111股,
而这些都是为了去制定这家公司历史上最著名的车型保时捷911。
在本周五的早咖啡节目中,
大家可以了解到,
作为一款跨越半个多世纪的车型,
911为什么能够吸引大家,
而这个超级产品又是如何让保时捷成为超级品牌的,
欢迎大家在本周五早上准时收听,
那接下来就让我们回到科技早知道的节目中吧。
对,
那个你的老同学reno的新,
去年一年前在我的节目里面来过,
他是从学校直接就去创业,
我还听了那一期,
对,
然后我个人是觉得,
呃,
因为这么多年自己也好,
自己接触的创业者也好那么多,
我是觉得创业并不在于那个一定找,
一定玩,
尤其是做啊btob,
就是做那些tob的啊,
软件公司不存在那个一定要找,
干个找急,
你如果是做一个下一代的那个交友软件,
说不定刚刚毕业出来是做最好啊,
但是做一些公司服务的软件,
我觉得其实像你这样觉得还能够水到渠成,
我觉得是非常好的一个状态。
那关于就具体啊做什么方面,
我不知道你啊今天那个愿意或者说能够透入多少,
但是我在跟你聊之前也读了一下,
你最近写了一篇啊,
自己写了一篇公众号的文章啊,
也是关于一些在这个大模型下面的几个基础假设,
对我们能不能从这里面开始聊起,
因为我觉得很有可能你创业的一些灵感,
或者说怎么已经在浓缩在这些方面了,
即使没有,
我相信也是相关的,
我觉得咱们可能从就是现在也都比较热的KLM等等这些角度来讲起吧,
就是今天肯定大家会有一个这样的一个疑问,
就是说我们在做创业的时候,
就至少我自己的一个疑问是说创业的时候我是做模型还是做inra啊,
做in法的意思就是说是我们来做平台这块,
我自己的逻辑呢,
是在AI这个领域,
模型基本上它的保鲜期,
我们英文叫shelflife保鲜期基本上。
也就是一年左右的样子,
从2012年Alexnet开始,
基本上就一直是这样的一个过程,
最开始大家可能会觉得说,
诶,
这个模型出来,
横空出世之后,
别人都无人能及,
但是我会发现说六个月到一年之后,
差不多的效果的模型就出来了,
因此呢,
我自己得出来的一个结论是说今天模型。
越来越多的会是一个开源主导的那么一个模式,
而大家所更加需要的是怎么样把这个模型更好的部署起来,
尤其是部署到应用当中去,
有一种弹性的、
稳定的和低成本的这样一种方式,
部署到应用当中去的这样的一个平台,
这是一个更加明确的一个需求。
所以说大家现在都在讲O的啊,
GPTfour啊,
这些模型啊,
你觉得像这些大模型啊,
虽然说非常优秀,
非常的啊令人惊艳,
但是你觉得开源的版本能够达到类似差不多效果的模型啊,
这样的开源模型啊,
也会在6~12个月以后会出现,
我觉得会的,
尤其是在tob的这个领域,
就是因为在企业服务领域的话呢,
我们并不一定需要就是一个通用的最好的模型啊,
其实很多时候的我们说这个就是一定程度上是通才加专才的那么一个那么一个平衡,
就是我们不可能是一个所有的一切把整个维基百科都知道的,
那么一个通才工作当中的话,
我们需要有一定的通用性,
那就是所谓的基础大模型,
再加上专业知识,
所以这个地方的话,
我觉得就是在企业,
尤其是在企业服务这个领域,
会出现非常非常多的垂直领域的。
由这些企业所。
自己拥有的那么一些从基础它模型出来的模型,
所以说你这边说的模型是指那些和openAI最新的模型,
不一定有它效果那么好,
但是呢,
是goodenough,
就是说有足够好,
再加上有一些专材,
呃,
我能不能理解这是你的,
你现在所说的那些啊,
能够对,
是的,
嗯,
对,
那我我写这个公众号大概是在一个月之前呢,
就是我会发现了一点说当时我们的判断是说在六个月到一年当中会出现很多的开源类似的模型,
然后最近这一个月的发展的话,
我觉得发展比我所预测的更快,
比如说大家最近可能在新闻当中所听到的Facebook开源的拉玛伯克利和斯坦福开源的维库A和奥帕卡,
然后以及刚才renold在tsrenoldCo放的嘛,
S所这个开源的大里,
对,
他们都在向我们展示那。
一个可能性就是基于开源的方式以及公开的数据集,
我们就可以训练出来一个非常高质量的模型了,
这个模型没有像GPT3以及现在各家大厂在做的这个通财的能力,
对吧,
但是他们质量上面其实就是说对于文字的这个多模态的信息的理解的程度其实都已经非常不错了,
所以这个我觉得是一个非趁的一个起点,
就是开源这块,
在后面我也相信会会走的越来越快。
对,
这是你的基础假设之一,
对,
这是第一个假设,
对大模型基本上就是啊,
开源的不一定是完全赶上,
但是会基本赶上啊,
大厂也好,
OpenAI所做的模型啊,
然后这一点是你觉得根据过去10年的历史啊,
我们能够看到今后几年也是这么呃发展的,
是的,
然后我觉得我觉第二个假设呢,
是说今天我们大模型上面能够所催生的应用,
或者说对我们现有的应用的提升,
这一块还有非常非常多的可能性去挖掘,
这有点像我们刚我刚才所提到的口红色号的这个例子一样,
对吧,
就一旦到应用当中去的话,
它的形态不会光光只是一个说,
我说一句话,
然后大模型给我回答一句话,
那么一种纯问答的模式,
它有可能是说作为一种啊,
更加智能的个人助理、
会议助理等等这样一种模式,
它有可能是比如说辅助,
无论是作家还是画家来做。
和创作当这种模式,
那么因此这个应用的交互形态其实是很重要的,
今天呢,
在前面的几个月当中吧,
我觉得大家都非常强烈的关注于一种形态,
也就是聊天机器人,
因为GPT出来的,
但是聊天机器人并不是应用的形态的一个全部,
我觉得后面其实有非常多的需要来让这个做应用的人能够更加容易的用起这模型来,
来尝试说在现在的这种各种应用模式,
交互模式下面怎么样来使用大模型,
那这个需求应该怎么样来拉呢?
就会需要有一个比较好的平台来支撑这个事情,
嗯,
大厂内部可能会有自己的平台等等,
我比较强烈的相信一点,
是说在企业服务的这个领域的话呢,
就是我们需要来有这个针对于不同的企业的使用形态,
尤其是它对于比如说数据安全啊等等这一块的需求,
针对他们的这种使用形态来设计的针对性的平台,
就有点像,
就是数据这一块,
我们催生了像snowflakedatabreaks啊在。
诶,
呃,
传统的应用的这块,
对吧,
传统的应用上云这块催生了像这个verel,
像Corp等等这样的一些企业一样,
就是AI这个领域也会出现类似的这样一个平台型的企业,
而这个企业并不一定是云服务商,
对对对,
比如说has之所以能够走出来,
它做了一个多云的一个概念,
对吧?
对,
他不只是给一个云,
如果只是给一个云啊,
或许它的优势就不那么明显,
但是你觉得对于以后今后大模型的时代,
会有各种各样的模型,
各种各样的需求,
所以从这个角度上来讲,
你你的一个基础假设就是尽管大模型可能模型本身已经足够好了,
但是真正要把它给落地运用,
你觉得还是有啊很长的一段落也啊使得客户能够用好用的极致,
那从这个角度上来讲,
你个人的判断是说一个是goodenough的那些模型会用。
现出来,
而且就像你说的,
已经很快的速度涌现了不少开源的啊项目出来,
而且都都看上去还是蛮不错的啊,
这是一个你对未来的判断,
是并不是说是有三个五个大模型的大厂,
像openAI或者Google这几个大厂,
然后你会觉得,
呃,
那么多的公司,
他他们多多少少都会有有自己模型的需求,
这是你的一个判断吧,
对,
是的,
这可呢是基于两点,
就第一点呢说,
如果说模型的门槛非常非常的高,
那可能大家虽然有这个需求也就不做了,
对吧,
因为做不了,
但是呢,
就像咱们刚才提到讲,
模型的门槛应该会降低,
而且会越降越低,
这就像是比如说在2012年的时候,
计算机视觉对吧,
我们能够识别猫啊狗啊,
这个模型就已经是核心竞争力了,
到今天我们觉得说这些模型遍地可得啊,
那么大模型,
在计算机视觉领域出来的时候,
那样就是大家都非常惊艳和都非常英文叫formal嘛,
就是说是说担心自己这个掉在这个趋势之外的,
但是我觉得过半年到一年之后,
这个门槛会降低,
尤其是基于一些开源的大模型,
在自己的数据上面翻庆拉回调的这个难度会越来越降低,
那这个时候的话,
企业就会需要或者说也希望来自己管理这些这些模型。
OK,
还有那么你第三点记住假设呢,
对第三点呢,
我觉得就是说今天我们会需要有新的一个平台的服务,
其实刚才咱们在讲的时候也讲,
差不多讲到了这一点啊,
今天如果说站在云服务商的角度来讲的话,
我觉得云今天的一个基本的呃,
业务模式并没有太大的变化,
就是说他将以前客户自己需要在ADC上部署的那么一种模式,
变成了在云上可以弹性的来这个利用云的供应链,
但是呢,
今天我觉得尤其是在国内吧,
欧美的话,
其实AWS也会遇到类似的这样的一个情况,
就是云相对比较难再往上一步走到一个,
呃,
完全的就是以应用为中心,
或者说以平台为中心的那么一个商业模式上去,
我觉得这个可能也是和就是说每一个公司自己的一个做好一件事儿,
那么一种风格有关系的,
啊云今天在供应链这块做的非常的好,
但是他在上面平台构建平台,
尤其是。
站在用户这侧来帮用户更加有效的应用平台这块儿全球似乎都没有做的特别好的,
因为云服务商的一个基础假设是说用户用的越多,
我的这个营收和我的利润就更好,
那么他天生其实很难跟用户站在一块儿来做,
帮用户降本增效啊等等这样一些事情。
当然也许小厂到大厂之后也会遇到一样的挑战,
但是对于独立的小厂来说的话,
他更加能够和用户站的更近,
迭代的更快,
这是今天就是AI在迅速这个迭代的时候,
我们大家所需要的那么一个平台。
所以说你的这个三点基础假设是,
第一个开源模型会大大降低这个大模型的门槛,
第二个是大模型以后不一定会是大家啊,
最最关注的,
大家最应该关注的是那些应用对吧,
然后第三点是在这个情况下面,
说穿了就是需要新一代的这个AI这个年代的hasshCo,
或者说AI这个年代的新的平台或者。
新的平台公司啊,
新的平台服务,
这是你的三点啊基础假设,
对,
就是要实现那么一个平台呢,
其实也并不容易,
就是说因为这个地方恰恰是一个又要结合对于算法的理解啊,
又要结合对于应用的理解,
又要结合对于就是底层的infrastructure,
比如说像云原生的技术架构啊等等这一块的理解,
就是它是一个非常多学科总和的那么一个领域,
所以我觉得的话呢,
这个地方机遇在,
同时呢,
门槛也在,
这是我们啊做过技术,
然后同时又做过业务的这些从云出来的专家们可能最有竞争力的一点,
对,
我完全可以想象,
你接下去自己做的初创公司啊,
多多少少会跟这个方面有关,
能不能跟大家分享一下好呀,
这个呢,
我觉得我们可能也都处于一个相对比较早期,
所以也没有太多可以跟大家分享的,
可以分享一下简单的一些思路吧。
第一个思路。
嗯,
就是我们会关注在就是帮助用户更好的来搭建AI的应用上面,
因为今天其实如果说大家说想做一些实验的话呢,
其实也不需要太多的平台,
对吧?
我去买几个GPU,
然后呢,
我在gettop上面,
我来下载一些代码,
然后呢跑一跑看看效果就可以了,
但是从那么一个实验室到应用中间有很麻烦的地方,
嗯,
我们在支撑达摩院的各种各样的AI应用的时候,
就会看到这样的一个问题,
最简单模式是W们科学家说我买两台GPU,
我在这个GPU上面自己拉几个flask的这个Python的外部服务,
对吧,
网络服务就来服务这些模型了,
但是这个时候呢,
就会出现说要不这个用户的需求比较低,
我的这个API放出去之后调用量很少,
所以资源浪费了,
要不能说这个API调用量很高,
但是同时我就只有两台GPU,
所以我这个支撑不起来,
用户那边又不爽,
怎么样有一种多快好。
等的一个方式,
让研究者们像咱们院的科学家们一样,
不需要担心说我要部署这个模型的时候,
背后的这些像弹性啊等等这个问题,
同时呢,
让用户不需要去担心说,
哎呀这个服务到底稳不稳定啊,
有那么一个平台会解决非常多的痛点,
而且这个最重要的是在应用上面,
所以第一个我们会关注在AI应用上面,
第二个呢,
就是我们会关注在哪些指标呢?
第一个就是这个开发者的效率,
开发者怎么样从自己的这个代码库啊,
能够非常迅速的在譬如说理想化的情况下面,
在一分钟就能够拉起一个服务,
然后他就不需要担心这个服务的弹性了。
第二个我们会看就是这个核心的一些系统性能的指标,
就比如说像这个我们能够在有限的资源里面,
能够帮助用户拉起来多少个服务,
以及就是说多少体量的服务啊等等,
就是今天我们看到的最大的问题是。
应用和这个供给和需求之间的矛盾,
所以我们主要会做出把这个供给跟需求之间的这个距离拉近这样的一个点,
呃,
基础大模型呢,
我们就现实的来说,
我们就不做了,
因为这块儿第一个现实来说比较烧钱,
第二个我们也初到公司嘛,
总要赌一把,
就是我们相信说开源的这个领域会有非常多的基础模型出来。
然后这个并不是企业将来需求上的一个核心的问题,
嗯,
所以说那个有新闻说你出呃来离开阿里,
大家说诶你就是来做大模型的啊,
其实并不是做大模型,
但是呢,
不管是给你的客户想做大模型,
还是客户想做小模型,
你是想给他们提供一些这些平台的服务,
使得他们啊能够在做模型,
对是的,
然后呢,
我们也比较早期嘛,
所以说这个也希望就是非常迅速的,
在比如说才三个月半年之后,
能够给大家这个展示更多的就更有意思的实际能能能用的东西,
对非常期待啊,
有机会那个返场再来我们科技早知道聊一聊,
说起这个我还跟那个reno的,
前两天跟reno的说啊,
要返场来我们的节目聊一聊,
他也答应了啊,
那我提一个问题啊,
因为你在这方面肯定思考的很多,
关于这方面平台的服务,
对吧,
就是就像你说的啊,
要考。
给作为一个数据工程师,
我是有很多情要去很麻烦的事情,
然后你能够把它解决,
这些话其实大家都已经知道了很多年了啊,
包括谷歌在在2014年15年的时候发表了一篇paper,
大概就是讲的是那个technicalDES啊,
技术负债啊,
是在在AI这个领域当中是有多大对吧,
基本上好像是呃,
恨不得90%以上的,
其实都是在在模型之外的事情对吧,
需要去做这些,
不管pipeline也好,
S也好啊,
一堆的事情要去做啊,
然后这个问题其实大家已经了解了很多年了,
对吧?
啊,
我也能够真真实实的看到啊,
其实我是想问就是诶为什么这个问题啊,
大家一直在说不不断的也有初创公司在做,
但为什么这个问题好像没有什么得到,
呃,
很大的好转啊,
对,
我觉得这个可能一定程度上啊,
要。
叫归功于也好,
或者叫归罪于也好,
就是他应该归功于AI这一块儿的迅速的一个发展,
就是它发展很快呢,
就导致的是他的这个各种各样的计算需求跟计算的模态都在发生变化,
所以就包括就是我我我经常就说是几个经常半开玩笑的说说再也不想聊框架了,
对吧,
就是但是如果大家看出AI框架这一块也是前面变迁的非常非常的快嘛,
这块我自己呢,
对于这个问题经历了三个阶段,
就是最开始一个阶段是梦想的阶段,
第二个阶段是彷徨的阶段,
然后今天是一个接受的阶段,
怎么说呢,
梦想的阶段是这样的,
就我非常羡慕数据库和大数据这个领域有一个标准叫做seql,
大家发现说哎呀,
我的这个数据都可以把它作为一个二维的表格,
然后呢,
做的东西呢,
好像都是说selectjoinfilter这些标准的机操作机货,
我觉得从197几年,
如果记得推的话,
197年出现的时候,
这是一个非常划时代的一个发明,
一定程度上这个它的。
科技者非常的牛,
同时呢,
当然就是说数据的领域的,
它的使用模式也相对比较清晰,
AI这个领域没有那么的没有那么的幸运,
但一定主要也说就是也是因为AI比较百花齐放一些,
所以我们梦想着有这样的一个标准,
呃,
2017年的时候呢,
我们在Facebook,
我们就做的一个,
嗯,
开放的神经网络的一个标准叫做on,
其实一定程度上是希望说,
假如大家最后所有的模型都产生到都生产出来一个on的一个标准模型,
然后后端呢,
各种硬件厂商啊,
平台厂商啊,
拿着这个onx模型就可以去部署了,
那将是一个多么美妙的事情,
就onx有可能会成为AI领域的seq,
对吧?
然后呢,
我们就我们也看到了很多大家彷徨不前的事情,
阿ex克斯在一定程度上帮助了,
就是非趁好的帮助了软硬件协同设计这块,
因为大家以前以前的时候呢,
要对接各种各样乱七八糟的框架,
现在发现说诶,
如果一个硬件厂商出来,
我想让。
计算机视觉的这块的领域的应用和我能更好的对接,
那我就去看说这个领域的onx模型,
它就学的东西,
学的这个面就变窄了,
这个使得就是说是软件协能设计会变得更好,
今天的话,
微软也还在非常努力的在推奥尼斯和奥X双time这样的标准,
但是呢,
彷徨的一点是说奥也有他自己的局限性,
就是今天AI还没有到一个完全标准的阶段,
它不光光是一个AI的模型,
咱们举个例子,
比如说最近比较流行的LACha啊,
这个开源的框架,
他在做问答的时候,
他说你看首先呢,
一个问题过来了,
就GPD出来以后,
Launch就很很多人在用,
对很有意思的一个应用,
对吧,
他说你看GPT,
他只能够说模型里面学了什么东西,
他就只能够靠这个模型这个一招鲜了,
那趁说你看我呢,
可以首先我去做一个传统搜索,
搜索完了之后呢,
我把搜索回来的结果再放到promp里面,
然后有点像。
来增强我的这个问题里面的这个更加新鲜的内容,
或者更加相关的内容,
然后让这个模型能够获取更多的输入,
对吧,
那这样的话,
这个已经远远超出了我们传统的说一个AI模型的那么一个概念了,
因为它至少至少至少他得拉个相量数据库啊,
所以呢,
就是AI发展的很快,
我们就没法像数据像C那么的做标准化。
这是我们前面几年就我自己的一个观察,
于是呢,
今天我觉得我接受那么一个现状,
就是说AI今天它更像应用,
而更不像数据库,
更像应用的一个原因是说,
比如说咱们经常会听见比如像微服务啊等等这种,
咱们写应用的知道说基本上没有一个标准的,
像CQ一样的一个标准,
说你看打车和购物都是一样的,
这样的一个标准,
很少有AI和这个差不多,
AI离应用离得很近,
那么这个时候的话呢,
我们就会发现说,
比如说像呃原原生K8S对吧,
像这个容器啊等等这些技术。
变得更加合适,
更加适用了,
所以呢,
那么这个时候的话,
这个怎么样把AI里面的一些它很特殊的地方,
比如像一构计算呐,
一个模型要切分了之后做分布式推理啊,
这些能力和我们在这个应用的原生的框架的这块儿,
包括像K8S,
包括像容器等这些技术结合起来,
能够给用户提供一个,
他也可以各种定制化,
但是我能一步一步的帮他解掉弹性、
稳定性,
免运维等等这些问题,
对吧,
大家来寻找一个增量价值,
我觉得这个是我今天在前面有梦想彷徨过,
然后接受这个现状之后得出来的一个结论,
就是说我们的价值在哪里,
对这这个我觉得就像你说的,
没有一个很好的呃standard的标准,
使得这一方面呃突破有一呃困难一点,
这完全能理解啊,
但是我稍微呃push一下,
因为包括你刚才说的容器这些技术都不是新的,
都不是最近2年。
年的东西都已经很多年了,
然后AI没有这么一个很舒服的就能够去把把它给deploy起来的系统的这个,
呃,
痛点已经蛮长了,
有什么新的东西让你觉得,
诶我要现在做这件事情,
或者说为什么以前大家啊一直没做起来,
你你的观察是什么的,
就我觉得以前的话,
大家都还是在点状的做事情,
比如像AI这一块的话呢,
就我们会看见说,
比如说有,
呃,
今天AI的这个整个软件也分比A举例,
呃,
最近看到比较多的,
比如说像TBM这样的一个AI编译器,
像这个科三的出来做的毛的AI等等,
但是大家基本上都还在解点状的问题,
但是我觉得今天AI最需要的其实是一个能够把各种组件,
各种component结合在一起的,
无论是数据库还是容器。
对。
啊,
还是在我们的这个E购的GPU机器,
包括可能出来的新的一些其他的异构的硬件上面,
能够来运行的软件站,
把这些东西真的有机的结合起来,
这事儿听起来没有那么的高大上,
不是一个就是说是造一支火箭的一个事儿,
但是啊,
这个里边还是有非常非常多的人力成本投在里头,
我们希望把像达摩院等等这样的一些科学家们和像淘宝等等这样的一个就是应用的团队们,
不需要去担心这种把各种各样的系统组件结合在一起,
然后才能开始做他想做的事儿的那么一种纠结。
啊,
其实你也以前跟我聊聊到过啊,
关于对于呃拍O的一些一些感悟啊,
或者怎么样啊,
就是说你这么多年下来啊,
如果说有一点或者两点的感悟啊,
能不能跟我们分享一下,
对,
就说一点感悟吧,
我觉得拍拓的这件事情非常强烈的体现出来一个结论就是用户为王,
而且。
嗯,
怀满怀尊敬的说一句话,
用用户用永远都是又懒又笨的,
但是这是恰恰我们就说是给用户提供价值的点啊,
之前的时候大家经翅争论两个事情,
就是tenofflow跟拍och这两个的优劣是怎么样的,
对吧?
然后呢,
客观的评价的话呢,
Tenofflow在系统上做的是非常的漂亮的啊,
原原生的分布式的计算对吧,
这个分布式的抽象啊等等,
然后呢,
非常高效的系统的实现等等,
拍O呢,
尤其是在拍O1.0之前,
大家如果去看的话,
拍och的这个后端代码是写的非常的。
糟糕的对吧,
就不客气的说一句话的话啊,
比如说它底层依赖依赖于一个叫做aten的那么一个那么一个库,
那么在重构之前的话,
Aten完全是以纯C来写,
然后有各种各样的C语言的红啊等等,
都是以一种非常hack的方式,
呃,
非常瞎写的方式来做的,
就是比较难maintain天比较难维护,
所以说我插一句,
呃,
你对你自己领导过的一个项目也是有一定的批判性的,
呃,
对这个事情呢,
就是说在Facebook里面的话,
就是说我们的纽约的研究院所带的研究院,
他们负责前端的东西,
对吧,
然后呢,
我们呢,
负责就是后端,
以及就是说是说这个尤其是产品支持啊等等,
所以当时的话就是说客观的来说,
我还是稍微有一点站在ten拍的,
我就觉得说,
哇,
这个系统做那么烂可以吗?
有这样的一个想法对吧?
所以呢,
在谷歌的话,
我觉得tenflow更加强烈的带有这样的一个观点,
就是说系统做的牛才是真的牛,
然后呢,
在前面这几年当中,
我们就会发现说。
从用户的角度看吧,
用户说哎呀,
Pencilflow呢,
我要学它,
我还得专门再学一套语言,
叫做pencilflow,
这个太麻烦了,
拍拖纸呢一看说哎哟,
我用起来还挺舒服的,
像南派一样,
对吧,
这个我都用的挺舒服。
于是用户觉得说,
哎呀,
跑的慢点就慢点吧,
呃,
我跟苏密斯一直是好朋友嘛,
我上那个今年早些时候跟苏美斯在嗯在北美,
在北美遇到的时候,
我们还聊起来这个事儿,
然后苏斯说对呀,
现在为止开拓都不是最快的框架,
因为嗯,
他说我这个为了保证用户的灵活性,
肯定得损失一点儿,
所以呢,
比其他人慢,
但是他说慢吧,
没关系的,
用户希望他舒服,
他舒服了之后我都我多花个10%的机器成本,
嗯,
从我和我自己就是说是浪费一堆时间来看,
他说我宁可多花点机器成本算了,
然后用户的效率的提升,
体感的提升,
这一块儿会带来更大的价值,
这是为什么,
就是我最开始开玩笑说用户又懒又笨嘛,
对吧,
我懒我不想学一个心。
一个东西,
但是这个时候的话,
就我就希望说底层的系统能够帮我把这些问题给解了,
尤其是让我用的更加的舒服,
所以呢,
这块的话,
我们看见说test在前面几年呢,
就是说这个不管幸运也好,
不幸运也好,
就是的确成为了一个大家不是那么喜欢的一个框架,
就是大家会瞻仰它,
但是大家大家不用它,
拍拖式呢,
的确用了很多,
半开玩笑的说一句话的话,
今天我们讲碳中和拍拖式的系统可能浪费了大量的碳排放,
但是it'sOK,
这至少它能够帮助我们更加快的迭代,
所以用互联网我觉得是在技术的领域啊,
在产品的领域呀,
在商业领域,
都还是让我挺感觉,
感觉很深刻的一句话。
啊,
其实这已经是你今天第二次提到了啊,
关于那个一个用户的usability,
或者说用户的使用的啊,
方便程度啊,
其实比后面技术的优劣性,
其实在很多时候是更重要的,
其实在我们技术发展的啊,
软件发展的这么几十年来啊,
这样的例子是比比皆是,
包括我们最近几十年基本上是统治了个人电脑的那个Windows对吧?
其实90年代初的时候和视窗的系统显然并不是从技术上来讲是最好的,
我我稍微有点倚老卖老,
当年90年代初的时候那个OStwo,
其实大家公认为啊是比Windows啊要好,
从技术上来讲,
但是我估计现在人都听都没听到过OStwo,
嗯,
OStwo是IBM的对吧,
这个的确有点就是属于这个上的操作系统的这种感觉了啊,
其实对多数人都是上过我,
我用了这个一个例子,
只是说像你观察。
到的那个为什么拍O啊,
最后能够在跟tenflow啊对比下面能够啊占上一些上风啊,
其实这个原因啊也是一样的,
最终就是大家的对吧,
易用性啊其实是非常非常重要的,
我们做技术的人经常经常忽略到这一点,
这是一个本性,
可能是,
但是回过头去看,
其实每一次啊,
每一次不管是大的革命也好,
或者说像你刚才提到的这些框架之争也好,
对吧,
Tenflow跟po算是最近五六年啊,
一个一个蛮大的一个框架之争吧,
最终po能够胜出,
呃,
确实是啊,
跟他的usability有很大的关系,
那我们今天讲了已经不少的框架没去讲技术,
但是讲了你的一个感悟吧,
或者说感叹吧,
然后我们今天没有聊太多的openAI本身的,
或者说大模型本身的技术。
因为我觉得最近。
很多人都已经聊了,
但是上个礼拜你的老东家Facebookmade发表了一个Samsegmentanythingmodule啊,
我不知道你能不能透露一些你的一些想法,
因为我觉得他好像就是从你当年的那一个实验室出来的,
对的是Sam的话就是他们团队一块做的。
S呢,
是基本上在前面几年吧,
一直统治了计算机视觉圈,
就是从最开始的图像识别到图像分割等等各种各样的模型深度学习出来之前ru做的各种各样的objection,
对吧?
这个物体检测啊等等都已经是属于这个整个领域大都比较熟的呢。
ru跟凯明一起在Facebookairresearch也做的一直都很紧密。
我觉得Sam呢,
出来之后大家在感叹说computervisionisdead,
计算机视觉走到头了倒也不一定,
我现在更多的从一个用户的角度在觉得说像Sam、
马,
包括现在的各种劳尔、
士丹或Mo瓦等等在做怎么样的一件事。
品呢,
它使得我们以前需要花大功夫去解决的一些基础问题,
比如说计算机视觉里面,
我说我得首先分割出来这个物体是什么,
然后完了之后才能做一些什么事儿,
他把以前我们需要干的这些事儿标准化了。
举一个例子,
我前两段时间正好给我们家小孩儿在更新护照,
然后呢,
大家知道说护照照片儿不是你得做一个白背景啊等等嘛,
那我就直接拿不是Sam,
但是是另外一个分割的一个模型,
直接我拍一张照片,
随便人格风格模型里面,
然后就让他给直接搞了,
对我来说,
写了大概一分钟的Python代码就搞定了,
我觉得Sam呀拉当官什么的话,
都让我们在上面做应用变得更加简单了。
所以呢,
我不太同意最近媒体上说就说计算机视觉死了这样的一个观点,
我觉得倒是说基于计算机视觉的应用会变得更加的多样,
Sam可能最有用的一个应用就是在各种各样的内容生成上了,
我觉得是的是的,
我看到至少在推上。
VIJimfan,
他写了一句话,
我读一下,
他说因为这个Sam,
他说IbelievetodayisoneofthegPTthreemomentsin,
也就是说他觉得计算机视觉的GPT的一个时刻到来了,
你对他的评价你是怎么看的?
我觉得也是这样的,
Sam使得很多我们要花很多功夫来做图像识别、
分割等等的标准化的,
标准化了之后的话,
就像是GPT使得我们今天的对话能够到了非常智能程度一样,
就是对于图像的理解,
它也是一个巨大的一个进步,
一个是理解文字,
对吧,
理解你的文字能够去做一些推理,
一个是理解一个图,
使得你能够做切割也好,
要做任何更多的value的事情,
就相对来讲就容易的多,
对吧?
对,
咱们拿比如说一些内容生成嘛,
就比如像电影啊等等,
举例子吧,
以前的时候呢,
我们说我们要做一个虚拟背景,
我们就需要搞一个绿幕啊等等的。
现在呢,
大家一般而言觉得说屏物已经比较不太需要了,
但是我还需要一个纯色的背景,
比如说像这个zoomzoom大家会知道说,
如果说要一个比较好的一个背景分割的话,
你可以在后面放一个纯色背景的,
但是呢,
赞出来了,
我觉得说非常有可能是将来这些我们需要来搞的很麻烦的事儿就都不需要了,
任何一个照片过来我都可以给他,
很简单的把各种各样的物体都给切分好,
那么这样的话,
比如说我们做CG啊,
我们做混合现实啊等等,
变得越来越容易了,
当然不知道Meta还做不做原宇宙对吧,
但是我觉得这些核心技术让我们离原宇宙更近了一步,
对,
从Facebook的角度来讲,
他希望是能够跟原宇宙多少有些契合度吧,
呃,
你刚才举的的例子我们也完全懂,
像zoo,
就像我们背后可以调背景对吧,
可以放金门大桥也好,
放一个别人的卧室的照片也好,
然后你说现在有了Sam以后。
我们能够怎么样啊,
就是像素啊,
像各种各样的视频软件,
今天其实他做背景分割的时候都还是不是特别的好的,
对吧?
第一个是比如说这个分割一直在飘,
我戴个眼镜儿啊,
或者我的背后有一个桌子呀,
或者背后走过一个人啊等等,
大家就会发现说它的分割效果是不是最理想的,
那有了Sam之后的话,
因为它对于这种分割更加接近于我们人所思考的所谓叫semantics,
就更加有这种物体的语义在,
那么我们可以想见说在将来这种物体的分割,
比如说一个我们的前景,
开会的人的屏幕的分割啊等等,
会变得更加的高效果和低成本。
这些事情我觉得可能没有像P那么的惊艳,
就是没有那么大的一个边,
但是从一个computervision老兵的这个角度来看的话,
我觉得他还是非常有价值的,
对,
所以说我也是蛮期待的,
不管是在文本还是图像还是视频,
都希望这个大模型能够让不做大模型的人,
但是做应用的人能够往前跨一大步,
我觉得这个还是让人蛮期待的。
其实我还有一个问题,
稍微跟技术有关,
但不是一个纯技术的问题,
就是现在这个AI的发展,
尤其是过去几个月,
我相信你也有同感,
就是发展的很快,
至少是每个礼拜都是恨不得有好几个比较大的新闻,
比较大的一些技术的突破也好,
或者产品的突破也好,
我觉得都是有不少,
你觉得这个是一件好事吗?
嗯,
我觉得是一个好事儿,
我可能稍微有一点偏达尔文主义者一点,
咱们问这个问题的背景呢,
可能就是说大家会担心说技术的迅速的发展是不是会带来一些社会和伦理的角度,
我们还没有想清楚的事情,
我觉得基本上那么多年的历史过来,
我们会发现呢,
是说技术进步到最后都还是一个好事儿,
一定程度上我们可以相信说我们的人性和社会制度是能够让我们在发展当中不断的来思考怎么兜底的问题的。
之前的时候举个例子,
比如说计算器刚出来的时候,
我们会觉得说,
哎呀,
完了,
这个将来小孩儿都不会算加减乘,
除了让我发现说其实并没有,
我自己的一个强烈的一个感觉是说,
技术的进步会使得我们整个社会的生产力提高,
生产力提高之后呢,
蛋糕就会做的更大,
蛋糕做的更大是我们每一个人能够分到更多蛋糕的一个基础,
蛋糕做小了,
谁都不开心,
蛋糕做大了,
我们总能够找到一个更加合理。
的分配方式让大家都开心起来,
以前改革开放的时候说发展是硬道理,
还是很相关的,
所以技术也是一样,
发展是硬道理,
从这个角度上来讲,
你是觉得蛋糕会变大,
当然这个蛋糕不会平均分,
但是从平均的角度上来讲,
每个人分到的蛋糕是会比以前更多,
那这里面有一个很实际的问题,
就是蛋糕有可能变得不管是一倍大,
两倍、
三倍,
确实大很多了,
但是分到给我个人的,
以前我分到一大块,
以后可能分到一小块,
甚至没有了。
从这个角度上来讲,
你对那些有这方面顾虑的人,
你会有些什么建议啊,
或者说是想法?
这个我最近在看各种关于PT文章的时候,
我觉得看到的一个比较有意思的一个逻辑,
我觉得挺对的,
就是他提到说今天我们都担心AI会替代人,
但是其实不是是说会AI的人会替代掉不会AI的人,
就是其实还是人替代掉人,
那这个事情就像是咱们以前的时候的,
中国刚刚改革开放的时候,
大家刚开始学计算机的时候,
我们说全民大家都要去学计算机,
因为懂计算机的人会替代掉不懂计算机的人,
今天AI可能也是一样,
就是说大家到最后都是能够有更加强的学习,
新来学习新技术,
再把这些新技术用到自己的工作啊,
包括生活上去的,
就能够获得更大的红利。
这个事情还是一个硬道理,
咱们传统文化上面说学习嘛,
他就说学习永远都没错,
所以这个建议可能也相对比较的老气横秋一点儿吧,
就是说是说看见有些东西我们就学,
学了之后来学以致用。
然后最后那就肯定不会被淘汰,
如果说真的说被淘汰了呢,
只能够就说依赖社会制度了,
对杨青你的这些想法也好,
或者说观点也好,
跟我个人的也是非常非常接近,
上个礼拜我在欧洲的时候,
在一个大学里面也做了一个演讲,
也是其实关于这个话题的,
大学里面也有那个学校的教授、
副校长也来听,
他们提的一个问题就是对教育应该有些什么样的改变,
我其实也想听听你对这个问题的想法,
因为我父母他们都是退休的教师,
所以说提到教育,
我觉得我自己还是挺有感受的,
我父母也是老啊,
教师世家,
大家呢,
现在都在担心一点,
就是说像GPT啊等等,
会造成更多作弊啊等等,
我觉得这个事情其实一定程度上来说不是什么坏事儿。
就像。
打字打的快的人总会比打字打的慢的人要更有优势一些,
包括写字写的快的都会比写字写的慢的要有意识一些,
所以呢,
如果说我们把HPT当成是一个更加有效的工具的话,
那么我觉得教育这一块,
我们也会更加进一步的去改变教育的方式,
把这些能力都逐渐的揉到我们的教育的内容,
教育的体系里头去,
往回数40年,
基本上咱们国内是没有计算机这门课程的,
那计算机出来了,
它是一个很好的工具,
甚至在高中都有一些计算机学习的课程出来了,
人工智能可能将来的时候并不一定只是changept,
对吧,
人工智能可能也会就是越来越多的更好的融入到我们自己的教育里头去啊,
这是一个很自然发展的一个过程,
我们人吧,
基本上就想咱们寿命最多最多平均寿命全球的可能70多岁,
我们学习的年纪,
也就是比如说前大概25年,
或者前30年,
如果你读PHD的话,
对吧,
那么在这个30年当中怎么样来柔进?
足够多的内容是一个教育领域越来越挑战的一个事儿,
因为古代的时候你就读四书五经就够了,
今天你什么物理、
化学、
计算机什么新东西都有吧,
那因此的话,
我们肯定会需要有一种更高效的方式,
把更新的内容都揉到教育体系里面去,
这个我觉得是不由我们自己的意愿所改变的一个事儿,
我们与其去担心说会不会在PPT未来形成作弊,
不如来思考说我们怎么样来更加高效的让这些更新的技术更好的揉到我们的整个教育体系里头去啊,
我觉得这个可能是一个更加值得问的问题。
嗯嗯嗯,
最后关于这个话题,
最后再说一个点,
其实很多我们的听众本身就是计算机工程师,
俗称马工,
硅谷很多,
硅谷之外也很多,
国内也很多,
从一个需求量来讲,
你觉得一年以后,
三年以后,
五年以后,
我们对工程师的需求量会减少吗?
我觉得会增多,
最近大家都会比较担心,
说诶像GPT都会写代码的,
是不是我们马龙就失业了对吧?
我今天下午的时候自己在那写一个S的一个就是我希望让写一个,
他能够我直接他,
他能够在同时去到zoom里头帮我建一个zoom的会议,
把这个zoom的会议切回到LA克里头,
让大家现场就可以开会,
就我就不需要自己跳到zoom里头去了,
以前写一个我猜可能也得几天吧,
今天我一下午就写完了,
为啥呢?
我让checkp说来帮我把这个stabox的这个框架写一下,
这个zoom的那个怎么建,
你给我再写一遍,
非常快就。
写完了,
那我觉得这个时候不是说他代替了我,
而是他极大的提升了我的生产力,
生产力起来之后,
需求肯定会起来的,
因为以前的时候大家发现说啊,
中小型的企业,
大家发现说哎呀我要雇一个工程师好贵呀,
但现在发现说,
哎呀这个工程师他只需要比如说一两个小时在我这儿工作,
他就能帮我搞定个应用了,
那他就更加愿意来想说那我可以做一些什么事情,
还是单后更大的一个逻辑,
以前我们写个冒泡排序都能赚钱,
现在赚不到钱了,
但是只要我们有能耐,
那这个市场需求更大的,
绝对能够更加有市场,
这个我是充满信心的。
叫微软的CEO萨,
他的理论就是mer,
或者说马工的数量也好,
能量也好,
其实是一个企业的数字货币的多少,
就是如果我有10个程序员,
有100个程序员,
1000个程序员其实是代表我这个公司,
它叫digitalcurrency,
其实是我们的公司的一个相当于数字货币一样的。
当然了,
我希望我的公司的钱,
数字货币是越多越好,
这是显然的。
今天我可能有100个人,
但我其实是希望有1000个人的,
为什么?
因为1000个人我能够做更多的事情,
但是我今天只有100个人是为什么?
因为我养不起1000个人,
所以说我觉得他的要求其实1000个还是在那边的,
只是我们今天只能养100个人,
从这一点上来讲,
我不知道那个对于大厂,
就是五六个超大厂是怎么样子,
但至少对于千千百百或者千千万万的绝大多数的企业,
他们今天digitalcurrency其实是。
匮乏的,
可能他有100个1000个程序员,
他其实应该有1万个在那边啊,
所以说像啊杨青你刚才说的工程师的效率能够提高,
其实对这些公司是肯定是有极大的帮助,
对我也是这样的一个观点,
你的老东家阿里本周就会马上要发表一个他的大模型的大发布会啊,
其实我们在录这个节目是在这个发布会之前,
但是这个节目大家听到的时候,
这个发布会已经开了,
那能不能讲一些你的一些想法感想,
或者说是大家应该是去怎么理解,
怎么去看待这件事情,
嗯,
因为我自己在阿里的时候呢,
我们团队也是支持达摩院在上面做拉模型的训练跟部署嘛,
所以呢,
就是对达摩院这边也是挺有感情的,
这一块我觉得国内大厂呢,
我们大家从一个观众的角度,
今天我失业了,
对吧,
就可以说的没有那么有压力了,
从一个观众的角度,
其实我觉得大家是会有一点审美疲劳。
好的,
就是百度来一个,
腾讯来一个,
阿里来一个,
华为来一个,
对吧,
还有大家各种各样的创业公司来一个,
一方面比较兴奋,
就是大家有非常多的人在努力的把这个技术往前走,
另外一方面呢,
我觉得大肠也会逐渐的会开始思考这样的一个问题,
就是怎么样从这一系列的竞程当中脱颖而出,
所以呢,
就回到我自己最开始一个观点的话,
我觉得一个基础模型是不够的,
在上面怎么样来拉起百花齐放的各种应用,
其实是一个更加有意思的一个事儿。
举一个小例子,
前几天的时候,
阿里天猫精灵发布了一个很有意思的一个小应用,
就是他构建了一个脱口秀演员鸟鸟的一个数字分身吧,
它叫鸟鸟分鸟的,
不管他的技术有多深,
但是我觉得这是一个非常有意思的应用的尝试,
所以呢,
我个人的一个希望是说,
在这一段时间大家所有的都扎堆发布大模型之后,
我个人更希望看到的是说后面有更多基于大模型的应用能。
够像雨后春笋的一样来迸发出来,
那这块儿的话,
就其实更加考产品化的能力,
考用户需求的能力,
考对于应用的一个更加深入的理解吧,
这个我觉得最后才是大模型这一块,
产业能够蓬勃发展的一个核心因素,
所以说虽然也是你的老东家发表的,
你觉得也已经稍微有点审美疲劳了,
是的,
对,
觉得更应该把应用放在大家主要看的,
我就follow一个问题啊,
因为尤其是openAI的PTPT出来以后,
大概是两三个星期前,
它公布了一个plug的一个概念,
以后不管你是订飞机票,
订船票,
做任何事情,
去餐馆买东西也好,
都只要做一个大模型的插件,
所以说你以后只要跟GPT,
或者说gPTfivegPTsix去交流,
就能够买到机票,
那从这个角度上来讲,
它其实是把应用。
嗯,
这个概念已经大大的改变了,
就应用就被吸收到这个大模型里面去了,
你是怎么看待这件事情,
我觉得这是一个非常有道理的一个变化,
这个相关的最近呢,
哈hihope的创始人Michael,
哈himodel写了一篇文章,
我觉得挺值得读的,
他说一个颠覆性的技术真正要落地的时候,
都会需要有一个相对应的渐进式的变化的那么一个道路,
因此的话,
就比如说像拆GPT,
如果说只是纯一个checkabout的话,
它和今天的应用就怎么样顺畅的迁移跟结合是不太清楚的。
但是plugin呢,
我觉得exactly的就和海是model讲的比较像,
就是他其实是在寻找一个现有的应用和人工智能的算法之间的一个顺畅迁移的一个点,
首先拿PT用自然语言的方式来识别用户的意图,
这个意图识别完了之后,
我通过的一个方式再来用传统的编程结构化的方式。
来实现最后的无论是机票的交易还是商品的采购等这一系列的事儿,
它和以前不一样的一点是说交互变得更加自然了,
虽然背后的操作,
最后的各种各样的决策过程依然都还是需要来编程实现的,
那它就有一个比较顺畅的迁移过程。
我觉得与其说是各种应用被吸收到了GPT里头,
反过头来可以说大模型的AI的算法开始变成了应用里面的一个不可或缺的一部分。
这个事情前几年也有过,
大家可能还记得Facebook出过一个叫Facebookm,
就是在Facebookmessenger里面能够来做一些类似的操作,
订餐馆的、
酒店的。
谷歌几年前应该也发布过一个,
我忘了是哪年的谷歌IO里面讲到这个了,
但当时的时候技术上没有像单模型来的那么的深入,
来的那么的鲁棒,
同时的话这个应用也没有走的太远,
今天的话,
这个系统模型这一侧变得更加的鲁棒了,
希望这次应用上面能够爆发一把,
这。
是我自己一个个人的愿望,
但是从这个角度上来讲,
当年移动出来的时候,
或者说苹果手机出来以后,
突然之间有了成千上万个应用,
那现在会不会产生一个情况,
就是说有了TPT或者说GPT的后代的接下去几代的大模型出来以后,
没有那么多的新的开发者,
因为他把过去的东西接上去太容易了。
我的意思就是说这个应用虽然说是应用仍然在那边,
但是应用其实被大模型就已经吸收掉了,
对于不管是编程者啊,
或者说怎么样,
其实没有那么多事情可以去做了,
这个我不知道你是怎么去想的,
我觉得倒是还是有不少事情可以去做的,
就举个例子吧,
拿我刚才说的slack里头的zoo目的聊天机器人来说的话,
我还是需要来把各种各样的实际的逻辑给搞清楚的话,
我会用一个GPT的API来识别说我发给这个聊天机人的一句。
话,
是不是让我再打开一个zoo的一个链接,
或或者开一个zoo的一个会议,
我觉得整体上面的应用的逻辑还是要靠人来想的,
这就像是比如说我们今天如果说这个公司雇一个COO,
完了之后,
COO能够解决很多的各种各样的所谓叫operational这一块的问题,
但是最后公司要做什么这个事情还是得靠CEO来想事儿,
只不过有了CEO之后,
CE就如虎添翼的可以想更多的事儿了。
所以我觉得倒是不太会出现说所有的应用都一下子被吸收到了一个工具里头去,
这种情况永远是工具为应用服务,
而不是应用为工具服务的。
嗯,
它能够起到的作用不是说所有的应用都在大模型里面了,
而是说它是一个dispatch的,
或者说是一个,
就像你刚才说的CEO的这么一个角色,
但是还会有不同的functionaldepartment,
不同的部门去做不同的事情,
但是CEO会去做这么一个协调,
或者说是去分发的这么一个作用,
对,
是的好的好。
啊,
谢谢杨青,
今天分享了这么多,
希望你在创业之路上面好运,
也希望以后返场来讲讲一路走来有些什么新的收获,
新的学习吧。
好呀,
多谢郝伟徐老师的邀请啊,
也希望能够做出一些东西来,
对大家有用,
然后也希望将来再有机会再来做分享,
好,
谢谢你,
谢谢大家,
这期沃斯科技早知道就到这里了,
听完之后如果你有任何的想法,
欢迎在评论区里面给我们留言,
我们每一条都会认真的看,
如果你喜欢我们的节目,
请记得给我们五星或者好评,
分享给更多的朋友,
也会对我们非常有帮助。
你也可以单独写邮件给我,
邮箱地址是听tingat声点FM,
我都会一一回复,
那同时公众号和微博也可以搜索声动活泼盛世声音的声节目相关的更多信息会在公众号里出现。
微博。
和公众号都会有不定期的福利给到大家,
如果你想要跟我们更加紧密的讨论和分享,
或者是想要认识和你一样有求知欲的新朋友,
可以加入我们的微信群。
进入听众群的方法是在公众号文章中扫码添加,
或者是公众号后台回复科技早知道即可获取邀请码。
期待你的加入,
我们下期见。