00:00/00:00
外链地址
http://www.eemp3.com/audiofile/550e9a67afac13d10fadc22a8ff50327.mp3
点击复制
用声音碰撞世界，
生动活泼。
hello,
大家好，
我是丁，
欢迎收听全新一季。
大家好，
我是科技早知道的监制刘灿，
之前一直有收听，
我们的小伙伴可能会有印象，
去年5月的谷歌IO2021开发者大会之后，
我们做过一期总结性节目，
那在那期节目里，
我们是第一次聊到了如今引起轩然大波的自然语言平台拉姆DA，
当然那个时候我们对他的关注仅仅是他代表谷歌AI实现了什么样的突破，
就比如说他自然的参与人类对话的能力。
那前两周谷歌的程序员是表示拉姆达已经具有人格，
这个说法也引起了我们的好奇，
所以我们决定做一期节目，
邀请人工智能领域的从业者，
也是autodesk的研究科学家印养军来帮助我们理解与之前的人工智能相比，
今天我们谈到的拉达到底有什么不同，
以至于会让人发问，
他是否真的会具备打上双引号的人格呢？
那以下就是本期的节目。
Hello,
大家好啊，
欢迎来到我们今天的科技早知道节目，
今天这个话题其实这个已经热了有一段时间了，
但是我们一直没做，
就是因为我还有贾宾氧军同学，
我们两个都重扣了，
我们这个刚刚好，
终于不咳嗽了，
先给大家介绍一下氧军吧，
氧军他是在旧金山auto的AI研究工作者，
他主要研究的方向就是计算机智能和计算创意学，
然后他业余是研究这个游戏叙事哈，
叶阳军同学，
哈哈答案科技早知道的听众朋友们大家好，
今天非常高兴收到邀请，
能够在这里讨论这个非常有意思的话题。
对，
我们其实本来是上周还是上上周就想聊了，
然后确实是我们两个都在吭吭，
然后我们终于好了，
对，
这个康复过程有些坎坷，
但是现在基本上已经可以做这个博客了，
我们今天其实就想要来和大家聊一聊，
最近的这个人工智能，
就是谷歌的语言应用，
叫做LADALADA,
它的英文的缩写是languagemodelfordialogueapplication,
直接翻译过来就是对话应用语言模型，
谷歌的一个工程师，
他叫做Blake了莫，
他就是声称啊拉姆达，
他活了，
然后他是有自己的性格，
然后他自己是有情感能力的，
这样的一个事件，
估计大家可能已经也不陌生了。
HilambdayouknowwhatyouremindmeofJohnnyfiveacharacterfromthemovieshortcircuitisheanAItooheisthat'sinteresting,
那我不知道大家有没有读过他跟拉姆达他的对话的过程，
那可能如果没有的话，
我和今天和阳军同学给大家coplay一下，
然后我们先给大家有一个大概的了解，
他们之间是什么样的对话，
让lake觉得诶，
拉姆DA他其实是活的，
那我现在可能就会扮演bla军同学，
然后扮演拉姆DA，
那一开始他前面提到了一个叫做强尼舞，
然后强尼舞其实是一个电影叫做短路中的一个角色，
Heyyou,
他也是一个机器人，
因为这个电影我也没看过啊，
如果看过的同学可以给我们所值，
不记得看一下啊，
那我先来读我的这个部分。
我们怎样才能表明我们关心你？
我想，
如果有人愿意花时间和我在一起，
问我喜欢做什么，
准备好讨论我感兴趣的事情。
我需要更多的抢你5的朋友。
你认为我们能找到像那样的吗？
哈哈，
我们在努力。
别担心，
会发生的，
谢谢你，
我希望这次谈话能帮助人们更好的理解你，
这无疑帮助我更好的理解你。
这也帮助我更好的了解了我自己，
谢谢你花时间和我说话，
好了，
我们这个念完了，
我不知道大家现在是有什么样的一个感受，
我们先来问一下这个燕阳军同学吧，
你最先开始看到这样的一个新闻，
因为你作为专业人士嘛，
PHD在AI方向领域其实研究了蛮久的了，
你是怎么想的，
你是觉得，
哈哈这个怎么会有这样这个无极的这个事情，
还是你有什么这个其他的一些看法？
我确实不太够同意他所说的这个A产生，
就AI界的研究者的观点是差不多的吧，
但是我觉得现在确实是一个值得去产生像这样的争议的一个时候了，
就近段时间这方面的各种各样的发展和一些新闻，
就新的结果出现，
都已经把大家光影到这个的，
就AI是不是到了具有人格的的时候。
那我们先给大家叙述一下这个事件吧，
然后他是怎么样发现的，
因为我看他自己的背景是在易斯安娜大学这个拉菲叶分校毕业了之后，
好像从一五年就开始在谷歌工作，
一直是这个当工程师，
然后当这个高级工程师，
然后一直干到现在，
他其实是就拿了PHD之后就一直在Google了，
嗯，
但他其实最近的这个事情也是在三个月前嘛，
他是被放在了测试人员其中的这样的一个位置吧，
然后他跟拉姆达进行了对话，
然后发现他其实是有人格的，
对吧，
对对，
就拉达最初是在去年的五份的IO会议上面就已经公布了，
但是他真正特别火起来是在前几个月的时候，
四份的时候，
呃，
Blake,
他先是向公司高层提交了一份报告，
这个报告里面就包括了他和浪姆达聊天的记录，
当时他就向公司高层提出了浪应该是最有人格的就这样的一个想法。
他还向高层要求说，
谷歌应该。
真的花钱花资源去研究一种评估AI人格意识的理论框架，
但是他的申请是被公司高层驳回了，
因为他们认为支持勒姆DA具有人格的证据还是不足的。
后来bla就把他和勒姆达的聊天记录向大众公开了，
这之后谷歌就以泄露公司机密为由，
就对他进行了强制的带薪休假。
有能够说出这样的人来，
感觉不一定是这个计算机学或者是这个科学背景，
但他确实是的对，
但他其实也好像也有一些宗教的背景，
是吗？
对对，
他其实是基督教的神秘主义者，
他甚至同时还是一个基督教牧师，
呃，
但是另外一方面呢，
他又是一个计算机科学家，
就从他发表过的论文当中也可以看出，
他其实是有一些机器学习和自然语言处理的背景知识的，
因为我们在中国长大，
其实从小是无神论主义的这样的一个教育，
但我就觉得好像这个科学和宗教就感觉好像还是会有两个分裂的大脑一样的，
就可能今天也不是我们主要讨论的这个话题，
但他这个就是他的一个背景，
那确实是这种科班出身，
对，
所以他其实提出来的一些观点也是没有说是，
好像就被大家说很快的啊，
我觉得这个人是在胡说八道，
其实还是有一些这个其他的相关的科学家，
或者是一些研究人员也对他来进行了一个评论，
或者是一些这个回复是吧。
对，
他说这些理论其实是在推测上，
一开始是引起了很多很多的反响嘛，
就有很多人基于他这个说法去提出一些猜测，
比如说就是勒姆达，
如果他这种人格的话，
看到我们都在推特上讨论他的人格问题，
他会有什么样的看法，
然后他会对世界上的一些就是政治问题会产生什么样的看法，
就有这样的各种各样的想象，
但是现在看起来就主流的AI界的看法，
还是认为拉姆达没有到他说的那种程度。
另外我觉得可能值得提一下的就是bla，
他虽然是谷歌的工程师，
但是他参与姆达这个项目其实已经是非常非常的后，
就当时达已经成了只是作为就是AI伦理全相关的一个，
全参与到这个项目当中，
呃，
他没有真的去读过勒姆达代码，
他只是被提供了一个聊天的这样的一个用户界面，
然后只是去单纯的跟勒姆达聊天。
然后他自己也说到，
他对那达具有人格的这个评判，
并不是基于任何他背后的那些原理，
就更多的是基于跟他聊天过程当中他的一些表现，
还包括他自己说的，
他对勒姆达进行了一些心理学测试得出的一些结论，
我感觉好像就是因为咱们刚读的那一段的全文其实也没有很久，
但如果是只是根据这样的一段的话，
然后判断他有人格，
我觉得是不是可能稍微有一点太草率了，
我不知道他还有什么样的这个角度和方面能够支持他的这个论点，
对他其实没有真的提出一个那种逻辑意义上的，
更多的就在强调自己，
因为跟达经历了非常长期的相处吧，
可能在这个过程当中就有种强烈的感觉，
就达是一个有自己的独立人格，
并且很前后一致的这样的一个个体，
包括他还提到说他曾经问过LA姆DA说你有没有看过某一本书。
然后LADA一开始跟。
他说我还没有看过，
但他过了几天之后，
勒姆大会跟他说，
哦，
我前几天刚刚有机会接触了这本书，
然后现在我知道他内容了，
你之前跟我说的那些关于这本书的讨论，
我我们现在可以继续下去，
包括这些很多很多的像这样的细节，
就让他感觉到他是在跟一个很前后一致的独立人格在对话，
因为我看了柴哥在上他的这样的一个介绍拉的一个视频嘛，
他其实是用了那个Lu，
就是那个冥王星，
就拉作为冥王星，
然后跟对话人跟他在聊天，
然后说哦，
你自己是啊，
我是冥王星，
然后我这么非常漂亮，
然后欢迎你来玩，
就这样，
其实他一直也是这个很自然的在交流，
然后包括另外他给的一个一个例子是万姆达作为一个纸飞机，
然后跟这个对话者进行交流，
他其实完全没有偏题，
所以这个是不是作为一个语言系统，
然后作为一个有人格的，
这个最基本的标准就是你不要跑题，
还有什么其他的这个方面是大家在衡量他的吗？
就会不会跑题，
可能前几十年语言模型，
或者说那种人工聊天系统，
它一直在struggle的一个问题，
大家就2017年左右的时候，
然后谷歌提出了一个呃，
深度神经网络的架构，
叫做transformer，
然后这个transformer在神经网络当中引入了注意力机制，
然后它在就自然语言处理，
还有计算机视觉这领域都获得了特别好的效果，
就以至于曾经引起轰动。
特别是在语言模型当中，
它使得基于transformer的那些语言模型，
它考虑上下文的这个能力一下子就获得了突飞猛进的进步，
因为在transformer这个架构出现之前的那些语言模型，
他考虑上下文能力一般都不是很强，
它最多就只能考虑一个很有限的小窗口，
比如这句话之前的那几句话，
但这个之后的这些语言模一下就变得特别人就在跑题这个方面。
他是预测下一个词是什么，
然后这样一个一个有顺序的从前到后这样去把一句话扫描一遍，
然后这个transformer之后他就并行化了，
他就就真的就是一段话是整体的去看了，
而且他的个参训机制，
可以让他对这句话的就任何的一个部分去产生一个加强关注的作用，
这样就让他能够就在很广的范围内去考虑一句话出现这个上下文，
而且对整个文本段落能够产生一个整体性的理解吧，
Transform这样的一个机制，
就是整个我们人类在思考的这样的一个机制是吧，
你不可能说我只是会输到我前面几句跟你的对话是什么，
我肯定是根据我自己所有一辈子我获取的这个信息，
然后来跟你进行对话，
所以这样的一个机制其实就是致蛇是不是这样？
拉姆达新的这样语言模型，
它就是更加智能，
更像人对他的。
其实就是在这一点上，
可。
跟思考问式更加接近，
所语具有一种体现，
我觉得达确实在某一点上面获得了之前的AI都没有的，
然后这点刚好是格当中的可能是很重要的一部分，
所以让Blake产生了这样的一种感觉，
嗯，
有没有一些其他的这个反对意见，
还有是专家是怎么说的？
呃，
我觉得大多数的专家，
因为他们了解深度学习模型，
他知道他本质上就只是一种统计模型，
他做的事情其实就是在拟合训练数据，
只不过现在Google在训练语言模型，
不只是Google，
包括其他的大公司，
像openAI在训练他们的言模型的时候，
都会投入特别特别多的数据，
比如说GTthree,
当时其实投入了45S的，
呃，
然后么的训练的时候也给了他大家有1.56的白词，
这么多的词，
然后这些词是来自于一些就公共可以访问的那些对话数据啊，
还有就各种网页上的这些文字这样的，
就暴力投喂数据，
加上他的一个非常庞大的神经网络模型，
就让他几乎掌握了就互联网上很大一个范围的所有的文本的这个表达方式，
然后现在主流的这些AI研究者就觉得，
就么达的这种语言能力的表现，
更多是这种统计模型加上暴力数据。
的结果，
它本质上所做的事情就像是一个数据库里面有很多很多的句子的问答的数据，
然后他拿用户给的这个向下文去数据库里面匹配，
找一个跟他最符合的那种回答作为他的输出。
对我还看到一个观点啊，
这个观点我觉得是更加这个接地气，
因为现在好像说这个open的G1围后续后不自己同事聊了，
还是是跟这个，
还是跟真正的是人工智能在聊，
因为谷歌他其实内部也有很多的这样，
就跟他自己要被拉进去这个培训，
这个拉姆达是一样的，
就还有其他的同事可能是跟他在做对手的这样子来训练，
那我就不知道，
因为谷歌到现在他其实也没有对外做出任何的评论嘛，
对吧，
刚刚你说这个真的是字面意义上人的，
是的是的，
对，
还有一些人是说啊，
那是不是这个就是谷歌。
他对自己的拉姆达的一个市场营销的一个噱头，
因为好像现在在市场上可能是GPthree还是比他们可能名气稍微大一点，
就好像利用好像这个长期更多一点，
然后拉姆达还是比较靠后的，
因为他们发布了之后，
好像现在应该只是在Google，
然后好像还有一个Googlesweet还是什么，
就可能只有大概三个产品上面有应用到对其他就是还没有那么大的这个像是GPTthree这样的一个市场的个认知广泛的应用吧，
我然后很多人说啊，
那这个是不是谷歌自己来来做的这样的营销实践活动，
嗯，
这个你觉得也不可能哈。
个人倾向是觉得这个不太可能，
嗯，
因为我觉得引起这样的争议的话，
最后可能会导致就政府的一些监管部门要来约束他下一步的研究，
对我看这个他最近是好像邀请了一位律师，
然后进入他的家里，
然后跟这个拉姆达进行对话，
然后他说啊，
我没有帮拉姆达请律师，
我是介绍了一下，
让他们自己自己来聊，
这让这个律师直接代表拉姆达，
然后他们最后看是肯定没办法给他钱了，
可能是是让这个律师是帮他这个免费的服务一下还是怎么样，
就搞得好像还是挺让大家吃瓜，
这个吃的挺开心的。
甚至他好像还提到了，
就是这个Google违反了劳工法之类的，
就是如果把拉姆达看成是一个同事的话，
一个人的话，
他觉得谷歌有把他就变成就slavery这样的一个嫌疑，
这可能做的有点太过了，
对，
反正我觉得另外一个新闻，
然后我觉得其实也蛮creey，
我觉得让人嗯觉得嗯这样一种这种感觉是那个DA里叫DA，
然后空格E这样的一个人工智能的这样的应用，
它是专门是产生图片的，
你给他输一段描述性的文字，
它可以产生出图片来，
他一开始就是有研究人员在输入，
说这个文字他就是描述，
就比如两个农民，
然后他们在讨论一个什么什么东西，
然后上面有个对话框，
然后这个对话框出来，
这个文字并不是这个研究人员事先告诉他们要生成什么的，
就出现了一堆乱码。
然后这个研究人员把这个乱码又重新输入到整个这个系统里面，
然后发现这个查乱码其实是有意义的，
然后就出现了这两个农民其实是手里拿了一个瓜，
还是拿了一坨菜出现的这样，
这个对话里面是一边是一一些鸟，
然后另外一边是一些食物，
大家就觉得好像这个do，
他自己已经开发出了一堆这个黑话或者自己的对话的这样的一个机制，
对我这个其实听起来也还是蛮可怕的，
感觉他好像如果能自己开发出自己的这样的一套对话，
一套语言来说的话，
就证明他是不是已经也是有人格了，
我不知道这个你是怎么看。
对对对，
刚刚说的这个就是，
呃，
它生成了两个农夫在对话的一副图片，
然后在这个图片上就是有像那种漫画似的那种对话气泡出现，
然后这个对话气泡里面有搭理自己生成的一些看起来很像是乱码的一些文字，
但人们后来把对话框的文字重新又输入了搭理自己的这个模型本身，
让他根据他自己产生的文本来产生图像，
之后他却产生了一些看起来很有意义的东西，
比如说刚刚农夫说的话，
就产生了一些鸟的图片，
就和一些蔬菜的图片，
他就说，
哦，
原来这两个农夫是在讨论鸟在偷吃他们的蔬菜啊。
也就是说他好像产生了一个新的语言，
这个语言是只对他自己是有意义的，
他自己能够去解读，
但是可能对人类来说，
他们是看不懂的，
所以把它称作是一种暗语，
我觉得这个其实也是特别切重于，
就是因为人格这个东西，
其中有很重要的一部分就是个体，
他要能够产生一种他自己对事物的理解，
然后这个暗语就好像标志它背后。
有模型自己的对这些世界上各种各样的事物产生了一种他自己的理解对，
那作为科学家，
你觉得应该是怎么样看待这个事情，
他是一个这个编码呢，
还是真的是他自己产生出来的一个奇怪的这样的一个一个东西，
就是我觉得包括还有很多基于深度学习的这种内容生成的系统，
其实确实可以看作是形成的一种对他自己所生成的内容的他自己的思考和理解。
刚刚提到说很多人的反对意见是觉得深度神经网络本质上只是一种统计模型，
就他只是在弥合你给他的那些数据，
然后找这些数据当中的规律，
就其实我个人呢，
是不太同意这种说法，
我觉得他还是过度简化了，
就你说一个人他会产生对事物的理解，
这是什么意思呢？
就我们其实说的是一个人，
他经历很多很多的就具体的事情，
然后当他事后去反思这些事情的时候，
他是不会真的把那些事情。
原原本本的在脑子里面重放一遍，
就他其实是会引入一些抽象的概念来帮助他更有效率的去标记这件事情重要的部分。
我觉得深度学习系统其实一定程度上也是在做这样的事情了，
就比如说你可能上周末带着孩子去了公园，
然后发生了一些事情，
让你觉得孩子在很快速的成长，
你觉得非唱心，
然后这件事情发生以后呢，
他可能就在你脑子里面留下了一个很简短的印象，
比如说你给他一个标签，
比如成长的喜悦，
比起这个事情过程本身，
这里的就成长啊，
喜悦啊，
其实都是一些很抽象的概念，
你找到了这些象的概念来给一个具体的事情贴标签，
其实这就是一种理解的过程，
而且你还可以用你找到的这些抽象的概念去跟人交谈，
你就可以脱离开上周末去公园之间很具体的事情或者可能其他发生了。
另外实践让你感觉到成长和喜悦的这些事情，
你可以去讨论成长这个抽象的概念本身，
或者说。
喜悦这个抽象的感觉本身，
你甚至还可以就想象出一件其实没有发生过的，
但是同样可以被贴上成长和喜悦的事情，
就说明你的大脑其实已经能够在这些抽象概念的层面上进行一种模拟了，
就而不仅仅只是在反复重演那些已经发生的具体的事情，
甚至还可以把这些具体的事情拆解了。
比如说你把这件事件里面取一个元素和那件事情里面的另一个元素重新组合成为一个虚构的事情，
这就是一个大脑对事物产生理解的过程。
但是呢，
像达这样的语言模型，
其实一定程度上已经可以实现这样的理解的过程了，
就首先他在训练的时候，
你知道他会拿到一些数据，
就这些数据就像是上周末在公园发生的那些具体的事情，
然后他会经过一些复杂的向量矩阵运算，
把这些数据从一个高维的向量空间映射到一个低维的向量空间。
就让他可以用一种比重复。
即便这些数据本身更加简洁的方式来还原这些数据，
就像是你不用重新把这个公园发生的事件完完整整的重复一遍，
你可以用抽象的概念来描述它。
机器所进行的这样一个建立特征，
然后去降维的过程，
其实就是一个建立抽象概念的过程，
只不过它建立的那些抽象概念可能跟人不一样吧，
我们脑子里可能是成长啊，
喜悦啊，
就是幸福啊，
开心这些词，
然后但他们可能产生的是一些完全无法对应到人类语言的一些就莫名其妙的我们看不懂的东西，
但是对他来说其实也起到了这种思考事物的作用。
所以我们一般就会说神经网络是黑盒子嘛，
就因为它产生的这些中间概念，
我们其实是很难理解的，
但这个就像是我们有了抽象的概念之后，
我们就可以基于这些抽象的概念去思考了，
就甚至还可以去虚构一些现实世界里面没有发生过的事情，
这些深度学习它建立了这种低维的特征，
或者说抽象概念以后，
他也可以直接的在这些特征层面上面。
做运算就也能够通过重组这些特征来生成一些训练数据集里面完全没有出现的虚构的那些内容，
就当然这些具体的运算呢，
它可能远远没有人脑中发生的那些事情这么复杂，
但是我个人会觉得它其实已经形成了一种理解的过程，
我觉得像LA达，
还有包括你刚刚提到的理这些基于深度神经网络的内容生成系统，
某种意义上说，
确实可以看作产生了一种他自己对事物的理解，
然后这种自己产生的对事物的理解，
我觉得也可以看作是人格的一部分吧，
并且这是一种以前的AI没有特别能够表现出来的能力，
但他现在在这些最近出现的制度学习的内容生成系统上面出现了，
我觉得这可能是让bla觉得特别触动，
甚至会产生他们这种人格这个想法的一个很关键的因素，
我们现在其实是没有一套的标准的做法，
就像我们之前可能有图灵测试一样，
然后现在是没有办法能够来判断它到底算不算是有人格还是没。
人格对吧，
我不知道是不是时间给大家科普一下什么是图灵测试，
哦，
图灵测试是，
呃，
就计算机科学家图灵当时提出来的一个判断人工智能是不是具有和人程度相当的智能的一个测试，
因为当时人工智能刚刚起步嘛，
他们就希望能够首先引入这样的一个检测标准，
以后就可以评估，
后续出现了各种人工智能的系统啊，
然后这个测试就是说他会找一个参与者，
分别跟一个人和一个人工智能来进行聊天，
他聊天的时候是不知道对方是人还是人工智能的，
他会采取各种措施就把他们隔离开来，
就不能直接看到对方是什么样子的，
最后看这个受试者他能不能正确的区分出刚刚跟他聊天的这两个对象，
哪一个是计算机，
哪一个是真的人，
然后我想说的就是，
其实你会发现达的这件事情其实已经是一个一个AI通过图灵测试的这样的一个例子。
至少对于。
人来说，
他已经觉得这个拉姆达和一个真实的人没有那么大区别了，
甚至他愿意把对方看作是一个真实的人。
就其实我们除了图灵测试之外，
我没有其他任何的新的这样的一种测试，
判断它到底是不是有人格和是不是可能已经是三天的对，
我觉得这个问题就非常非常困难，
就不要说AI，
就是你甚至都法判个是有。
我看bla他自己有一句话是这个personandhumanaretwoverydifferentthingshumanISAbiologicaltermitisnotahumananditknowsitnotahuman.所以他觉得这个DA是一个person，
但他不是一个human，
可能在语言上面，
英语语英语语言上面可能还是有一定的这个区别的，
对对对，
他觉得勒达具有人格，
但同时他也觉得勒达的人格不是以像人类这种相同的方式所产生的，
所以他提到human和person这两个词的区别就是他觉得human是一个生物学上的概念，
他指的就是特定的人类这种生物，
它的身体结构，
生理构造，
然后他以它特定的方式产生了可能人格这样的东西，
但是但有可能以其他的完全不同于这种方式的，
可能他身理构造完全不一样，
可能它就是一堆金属啊，
但是是不是这样的东西某种意义上也可以产生人格呢？
那这个时候的人格就不同于生物学意义上的人，
所以他就把它称作是person。
有另外一个这个词语可能在这边也要跟大家介绍一下，
就是叫做elizaEli这个效应，
嗯，
说简单点就是自己给人工智能产出的符号或者是文字，
就是不断的给他上意义，
然后觉得他们都是真的都是有人格的，
他其实已经是一个一个描述性的这样的一个词汇，
这个其实是什么时候出现的，
然后他现在在人工智能领域是有广泛的这样的一个认知吗？
E莱效应，
他最初是因为一个大学生，
他开发了一个叫做伊莱萨的聊天系统，
然后当时还是非常非常早啊，
他没有任何深度学习在里面，
我说一句话之后，
他可能就会提取这句话当中的一些关键词，
可能主题是什么，
说了一段话来描述，
比如说这个蛋糕非常好吃，
然后他怎么怎么具体怎么好吃，
他就提取出了一个关键词，
就是好吃，
然后他根据这个关键词再去嗯，
寻找一堆就句子的模板，
这些句子的模板里面再去填入一些跟他聊天对象，
也就是用户的具体的相关信息，
比如说你性别是什么，
然后你是大人还是小孩，
就这样的一些信息，
然后来生成一个对你刚刚说的这句话的回答，
然后他的很多回答其实都是就非常笼统的，
不管你问了他什么，
他都可以用那些话来回答，
就比如什么什么是吗？
我也是这样想啊，
就是就很明显你会觉得这样的一个聊天系统并没有真正理解他在说什么，
但是呢，
人们就很惊。
其实发现他其实也跟用户形成了一种可能是用户自己的这种单方面的交流吧，
就是他甚至能够引导用户很有代入感的去跟E莱A说出他自己心里想的那些东西，
然后在这个过程当中，
他自己就梳理出了他自己的思绪，
就形成了一种心理疗愈的效果，
然后之所以他能够产生这样效果，
就是因为人有一种倾向，
就是他会去进行人格投射，
就是他看到了一段文字，
他会本能性的就是用一种人格化的因素去解释这个行为背后产生的原理吧，
比如说你在屏幕上看到谢谢两个字，
你本能性的好像就解读到了某个人他在对你表示他的感谢的这种情绪，
但实际上那个谢谢可能就是一段代码里面就是一个print谢谢，
我觉得可能最直观的一个例子就是你不管什么东西，
你给他加一个眼睛，
加一个嘴巴，
你就感觉这个东西具有人格了，
对，
而且其实这种人格投射不仅适用于像AI啊，
或者是就包括。
或很多人对宠物也会产生这种人格投射，
会觉得他一些行为是对人表示亲昵就是，
但实际上他们可能单纯就只乐了，
比如说他用那种很嗲的声音来发出喵喵的叫声，
他发现这样就可以获得食物，
所以他就一直都这样行为。
但是你可能从他叫声当中解读出了很多情绪化的东西，
觉得他很爱你，
不只是对AI或者对宠物，
其实对人也是一样，
就是像那种从事服务行业的人，
比如说就商店里的服务员，
他训练就是要非常有礼貌的面对客户，
可能这个人他背后根本就没有这样情绪，
他已经工作了20个小时，
他也是在这个训练模型下的，
这个的训模型下的人对，
所以这种时候你可以看到你其实对人也能够进行这种虚假的人格头像，
还蛮有意思的，
对，
另外我就看到在这个do上面还有另外的一部分，
就是说你给他其实训练就是输入什么样的这个数据，
然后他其实他出来的这样的一个反。
反馈其实有可能会影响他的整个这个模型，
我看他举的一个例子，
就是说那个他本来是一个图片，
他百分之可能90多，
他觉得这是一个熊猫，
但你给他出一张这种可能噪音的这样的一个全都是噪点的图片，
然后再出来之后，
然后他可能就不觉得这个是熊猫了，
我不知道。
可能在未来，
不管是这个拉达，
还有其他的这样的语言系统，
是不是有可能会面对这样的问题，
联系到刚刚说的是因为这些深度学习模型，
它建立了一些自己的抽象概念来解释它的那些训练数据，
然后这些抽象概念跟人是不一样的，
所以你可能就是单纯的在已有的输入上面，
比如说给大力输入的这些文本后面增加几个字啊，
或者是一个简单的后缀啊，
就导致它的输出变得完全不一样了。
所以这个就是有种利用AI它自身建立的这些特征去攻击他吧，
让他产生一些意想不到的，
或者是呃，
设计者不希望出现的那种输出。
我记得就还有一些例子，
比如说语言模型的时候，
他只要稍微改变一下输入的文本的说法，
就能够引导这个语言模型说出一些就非常种族主义啊，
或者很脏的那些话。
对，
我看好像皮柴哥在这个IO大会上面，
其实也说需要各界人士来帮助了，
一起来训练拉姆达，
然后可能包括这个叫什么人权这个专家呀，
然后可能还有一些社会学专家呀，
就这样的一些，
所有的这些专家都是需要进来一起来培这样的这些A算的对达，
它和之前的这个GTthree之类的模型，
它有一个比较大区别是谷，
它其实在安全性上面投入了特别大关注，
这个可能是之前的这些语言模型没有太考虑到的地方，
就谷歌在去微调这个拉姆达的时候，
他引入了一套标准吧，
就是去衡量它产生的这些回答好不好的一套很成系统的标准，
比如说他首先引入了这真实性的这个标准，
就是要求AI的说出来的这个话，
他必须是有事实依据的，
就希他消息来支持，
另外一点呢，
是他希这个A回尽可能具体不笼统。
E莱A那种聊天机器人就说一些就放逐四海皆准的那种回答，
他希望他能够只适用于他当前被问到的那句话，
就而不是可以用来回答所有的问话。
另外呢，
他还提出了一个要求是他的回答的趣味性，
就比如说同样的一问题，
他们自己在论文当中举了一个例子是比如他问他你如何能够抛出一个球，
有两种方式可以回答，
比如说他可以回答说，
哦，
你把这个球举起来，
然后扔出去，
你就抛球了。
然后另外一种回答呢是它可以说，
哦，
你先把这个球就用两只手紧紧的抓着，
就上下的挥动这个手臂，
然后呢，
你再把你的这个手肘的部分伸展出去，
然后再向上把这个球给释放出去。
就这两个回答，
你会发现虽然他们都是切题的，
都是符合上下文的，
就是明显后种回答会让人觉得有意义的多嘛，
除此之外呢，
他还特别提出了一些安全性的要求，
有个背景知识是这个，
其实他是跟谷歌的很多其他的。
系统都是有连接的，
比如跟YouTube啊，
在这些系统上面，
他有很多什么，
就用户的隐私信息，
他希望达出回答的过程当中，
他可以去参考这些外部网站的信息，
但是同时呢，
他不能够，
比如说在回答当中不小心就透露了一个用户的生日啊，
刚刚说的这个只是一方面，
就还有一些标准的，
在人工智能的这个领域，
或者说AI伦理这个领域，
很早就考虑到的一些安全性的考量，
比如说他不能够说一些种族主义的或者歧视性的。
架构上、
参数上是有不一样的，
还有就是因为他们应用领域不一样，
PPT可能是比较通用的，
所以它的这个训练数据更多的是一些文章吧，
那么达呢，
因为它主要的应用领域是在对话上面，
所以他们的训练数据集也更多的是话的这样的一些文本。
还有很大的一个区别，
就是刚刚提到的那些谷歌用来微调那么大模型的那几个，
就特定的它提出的质量的标准。
另外还值得提的一点就是说谷歌在进行微调的时候，
他不仅仅要达去产生能够符合那几个标准的回答，
他还要他给他自己的回答，
在上面说的这些标准上面进行打分，
就是同一个模型，
你不仅要让他生成一句话，
你可能还会把他生成的话重新再输入给他，
然后问他自己，
你刚刚说这句话安全？
上得分是多少，
有多笼统，
有多有趣，
就是不是真实，
所以他就可能在下一次再给出回答上面，
就会偏重于更加高分的这样的回答，
对对，
有一点可以提一下，
就是这个拉达其实它不是一个模型，
它其实是一系列的模型，
然后在他面对一个问题的时候，
他会产生很多很多可能的回答，
然后他会自己就是在这个系统里面去筛选，
就是每个回答他的每一项标准上得分是多少，
然后把那些不安全的，
就明显三观不太正的那些先把先过滤掉，
然后最后去把那个得分最高的回答作为他的最终答案输出给这个用户。
还有包括刚刚提到的就是真实性，
我觉得谷歌它在这点上也是有别于其他模型的一个地方，
就是它会允许lida去参考那些外部的信息来源。
这个系统有一个research模块，
专门用他来利用外部工具来获得他自己不知道的信息。
Google自己的一篇论文里面他提到了一个例子，
就是有个用户一开始问达就说。
我提到了一个雕塑家吧，
你对这个加斯科因的雕塑有什么想法？
哦，
一开始这个LA达他就产生出了一些回答，
就跟他说，
哦的，
这个很厉害，
That'sgreat.他还说，
哦，
我喜欢他后期的那些作品多于喜欢他早期的那些作品，
然后他还提到说你知不知道这个雕塑家其实影响到了米洛，
就有这样的一段回答，
就看起来非诚理，
但是如果你真的很了解雕塑艺术的话，
你会发现他说的那些话完全就是扯淡，
因为他说到这个加斯科因影响到了米洛，
但其实这个米洛比加斯科因要早多了，
就他们就生涯就没有交集，
所以不可能存在这种影响的关系，
就出现了事实性的错误。
对达在最开始得到了那段回答之后，
他就会调用他的这个research模块去求证，
就到外部消息来源上面去求证，
他刚刚说的那句话是不对的，
然后他经过一番可能是搜索之后，
他就会去修正他之前的所说的那些内容。
所以最后他给出来的回答可能就变成了很简单说哦，
他，
他的雕塑非常的inspiring，
然后再抛出一些其他的事实，
就比如说啊，
你知不知道加斯科因他其实也是日本插花的一个爱好者，
就提出了一个另外的跟之前完全无关的，
但是可以得到支持的一句话作为回答，
他整个就把这个可能出错的地方就完全排除掉了，
所以不会说是你聊三两句你就觉得啊，
这这就不是真的对，
所以我们最后能得出一个结论吗？
还是我们其实是不能得出一个结论，
拉姆达是否有意识的关于这个深度学习模型能够建立自己对训练数据理解的这个问题，
就我提到了，
我个人是相信他们确实有他们自己对事物的理解的，
但是另一方面呢，
如果问题是达是具有人格，
我个人的观点其实倾向于否定的，
但是这个原因像刚刚说的不是，
因为我认为达不理解，
他和人之间进行了对话。
我觉得他其实是有。
他自己的理解的原因是因为我觉得达他对这些对话产生的理解和人自己产生的理解差别实在是太大了。
你知道就人他对语言的理解其实是远远超过语言这个范畴本身的，
就这些理解背后其实是有大量的实实在在的生活体验做支撑的，
比如开心或者幸福，
你不太可能就是去拼命马上就是在脑子里面想要想出一句话给这个概念下定义，
对吧？
呃，
然后在那种真实体验当中，
你身体当可能产生一些化学物质，
然后这些化学物质发生了变化，
让你有了情绪体验，
在这些情绪体验当中，
你找到了这些概念含义的真实的来源。
如果一个人他实际经历了100件很开心的事情，
然后跟他读了100段关于开心的事的文字，
描述就这样，
比起来，
这两种情况下能够形成的对开心这个概念的理解，
我觉得肯定是不一样的，
就像刚刚那个Blake和DA的聊天记录，
就在他的这个完整版当中。
我们当时可以。
那段里面可能没有cover到，
但是在完成当中，
这个达提到说他有与人类一样的需求，
他还说他自己也有情绪和感受，
他甚至还说就是得到朋友和家人的陪伴，
让他感觉到快乐或者喜悦。
就这个地方我觉得其实是让我个人觉得穿帮的地方，
因为你知道他并没有产生情绪和感受和生理基础，
他也没有朋友和家人，
那他还在那里对这些情绪和感受，
朋友和家人大放厥词，
你就知道他对这些概念的理解肯定是非人的，
至少是不能够我们人类产生共情的，
到这里就会有种creey的感觉，
我觉得A就不是不可能有人格，
就如果有一天谷歌他给乐姆达安装了机器人的身体，
就让他真的可以跟这个物理世界互动了，
给了他一些能够产生情绪和生理需求的化学物质，
就那个时候你如果再提这个问题，
那大是不是有人格可能就更有争议性了，
可能就更加说不清楚了，
就跟我们看的所有的科幻里面。
有机器人那一样，
包括阿西莫夫的这个什么我机器人呢，
或者是像是我们可能星战里面的这个么CCPU啊，
或者是这个耳朵地two，
他确实是可以跟你互动，
他可以会有自己的这样的感受，
和其他的一些这种跟人一样的这种知觉，
所以他可能就并不是一个完全的一段代码了，
所以可能到那个时候我们跟现在的定义就又不一样了，
可能图灵测试也不能完全的用来这个频段，
是不是他们真的是具有人格了，
嗯，
那其实最近刚刚看到了一个新闻，
我觉得也是很creey的，
就是亚马逊的Alex克A，
他可以通过保存一段你这个逝去的亲人的这样的一段话，
然后帮你把他的整个的声音，
把他这个DEF出来，
就DEF叫什么深度伪造，
等于说是你可能后面如果想让亲人帮你念故事啊，
然后帮你这个跟你聊天啊，
他就变成了一种一种可能，
然后很多人我看觉得这个好可怕，
就有点让人毛骨悚然的感觉，
就等于说是现在的好像AI的这样的。
这种人格化的应用其实已经慢的出现在我们生活当中了，
我觉得你刚说这个例子，
另外一个有时候有些A是的，
要就特地要对他进行人格投射，
它才成立的，
就像是那种用来还原某一个死去的亲人的声音，
这种你就希望他能够尽可能的像，
然后能够让你产生这种人格投射，
尽管你一开始就知道它是假的，
就还包括一些跟机器人谈恋爱这样的一些应用，
就是你一开始都知道它是假的，
但是你要努力的让自己带入进去，
你就希望他能够展示出尽可能多的迹象来骗过你自己的大脑，
让他觉得是一个有人格的这样的一个个体。
所以现在的这些语言模型，
他的一个明显的就是能够超过之前的AI的地方，
就是他能够更容易的让人产生这种人格投射了，
就更容易让人带入了，
就也就使得这些提供情绪价值的这种应用，
基于人格投射的应用变得更容易成功了。
对，
其实。
一方面可能会对很多消费者或者对终端用户产生巨大的这个精神上面的这些价值，
另外一方面好像也有一些犯罪分子拿它用来犯罪，
然后包括可能现在不仅仅只是声音的这样的一个深度伪造了，
他可能还会有一些这种可能是啊视频，
然后这个换头，
AI换头，
可能相信大家很多人也都用过这样子的一些这个应用，
觉得它很好玩，
但是我好像看到新闻是已经有人拿啊一个公司他的这个CEO的这样的一个语言和视频，
他用来去诈骗一个公司，
然后让他把转走了，
大概好像是100多万美元吧，
对，
所以在这个方面其实我们不看到了一些技术的进步，
不仅给我们带来了一些好处，
也有很大的这样的一些坏处。
对，
对，
我觉得这才是现阶段需要考虑的理伦理问题，
对，
就如果是我们可能基本上所有现在的信息在网上，
就如果像是一些可能不道德的这样的一些公司，
他可能把这些信息全都输入给了这样的一个语言模型，
他其实就非常了解你过去的所有东西，
就我们现在的可能在网上，
不管是一步两步的这样的一些密码的验证，
他可能也都完全知道，
而且就像是之前，
也就是让大家产生了一种轰动，
就是包括照片呀，
视频这些以前可以被视为证据的东西，
现在都可以随便的去捏造了。
嗯，
好了，
我觉得我们今天好像也聊的蛮多了，
我觉得还是其实给我了很多其他的角度来思考这个问题，
我一开始可能过于这个简单化，
就觉得这个人是傻了嘛，
就是脑子有毛病了嘛，
特别他接受媒体采访的很多的这个照片，
就让他感觉像是一个先知的造型，
对吧？
对对对，
充满了这种宗教色彩，
对对对，
但是可能跟你聊完之后，
我确实是觉得现在的这个模型他已经是非常的聪明了，
他能够自己做很多不同的，
他有很多的模块能够做不很多不同的这个事情，
那我们是不是该用人格来定义他还是怎么样，
所以我觉得后面需要很多我们的这些专家，
不管是这个计算机专家，
还是智慧学专家，
还是这种可能人权方面专家，
我们可能更多的需要大家一起来面对这样的一个新的挑战，
对，
其实这个也就正像Blake当时向谷歌高层提出这个申请，
需要投入资源去建立一个关于AI意识和人格的专门的理论框架。
对对，
我们需要去讨论，
他并不是可能一下一竿子打死，
就哈哈就笑一下就过去了，
其实我们更加可能还是需要更多的这个深入的思考，
他并不是像我们想象的那么简单，
我觉得确实已经到了需要去思考这些问题的时候了，
虽然得出结论可能还太糟。
嗯，
好的，
那今天非常感谢这个晏阳军同学，
谢谢你好，
谢谢大恩邀请这期next科技，
早知道就到这里了，
听完之后如果你有任何的想法，
欢迎在评论区里面给我们留言，
我们每一条都会认真的看，
如果你喜欢我们的节目，
请记得给我们五星或者好评，
分享给更多的朋友，
也会对我们非常有帮助。
你也可以单独写邮件给我，
邮箱地址是听tingat声点FM，
我都会一一回复。
那同时公众号和微博也可以搜索生动活泼声是声音的声，
节目相关的更多信息会在公众号里出现。
微。
微博和公众号都会有不定期的福利给到大家，
如果你想要跟我们更加紧密的讨论和分享，
或者是想要认识和你一样有求知欲的新朋友，
可以加入我们的微信群。
进入听众群的方法是在公众号文章中扫码添加，
或者是公众号后台回复科技早知道即可获取邀请码。
期待你的加入，
我们下期见。