00:00/00:00
外链地址
http://www.eemp3.com/audiofile/f81682f037450c6f94a6c6a4e9e61932.mp3
点击复制
有声音碰撞世界，
生动活泼hello，
大家好，
欢迎来到我们今天的what'snext科技早知道，
那今天的这一期有一点点不太一样，
算是我的一个小小的尝试，
大家都知道我们上一期跳票了，
其实背后一个原因是我确实是生病了，
然后另外一个原因是我在为这一期的节目做准备，
准备的难度比我预想的要高了不少。
嗯，
好吧，
那我还是蛮期待大家听完这一期节目的一个反馈的，
那希望大家能够多多给我一些建议吧。
好了，
那下面就是我们今天的这一期节目，
最近深度伪造名人的声音视频已经被玩坏了，
不知道大家有没有刷到过这些视频，
最近我去了很多地方，
KillSwift,
妹梅流利的在讲中文和日本，
Butthis,
以及郭德纲、
赵本山在流利的说英文。
Forthisevent在选题会上，
大家也给我抛出了非常多相关的一些选题，
比如说是AI诈骗的真实度现在到底是什么样的一个程度了？
有多容易能够深度伪造一个人？
在ChaGPT出来的将近一年多的时间里面，
人工智能领域其实是有了爆发式的发展，
技术这把双刃剑的另一面其实也在蓬勃的发展，
不管是在国内还是海外，
一艘AI诈骗就会出来非常非常多耸人听闻的信息，
AI诈骗成功率接近100%，
微软发布的AI声音生成工具，
只需3秒钟即可模仿人说话，
10分钟被AI换骗走430万元。
OFSmanipulateyourownvoiceyourfears,
对于我自己来说，
我是不是也要给家人打个招呼了？
毕竟我已经录了百来期播客，
我的声音真的是到处都有，
那克隆一个人的声音和视频。
到底有多容易，
成本又是什么样子的？
所以我还真的就和我们的后期负责人迪卡一起实验了几个在市场上现在免费并且公开的产品，
那这几个产品分别需要我提供半个小时的语音素材，
以及另外一款产品是英文的，
他让我读了对方提供的大概有70多个句子，
大家可以听一下这个真实程度。
您好，
为了更好的爱护您的车辆，
请您在一到两个月内或3000km左右来电进行车辆首保。
幸福原本很简单，
拥有一份淡泊性质，
观天空云卷云舒，
品人生起起落落。
嗨，
I'mdianwelcometowhat'snextpodcasttodaylet'stalkaboutgeneratingaudio,
我在办公室拿出来也同样的放给了我们的团队小伙伴们听，
大家觉得可以打个70分，
他们感觉其实蛮像我的，
但是如果真要接到这样的电话，
他们其实并不会相信是我直接打给他们的，
Andmoveslikeme,
华尔街日报的记者Joanna也去做了一个类似的挑战，
他先去了深度伪造公司sincere公司在纽约的一个studio，
在绿幕前面采集了自己全身多角度的形象的视频，
又去了一家叫做elevenlabs音频深度伪造公司，
录制了大概超过一个多小时的声音的音频。
那在完成训练之后啊，
他挑战24小时之内用AI克隆的自己和同事以及家人交流，
MyownsisterIcalledherhey,
那结论是AI女生的电话成功骗过了朋友和家人，
甚至他当时用了AI的声音跟采访的对象也是Snapchat的CEOEvanJO在表露了自己是AI的语音之后，
Evan只是表示说，
我还以为你今天是特别的严肃呢。
那JO安娜的语音也同时骗过了他的银行顺。
通过语音识别的环节进入了下一步，
但是在最后一步啊，
他失败了，
他在用AI虚拟形象跟团队进行视频会议的时候，
因为说话的逻辑跟不上，
无法做身体的动作或者是手势，
所以很快的就别识别出来了，
那这个成功率已经非常的令人惊讶了。
但是对于网传的3秒钟的克隆语音呢？
或者是只要一张照片就能换脸的技术，
到底真实度有多高？
OKgenerallyrecordingandIwillsendyou,
那带着这些问题我采访了我的朋友，
AI领域的科学家akiller博士，
他也是在AI领域的连续创业者，
另外为了方便大家的收听，
我们也把英文采访进行了中文的翻译与配音。
if,
首先得承认啊，
用AI来生成类似于真实人生的声音其实挺难的，
因为你需要。
获得某个人的声音样本之后，
才能使用技术来进行处理，
那这个过程通常需要大量的声音样本才能达到真实的合成效果。
所以仅仅依靠一小段的音频，
比如你在社交媒体上发布的语音，
想要进行真实的复制其实是不太可能的。
但是前一段微软团队曾经开发过一个相当高质量的语音合成事例啊。
所以在这种研究领域，
而不是大众的产品领域，
你确实可以发现一些AI的技术能从相当短的样品中合成一段相当不错的音频。
如果这个声音样本越独特，
那复制起来也就越容易。
所以假如你像克隆兔、
巴哥这样著名卡通人物的声音就相当容易了。
那相比之下，
复制一个普通人的声音就没那么简单了，
因为普通的人声几乎没有像卡通人物那样具有极容易辨别的特征啊，
Ithinkforthebestalgorithmacademic.那我觉得对于那些还在学术研发中的AI算法来说，
几秒钟的样本做出来的合成语音其实已经能让人信服了，
但这也取决于你想要说服谁了。
那假如有人自称是你的亲人或者是你身边的朋友，
只要你有理由怀疑对方的身份，
那被AI复制出来的声音大概率就骗不了你。
当然了，
还有在一些场景中，
你会很难确认对方是谁，
比如在电话里，
AI的合成技术其实是能模拟那种声音失真的效果啊，
这会让你感觉更真实啊。
那其实在未来的两到三年里，
合成这种高仿真度的音频差不多可以成为每个人都可。
触手可及的事情了，
那当我们接到了不太确信的电话时候，
有什么方法能够快速的验证呢？
打个比方啊，
如果你怀疑正在和你对话的是AI语音，
那么你可以引导他说出一些特定的话，
从而帮助你进行真伪的判断啊。
同样需要引起注意的是，
如果没有足够的声音样本，
AI就无法准确的捕捉到说话者的个人特质，
也就是说一个人其实是有多种的表达方式来表达相同的意思的，
所以其实在几秒钟的语音片段里，
那些你的声音腔调呀，
嗓音呀，
甚至是你的声理结构特征，
其实在某种程度上是比较好被模仿的，
但是要准确还原一个人说话的习惯和方式啊，
就需要AI进行大量的样本。
不过说实话，
在不远的未来，
AI在这方面会做得更出色，
他会变得更擅长像人类一样自然的表达自己。
市场上向是维娜使用的深度伪造的公司在6份宣布完成了由领投的9000万美元的C轮融资，
公司的总估值达到了10亿美元。
那节目开头让TaylorSwift开始说中文的这个公司叫做HY，
是由华人创始人创建的，
也是拿到了来自IDG、
红山中国真格基金累计近千万元的投资。
那在深度伪造技术快速发展的同时，
其实也有不少公司竞相开发人工智能深度伪造的探测器，
有一款广泛被应用的工具叫做GPTzero号称有100万的用户，
并且他们能够快速的检测文本是由open的BTT3或者是4或者是还是的生成的。
那据纽时报的报道说，
来自哈佛大学、
耶鲁大学和罗德岛大学大概有6000多名的教师使用了这样的一款工具，
检测学生的作业到底是不是AI。
征程的。
那对于这些探测工具我也充满了好奇，
到底它的准确率能有多高？
这个问题Adrian是这么回答的，
Idon'tknowthisiskindof,
因为他就像在玩猫捉老鼠的游戏一样，
因为每种工具都在不断的发展，
最终都希望能够超越另一种工具。
那如果你的孩子在这样的学校里，
那我强烈建议你啊，
让他们赶快去换一个学校，
因为假如一家学校让你的孩子去避免接触正在发展的这些AI技术，
那简直就是在教育他们如何在劳动力的市场上去彻底的失败呀。
每所学校，
特别是大学都应该竭尽所能的让学生们去及时的了解和掌握这些技术。
我觉得学校可以做的反而是提高论文写作的标准，
并且告诉学生们要充分利用AIGPT或者任何你们能获得的AI工具去完成一篇你能力范围内最出色的论文。
虽然A准没有正面的回答我的问题。
但从侧面。
表达了他认为这样的工具现在还是比较鸡肋的，
那我们就真的对AI和深度伪造创作出来的不良内容没有办法了吗？
所以我就又采访了一位在平台工作的AI算法科学家Linda，
嗨，
丹家你好，
那如果是从我们现在的这种普通人的角度，
我们怎么样能够分辨出不管是一篇文章啊，
或者是一个图片，
或者一个声音，
它到底是人工智能生成的，
还是这个是真人在后面。
说实话我觉得这个很困难，
因为我们从AI的这个成熟度来说吧，
文字的AI，
你让AI给你写邮件，
或者说你写一个东西，
让AI给你润色一下，
AI的能力已经比80%人要好了，
这是我自己的感受，
然后你会发现AI写出来东西很有礼貌，
对吧？
他的逻辑很顺畅的，
他很标准，
我们可以说这种文本是比80%的人写的英文要好，
但是不代表这这个他写的这个行为逻辑，
他这个风格是坏的，
所以你怎么一眼看出他是机器写或者人写的，
如果你觉得他特别礼貌，
比如说他不是一个呃，
土生土长的美国人，
他可能只有六个月的英语。
经验，
但是他，
诶他的写的特别好，
那很有可能是机器写的，
当然是我们现在是讨论是现在的这个AI技术吧，
我不知道如果让你展望一下，
再过个3年5年，
会不会可能这个人眼和甚至机器我们也难以分辨了，
我觉得会是这样的，
计算机上面我们存储这个信息，
我们是用最少的这个bit来存小文字，
对吧，
那比较多一点的就是图像，
那再到视频，
那对于AI来说也是一样的，
它实验室从文字开始。
呃，
解决这个问题，
那好，
那AI已经比80%人好了，
那到图像，
那图像是不是也会比80%也好呢？
我觉得已经快到了，
那到视频可能两年三年，
它可能也会比百百分之80的要好，
那它一旦过了那个80%的点之后，
呃，
我觉得对于一个普通人来说，
它能不能识别就已经是很困难的事情了，
因为我觉得之前有个非常有名的心理学的测试，
是说你觉得自己比全世界的人长得好看吗？
平均水平来说。
但是6%~60%~70%人都会说我我自己比50%人好看，
但这是不合理的，
跟AI也是一样的，
他可能会觉得说，
诶我的写作是80%，
但是其实如果真正有一个量化来说，
其实你并没有，
那你你被AI打败了，
你在被AI打败的情况下，
你是不可能去识别AI的，
因为他比你更好，
那现在有一些工具，
我们在现在这个阶段是可以用的嘛，
其实是有的，
不管是在工业界还是学术界，
大家都在做这方面研究嘛，
啊那我觉得现在大部分的研究还是基于文本的这个这个测试，
比如说像之之前的一些测试集是或者一些算法，
它是，
呃，
就是0或者1，
就是我给你一篇文章，
你你来说它整篇是机器生成的，
还是不是机器生成的，
对吧，
就是或者全部是人工，
或者全部是机器，
那是有这样的数据集，
但是很快之后大家发现了，
真正的AI在生活用上，
或者真正的用途上吧，
它不是这样的一个行为模式，
大家会用它怎么说呢？
会是一个文章生成出来，
它可能是一半人工，
一半机器，
或者说我人写一个开头，
机器给我生成，
中间我再写个结尾，
呃，
2022年呢，
也会有一些新的这个基准测试集出来，
叫realorfake,
对吧，
它就是做了这样的一个事情，
它是，
呃，
我挑一个样本出来，
然后这个样本肯定有十句话，
然后第一句话是人工的。
呃，
从第二句到第10句之间，
我可能在某一个点是机器生成的，
然后往后都是机器生成的，
然后你会用这个算法去来detect，
或者叫鉴别我们在哪一个点上，
这个是机器深沉的，
但是到现在为止，
我觉得大家在这个在这个数据集上的表现还不是，
我觉得不能说是一个可用的状态，
还是有很多的错误在，
因为他太像了，
他在很多情况下实在是太像了，
所以你导致。
魔法打包魔法也是一个很困难的道理，
所以未来这个成功率有可能会提高吗？
我觉得是会的，
而且还大家还是需要做很多很多的研究，
像我说的用魔法打包魔法，
你用什么样的数据去去训练这个魔法，
因为第一个魔法是大看了全网的数据训练出来的，
那你想要鉴别全网的数据和真实的人，
那你就需要有，
你要给他指示，
你要告诉他怎么去鉴别这个事情，
那我觉得还是有一些路要走，
但是我看到了大家其实的这个表现也是在不断提升的，
比如说最一开始的时候，
大家可能在这个测试上只能做到可能20%，
30%，
然后慢慢的也会变了，
变了50%，
60%，
对吧，
那大家也会慢慢的提升。
但是Adrian给到我的是一个蛮相反的结论，
他觉得比如在图像生成的领域，
基本上已经很难辨别出是人做的还是AI做的了，
这个很难说啊，
这些技术发展太快了，
如果说是静态图像而言啊，
我们已经做到了，
实际上并没有想象中的复杂。
我刚才和一些朋友辩论啊，
呃，
网络中的某张图片到底是真的还是AI合成的？
我觉得在这个讨论中，
似乎没有人能说服其他人去相信自己的观点啊。
所以我认为啊，
像midjourney这种图像生成的模型，
在合适的情况下可以生成与现实世界那种原始照片几乎没有什么区别的图像。
如果我们指望不上各种探测AI内容的工具，
那大公司，
特别是平台，
大家是否有技术和政策去发现并且禁止不良的AI内容呢？
AI不仅帮助很多普通的创造者说我更快的创造更多更好的内容，
他同时也帮助了一些这些我们叫sister，
叫abuser吧，
或者去分发这些不好信息的人呢，
他也更快的去制作和分发这些内容了，
比如像像他以前他可定要雇人说哦，
我要捏捏造一些虚假消息啊，
比如说说拿拿来打仗了，
但其实没有打仗，
然后他要去雇人去做这个消息，
然后去分发这些，
这些确实很贵，
但现在来说，
对他来说，
可能用一个GPT，
或者用一些图像生成的，
他就可以把一些人脸合过去，
或者把一些打仗的照片传过去，
对对对，
这次这个8亿冲突其实是还蛮明显的，
然后还有乌克兰战争，
对的，
一方面它是可以大量的生成这些不好的内容，
第二个是他的这个做坏事儿的逻辑，
它迭代速度也变快。
你可以把它想象成平台和这些人之间的关系，
是一个就是警察抓坏人，
或者警察黑帮的这么一个逻辑，
对吧？
那大家都在迭代，
那以前的时候他迭代速度可能是，
诶，
你往前走1米，
我往前走1米，
你往前走1米，
往前走1米可能是一天走一步，
对吧？
那现在有了AI之后，
他可能一天之内他走了100步，
对于平台来说，
你也需要在一天之内走100步去抓住他这些东西，
那这个东西其实是永无止境的，
因为除非有一天达到一个程度，
说是他发现他没有办法轻易的去制造这些消息，
或者说他制造这些消息的成本要远远大于他制造这些消息获得收益，
他才会停止，
但是总会有人去要去找平台漏洞，
去做这些事情，
嗯，
因为我跟另外一个朋友聊，
他觉得这个现在就是他的平台抓住它的机制，
有点像是catchinggame,
就是还是现在AI的个创作这些可能sgame的这样的一些内容，
它的这个效率和它的这个成本是非常快和非常低的，
所以可能现在平台还是在在往上在赶，
对是这样子的一个情况是对的，
因为对于平台来说，
他需要抓住这些scheme。
按照传统的它这一套逻辑，
它是要做什么事情呢？
比如说这些scheme发生了，
然后你就会看到一些scheme相关的指标，
就是你平台内每天都会追踪这些指标嘛，
你的这个指标就会嗖嗖嗖往上涨，
那往上涨你会去发现它是为什么往上涨就发现哦，
原来是这里的内容，
然后这一类内容呢，
就会经过人工的这个标注啊，
证明它是哪一类，
哪一类违反了哪类的规则，
或者说可能是一些新的规则，
然后你需要从legal的角度去创造这些规则，
然后人人工去标注，
标注的数据再返回给机器去学习，
然后机器才能抓住这些pattern，
那这个其实是需要花时间的，
包括甚至可能有些新的pattern出现之后，
你的legal需要active的去制定一些新的policy，
对不对？
因为你制定任何的policy，
对于大的平台来说，
你不可能说我制定一个policy，
我限制你这部分内容的分发，
呃，
然后我在内部消化就完了，
你制定policy，
你可能还需要对外去沟通，
那除非是一些特别紧急的情况，
比如说跟儿童安全相关的，
或者像这次以色列，
呃，
巴勒斯坦战争相关的，
可能特别紧急的，
或者美国大选之类的，
他可能。
会move的更快一点，
但是总是有一个时间差明白，
那我看其实像是information这样的一些媒体渠道，
他也在做一些猜想啊，
就下一轮的美国大选，
其实也就是一年多的时间了，
然后平台其实在上一个周期的时候，
是有很多的就没有想到的事情发生吧，
我不知道这个新的一轮的这样的一个cycle平台现在在想些什么，
就从你现在可能观察到的选举这个事情，
其实我觉得所有的这个社交平台大家都是还是挺敏感的，
因为他是很政治化的一个一个事情，
尤其是在上一次或者上上次总统大选的时候，
大家发现了大量的这个虚假信息的，
呃，
宣传，
然后一些有组织的黑客行动，
然后可能会导致一些***情况的不均衡，
或者是一些不公平的情况发现，
我觉得几个角度吧，
第一个现在的社交平台，
大家一般都会有一个专门的叫newsteam,
他们就是专门负责就是跟新闻相关的内容在这个平台上的分发呀，
这。
内容的收集啊，
这些内容的标注啊，
他会来控制这个news的quality，
然后第二个是大家现在做的越来越多的是，
就是我们要鼓励更多的可信赖的信息源头，
比如像一些认证过的这些新闻的频道，
比如像华尔街日报啊，
纽约时报啊，
或者一些当地比较有知名度的一些报纸或者社交媒体，
这些可信赖的信息源头呢，
他就会可以这么说吧，
在内部它打分会更高一点。
然后第三个呢，
是我们之前在之前的一轮的或者两轮选举之间吧，
我们发现像这种****在大规模的情况下都是有组织的，
其实你是可以通过这个社交媒体的，
我们叫socialnetwork,
对，
就是你可以通过图网络。
来进行追溯的，
一般来说像这些IP之间，
或者这些账号之间，
它是有一定的联系的，
比如他会互相转发，
他会点赞，
然后他会在某个时间有一些行为模式的相似性，
那这些通过这些socialnetwork的这些tracking呢，
我们也是可以把它们呃做一个聚类，
然后进行一个整体的打击的。
其实今年各大平台官方确实出台了一系列的措施，
那比如说是欧盟通过了人工智能法案，
在今年的3月，
TikTok更新了社区指南，
强制要求创作者在任何逼真的场景中公开AI的使用情况。
到了7月份，
Meta,
微软、
GoogleopenAI和亚马逊在内的7家领先的科技公司都向白宫自愿承诺对AI生成的内容进行标记，
那9月份呢？
Google宣布从11月中开始，
政治广告中使用的任何人工智能生成的内容都要在平台上作出声明。
那平台虽然出台了这么多的政策来监管，
但为什么没有说我们统一一起来制定一个AI生成的标准，
或者是类似水印一样的探测机制，
这样生成的内容就更容易被检测出来呢？
我的理解是，
现在行业内可能大家没有一个统一的说所有人联合起来，
我们要做这个事情，
因为现在大家所有人的目的首先是还是需要增长。
就是大家推广自己的AI的，
大家还是在攻城略地的状态，
所以一般在这种求增长的阶段，
大家不太会说我坐下来谈一谈这个安全的问题，
或者说我们坐下来搞一个协议，
那个时候一般是在战争结束之后说，
啊，
你的地盘我也抢不动了，
我的地盘你也抢不动了，
大家坐下来聊一聊，
做一个联盟，
哎，
这个太大实话了，
大平台寻求增长可以理解，
那普通的AI创业者呢？
他们的逻辑又是什么样的呢？
我觉得这是硅谷的一个特点啊，
在科技领域里，
我可能和其他的技术爱好者一样，
会被认为是一个坏人，
但是硅谷的文化就是坚持的越多优秀的技术越好这样一个态度，
即使你的产品可能会以某种负面的方式被用到，
但如果他也能展示出有价值或者是有积极一面的话，
那么就应该继续被发展下去，
并努力通过寻找其他的方式来抑制它的消极影响，
而不仅仅是去。
回避这项技术啊，
因此在硅谷我们非常重视创造力，
对创造力和技术创新的热爱，
无论对错都远远超过了其他的顾虑。
这里又回到了技术工具论，
我们可以用技术做好事，
也可以用技术做坏事。
那回到我们做这期节目的初衷，
我们普通人怎样才能保护自己呢？
特别是像我这样在互联网上有很多自己音视频的个体，
我觉得可能对于公众人物来说，
这个是不可避免的，
因为我去搜linkin，
我可能会搜到你的照片，
我会搜到你的历史记录，
这是你自愿公开的，
就算李英不让我去下载你的数据，
我也可以把你那个李音的数据截图下来，
或者我在电脑上啊，
拿鼠标过去把这个数据copy下来，
这些是不可避免的。
可能没有AI这个事情也是可以的，
只不过现在这个更容易了而已，
对，
或者说其实有像之前就算没有AI，
他也可以大规模的下载你的声音，
比如说他可以写一个数据爬虫，
然后他在。
YouTube上，
在podcast上，
跟你的名字答案相关的，
然后跟生动活泼相关的，
我都下载下来，
然后他自己在人工过滤一遍，
或者是他都可以做。
确实是的，
我以及身边不管是海外还是国内的朋友，
每天几乎能接到几十个未知号码的骚扰电话，
那邮件更是不计其数了。
AI也只是让他们成本降低了，
那可能提高每个人，
特别是年长的家人对新的技术的认知和警觉，
才是我们能够做的。
对于音频视频的诈骗，
我们现在要做到完全的实时的沟通，
其实还是漏洞百出的，
只要沉着冷静的应对，
其实就能够发现破绽。
speech通常来说，
如果我们想渲染一句话啊，
那渲染的时间会比这句话的总长度要长10~100倍的时间。
那举个例子啊，
如果你想渲染两秒钟的AI音频，
那么你至少需要20秒的时间能达到一个相对差强人意的。
交过，
但是你需要200秒的时间才能达到一个相对高的质量，
所以目前这种实时交互的AI语音还是很难实现啊，
Quality好了，
那今天的节目就到这里吧，
最后我用A卷的一段话来做今天节目的结尾吧，
Ithisis,
这句话不是我写的，
是我在网上看到的，
它是关于未来的真实世界和虚拟现实完全混淆在一起的一段内容，
那他是这么说的啊，
TheyearistwentyartissorealisticanythingcouldbetheuncertaintyhasgrippedtheworldinfearIgotohugmywifeforcomfortsheiscake.节目最后我们。
正在为关注工作机会的伙伴们同步一则招聘信息，
生动活泼，
最近开放了节目营销和商业化项目管理的全职岗位，
详情可以在节目单机介绍中查阅。
同时我们也继续欢迎有意成为节目监制或者制作人的伙伴加入。
如果你对商业科技、
内容创作感兴趣和有经验的话，
想在声音领域有更多的探索，
就快来通过HR升FM到CN与我们联系吧，
这期沃next科技早知道就到这里了，
听完之后如果你有任何的想法，
欢迎在评论区里面给我们留言，
我们每一条都会认真的看，
如果你喜欢我们的节目，
请记得给我们五星或者好评，
分享给更多的朋友，
也会对我们非常有帮助。
你也可以单独写邮件给我，
邮箱地址是听tingat生点，
我都会一一回复。
那同时公众。
号和微博也可以搜索生动活泼盛世声音的声节目相关的更多信息会在公众号里出现，
微博和公众号都会有不定期的福利给到大家。
如果你想要跟我们更加紧密的讨论和分享，
或者想要认识和你一样有求知欲的新朋友，
可以加入我们的微信群。
进入听众群的方法是在公众号文章中扫码添加，
或者是公众号后台回复科技早知道即可获取邀请码，
期待你的加入，
我们下期见。