00:00/00:00
外链地址
https://www.eemp3.com/audiofile/a88f8be95bdf8b4f182f44c235d01d4c.mp3
点击复制
本字幕由TME AI技术生成
各位朋友
现在ai 的应用和渗透率可堪比当初的移动支付啊
可你有没有发现
这ai 有时候会一本正经的胡说八道
那就是所谓的ai 幻觉
没错
当你问ai 一个专业的问题
他会回你一大段
看似逻辑严密
用词精准
参考文献列的整整齐齐
让你直呼内行
可结果你去一核实
好家伙
案例是编的
法条是杜撰的
连那篇权威论文都是ai 自己脑补的
这感觉像是啥
就像你请了一个西装革履口若悬河的专家
结果他跟你讲的全是自己瞎编的
更气人的事
他编的还特别的真
让你信以为真
那问题来了
Ai 为啥要撒谎呢
他是故意的吗
其实啊
这事儿真不怪ai 坏
而是他的脑回路本来就跟人类的完全不一样
咱们人类认知世界是靠看
摸 尝
体验形成了一个这是苹果
甜的红的脆的这种真实的概念
但ai 认知和分析一件事靠的是统计概率
他从海量的文本里学会苹果
后面经常跟着红甜脆
所以当你问起苹果是啥味儿时
他就能流畅的回答你苹果的口感甜脆
但其实他根本不懂什么叫做甜脆
他只是说的很像那么一回事儿
本质上ai 就是一个超级厉害的语言接龙玩家
他在猜下一个最合适的词是什么
所以当你问到一个冷门的问题或者需要精准细节的时候
而他的训练数据里并没有足够的参考答案
届时ai 并不会说sorry
I don't know
而是会硬着头皮编一个最像的答案来维持句子的通顺和自信
这就是ai 幻觉的本质
概率战胜了事实
这事儿可不是闹着玩的
上个月
全国首例ai 幻觉侵权纠纷案正式宣判
标志着这已经从技术问题升级成了法律和社会问题
在美国
已经有超过二十五名联邦法官发布命令
要求律师披露使用ai 的情况
为啥
因为有些律师拿着ai 生成的虚假判例上法庭
结果被重罚
有个案子竟然引用了二十四个案例
其中二十二个是ai 自己编的
还有更离谱的
哥伦比亚大学今年三月的测试发现
主流ai 搜索工具在新闻引用方面的平均错误率高达百分之六十
也就是说
你让ai 帮你搜个新闻
它有一半以上的概率是在给你编故事
这哪是智能助手啊
这简直就是个谣言加速器啊
那问题来了
既然ai 这么爱胡说
咱们是不是就该把它扔了呢
我觉得吧
这事儿得两说
Ai 幻觉确实是个系统性的风险
但它也暴露了ai 底层的逻辑
它从来不是什么全知全能的神
而只是一个需要人类把关的工具
现在的破局之道业界也在探索
比如搜索增强生成的技术
就是让ai 在回答之前先去查权威的资料库
而不是闭门造车
再比如实施幻觉检测技术
能在ai 生成内容时就把那些虚构的人物地点高光亮出来
但说到底
技术再先进也替代不了人的判断力
所以各位
咱们得认清一个现实
在这个ai 能写诗
编程甚至看病的时代
最稀缺的能力不是让ai 帮你干活
而是判断ai 有没有在骗你
其他人正在听的歌