00:00/00:00
外链地址
http://www.eemp3.com/audiofile/9f7eaa58b3b68ec4f0557b67dfe7aca1.mp3
点击复制本字幕由TME AI技术生成
最近ai 和国家安全这个话题真是越来越热了
你知道吗
就在前几天
五角大楼和ai 公司anthropic 那场公开的口水仗
其实暴露了一个特别深层次的问题
美国政府到底能不能用ai 来监视我们普通人
嗯
这个问题确实很有意思
而且更关键的是
这个问题到现在还没有一个明确的答案
虽然爱德华
斯诺登在十多年前就曝光了nsa 大规模收集美国人电话原原数据的事件
但现在的情况跟当时完全不一样了
对啊
现在可是ai 时代了
Anthorpic 当时就跟五角大楼谈判
明确表示他们的cloud ai 绝不能用作大规模国内监视
也不能用于自主武器
结果呢
一周后谈判破裂
五角大楼直接把anthropic 打上了供应链风险的标签
这个标签可不简单
通常是给那些被认为威胁国家安全的外国公司准备的
与此同时呢
Open ai 跟国防部签了个协议
允许五角大楼把他们的chat gpt 用在所有合法目的上
这个词儿用的可太微妙了
没错
这个词儿一出
网上立马炸锅了
Open ai 的用户们开始大量卸载应用
在他们旧金山的总部外面
抗议者还用粉笔写着你们的红线在哪里
不过后来open ai 还是做了妥协
他们在周一重新修改了合同
明确规定ai 系统不得故意用于监视美国公民
还说不会被情报机构像nsa 这样的使用
但是这里面有个大问题啊
Open ai 的ceo 萨姆
奥特曼说
他觉得现行法律本来就禁止五角大楼进行国内监视
他觉得只要在合同里写上这句话就行了
可是enthropic 的ceo 达里奥
阿莫的确说
如果这种监视现在是合法的
那只是因为法律还没跟上ai 技术发展的脚步
呃
这就触及到一个特别核心的法律问题了
明尼苏达大学法学院的艾伦
罗森什泰英教授说的特别好
很多在我们普通人看来明显就是搜查或者监视的行为
在法律上可能根本不算
哦
这话怎么说
怎么会有这种区别
比如说吧
社交媒体上的帖子
街上的监控摄像头拍到的画面
选民登记记录
这些在法律上都算是公开信息
还有
如果你是美国人
在跟外国人通话
政府在监听外国人的时候不小心听到了你的内容
这些信息也是合法的
哇 这么说来
法律上的界定和我们普通人的直觉相差还真不小啊
差别还不止这些呢
现在很多政府部门
从移民
海关执法局
国税局到联邦调查局
国家安全局都在大量购买商业数据
这些数据可能包含你的手机位置信息
网页浏览记录这些东西等等
政府买这些数据
这不是应该需要搜查令或者传票的吗
理论上是的
但这些数据通常是通过所谓的商业数据市场获得的
互联网经济就是靠收集用户数据来做广告赚钱的
所以这些数据很容易就能买到
很多敏感的个人信息本来是要有合法程序才能获取的
现在通过这条路就能绕过去了
天哪
这简直是个巨大的漏洞
Ai 把这些碎片化的信息整合起来
那威利可就
确实如此
罗森石泰因教授说的特别形象
Ai 可以把大量本身并不敏感
但合在一起就变得敏感的信息组合起来给政府提供前所未有的监控能力
问题是
只要政府是通过合法途径获得这些数据的
他们想怎么用就怎么用
就是说
法律在这方面完全没跟上技术发展的速度
就是说
是的 对的
完全没跟上
我们现在生成的海量网络数据在几十年前根本不存在
第四修正案保护我们免受不合理的搜查和扣押
那是写在人们要进入你家拿东西的时代
后来制定的外国情报监视法和电子通信隐私法
那还是电话监听和邮件拦截的时代
那现在这个局面就特别尴尬了
一方面国防部确实有正当的国家安全需求对吧
当然
比如说反间谍活动可能需要监控某个为外国工作的美国人
或者反恐行动要防止国际恐怖袭击
这些都是很合理的理由
但问题是一旦开了这个口子
就会滑向更危险的方向
前五角大楼军事情报官员洛伦沃斯也承认
这种收集行为确实会让很多人感到紧张
而且open ai 和anthropic 的不同立场
其实反映了科技公司在纪检市场的分裂
是啊
Anthropic 个坚持认为现有法律允许这种监视只是因为法律之后了
但open ai 却认为既然他们签了合同就该遵守
Open ai 还说他们的服务不会被情报机构使用
这里面的矛盾太大了
一方面是商业公司有自己的原则和底线
另一方面是国家安全的现实需求
这就引出了一个更深层次的问题
到底该由谁来决定
由企业自己决定红线在哪里
还是由法律来明确使用
我觉得这个问题问的太好了
如果完全依赖企业和政府之间的合同
那确实会有风险
比如沃斯就说过
如果军方是依法行事
保护国家安全
结果被公司强行关闭束束
那果果可能严严重
另一方面呢
如果完全没有任何约束
那我们的隐私权和宪法权利怎么办
特别是ai 让大规模监控变得前所未有的容易之后
其实啊
这个问题最终应该由谁来决定
答案已经很明显了
应该是国会
应该是公众
就像文章最后说的
这类争议应该通过立法来解决
而不是在行政部门和少数ai 公司之间私下敲定
嗯
立法才是长久之计
不过说到立法
文章提到了一个有意思的动向
俄勒冈州的参议员罗恩
怀登准备推动一项法案
要限制政府购买商业数据
因为用这些数据生成的ai 画像
本质上就是令人不寒而栗的大规模监控的升级版
是的
怀登一直在推动第四修正案不可出售法案
虽然从二零二一年提出来
到现在还没通过
但这确实是个正确的方向
关键问题是
这些争论都应该在阳光下进行
让公众参与讨论和决策
说到底
现在的局面就是企业红线和政府需求之间的博弈
暂时靠的是合同而不是立法
但合同这种东西执行起来有很大的不确定性
比如合同里说要安全站
要派驻员工
可这些措施真的能管住五角大楼吗
很难说
而且就算open ai 在合同里写了根据相关法律
但问题是谁来定义什么是相关的法律
什么是合法
目的这些都需要立法来明确
所以说
这次五角大楼和ai 公司的这场风波其实是个契机
他让我们看到在ai 时代
隐私保护和国家安全这两个看似对立的目标真的需要好好平衡了
没错
而且这种平衡必须在尊重民众基本权利的前提下进行
毕竟技术的发展不应该以牺牲公民自由为代价
是啊
希望这次的讨论能推动更多人关注这个问题
也希望立法能够尽快跟上技术发展的步伐
毕竟这关系到我们每个人的数字生活安全
好了
今天的节目就到这里
感谢大家的收听