00:00/00:00
外链地址
http://www.eemp3.com/audiofile/4a42d6d83ffc166e2addc515bb2f271c.mp3
点击复制本字幕由TME AI技术生成
今天咱们要聊一个特别有意思的话题
军事ai 政策的民主监督
你知道吗
最近美国国防部和一家叫anthropic 的人工智能公司闹翻了
这事儿可不是简单的合同纠纷
背后牵扯出的可是谁有权给军事ai 画红线这个根本性问题
对
这个冲突确实很典型
给情的导火索是国防部长皮特
赫格塞斯给了anthropic 的首席执行官达里阿
阿莫代伊一个最后通牒
要求他们在规定期限内允许国防部无限制的使用他们的ai 系统
哇
这个要求听起来就挺霸道的啊
那anthropic 方面怎么回应的呢
他们拒绝了
而且拒绝的非常坚决
明确表示有两道红线绝对不能碰
第一
不能用他们的ai 模型来进行美国公民的国内监控
第二
不能用来开发完全自主的军事瞄准系统
嗯
这两个立场其实挺清晰的
一个是为了保护公民隐私
另一个是为了防止战争自动化失控
但是国防部那边怎么想的呢
为什么非要这么强硬
国防部的立场也很明确
赫格塞斯在演讲中说
他认为所谓的意识形态限制不应该有商业公司来强加
确定合法的军事用途应该是政府的责任
而不是供应商的责任
他还说了一句很重的话
我们不会采用那些不肯让你打账的ai 模型
呃
这话听着真让人不舒服
不过我倒是觉得这其实反映了一个更深层次的问题
就是政府和企业之间的权利博弈
没错
这就是问题的核心
表面上看这是一个采购纠纷
美国军方想买
公司不想卖
但在市场经济里
这是正常的商业博弈啊
如果产品不符合要求
政府可以找别的供应商
如果公司觉得某些用途不安全或者风险太高
他当然有权利说不
对对对
就像现在很多公司联合签署公开信
承诺不把通用机器人武器化一样
这本来就是企业社会责任的体现嘛
但这事儿的关键转折点在于
美国政府接下来做了什么
他们决定将anthropic 列为供应链风险
并下令所有联邦机构逐步淘汰他们的产品
这已经完全超出了普通的采购纠纷范畴了
等等
把一个美国本土公司列为供应链风险
这个工具不是应该用来对付外国对手的吗
正是这一点让情况变得特别严重
使用这个工具本来是为了解决真正的国家安全漏洞
比如应对外国竞争对手的威胁
现在却拿来对付一家拒绝签订特定合同条款的美国本土公司
这种做法的性质就完全变了
是啊
这就从一个纯粹的商业问题变成了一个带有胁迫性质的政府干预
赫格塞斯还说了一句特别狠的话
从即刻起
任何与美国军方有业务往来的承包商
供应商或合作伙伴
都不得与anthroo pic 进行任何商业活动
这个打击面就更广了
这已经不只是针对ans rop picc 一家公司了
而是在威胁整个产业链的企业
要么继续用国防部的钱
要么就别想跟这家公司做做意意
说实话
我都想象到这种压
压力会有多大
那对于i 治理理个问问题
你觉得这两家公司争论焦焦点到底在哪儿
其实可以分成两个层面来看
第一个
关于国内监控的限制
这个其实触及的是美国宪法和法律里已经明确的公民权权利问题
怎 怎么说
就是是美国政府本身就有宪法约束和法律限制
不能随意监控本国公民
一家公司表态说他的工具不能用来帮助非法监控
这并不是在创造什么新原则
而是在遵守现有的民主制度框架
嗯
这么说也有道理
但国防部那边好像有不同的理解
没错
国防部并不是否认他们没有滥用ai 进行非法监控的意图
而是认为不应该通过技术手段预先设置好限制
他们的逻辑是
遵守法律是政府的事
不应该把这个责任转嫁给技术提供商
这就像是说
我是个厨师
你不能因为我做的菜可能会吃出问题
就要求我在菜刀上装个锁
问题应该是如何正确使用菜刀
而不是让刀本身变得不可用
这个比喻很形象
Anthropic 方面呢
他们已经在系统里投入了大量资源训练模型去拒绝某些高危或有害的任务
包括协助监控
所以双方的分歧其实是关于约束机制的控制权问题
这些限制应该由国家通过法律和监管来施加
还是应该由开发者通过技术设计来实现
嗯
这确实是个哲学层面的大问题
那我们再来看看第二个争议点
关于完全自主军事瞄准系统
这个问题就更复杂了
一方面
国防部已经有限践行政策
要求在使用武力时必须有人类判断的介入
但另一方面
关于武器系统自主性的辩论一直在军内和国际论坛上进行
就是说
技术上到底能不能做到百分之一百可靠和可控
这正是问题的关键
一家私营公司有理由认为一们目前的技术在某些战场环境下还不够成熟
但军方可能认为这些能力对于威慑和作战效能又是智关重要的
哎 所以说啊
这里面的分歧本质上是对风险评估的不同看法
可以这么理解
但我想强调的是
这种分歧不应该通过这种高压手段来解决
说到这儿
我突然想到一个很重要的点
这个事件之所以引起这么大反响
是因为它触及了一个更大的原则问题
你说的很对
美国一直宣称自己的政府是建立在透明的民主制度和法律约束之下的
如果连ai 这样的尖端技术治理都要靠行政部门的最后通牒来决定
这种制度优越性还有什么说服力
没错
而且还有一个更深层的问题
如果政府部门觉得某些ai 能力对国防至关重要
为什么不通过正式渠道来推动
比如为什么不在国会进行公开辩论
通过立法程序来确定规则
对
这是一个很好的观察阿
嗯
民主制度的好处就在于可以通过公开的辩论和法定的程序
让不同的利益相关方都有机会表达意见
而不是像现在这样由一个内阁官员和一个公司ceo 关起门来谈判就能决定
而且啊
一旦开了这个先例
以后怎么办
如果每家科技公司都要跟政府讨价还价
那整个ai 产业的发展都会陷入混乱
确实如此
更重要的是
这种做法还会带来连锁反应
如果企业意识到要想参与联邦市场就必须放弃所有的部署条件
那很多公司可能就会选择退出这个市场
或者是另一种极端
为了拿到政府合同
不得不削弱自己产品的安全防护措施
这两种结果对美国的科技领导地位都是致命的打击
你想想看
如果最先进的技术因为政策不确定性而流失
那美国在全球ai 竞赛中还能领先多久
嗯
所以我觉得这个案例特别值得关注
它不仅仅是一个公司对抗政府的故事
更是关于如何在技术飞速发展的时代建立一个稳定的
可预期的治理框架
就是说
在这个技术日新月异的时代
我们需要的是一种能够适应变化的治理模式
而不是简单的回到过去那种行政命令的老路上去
说的对
而且从战略角度看
军事ai 的影响范围实在太大了
从情报分析到后勤保障
从网络作战到战场决策
这些领域都关系到国家的生死存亡
所以更需要严谨的制度约束
是的
这也是为什么国会在这个问题上保持沉默
特别令人担忧的原因
国会是aw
意思是缺席
没有发挥应有的作用
哎
国会是awol
这个词用的好
那你觉得应该怎么解决这个问题呢
我认为需要建立一个制度化的中间地带
国会应该明确界定军事ai 使用的法定边界
并加强对采购过程的监督
国防部则需要详细阐述人类控制
审计和问责的作战理论
嗯
就是说要把各种规则都写进白纸黑字的文件里
而不是藏在合同的某个角落里
完全正确
而且这个过程应该是开放的
让公民社会和产业界都能参与进了
通过结构化的磋商
最终形成的采购政策应该反映出公开确立的标准
这样才能真正建立起稳定的预期
如果一家公司知道不管跟谁签合同
Ai 的安全护栏都不能被拿掉
那他们就更愿意投入研发和创新
正是这个道理
只有当ai 的安全护栏植根于法律而不是合同的时候
他才能成为一个稳定的预期
这种制度化的设计反而可能增强而不是削弱军事效能
因为多层监督机制包括内部控制
技术故障保护
审计机制和法律审查
再加上技术约束
可以形成一个更强大的安全网
嗯
这个思路很有道理
就是说民主约束和军事效能并不一定是矛盾的
关键是找到一个好的平衡点
对
技术约束可以作为法定的监督审查之外的额外屏障
进一步降低物用错误或意外升级的风险
最终国防部仍然保有合法使用的最终权威
但它可以接纳设计层面的防护措施来补充自身的监督体系
说到底
这还是一个关于权力的制约和平衡的问题
在一个民主社会里
任何强大的技术都不应该成为某个部门或者某个官员的私人武器
是这样的
这也是为什么ai 治理必须是一个公共议题
而不是私人的交易
因为这些技术太强大了
强大到足以改变世界的秩序
是啊
所以今天我们讨论的这个案例
其实给我们所有人都提了个醒
在ai 时代
如何平衡国家安全
企业创新和公民权利
这将是我们这一代人必须面对的最重要挑战之一
而且从更宏观的角度看
这个事件也暴露出了当前全球ai 治理体系的一个结构性缺陷
缺乏统一的国际规则和协调机制
确实
每个国家都在根据自己的利益和价值观来制定规则
这种碎片化的局面只会让问题更加复杂
但至少在美国内部
这个争论本身就是一个进步
这说明人们开始意识到
军事ai 不能只是行政部门的私事
它关系到整个社会的未来
嗯
希望这次事件能够成为一个转折点
推动各方坐下来真正认真的讨论如何建立一个公平
透明
可持续的军事ai 治理框架
毕竟这不仅仅是美国的问题
更是整个人类社会都需要面对的共同挑战