Adam Schiff谈AI监管：自愿承诺之外，真正要处理的是权力、责任、隐私和成本

一、嘉宾背景

本期《Decoder with Nilay Patel》的采访对象是Adam Schiff。节目证据明确标注，他是来自加利福尼亚州的美国参议员、民主党人，所属机构是United States Senate。主持人Nilay Patel在开场补充说，Schiff参与多个与科技和AI相关的委员会及小组委员会监督领域，包括知识产权、反垄断、隐私、技术和AI。这使他在本期访谈里不是以行业创业者或纯技术专家身份发言，而是以正在面对立法、监督、产业游说和司法约束的国会议员身份发言。

这种身份决定了本期的分析角度。Schiff并不只讨论模型是否会产生坏输出，也不把AI监管缩成单一安全测试问题。他谈到训练数据和版权、国家安全和军事用途、AI代理造成损害时的责任归属、社交媒体监管失败的教训、反垄断豁免的范围、公共空间隐私、数据中心成本、媒体并购以及娱乐业就业。换言之，他把AI看作一个会穿透多个政策领域的制度压力测试：它既会改变企业生产方式，也会改变政府监督、法院审查、消费者成本和劳动者谈判位置。

节目标题里的“voluntary AI rules are meaningless”来自访谈中的核心冲突：特朗普召集AI公司CEO到白宫签署非约束性安全承诺，但主持人追问这种承诺是否足够。Schiff的回答基于他所处的监督位置：如果企业一边在白宫签署自愿承诺，一边又在白宫外公开说不能只靠“相信我们”、需要监管，那么问题就不是一句企业伦理宣言能解决的。他的相关经验价值，正在于能把AI公司、总统权力、国会立法、法院审查和产业成本放在同一张政治地图里。

二、本期主要内容

这期节目围绕一个具体政治场景展开：特朗普在白宫召集AI公司CEO签署非约束性安全承诺。Nilay Patel把问题设定为两层：这些承诺是否足够；如果不够，正式监管框架应当如何设计。Schiff认为，这个场景本身已经暴露矛盾，因为科技领袖在总统面前签署自愿承诺，但离开白宫后又公开承认AI不能只靠企业自我保证，需要政府监管。

访谈前半段集中讨论AI作为国家安全和产业监管问题。Schiff担心，先进模型和递归式AI发展会让人越来越难理解系统如何决策、试图访问什么，以及哪些行为合法或非法。他还把AI进入五角大楼、目标选择、国内大规模监控和完全自主武器系统等场景作为风险例子。这里需要注意，节目没有独立验证这些具体事件细节；它们是Schiff在访谈中用来说明国家安全和政府使用边界的论据。

第二条主线是版权与训练数据。Schiff说，AI公司早期像是在竞赛中先把材料全部吸走，即便可能违反知识产权法，也把合法性问题留到以后处理。他与Senator Curtis合作的第一步，是要求公司知道并保留哪些受版权保护或受保护材料被用于训练模型，然后再讨论fair use边界。Schiff同时承认，AI在专利局处理专利申请积压等场景可能有正面用途。因此，他的立场不是否定AI，而是要求输入端透明、可追踪、可问责。

节目中段把AI与社交媒体监管连接起来。Nilay提出，过去监管社交媒体时，虚假信息、青少年欺凌和厌食内容等议题很容易变成第一修正案问题。Schiff不同意把失败主要归因于第一修正案；他认为平台把很多产品设计、算法放大和商业责任问题包装成言论自由问题，同时借Section 230获得过宽豁免。由此，访谈转向AI责任：当AI生成内容、放大内容、自动操作账号，或被用于网络攻击时，责任究竟落在模型公司、用户还是工具制造者身上。

后半段扩展到监管机构、法律授权、隐私、反垄断和经济政治。Schiff支持建立具有真实裁量、专业能力、权力和执行力的AI监管机构，类似AI版FDA，但Nilay提醒，Loper Bright推翻Chevron deference之后，模糊授权更容易被企业拖入诉讼。Schiff因此强调立法必须尽可能具体。随后节目谈到公共空间隐私、Flock摄像头、强AI可能侵犯健康记录和设备麦克风、外国行为者和私人卖家绕开美国禁令的风险。最后，访谈又把AI接到数据中心成本、媒体并购、影视业劳动者、Medicare扩展和累进税制上，形成一个比单纯“AI安全”更宽的治理图景。

三、核心观点：推理、例子与边界

Schiff最明确的核心观点是：AI公司的自愿承诺不能替代法律义务。他并不是否认企业内部安全团队的价值，而是指出，白宫非约束性协议中所谓“内部团队确保控制、监测和检测按预期运行”的表述，没有交代谁来审计、谁能强制执行、失败后谁负责、受害者如何追责。Nilay说这种语言“literally is meaningless”，Schiff表示同意。两人的共同判断是，AI公司需要法律清晰度，而政治系统目前给出的却是一种缺乏执行机制的姿态。

这一判断之所以重要，是因为Schiff把AI风险拆成多个环节，而不是只看模型回答是否安全。输入端有版权和训练数据问题：如果公司先抓取所有材料，再把合法性留给未来诉讼，创作者和娱乐公司的谈判基础已经被削弱。输出端有安全和代理行为问题：模型既可用于防御，也可用于进攻。Nilay举出Mythos可被用于网络攻防的例子，网络安全公司甚至主张，为了及时应对AI驱动的攻击，防御侧可能需要把人类移出循环。平台端则有生成和放大问题：当Meta生成内容、代理运营账号或付费放大用户内容时，传统“平台只是承载用户speech”的Section 230逻辑开始松动。

Schiff对社交媒体的回顾，是他分析AI监管时的负面教材。他认为国会在社交媒体监管上表现很差，而失败并不只是因为第一修正案本身，而是因为平台善于把非言论问题包装成言论自由问题。在他的叙述中，Section 230形成了一种过宽豁免：平台获得了免受许多后果追究的空间，却没有相应成为好的企业公民，反而训练算法制造成瘾，并让年轻人受到伤害。这个类比对AI的意义在于，如果政策一开始就给模型公司、代理平台或工具制造者过宽免责，未来受害者可能会面对同样的责任真空。

但Schiff的立场并不是简单地取消所有豁免。他提到，Section 230也许可以收窄，而不是完全废除，并为符合最佳实践和标准的公司设立safe harbor。反垄断问题上，他也支持极窄豁免，让AI公司在外国蒸馏攻击、恶意软件和安全事件上共享信息并通知政府。他的边界同样明确：这种豁免不能变成涨价、市场协调或反竞争cabal。这是本期较有价值的细节，因为它显示Schiff并非把所有企业协作都视为问题，而是在安全协作和市场竞争之间划出窄边界。

监管机构设计是本期最现实也最困难的部分。Schiff认为AI变化太快，国会不能靠逐条、缓慢、事后补救式立法来追赶，因此需要一个有真实裁量、专业能力、权力和执行力的机构，可能类似AI版FDA。但他也承认，这类机构会遇到人才薪酬问题，因为AI人才在私营部门的薪资高得多。更大的限制来自Loper Bright之后的司法环境：Nilay解释，法院不再必须在法律模糊时服从机构专家解释，企业可以把每项监管拖入诉讼。Schiff因此说，授权必须尽可能具体。这意味着“建立AI监管机构”不是魔法答案；如果国会只写抽象目标，机构可能在第一轮诉讼中就被削弱。

隐私讨论进一步显示，AI监管不能只靠国内合规。Schiff把强AI时代隐私是否还能存在称为核心风险：模型可被训练来获取健康记录、电视观看信息，甚至开启手表或Alexa麦克风。即便美国禁止这些行为，外国恶意行为者仍可自研强模型、蒸馏美国模型，或从私人卖家购买能力。他还把Flock摄像头作为公共空间隐私的现实例子：这类摄像头有合法执法用途，能帮助抓捕严重犯罪者，但也被用于追踪批评警局使用摄像头的专栏作者，以及追踪寻求生殖医疗的女性。这里的限制是，节目没有给出完整政策文本来解决“公共场所隐私期待”如何重写；它提出的是风险链，而不是成型法案。

Schiff还把AI治理放进经济政治中。他认为AI不是单纯党派议题，因为左右两边的民粹担忧都来自工作流失、劳动家庭、数据中心和技术失控。他的数据中心法案主张让数据中心承担成本，避免消费者买单；他还说，如果民主党掌控国会，会对AI行业展开强力监督，要求企业领导解释代理系统失控案例、原因和补救措施。这里的政策不确定性也很明显：他相信双党派成果可能让总统更难否决，但这仍是政治判断，不是已经发生的结果。

节目后段的媒体并购和娱乐业讨论，让Schiff的AI观点有了劳动者维度。他担心Paramount、Warner Brothers相关CBS和CNN交易中的编辑独立委员会可能只是形式，也担心并购造成岗位损失。他描述娱乐业受疫情、罢工、流媒体整合和并购冲击，受影响的不只是明星，而是木工、布景、服装、干洗、餐饮、小餐馆等生产生态。Nilay把AI连接回影视业：创意作品被无偿用于训练，随后更便宜的AI产品反过来竞争。Schiff的回答是，公司是否重视员工才是根本问题；如果员工不重要，公司会尽可能用技术减少人类劳动。这个判断有解释力，但也有边界：节目没有证明AI替代已经在每个影视环节造成具体数量的失业，而是把AI放入更广的股东优先和并购压力框架中分析。

四、学习与应用

从这期访谈可学到的第一件事，是评估AI治理时不能被“承诺安全”四个字带走。更实用的检查表应该包括：承诺是否绑定法律义务，是否要求保留证据，是否允许外部审计，是否定义模型公司、部署者、用户和工具制造者的责任边界，是否规定事故披露和违法后果。若一个协议只说企业内部团队会检查控制措施，它只能算风险管理口号，不能算公共监管。

第二，版权和训练数据争议可以先从事实基础开始。Schiff和Senator Curtis推动的方向，是要求公司知道并保留哪些受版权保护材料进入训练模型，再讨论fair use。这对创作者、媒体公司、研究者和政策制定者都有应用价值：没有训练材料记录，就很难做授权谈判、损害评估、补偿设计或司法判断。边界也要清楚：保留和披露训练材料并不自动等于所有训练都违法，也不自动解决fair use；它只是把争论从猜测拉回可审查事实。

第三，AI责任设计可以借鉴Schiff对枪支类比的“分层”方法，而不是寻找一个万能责任主体。模型可被合法用于防御，也可被用于攻击；同一种能力在不同部署、用户资格、尽职调查和产品缺陷条件下，责任应当不同。对于企业治理，这意味着上线高能力代理、网络安全工具或自动化平台前，不能只写用户条款，还要设计使用限制、身份或资格审核、滥用监测、日志留存、暂停机制和事故报告。对于立法者，这意味着责任规则要覆盖从模型开发到工具包装再到实际部署的链条。

第四，监管机构如果要有效，必须同时解决授权和能力。Schiff支持AI版FDA式机构，但Loper Bright之后，模糊授权会给企业诉讼留下空间。因此，政策文本要尽可能具体：机构能管哪些模型或用途，能要求哪些披露，能进行哪些审计，能发布哪些安全标准，能如何处罚，哪些事项需要国会再次授权。同时，机构需要懂AI、网络安全、隐私、知识产权和竞争政策的人才；如果薪酬和招聘机制完全追不上私营部门，即使法律写得漂亮，执行也会薄弱。

第五，安全协作和反垄断之间要做窄设计。Schiff支持的是非常有限的安全信息共享，例如外国蒸馏攻击、恶意软件和攻击活动通知，而不是让大公司以安全名义讨论价格、产能、市场准入或产品节奏。应用到企业联盟、行业标准组织或政府信息共享项目时，关键条件是范围窄、目的清楚、记录透明、政府可见、竞争敏感信息隔离，并设置终止或审查机制。豁免越宽，越容易从防御协作滑向反竞争协调。

第六，隐私保护不能只写“禁止滥用”。Schiff的理由是，外国行为者、蒸馏模型和私人黑客市场会绕过美国公司合规。实际应用上，公共机构和企业需要同时考虑数据最小化、端侧保护、加密、访问控制、设备麦克风和传感器权限、车牌识别数据库查询限制、跨辖区数据共享规则，以及对执法用途的审计。Flock摄像头的例子说明，同一工具可以帮助抓捕重罪者，也可能被用于追踪批评者或寻求医疗的人；因此治理不能只问“有没有好用途”，还要问谁能查询、查询是否留痕、滥用是否可发现、个人是否有救济。

最后，AI政策不能脱离成本和劳动。数据中心电力与基础设施成本、影视业制作生态、AI公司税负和技术扰动补偿，都是Schiff认为应进入治理范围的问题。对企业来说，这意味着AI采用不应只按短期成本节省评估，还要评估对供应链、岗位、创作者关系和公共基础设施的外部影响。对政策制定者来说，降低生活成本、保护工作尊严和累进税制不是AI话题之外的政治口号，而是决定AI收益和损害如何分配的制度条件。边界同样重要：节目提供的是Schiff的政策框架和政治判断，不是某项法案已经通过或某种成本分配已经实现的证据。

来源

• 原始节目：Adam Schiff says voluntary AI rules are meaningless