美国AI法案遭削弱引争议：李飞飞谴责，国内企业密切关注

加利福尼亚州新推出的人工智能安全法案引发了争议,但其核心内容值得关注。该法案要求大型人工智能公司对其系统进行安全评估,并向州政府报告潜在风险。法案还强调保护用户隐私,禁止人工智能系统未经授权收集个人信息。尽管遭到一些批评,但该法案旨在平衡人工智能创新与公众安全,为未来人工智能监管提供参考。

加州《前沿AI模型安全创新法案》在大幅削弱后通过加州众议院拨款委员会审核。修正后的法案主要变化包括:

  1. 不再允许总检察长在灾难性事件发生前起诉AI企业忽视安全问题的行为,监管重点转为实际危害。

  2. 只有训练模型算力成本超1亿美元的开发商才会面临监管要求,现有模型均不在监管范围内。未来Llama 4和GPT-5可能会被纳入监管。

  3. 法案要求云服务提供商收集客户信息,便于监管部门溯源。

  4. 监管范围内的企业需采取措施避免模型滥用,拥有紧急关闭模型的能力,提交安全实践声明,每年接受独立审计。

  5. 违法行为可能面临1000万-3000万美元不等的罚款。

  6. 对法案的支持和反对意见分歧较大。支持者认为是有效监管的最低要求,反对者担心会阻碍AI发展和开源生态。

  7. 法案主笔驳斥了部分批评,称不会对创新和开源AI产生危害。

  8. 修订后的法案加入了对开源模型微调的保护条款。

法案的具体内容和影响仍有待进一步观察。