据报道，美国加利福尼亚州议会周三（28日）通过了一项备受争议的人工智能（AI）安全法案，该法案要求相关公司确保他们的技术不会造成重大伤害。当天，州议会以41票赞成、9票反对的结果通过了这项立法。 这也代表着，这项名为SB 1047的法案终于要尘埃落定了。现在，该法案将回到州参议院进行确认投票和可能的修正案，然后提交给州长纽森（Gavin Newsom）。他必须在9月30日之前决定是否签署该法案或否决它。 何为SB 1047？ “SB 1047法案”，全称“前沿人工智能模型安全创新法案”。该法案...
据报道，美国加利福尼亚州议会周三（28日）通过了一项备受争议的人工智能（AI）安全法案，该法案要求相关公司确保他们的技术不会造成重大伤害。当天，州议会以41票赞成、9票反对的结果通过了这项立法。
这也代表着，这项名为SB 1047的法案终于要尘埃落定了。现在，该法案将回到州参议院进行确认投票和可能的修正案，然后提交给州长纽森（Gavin Newsom）。他必须在9月30日之前决定是否签署该法案或否决它。
何为SB 1047？
“SB 1047法案”，全称“前沿人工智能模型安全创新法案”。该法案于今年2月被提交给加州议会，引起很大争议。8月19日，加州立法机构公布了法案修订版。
SB 1047法案旨在为训练成本超过1亿美元或者达到一定算力的开发者制定安全标准，确保大规模人工智能模型的安全开发。该法案要求大型前沿人工智能模型的开发者采取预防措施，例如部署前测试、模拟黑客攻击、安装网络安全保障，以及为举报人提供保护等。
这是为了确保他们的技术不会造成“严重伤害”，比如大规模人员伤亡或5亿美元以上的财产损失。另外，在该州运营的人工智能软件开发商还需要概述在人工智能模型出现问题时关闭它们的方法，这实际上是一个“强行终止开关”。
此外，该法案还赋予州检察长在开发商不遵守规定时提起诉讼的权力，特别是在出现持续威胁的情况下，例如人工智能接管电网等政府系统；该法案还要求开发商聘请第三方审计师来评估他们的安全实践，并为举报人工智能滥用行为的举报人提供额外保护。
引发争议
在过去的几个月里，该法案遭到了许多主要科技领袖、初创公司和风险投资家的强烈反对。他们表示，这代表着政府对一项仍处于起步阶段的技术的过度关注，可能会扼杀该州的科技创新。上周，OpenAI公开表示反对该法案，认为这样的政策应该在联邦而不是州一级实施。
包括前众议院议长南希·佩洛西（Nancy Pelosi）、美国众议员Ro Khanna、旧金山市长London Breed等政界人士也对该法案表示反对，这与科技行业的担忧相呼应，即该法案可能会阻碍加州在人工智能创新方面的领导地位。
但在投票前的最后阶段，该法案也赢得了人工智能领域一些主要企业的支持。周二，埃隆·马斯克出人意料地表达了他的支持，尽管他说这是一个“艰难的决定，会让一些人感到不安”。
OpenAI的竞争对手Anthropic也谨慎地对该法案表达了支持。上周，该公司表示“收益可能大于成本”，并且它可以切实实施这些条款。在Wiener实施了该公司建议的几项修正后，Anthropic变得更加支持这项立法。
发起人“辩护”
SB 1047法案发起人、美国民主党参议员Scott Wiener称，认为，人工智能安全与创新并不互斥，该法案的修订版已经解决了此前一些批评者的担忧。
Wiener在一份最新声明中说：“创新和安全可以齐头并进——加州正在引领这一潮流。通过这次投票，大会迈出了真正具有历史意义的一步，积极努力，确保一项令人兴奋的新技术在发展过程中保护公众利益。”
他还称该法案是一项“温和的常识性措施”，将许多大公司已经做出的安全承诺写入法律。
Wiener还针对批评人士为该法案进行了辩护，强调其条款仅适用于成本超过1亿美元的大型模型训练公司或1000万美元微调模型的公司，这将豁免大多数较小的初创公司。
这位议员还表示，虽然他会支持联邦立法，但国会在监管科技方面一直行动迟缓网络配资炒股网站，在缺乏国家行动的情况下，他认为加州有责任发挥领导作用。
