历经半年的讨论与审议，SB 1047法案即将迎来其关键时刻。这项被称为《前沿人工智能模型安全创新法案》的立法，旨在为高风险的人工智能模型设定明确的安全标准，预防其滥用或引发不可预见的灾难性后果。法案着重于从模型层面对AI进行监管，特别针对那些在特定计算和成本阈值之上训练的模型。然而，若严格按照规定的计算和成本阈值衡量，目前市面上所有主流的大型模型都可能被视为存在“潜在危险”。此外，法案还要求模型背后的开发公司对其模型的下游使用或修改承担法律责任，这一条款被认为可能对开源模型的发布产生“寒蝉效应”。
自今年2月份在参议院提出以来，SB 1047法案便争议不断。许多科学家认为，法案的条款过于严苛，可能对科技创新造成毁灭性的影响。此前，李飞飞曾亲自撰文，详细阐述了法案可能带来的多重不利影响。加州大学的数十名师生也联名签署了一封反对信，以表达他们对这一法案的反对立场。在这样的反对浪潮下，马斯克的态度显得尤为引人注目。他在推特上表示：“这是一个艰难的决定，会让一些人感到不安。但是，综合考虑所有因素，我认为加州或许应该通过SB 1047人工智能安全法案。”这一表态无疑出乎许多人的意料，毕竟一旦法案通过，他创建的xAI所训练的Grok系列模型也将被纳入监管范围，其研发进度也可能受到影响。
与此同时，马斯克的竞争对手OpenAI则明确反对该法案，转而支持替代法案。据天脉网了解，OpenAI最近发布了一封公开信，指出SB 1047法案将损害人工智能行业的创新，并认为此类问题的监管应该来自联邦政府，而非各州。OpenAI首席战略官Jason Kwon在信中写道：“人工智能革命才刚刚开始，加州作为人工智能全球领导者的独特地位正在推动该州的经济发展。SB 1047将威胁这种增长，减缓创新步伐，并导致世界级的工程师和企业家离开该州，在其他地方寻找更大的机会。”由于担心加州监管环境的不确定性，OpenAI甚至暂停了关于扩大其旧金山办事处的讨论。
然而，法案的起草者、加州参议员Scott Wiener则为拟议中的立法进行了辩护，他表示OpenAI的信“没有批评法案中的任何一项条款”。他还反驳了关于人工智能人才将离开该州的论点，认为该法律将适用于任何在加州开展业务的公司，无论其办公室位于何处。
值得注意的是，尽管OpenAI等科技公司对SB 1047法案持反对意见，但另一家人工智能科技公司Anthropic却公开表示支持修订后的法案。Anthropic CEO Dario Amodei在8月21日给加州州长Gavin Newsom的一封信中表示：“根据我们的评估，新的SB 1047已经有了很大的改进，我们认为它的好处可能超过成本。”然而，他也表示对此并不完全确定，因为法案的某些方面对他们来说似乎仍令人担忧或模棱两可。
除了Anthropic和马斯克，SB 1047还获得了包括Geoffrey Hinton和Yoshua Bengio在内的知名人工智能研究人员的支持。他们强调了平衡创新与安全的重要性，Hinton特别称赞了该法案方法的合理性，并强调了针对强大人工智能系统风险的立法必要性。然而，与他们一同获得2018年图灵奖的Yann LeCun则表示完全不同意这一观点。他既不相信现在的大模型能达到超人水平，也不认为超级AI必然主宰人类。在他看来，现在对AI进行严格监管还为时过早。
尽管对SB 1047法案存在诸多争议，但其实大部分AI研究者和科技公司并非完全反对监管，而是反对SB 1047里的具体监管方法。例如，在对人工智能生成的内容进行标记方面，加州的一项法案最近就取得了新进展。据TechCrunch报道，OpenAI、Adobe和微软已支持加州的一项法案——AB 3211，该法案要求科技公司对人工智能生成的内容进行标记。AB 3211法案将于八月进行最终投票，它要求人工智能生成的照片、视频和音频剪辑的元数据中包含水印。许多人工智能公司已经这样做了，但大多数人并不阅读元数据。因此，AB 3211法案还要求Instagram、X等大型在线平台以普通网友可以理解的方式标记人工智能生成的内容。
