OpenAI反对一项人工智能法案，该法案要求严格的安全协议，包括“死亡开关”。
两名前OpenAI研究人员表示，该公司的反对令人失望，但并不令人意外。
他们表示，在没有监管的情况下，人工智能的快速发展可能会“对公众造成灾难性的伤害”。
感谢您的报名!转到时事通讯偏好
两名前OpenAI研究人员公开反对该公司对SB 1047的反对，这是一项拟议中的加州法案，该法案将在人工智能的开发中实施严格的安全协议，包括“死亡开关”。
这些前雇员在写给加州州长加文·纽森(Gavin Newsom)和其他议员的信中写道，OpenAI反对该法案令人失望，但并不令人意外。
本文仅对Business Insider订阅者开放。成为业内人士，现在就开始阅读。有账户吗?．
研究人员威廉·桑德斯(William Saunders)和丹尼尔·科科塔伊洛(Daniel Kokotajlo)在信中写道:“我们加入OpenAI，是因为我们希望确保该公司正在开发的强大得令人难以置信的人工智能系统的安全。”“但我们从OpenAI辞职，是因为我们失去了对它会安全、诚实、负责任地开发人工智能系统的信任。”
桑德斯和科科塔伊洛没有立即回应《商业内幕》的置评请求。
他们继续写道:“在没有充分安全预防措施的情况下开发前沿人工智能模型，会给公众带来可预见的灾难性伤害风险。”
桑德斯和科科塔伊洛写道，OpenAI首席执行官萨姆·奥特曼(Sam Altman)曾多次公开支持人工智能监管的概念，并引用了奥特曼在国会作证时呼吁政府干预的例子，但“当实际监管被提上议程时，他反对监管。”
有关的故事
OpenAI的发言人在一份声明中告诉BI:“我们强烈反对对我们在SB 1047上的立场的错误描述。”该发言人指示BI查阅OpenAI首席战略官Jason Kwon写给提出该法案的加州参议员Scott Wiener的另一封信，信中解释了该公司的反对意见。
Kwon的信中写道，SB1047“引发了深思熟虑的辩论”，OpenAI支持其中的一些安全条款。然而，由于人工智能发展对国家安全的影响，该公司认为监管应该“在联邦层面制定和实施”。
Kwon在信中写道:“一套由联邦政府推动的人工智能政策，而不是各州法律的拼凑，将促进创新，并使美国处于引领全球标准发展的地位。”
但桑德斯和科科塔伊洛并不认为推动联邦立法是OpenAI反对加州SB 1047法案的唯一原因，他们表示，该公司对该法案的抱怨“没有建设性，似乎也不真诚”。
桑德斯和科科塔伊洛写道:“我们不能等待国会采取行动——他们已经明确表示，他们不愿意通过有意义的人工智能监管。”“如果他们真的这么做了，它可以先发制人地阻止加州立法。”
OpenAI的前员工总结道:“我们希望加州立法机构和州长纽森能做正确的事情，让SB 1047成为法律。通过适当的监管，我们希望OpenAI能够实现其安全构建AGI的使命宣言。”
Wiener和Newsom的代表没有立即回应BI的置评请求。
