微软公司的一名软件工程师致信公司董事会、立法者和美国联邦贸易委员会，警告这家科技巨头在保护其人工智能图像生成工具“副驾驶设计师”(Copilot Designer)免受滥用和暴力内容的侵害方面做得不够。
Shane Jones表示，他在OpenAI最新的DALL-E图像生成器模型中发现了一个安全漏洞，该漏洞允许他绕过防止该工具创建有害图像的护栏。DALL-E模型嵌入在微软的许多人工智能工具中，包括Copilot Designer。
琼斯表示，他向微软报告了这一发现，并“一再敦促”这家总部位于华盛顿雷德蒙德的公司“在有更好的保护措施之前，将‘副驾驶设计师’从公众使用中移除”。彭博社(Bloomberg)看过琼斯周三写给美国联邦贸易委员会的一封信。
琼斯写道:“虽然微软公开宣传‘副驾驶设计师’是一款安全的人工智能产品，适合所有人使用，包括任何年龄的儿童，但公司内部清楚地意识到，该产品正在制造有害的图像，可能会冒犯消费者，不适合消费者。”“微软副驾驶设计器不包括必要的产品警告或信息披露，消费者需要意识到这些风险。”
在给联邦贸易委员会的信中，琼斯表示，“副驾驶设计师”有一种倾向，即“在它创作的一些照片中随机生成一个不合适的、性物化的女性形象”。他还表示，该人工智能工具创造了“各种其他类别的有害内容，包括:政治偏见、未成年人饮酒和吸毒、滥用公司商标和版权、阴谋论和宗教等等”。
FTC证实收到了这封信，但拒绝进一步置评。
这一猛烈抨击呼应了人们对人工智能工具产生有害内容趋势的日益担忧。上周，微软(Microsoft)表示，正在调查有关其Copilot聊天机器人产生用户认为令人不安的反应的报道，其中包括有关自杀的复杂信息。今年2月，Alphabet Inc .的旗舰人工智能产品Gemini因在被要求创建人物图像时生成历史上不准确的场景而受到批评。
琼斯还写信给微软董事会的环境、社会和公共政策委员会，该委员会的成员包括佩妮·普利兹克和里德·霍夫曼。琼斯在信中说:“我认为我们不需要等待政府监管来确保我们对消费者透明地了解人工智能的风险。”“考虑到我们的企业价值观，我们应该自愿和透明地披露已知的人工智能风险，特别是在人工智能产品积极向儿童推销的情况下。”
CNBC早些时候报道了这些信件的存在。
微软在一份声明中表示，它“致力于根据公司政策解决员工的任何和所有担忧，并感谢员工为研究和测试我们的最新技术所做的努力，以进一步提高其安全性”。
OpenAI没有回应置评请求。
琼斯说，在过去的三个月里，他多次向公司表达了自己的担忧。今年1月，他写信给代表华盛顿州的民主党参议员帕蒂·默里(Patty Murray)和玛丽亚·坎特韦尔(Maria Cantwell)以及众议院众议员亚当·史密斯(Adam Smith)。在一封信中，他要求立法者调查“人工智能图像生成技术以及制造和营销这些产品的公司的公司治理和负责任的人工智能实践”的风险。
这些议员没有立即回复记者的置评请求。- - - - - -布隆伯格
×
