路透华盛顿8月11日电- - -美国联邦检察官正加紧追查利用人工智能工具伪造或制作儿童性虐待图片的嫌疑人，因为执法部门担心这项技术可能引发大量非法材料的泛滥。
美国司法部今年对被告提起了两起刑事诉讼，指控他们使用生成式人工智能系统（根据用户提示创建文本或图像）制作儿童的露点图像。
“还会有更多的案件发生，”美国司法部计算机犯罪和知识产权部门负责人詹姆斯·西尔弗（James Silver）说，他预计还会有更多类似的案件发生。
“我们担心的是这种情况的正常化，”西尔弗在接受采访时说。“人工智能使生成这类图像变得更容易，而且那里的图像越多，这就变得越标准化。这是我们真正想要阻止并走在前面的事情。”
生成式人工智能的兴起引发了司法部的担忧，他们担心这种快速发展的技术将被用来实施网络攻击，提高加密货币诈骗者的狡猾程度，并破坏选举安全。
儿童性虐待案件标志着检察官首次试图将现有的美国法律应用于涉及人工智能的犯罪指控，即使成功定罪也可能面临上诉，因为法院会权衡这项新技术可能如何改变围绕儿童剥削的法律格局。
检察官和儿童安全倡导者表示，生成式人工智能系统可以让罪犯对儿童的普通照片进行变形和性化，并警告说，人工智能制作的材料的激增将使执法部门更难识别和定位真正的受害者。
国家失踪和受剥削儿童中心是一家收集在线儿童剥削信息的非营利组织，该组织的首席法律官Yiota Souras表示，该中心每月平均收到约450份与生成式人工智能相关的报告。
这只是该组织去年平均每月收到的300万份在线儿童剥削报告的一小部分。
未经考验的地面
涉及人工智能生成的性虐待图像的案件可能会触及新的法律领域，特别是当没有描绘可识别的儿童时。
西尔弗说，在这些情况下，检察官可以在儿童色情法不适用的情况下指控猥亵罪。
今年5月，检察官起诉了威斯康星州的软件工程师史蒂文·安德雷格（Steven Anderegg），罪名包括转移淫秽材料。法庭文件显示，安德雷格被指控使用一种流行的文字转图像人工智能模型“稳定扩散”（Stable Diffusion）来生成有露点性行为的幼儿的图像，并将其中一些图像分享给一名15岁的男孩。
法庭文件显示，安德雷格拒不认罪，并试图驳回指控，理由是这些指控侵犯了他根据美国宪法享有的权利。
他在候审期间已被释放。记者无法联系到他的律师置评。
“稳定扩散”的制造商“稳定AI”表示，此案涉及该公司接管“稳定扩散”开发之前发布的人工智能模型的一个版本。该公司表示，已经进行了投资，以防止“滥用人工智能制作有害内容”。
法庭文件显示，联邦检察官还指控一名美国陆军士兵犯有儿童色情罪，部分原因是涉嫌使用人工智能聊天机器人改变他认识的无辜儿童的照片，以产生暴力性虐待图像。
被告塞思·埃雷拉（Seth Herrera）拒不认罪，并被下令关押在监狱等待审判。埃雷拉的律师没有回应记者的置评请求。
法律专家表示，虽然儿童色情法涵盖了对真实儿童的露骨性描绘，但围绕淫秽内容和纯人工智能生成图像的情况却不太清楚。
2002年，美国最高法院驳回了一项违反宪法的联邦法律，该法律规定，包括电脑生成的图像在内的任何表现未成年人从事性活动的描述都是犯罪行为。
佛罗里达大学（University of Florida）研究人工智能及其对隐私和执法的影响的法学教授简·班鲍尔（Jane Bambauer）说：“如果政府仅仅依靠道德上的可憎性来取胜，这些起诉将很难。”
近年来，联邦检察官对持有儿童色情图片的被告进行了定罪，这些儿童色情图片在法律上也属于淫秽。
倡导者还将重点放在防止人工智能系统产生滥用材料上。
今年4月，Thorn和All Tech Is Human这两个非营利倡导组织获得了人工智能领域一些最大参与者的承诺，这些参与者包括Alphabet旗下的谷歌、亚马逊、Facebook和Instagram的母公司元平台、OpenAI和Stability AI，它们将避免用儿童性虐待图像训练它们的模型，并监控它们的平台，以防止此类图像的产生和传播。
“我不想把它描绘成未来的问题，因为它不是。这正在发生，”Thorn的数据科学主管丽贝卡·波特诺夫（Rebecca Portnoff）说。
“至于未来是否会出现完全失控的问题，我仍然希望我们能够在这个机会之窗采取行动，防止这种情况发生。”
(安德鲁·古德沃德报道；Scott Malone和Bill Berkrot编辑)
×
