美国旧金山市政府对18家网站和应用程式提起诉讼，这些网站非法生成未经同意的女性裸照与儿童色情内容。 AI的道德和法律挑战该如何解决？
旧金山对18家「深度伪造」网站提告
生成式AI是人人唾手可得的工具，只要有手机，就能随时利用该技术提高工作效率。然而对有心人士来说，AI却也能演变为一种新的犯罪途径。
近日，美国旧金山政府对18家网站和应用程式提起诉讼，这些网站非法生成未经同意的裸照，而这些网站在2024上半年就有超过2亿次的访问。
旧金山城市检察官邱信福（David Chiu）在发表诉讼声明时表示：「这些网站所做的并非技术创新，而是性虐待（sexual abuse）。」该诉讼要求，每次违规行为发生时都要罚款2,500美元，且所有相关网域注册商、网络托管服务及支付服务都必须停止协助这些网站营运。
根据外媒《Fox59》报导，这些网站提供「脱衣」或「裸体化」服务，让用户可上传图片来生成看似真实的裸照。
这些服务不仅侵犯隐私权，还助长网络霸凌、勒索和针对女性及未成年女孩的羞辱。且许多受害者根本不晓得如何移除图像，最终只能无助地承受心理、情感、经济和名誉上的损害。
儿童色情内容隐患
邱信福指出，特别令人担忧的是，某些网站甚至允许用户生成儿童色情内容（CSAM）。由于这些图像是由AI生成的，因此执法部门和相关机构会很难分辨哪些图像涉及真实受害者，导致无法有效对实际受害者提供救助和保护。因此，打击和预防儿童性虐待可能会变得更加困难。
外媒《Decrypt》指出，即便大型科技公司承诺在开发AI时会优先考虑儿童安全，但史丹佛大学的研究人员发现，这类不法内容已经渗透到某些AI资料库当中。为制止这类犯罪行为，路易斯安那州已开始实施专门禁止AI生成儿童色情内容的法律。
邱信福表示，生成式人工智慧具有巨大的潜力，但和所有新技术一样，也伴随着意想不到的后果，并且有犯罪人士试图利用这项新技术。
此外，这是一个重大且涉及多方面的问题，需要全社会共同努力来尽快解决。邱信福呼吁大家都应尽自己的一份力，打击利用AI来剥削和虐待真人，包括儿童的恶意行为者。
这起诉讼的影响，除了停止这些深度伪造（Deepfake）色情网站的运作外，也成为打击此类犯罪的先例。随着科技的进步，新的挑战层出不穷，然而，对于这些利用新技术进行性虐待和种种的犯罪行为，各国政府和组织都必须加强监管，应对其带来的道德和法律挑战。
本文链接地址：https://www.wwsww.cn/hqfx/27183.html
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时间联系我们修改或删除，多谢。
