meta公司的一个小组在一项涉及人工智能生成的两位著名女性的露骨描绘的案件的裁决中表示，该公司关于非自愿深度伪造图像的政策需要更新，包括措辞“不够清晰”。

半独立的监督委员会表示，在其中一起案件中，这家社交媒体巨头未能撤下一名印度著名女性的深度伪造亲密照片，直到该公司的审查委员会介入。该委员会没有确定这名女性的身份。

包括泰勒·斯威夫特(Taylor Swift)在内的女性和名人的深度造假裸照在社交媒体上激增，因为制作裸照的技术变得更容易获取和使用，在线平台一直面临着采取更多措施解决这一问题的压力。

该委员会于2020年成立，负责对Facebook和Instagram等平台上的内容进行裁判。该委员会花了几个月的时间审查两起涉及人工智能生成的著名女性图像的案件，其中一名是印度人，一名是美国人。

许多深度假亲密照片的受害者不在公众视野中，他们要么被迫接受自己的非隐私照片的传播非感官描述或搜索和报告每一个实例

董事会没有透露这两名女性的身份，只称她们是“女性公众人物”。

meta表示，它欢迎委员会的建议，并正在审查这些建议。

其中一起案件涉及一张发布在Instagram上的“人工智能处理图像”，描绘了一名裸体印度女子的背部，她的脸清晰可见。

该委员会表示，一名用户举报该图片为色情图片，但该报告没有在48小时的最后期限内得到审查，因此它被自动关闭。用户向meta提交了上诉，但也被自动关闭了。

直到用户向监督委员会提出上诉，meta才决定最初不撤下帖子的决定是错误的。

meta禁用了发布图片的账户，并将它们添加到一个数据库中，该数据库用于自动检测和删除违反其规则的图片。

在第二起案件中，人工智能生成的美国女性裸体和被抚摸的图像被发布到一个Facebook群中。它被自动删除，因为它已经在数据库中了。一名用户就删除内容向董事会提出上诉，但董事会支持meta的决定。

该委员会表示，这两张图片都违反了meta根据其欺凌和骚扰政策对“贬损性化photoshop”的禁令。

然而，它补充说，其政策措辞对用户来说并不清楚，并建议将“贬损”一词替换为“非自愿”等不同的术语，并指出该规则涵盖了除“ps”之外的广泛的编辑和媒体操纵技术。

Deepfake的裸照也应该属于“成人性剥削”的社区标准，而不是“欺凌和骚扰”。

当董事会询问meta为什么这名印度女性没有出现在其图像数据库中时，该公司的回应是，它依赖于媒体报道，这让董事会感到震惊。

该委员会表示:“这令人担忧，因为许多深度伪造的私密图像的受害者不在公众视线之内，他们被迫要么接受未经同意的描述的传播，要么搜索并报告每一个实例。”

该委员会还表示，它对meta在48小时后“自动关闭”基于图像的性虐待上诉表示担忧，称这“可能会对人权产生重大影响”。

当时名为Facebook的meta于2020年成立了监督委员会，以回应外界的批评，即该公司没有足够快地从其平台上删除错误信息、仇恨言论和影响活动。

该小组有21名成员，是一个包括法律学者、人权专家和记者在内的跨国组织。

点击分享到