死者不可诽谤,但这并非意味着能对其使用深度伪造技术
已故演员罗宾·威廉姆斯的女儿塞尔达·威廉姆斯,近日向父亲的影迷们传达了一段痛彻心扉的呼吁。
“请停止向我发送用人工智能生成的父亲影像。别再以为我会愿意看到这些,或者能理解这种行为。我不愿意,也无法理解。”她在周一的Instagram动态中写道,“若你尚存一丝良知,请停止对父亲、对我、对所有人做这种事。这既愚蠢又浪费精力,请相信,这绝非他愿。”
威廉姆斯此时发声并非偶然——就在几天前,OpenAI发布了Sora 2视频模型及社交应用。该技术能让用户生成自己、朋友乃至特定卡通角色的高度逼真深度伪造视频。
根据学生新闻法律中心的解释,逝者似乎成了技术滥用的目标:因为在法律上,诋毁逝者并不构成诽谤罪。
Sora禁止生成在世者影像(除非获得本人或友人授权)。但对逝者则几乎毫无限制。这个仍处邀请测试阶段的应用,已涌现大量历史人物与已故明星的伪造视频:马丁·路德·金、富兰克林·罗斯福、理查德·尼克松,以及鲍勃·罗斯、约翰·列侬、亚历克斯·特雷贝克和罗宾·威廉姆斯。
OpenAI对逝者视频的审核标准令人困惑。TechCrunch测试发现:Sora 2拒绝生成2024年去世的吉米·卡特总统或2009年逝世的迈克尔·杰克逊,却允许生成2014年离世的罗宾·威廉姆斯。尽管Sora的“形象授权”功能允许在世者设置影像使用规则,但逝者已无法行使这项权利。若尼克松目睹我伪造他主张废除警方的视频,恐怕在坟墓中都会辗转反侧。
OpenAI未回应TechCrunch关于逝者深度伪造合法性的质询。但从法律先例来看,即使伪造如威廉姆斯这样的已故名人,公司很可能无需承担诽谤责任。
“看着真实人物的遗产被简化为‘ vaguely looks and sounds like them so that’s enough’,任由他人操纵他们形象制造低劣的TikTok内容,实在令人发狂。”威廉姆斯痛心疾首地写道。
批评者指责OpenAI在此类问题上态度轻率。Sora发布后立即涌现大量彼得·格里芬、皮卡丘等版权角色的AI视频。CEO萨姆·奥尔特曼最初声称,好莱坞工作室需主动选择退出才能保护IP。美国电影协会已发表声明强调:“既有的版权法保护创作者权益,同样适用于此。”奥尔特曼随后表示将调整这一立场。
就生成内容的真实度而言,Sora或许是当前最危险的深度伪造工具。虽然xAI等平台技术稍逊,但监管更为宽松,甚至能生成真人色情伪造视频。随着各公司技术追赶,若我们继续将真人——无论生死——视为可随意摆弄的玩偶,必将开创可怕的先例。