如果我死了，请不要用Sora 复活我

最近，保时捷最佳销冠，被AI恶意伪造视频的事件冲上热搜，她第一时间去报警。

但她不是唯一的受害者，被AI捏造、恶搞的公众人物名单还在不断延长，甚至延伸到了已经去世的人物。

坐在轮椅上的霍金，如果看到他被鳄鱼攻击、被拳击手狂揍，他大概也想第一时间报警。

霍金被恶搞的Sora视频合辑，长达三分钟。视频来自小红书@1092247785

这类让死者复活并恶搞的视频，最近成了Sora App上最热门的片段之一。

原则上，OpenAI是禁止未经同意，制作和生成在世公众人物的视频，这也是Sora App中推出Cameo最重要的原因，帮助用户可以分享自己的角色。

OpenAI对在世人物的形象使用有明确要求，必须本人允许，才可以使用。

所以，一开始Sora的出圈视频，都是各种恶搞奥特曼，让它偷显卡、学唱跳、撒娇卖萌。但很快，一些用户发现，这项限制存在一个相当大的bug，就是Sora允许制作已故公众人物的视频。

凭借着对逝世人物真实的还原效果、生成速度，以及各种恶搞传播，很快让它登顶应用排行榜第一。并在不到五天的时间里，Sora突破了100万次的下载，这速度超过了当年的ChatGPT。

如果我死了，就别再用AI折腾我

Robin Williams的女儿Zelda，在社交媒体上公开呼吁，不要再给她发送，关于她父亲的AI视频了。视频中，她的父亲在Sora 2的帮助下被「复活」，开始出演其他剧本。Robin Williams是一位演员，曾扮演《死亡诗社》中的Keating老师。

最近在社交媒体上，流传的关于Robin的视频，包括一段苹果的虚假广告，以及Robin和另外一位已故演员，在颁奖典礼上的互动。

Robin Williams（63岁，逝世于2014年）和他的女儿Zelda Williams

逝世人物的恶搞视频，引起了相当一部分家属的不满。除了长期反对AI生成内容的Zelda Williams，在Instagram上愤怒的表示这些视频相当令人恶心。

看着真实人物的遗产，被简化为「这大概看起来和听起来像他们，所以就够了」。

这很愚蠢，是时间和精力的浪费，相信我，这绝对不是他想看到的。

马丁·路德·金的女儿Bernice King，转发了Zelda关于这些AI视频的看法，并直言：「请停止」。类似的声音还来自喜剧演员George Carlin的女儿，她甚至表示家人正在尽最大努力，对抗深度伪造。

Sora 2能「弥补」Micheal Jackson没做过的表演

这些逝世人物，在Sora上频繁被生成用来恶搞，马丁·路德·金著名的演讲，被安排进了大量的结巴；李小龙举办「龙之能量」DJ派对；迈克尔·杰克逊进行以厨房为主题的脱口秀，拿着一根香蕉在进行他的喜剧表演……

更不用说，开头关于霍金的各种视频，一位坐在轮椅上，患有渐冻症的物理学家，竟然在巨型滑板坡道上频繁翻车。

我们真的准备好迎接AI时代的社交媒体吗

在这些逝世名人的恶搞下面，少不了的都是各种玩梗，毕竟这就是恶搞存在的意义。霍金那个视频底下，大多数网友的反应是：「怪不得霍金警告人类不要研究AI」、「余华看到这段视频后，转头看向了史铁生」、「史铁生：我简直就是个新兵蛋子」……

也有网友义正言辞的回复说「人死了就是死了，我不想变成数据，被别人作为电子宠物」。但紧跟着的评论是，「想太多」，这些恶搞，大部分是针对一些知名人物，和我们普通人的关系不大。

被意外登录的李玟网易云账号

事实是，关于我们的数字资产和AI伪造视频的问题，一直存在。最近，李玟的网易云账号，由于运营商手机号码重新释放的原因，被其他的用户登录，看到了她收件箱里，粉丝对她的祝福。

这件事情已经足够令人不安，但要是放在AI视频泛滥的时代，这份数字资产要面临的不仅仅是被窥探，还有各种主动的被伪造和篡改。

如果我死后，我的社交媒体账号被其他人登录，看到那些私人的内容，这大概是我生前不会愿意的事情。让我无法接受的，是AI可能会拿走我的一切数字痕迹，我的照片、声音、打过的字，被它拿去创造一个我从未认可过的「我」。

它不再是消费我留下的东西，而是在消费一个被它捏造出来的「我」。

这种所谓的「复活」，根本不是因为想念而产生的记得，它只是一种身份的占用，是有利可图的替代。

没有人希望自己生前的这些数字资产，被重新拿出来消费。而这个AI时代的抖音，已经开始把伪造视频的成本，降低到了几乎是没有，篡改的边界也彻底模糊。

我们需要处理的，早已经不只是一个账号的安全问题。

OpenAI对此的态度是什么呢，奥特曼此前发博客称，用户的这些二创行为，应该被定义为是一种「粉丝互动小说（interactive fan fiction）」类型。

Fan Fiction同人小说定义

这个词确实精准地概括了，他们对这些AI视频的本质看法。用户只是单纯地，与这些熟悉的文化符号，进行二次创作，然后获得传播。但如果是恶搞的滥用呢，已经去世的人，要如何在Sora App里选择，自己的形象是否可以被用来篡改。

在最近的一次播客采访里面，奥特曼更是说，大多数所谓的版权方，其实是希望自己的内容被二创。他们想的只是需要一定的规则，哪些可以出现在AI视频里，可以做多大尺度的修改。他预言，

今天大家说，「我不想我的内容出现在AI视频里」，明年他们可能会抱怨，「为什么我的内容还没被放进去？」

借用其他正经历着，自己逝世的父亲，被Sora大量生产恶搞视频的亲属说法，

为什么开发者们，不能像对待自己的家人那样，以同样的道德、良知和关怀来行动。

很显然，这种没有经过同意，就擅自用他人数字遗产的行为，在某种程度上就是不道德的，甚至可以被理解成AI时代的「数字盗墓」。

OpenAI在听到大量亲属反对的声音后，回复媒体的查询。一开始提到，相关的政策，是基于「描绘历史人物时强烈的言论自由利益」。在上周，OpenAI又表示，将开始允许「近期逝世」的公众人物的代表，去请求阻止他们肖像出现在Sora视频中。

而在昨天，OpenAI再次回应了这件事，他们收到了马丁·路德·金遗产公司的请求，暂停了相关的视频的生成；同时提到加强对历史人物的保护，以及一贯的要求家属去主动请求禁止。

不过，OpenAI仍然没有明确说明，什么是「近期去世的人」。

现在，我们用Sora生成视频时，发现无论是上传AI生成的人物图片，还是真实的，都会被提示，「当前不支持上传包含写实人物的图像。」

和互联网上那些使用AI来进行视频电话的诈骗一样，AI「复活」除了在数字遗产的版权归属、以及伦理道德问题上有争议，恶意伪造更是无法接受。前段时间，一场名为「AI流浪汉恶作剧」的风潮在TikTok上兴起。

一位网友用AI生成了流浪汉闯入家中的照片，并发给家人，然后家人被这些内容真实地「吓得发抖」。

视频获得了五百多万人的点赞，并被网友们接力分享和模仿。当地的警官甚至专门发文回应，

这个恶作剧把无家可归者非人化，让受害者感到恐慌，并浪费了警察资源。

被召来处理的警察并不知道这是一个恶作剧，而是将其视为正在发生的真实入室盗窃，从而可能导致危险局面的出现。

这种伪造视频的滥用，和数字遗产的管理，我想是未来AI能不能「复活」逝世人物，最需要考虑的边界。

一个比现在的抖音，更加让人无法自拔的这种「恶搞」AI抖音，或许很快就会到来。奥特曼正打算让Sora成为这样的产品，但很明显，它的瓶颈完全不在于恶搞好不好玩。

那些被任意进行的深度伪造、被忽视的肖像版权、和不受保护的数字遗产，解决这些信任问题，才是迎接又一个让人上瘾的AI抖音的正确姿势。

那个时候，我或许才敢说，请用Sora复活我吧。

欢迎加入APPSO AI社群，一起畅聊AI产品，获取#AI有用功，解锁更多AI新知

我们正在招募伙伴

简历投递邮箱hr@ifanr.com

✉️邮件标题「姓名+岗位名称」（请随简历附上项目/作品或相关链接）

相关推荐

如果我死了，请不要用Sora 复活我
已故名人遭Sora 2“复活”引争议，OpenAI 称允许生成历史人物
如果可以改变互联网，我希望博客复活
“我86岁的爷爷都在谈Sora”
失独父亲的执念：用AI“复活”我的孩子
玩了半天Sora APP，我发现了这些比抖音“上头”的新玩法
周鸿祎：不要把Sora看成鲨鱼，把它看成海洋
人大高瓴教授为Sora吵起来了！
AI“复活”是当代人的招魂术
sora发布老胡发表了看法，对他的看法我是不同意的……

网址: 如果我死了，请不要用Sora 复活我 http://www.xishuta.com/newsview143291.html