首页 科技快讯 盗火后的世界:人类、AI和法律的未来寓言

盗火后的世界:人类、AI和法律的未来寓言

来源:晰数塔互联网快讯 时间:2023年10月25日 14:14

人类在数十万年的进化中成为唯一进化出高级智能的生物,这是人类的第一次盗火。创造人工智能并推动AI发展走向通用智能的曙光,这是人类的第二次盗火。

智慧并非万物,但智慧改变万物。人类未来取决于如何与自己创造却同样拥有智慧的人工智能共同演化。

一、 生成式AI的智慧黑盒

1. 生成式AI是人工智能的断代技术

①突然爆发的生成式人工智能

自从IBM深蓝超级计算机在1997年战胜卡斯帕罗夫以来,人工智能就从实验室和技术圈溢出,涌入公众视野。DeepMind的AlphaGo在2016年横扫顶尖围棋手李世石,几乎出于所有人的意外。尤其在彼时围棋界,普遍还认为只会计算的人工智能要在远比国际象棋复杂且变幻莫测的围棋盘上和人类顶尖高手平起平坐,是很久以后才能实现的科幻。

也许是预示挑战速度在加快,GPT3.5在2022年带着接近完美的通用对话能力横空杀出。生成式AI裹挟而来的技术风暴不但让每一个普通人直接感受到科技的挑战,也在人工智能发展轨迹中划出全新时代。

GPT代表的生成式人工智能成型之前,再强大的AI也只是专注单项功能的工具。即使IBM的Watson超级计算机早在2011年就在百科知识问答节目击败人类精英,但这只是代表Watson数据存储足够多,还能检索和匹配问答而已。生成式则显示了走向通用智能的强大趋势,能够完成人类通过语言理解和执行的几乎所有任务。

②新技术改变治理规则

生成式人工智能和生成式之前的人工智能(假设我们称为“传统人工智能”)差异之大,以致两者难以适用同一套规则治理。举个例子。当你在地铁入口犹豫不决的时候看到旁边有一条狗,你就问狗去徐家汇地铁站应该坐1号线还是2号线。狗汪汪叫了两声,于是你相信狗是在告诉你应该坐二号线并且因此走错。在这场小型错误不幸发生后,请问你是否可以要求狗承担故意指错路的责任?可能没有人会接受这个假设的场景,至少应该让相信狗会指路的人来承担责任才对。

以此类推,传统人工智能综合智力水平不如狗,当然更不能承担责任。这并不是说传统人工智能完全不承担任何法律责任,比如导航软件错误把虹桥机场设置成浦东机场,而是说传统人工智能至多在自身能力设置内承担对应责任。

对生成式技术的智能水平,我和“出门问问”APP初始人李志飞的观点接近。拥有霍普金斯大学计算机博士学位的李志飞在前不久的一次访谈中表示:“今天的 AI 已经具备了小孩拥有的、真正的通用智能能力,……今天的 AI 更像一个生命体了。它在智商上像一个 5岁小孩,在知识上可能既像一个大学教授、也像一个刚出生的婴儿,这取决于它有没有见过那些数据。[i]”

生成式技术出现并发展到GPT3.5阶段以后,人工智能的智力水平有了实质提高,即便目前在技术层次上可能只是一种准智能。

对趋向通用智能的生成式人工智能定制规范已成全球普遍现象。中国已为生成式人工智能发布专项管理暂行办法,美国正在加快为生成式监管立法的大规模调研。甚至美国编剧工会(WGA)在组织长达5个月大罢工才和制片方达成的协议也对生成式人工智能做了专门约定:

第72条 生成人工智能(GENERATIVEARTIFICIAL INTELLIGENCE):各方承认对生成式人工智能的定义(“GAI”)各不相同,但同意GAI一般指具有运用算法生成文字、图片和其它内容的人工智能类型,例如ChatGPT、Llama、Midjourney、Dall-E。GAI不包括“传统人工智能”(‘traditional AI’)例如CGI和VFX等执行操作和分析功能的程序。[ii]

2. 生成式AI不是猜字机器

①水涨船高的测试标准

自从计算机之父图灵在1950年提出简明有效的图灵测试后,图灵测试一直被封为度量计算机智力水平是否接近人类的圭臬。2022年GPT3.5一战成名以来,图灵测试在一连串不同的专业测试中都挡不住AI通过。

谭建荣院士谈到生成式AI和传统人工智能区别时认为:“过去我们搞的很多人工智能应用基本都不能通过图灵测试,但是生成式人工智能轻易通过,ChatGPT写的文章比一般秘书写得还好,你分不清是人写的还是机器写的。很多文科的专业像翻译,也包括理工科对某个事的分析、判断以及实际的解决方案,都可以用生成式人工智能来解决。”[iii]

谷宇院士则认为“在当前的技术和理论框架下,我们距离认知智能还有一定的距离”,“通过图灵测试的机器基本具备人工智能水平,但图灵测试也不一定能完全代表机器具备人工智能能力,更别说认知智能”[iv]。可以看出谷院士认为是图灵测试在生成式人工智能条件下表现不佳,而不是人工智能在图灵测试中表现不够。

改变图灵测试标准的声音,实际上既说明人类对智能理解的进一步深入,也是人类为在AI面前挽回颜面的努力。

②LLM不是随机鹦鹉

大型语言模型(LLM)是当下包括ChatGPT在内语言类生成式人工智能的通用技术,对LLM并没有真正智能而只是随机鹦鹉的观点是对生成式AI实际智能最有代表性的质疑。

LLM并非随机

随机鹦鹉(Stochastic Parrots)这个词并没有字典解释,用随机鹦鹉来形容大型语言模型是2020年初几位谷歌程序员在批评人工智能研究过于依赖数据而写的论文On theDangers of Stochastic Parrots: Can Language Models Be Too Big?中自创的词。

首先“随机”这个词肯定用错了,如果只是随机利用概率拼凑内容,或者利用背棋谱匹配任何随机走法,不但不可能应对语言表达可能性的天文概率,甚至连猜问题都是不可能的。

LLM依赖的核心技术Transformer模型是一项超越传统CNN和RNN 的特征算法,利用名为自注意力机制(Self-Attention)度量特定单词与上下文不同内容的关联,以理解不同场景中每个单词和文章的含义。像我这样技术领域外的读者可以搜索大量介绍Transformer的文章,懂技术的读者可以直接看这篇著名论文Attentionis all you need[v]。

LLM不是鹦鹉

删除“随机”,只用“鹦鹉”形容LLM倒是具有一定合理性。由于大语言模型都是在统计基础上掌握词语关联从而推断下一个表述的最优概率,LLM完全可能在不知道答案真实含义情况下算出答案(如果说猜测答案你更容易理解,那就是猜测)。这就像鹦鹉并不懂语言却可以和人类对答。

鹦鹉回答问题和靠背棋谱下棋是一个道理,1v1匹配问题和答案。但想通过简单匹配解释大语言模型解题能力显然是不切实际的,AI面对的问题本身就没有规律可言,同一问题可以用不同方法问,同一个表达在不同场景也涉及不同问题。即便以约翰·塞尔(John Searle)在讨论人工智能时设计的“中文屋”模型,也可以说明只以简单问答来判断AI智能程度的缺陷。

简单说,中文屋就是一个测试流程或者模型,如果把一个懂英文但完全不懂中文的人关进一个两边开窗的黑屋,屋里有英汉汉英词典和基本语法,从一扇窗户递给他一个由中文书写的问题,然后这个人通过查词典来回答这个问题,再用中文写出来,并把答案递出去。在屋外人眼中,屋里的人会中文。但他实际上并不会,至少不像他的母语那样会。

计算概率,语言表述和下棋一样也存在全局最优与局部最优冲突的问题。但即便在语言复杂程度远超变化可穷尽的棋盘情况下,生成式通常可以很好地解决这个致命问题,这并不是用统计可以解释的能力。

让鹦鹉准确评价论文的概率,应该比一个人每天醒来都中六合彩头奖的概率还低。但斯坦福大学等机构的研究者把数千篇来自Nature、ICLR等顶级期刊的文章丢给了GPT-4,让AI生成评审意见、修改建议再和人类审稿人意见相比较。结果GPT-4不仅完美胜任了这项工作,甚至比人类做得还好。AI意见超过一半和至少一名人类审稿人一致,超过82.4%的论文作者表示GPT-4给出的意见相当有帮助[vi]。

有专家坚持认为生成式AI不过是玩猜字接龙游戏的机器,认为“尽管GPT-4偶尔会闪现出分析的才华,但它目前是完全无法推理的”。[vii]有意思的是这个论断自身就违反规律。还是举个例子,如果中国(男)足突然爆发逼平孟加拉、韩国,至少理论上还有这种概率;但如果平时考试一直不到50分,就没有哪种偶然性的力量可以让你在同等难度考试里突然拿下90分。生成式AI的表现的确高低不定,但不论通过常识还是逻辑都可以确认鹦鹉不可能对随机问题随机展现分析才华。

字节AI实验室技术负责人李航尽管认为GPT尚不具备基于三段论的逻辑推理(logical reasoning)能力,也认为已经具有类推推理(analogicalreasoning)[viii]。即使只接受有类推推理能力,LLM也完全不再是概率接龙机器,更不是所谓随机鹦鹉。

微软背书终结争议

生成式AI除了具有基于统计的概率计算能力外,是否具有逻辑能力是判断人工智能智力水平的关键。

OpenAI(ChatGPT研发主体)主要投资人微软下属的微软研究院,今年初发布的《点燃通用人工智能的火花:GPT-4早期实验》是迄今对生成式人工智能是否具有逻辑能力最有力的依据。这篇论文的英文版可见脚注[ix],但推荐和我一样看中文版[x]。

微软这篇155页的报告用大量实验测试GPT-4版本,对GPT-4具有逻辑和理解能力给予多次肯定。包括:

尽管它只是一个纯粹的语言模型,但这个早期版本的GPT-4在各种领域和任务上展现了卓越的能力,包括抽象、理解、视觉、编码、数学、医学、法律、对人类动机和情感的理解等。

GPT-4在多个任务和领域中的卓越表现将挑战许多职业和学术领域中关于人类和机器相对专业知识的传统观念和假设。人们无疑会对GPT-4在职业水平和认证考试(如医学和法律)中的表现感到惊讶。他们还将欣赏该系统诊断和治疗疾病、发现和合成新分子、教授和评估学生以及推理和辩论复杂和具有挑战性的主题的能力,尤其是在互动会话中。

我们对GPT-4的研究完全是现象学的:我们关注的是GPT-4能够做出令人惊讶的事情,但我们没有解决它如何以及为什么能够实现这样卓越的智能的根本问题。它是如何推理、规划和创造的?为什么它展现出如此广泛和灵活的智能,而其核心只是简单的算法组件——梯度下降和具有极大数据量的大型变压器的结合?

GPT-4展示了对图论和算法概念的理解。它能够推理一个抽象的图构造。

AI推理的测试证明

对生成式AI智能水平的评判无需以AI是否产生意识作为标准,只要证明AI具有逻辑推理能力就足以证伪随机鹦鹉或者猜字机器之类的观点。除了微软研究院报告中的实验例,很多知名学者和机构从不同专业角度对生成式AI的逻辑能力进行探讨。麻省理工(MIT)和加州理工等已经联合开发出能够用逻辑能力辅助证明数学定理的LeanDojo模型。同样来自MIT的学者,已经用大规模数据预训练实证LLM不仅具有统计功能,并且有能力建立独立的世界模型[xi],这是AI生成理解和推理能力的重要基础。

MIT这篇名为LANGUAGE MODELS REPRESENT SPACE AND TIME的论文用清晰的结论支持LLM具有建立世界模型的能力。论文摘要(ABSTRACT)就指出:

“大型语言模型(LLM)的功能引发了关于这样的系统是仅仅学习大量表面统计数据还是数据生成过程的连贯模型——世界模型——的争论。通过分析Llama-2模型族中三个空间数据集(世界、美国、纽约地区)和三个时间数据集(历史人物、艺术品、新闻标题)的学习表示,我们找到了后者的证据……我们的分析表明,现代LLM获得了关于空间和时间等基本维度的结构化知识,即他们不仅学习表面的统计数据,而且学习字面的世界模型(literal world models)”。[xii]

对生成式人工智能的逻辑能力以及可能导致产生逻辑能力的原因,转后到第四节专门讨论。

3. 众神纷争

深度学习领域公认三巨头Geoffrey Hinton(辛顿)、Yann LeCun(杨立坤)和Yoshua Bengio,三位图灵奖得主对生成式AI智能水平意见也不尽相同。这里还要加上一位实战一线的大神Ilya Sutskever。

①辛顿

辛顿是对人类应对AI挑战前景最悲观的人工智能宗师,也是前不久发起暂停巨型AI研究运动的发起人之一。辛顿表示一度“认为距离AI控制世界还很遥远,可能需要几十甚至上百年时间,但现在我认为可能只需5~20年。一旦AI比人类聪明,那么就会面临一个问题:到底是AI控制世界,还是我们控制AI?”[xiii]

②杨立坤

杨立坤对生成式智能水平的意见刚好相反,今年曾在巴黎召开的一次全球技术会议上表示当前包括ChatGPT在内的人工智能都没达到人类水平,智力甚至还不如狗聪明。[xiv]立坤在AI技术发展方向上并不认同LLM模型,对生成式技术持批评态度也顺理成章。也正因此LeCun反过来成为生成式派的靶子,OpenAI专家(当红书《伟大为什么不能被计划》作者之一哦)Kenneth Stanley就喊话让立坤放马过来,弄个模型比比。[xv]

③Yoshua Bengio

Yoshua Bengio(这位老师暂无公认的中文名)的态度是话不多说直接上论文[xvi]。这篇Bengio和多位跨学科专家合著的文章,说实话我看懂了——对不起我是骗你的——有一句话我是看懂了。Bengio在论文总结部分中认为,虽然人工智能暂时没有实现自我意识,但是要生成自我意识并没有明显技术障碍。

为防止翻译错误,话不多说直接上论文双语摘要:

We take our principal contributions in this report to be:

1. Showingthat the assessment of consciousness in AI is scientifically tractable becauseconsciousness can be studied scientifically and findings from this research areapplicable to AI;

表明人工智能中的意识评估是科学且可操作的,因为意识可以被科学地研究,研究结果也适用于人工智能;

3. Providinginitial evidence that many of the indicator properties can be implemented in AIsystems using current techniques, although no current system appears to be astrong candidate for consciousness.

提供初步证据证明许多指标属性可以使用现有技术在人工智能系统中实现,尽管目前似乎没有一个系统是意识的有力候选。

……Our analysis suggests that no currentAI systems are conscious, but also suggests that there are no obvious technicalbarriers to building AI systems which satisfy these indicators.

我们的分析表明目前没有人工智能系统是有意识的,但并没有明显的技术障碍限制构建符合这些指标的人工智能系统。

④Ilya Sutskever

Ilya Sutskever是辛顿的学生,更重要的身份是OpenAI联合创始人以及OpenAI真正的技术灵魂。Ilya在23年5月接受采访中的克制而精准的表达了对生成式技术的评价:

我认为学习统计规律的重要性比表面所见重要得多(a far bigger dealthan meets the eye)。预测也是一种统计现象。然而要进行预测,你需要了解产生数据的底层过程(underlying process that produced the data)。你需要更多地理解产生数据的这个世界。(You need to understand more and more about the world that produced the data.)

随着我们的生成式模型变得非常出色,我认为它们对世界及其附属的理解将达到惊人程度(ashocking degree of understanding of the world)。这是通过文本视角(through the lens of text)看到的世界。它试图通过人们在互联网上表达的文本将世界投影到文本空间中,以了解更多关于世界的信息。

除此以外Ilya还提到了人工智能跳跃式的发展,技术界即使在2003年还认为计算机无法学习(We take it for granted thatcomputers can learn, but in 2003, we took it for granted that computers can'tlearn)。[xvii]这确实让我想到一篇文章的标题“AI一天,人间十年”。[xviii]

4. AI生成智能的合理解释

①语言是世界的倒影(by我)

生成式AI之所以能产生至少表象为相当智能水平的结果,排除随机鹦鹉之类错误理论,有一系列有说服力的可能路径。

ChatGPT用大语言模型叩响通用人工智能的大门,庞大训练数据和Transformer模型共同建构的文本分析能力决定了生成式技术的表现。而语言不但在生成式技术中,在哲学领域也具有特殊地位。

语言的界限就是世界的界限,这是维特根斯坦分析哲学的名句。维特根斯坦用世界边界的比喻表述语言之外并无思想,这也引出了《逻辑哲学论》中另一名句“凡是可说,皆能表述;凡不可说,皆为沉默”。虽然维特根斯坦在晚期另一部巨著《哲学研究》中转向研究动态语言从而修订《逻辑哲学论》对静态语言研究的表述,但世界边界始终成为维特根斯坦哲学思想的经典符号。

德里达的名句“文本之外,别无他物”(There's nothing outsideof the text)是指在文化研究中,所有的理解和认知都来自于语言和符号系统,即文字或其他符号系统的表达。它意味着人们只能通过语言和符号来理解和解释事物,并且没有任何一种思想或真相可以脱离语言和符号的影响。因此,我们所理解的现实世界是通过语言和符号的建构而产生的。

哲学概念不同于实证公理,但也可为难以理解的AI计算过程开启一项思路。

②数学是理解世界的方式

智慧的另类可能

如果我们预设科学只有一种可能性,智慧只有一种实现方式,AI给我们的答案就迥然不同。

在人工智能技术发展早期,让程序模仿人类思考方式是通配的研究方向。吴军在《智能时代》第2章提到现代人工智能方法包括数据驱动知识发现或者机器学习,几乎所有科学家都不坚持机器人要像人一样思考才能获得智能,并明确提出“发现机器智能最重要的是能够解决人脑所能够解决的问题,而不在于是否是需要采用和人一样的方法”。[xix]

沿着这条思路很容易发现,如果人类学习鸟类并不是为了拍翅膀,而是要飞行。而最终人类飞上蓝天靠的也的确不是扇翅,而是靠固定翼、旋翼飞行器和动力火箭。

图灵奖得主Edsger W. Dijkstra早期曾认为计算机会不会思考这个问题,就像问潜水艇会不会游泳一样,这使得很多人认为AI不会思考而只是表现得像思考。但既然蛙泳自由泳仰泳以及狗爬都算游泳,为什么潜水艇就不算游泳?换句话说,潜水艇会不会游泳都没关系,能潜水和操控移动就足够了。

如同不能以鸟类来评价飞机,用人类尺寸丈量计算机、以人类思维去评价AI也很可能是错位的。

数学建构的世界

世界的基本构成是哲学也是科学问题。以所见即所得方式的具象理解,世界是物质的。用上帝视角抽象理解,世界可以是数字的。2000多年前毕达哥拉斯最早提出万物皆数,400年前伽利略说宇宙是用数学语言写成的。人工智能的发展似乎不断证明毕达哥拉斯和伽利略们是正确。

AI用完全不同于人类的方法理解世界,这是单纯以人类日常经验难以体验的。无论是文字还是图形大模型,都是以数学而非文字或者像素方式理解万物的特征,用贝叶斯、马尔可夫和隐马尔可夫在回归中解构万物关联的数学图景。假如确实存在人类思维方式以外的智慧形式,数学是最大的可能。

3. 涌现,复杂系统的特权

GPT的表现随着训练数据指数级增加而跃升,OpenAI自己也没有预见到当GPT-3拥有1700亿参数的一刻模型表现产生质变。前面引用微软研究院报告也提到,对大语言模型出色表现中展现的推理、规划和创造能力将是继续研究的课题。

“涌现”(emergence)是《失控》作者凯文.凯利代表的未来学一派特别喜欢研究的命题。对生成式AI来说,模型随训练数据规模扩大到特定阈值将产生突然的智力跳跃增长,包括建构世界模型和复杂推理能力的现象就是涌现。从技术角度可以理解为:“当模型小于某一个规模时,模型的性能接近随机;当规模超过某个临界的阈值时,性能会显著提高到高于随机。这种无法通过小规模模型的实验结果观察到的相变,我们称之为涌现能力”。[xx]

凯文·凯利自己也用涌现理解ChatGPT的出色变现。他在和李志飞访谈时提到:“ChatGPT 的出现是一个意外。……ChatGPT 的能力超出了所有人的预期。我不认为有人预料到这一点……许多正在生成的人工智能也是‘涌现’的。因为在模型中没有一个地方能够解释它的来源,它需要所有部分共同协作才能产生这种新的能力。就像我们的大脑没有一个地方有‘思想’,‘思想’是从整个神经元中‘涌现’出来的。思维、进化、学习等事物都可以从系统中‘涌现’出来”。[xxi]

“涌现”理论和现象符合Philip Anderson一篇里程碑式论文More is Different的主题。诺贝尔物理学奖得主Anderson在这篇论文中指出“物理系统在每一个复杂度上都会出现全新的性质”,揭示了量变对质变的影响。[xxii]

我在挺长时间里难以理解“More is Different”的原理,禅宗里也恰好有个冷水泡石头万年白用功的公案,和涌现理论似乎悖向而驰。后来突然明白所谓涌现是指复杂系统发展到一定规模会出现质变,并不是同质的沙子那样重复物料,不论堆砌多少也不会产生性质变化。复杂系统在演化中随系统规模扩大而自行涌现出难以事先计算的功能,直觉上也很像哈耶克所主张的自发秩序。

马库斯和戴维斯合著的《如何创造可信的AI》是一本相当出色的AI专著。这本中文版在2020年5月出版的书英文原版写作时间当然更早,那时大语言模型还没有爆发。两位作者指出当时AI缺乏对世界和事物背景知识(世界模型)导致鲁棒性差,以及缺乏抽象与概括能力的重大缺陷。

马库斯和戴维斯建议用人机对齐和预先植入常识的方式,解决这些传统AI难以克服的缺陷。[xxiii]但恰好在本书中文版出版的当月GPT3发布,GPT没有借助人为干预,而是通过1700亿数据训练产生的能力涌现,显著修补了缺乏世界背景知识和逻辑能力的短板。

二、 法律的自负

1. 前言

“自负的巨轮,并没有注意到横亘前方的大陆”——还是我

技术革命和社会变迁是单向和必然的因果关系,人类社会因应技术革命的最重要的制度设计就是修订法律。不论是为了规制技术本身,还是为了重塑被技术所改变的社会状态的新秩序,法律都是人类制度化调整的核心。

如果法律频繁变动,必然违背公众对法律稳定性和可预测性的预期,所以法律的内生性格是保守的。这也使从立法到学术圈层都难以对平静生长又极具潜力的新事物保持敏感和关注。

如果人工智能领域没有出现和技术进步匹配的法学新理论,很容易呈现对技术发展的消极和抵抗型立法,直到无法坚持再被迫调整方向。

我们不愿意研究虫茧,忽视了有一天它会变成蝴蝶。

法学巨轮一如既往压冰破浪,这一次晨雾中浮现的却是远方陆地的深邃身影。

2. AI法学流派简述

受生成式技术爆发影响最大的法律是著作权法,围绕著作权回应人工智能的不同观点,可以总结以下主要流派:

①保守派

稳定是法律的重要价值,法律的性格也理当是保守的。保守派可能是当下人工智能法学最大的流派。保守本身作为法律面对新问题的姿态并无问题,保守的问题通常是过度保守。

人工智能法学保守派实际可以分为左翼和右翼。保守右翼特征是有意淡化风险,他们对人工智能的理解和记忆一般定格在苹果Siri、微软小冰和小爱同学,相信AI的终极使命是卖萌。

保守右翼如果有口号,大概是天下无事,不需立法。右翼的心态是完美的,他们在技术巨潮涌来之前镇定自若。高深的学者还会召唤乔姆斯基,努力点醒误以为AI真会有出息的后辈。但他们很少注意到作为乔姆斯基语言学核心概念之一的语言习得机制(LAD, Language Acquisition Device),也就是著名的语言先天习得理论,本身就受到大语言模型纯粹数据训练实践的强烈挑战。

保守左翼特点是极其冷静,可以称冷静系。冷静系观点其实有值得研究的地方。冷静系同样认为不必为人工智能调整法律结构,不赞同著作权法为AI设置专门规范。和保守右翼不同的是,冷静系大多认可AI向通用和高级智能发展的前景,只是认为当人工智能突破人类智慧或者产生自我意识,将冲击全部法律的基础。既然法律底层基础都会产生动摇,就没有必要提前紧张,也没有必要单独修改著作权法。

冷静系的问题在于忽略了法律制度对新生事物发展风险的积极调控能力,也忽视了AI的智能或者创造力在所有部门法当中首先挑战的就是著作权法。著作权法实际是人类及其法律制度应对人工智能大潮的防波堤,能否守住防波堤对人类社会能否争取更多时间适应AI具有至关重要的作用。

②一刀流

一刀流观点直截了当,主张只有人类才有资格享有著作权,任何形式的机器都不具备享有著作权的主体资格。

一刀流在全球都有拥趸,在美国也有很多刀客。美国国会版权办公室以及版权上诉委员会在AI美术作品《太空歌剧院》版权登记审查案两级行政程序中,都以版权只保护人类智力创造成果、美国宪法和版权法所称作者不包括非人类(机器)[xxiv]为由,先后驳回Jason Allen为作品申请版权登记的请求,即使在《太空歌剧院》的绘制和修改过程中使用多达624个提示词,即使作品获得科罗拉多州博览会数字艺术大奖。

一刀流观点回避法理和逻辑,只机械套读法条。生成式AI已经逐渐接近通用智能的水平,如果法律界再刻意回避人类中心主义面临的争议,等于把所有风险推迟到爆发即崩溃的最后一刻。

③三体派

人工智能法学流派里最激进的是三体派。三体派非常熟悉科幻体裁,勇于探索未来的不同可能。但三体派通常对短期技术进步评价过高,期盼每天都有新的技术革命,随时发生千年一遇新突破。

三体派对AI法律演变的观点通常是人工智能已经改变了著作权法基石,著作权从创作到利用和治理的基本概念都趋于瓦解,建构在著作权法基础上的商业模式全部面临重塑。

三体派观点最大的意义在提醒法学直面挑战,但在研究上缺乏对技术和法理底层的彻底梳理,论述上难以令人信服,理论上没有解决方案。

三体派和古希腊赫拉克利特观点共同处在于看到凡事必有毁灭的规律,不同处在于三体派只看见毁灭没有看见重生。著作权法从诞生开始每段历史变迁都是为了因应技术变革,变革本身已经写入著作权法基因。即使人工智能投来二向箔,仍然相信著作权法有机会在进化中求存。

④重启派

法学界也有观点认为著作权法应当为人工智能设立专门制度,包括为AI拟制独立的著作权权利主体,由AI作为类似动物权利主体的准著作权人。这类可以称为重启派的观点,实质是主张为人工智能定制独立于人类享有著作权的专门体系。

重启派乐于为解决AI版权危机提供解决方案,但提供的却是一套见洞打补丁的硬着陆方案。重启派观点最大的缺陷是其盲目性。重启派理论缺乏论证和可行性,硬着陆方案既没有法理基础也破坏了法律的稳定结构,却不可能产生理想效果。

3. 打补丁还是升级算法

①人工智能立法影响法理结构和逻辑

事实上法律社群并没有无视生成式人工智能的爆发,但全球立法和研究都集中在AI监管,少有感受和正面应对人工智能对法律逻辑和基本结构的影响,而这恰好是真正的挑战。

考虑到评估人工智能技术在长远未来的发展程度有很高分析难度和重大理论分歧,本节聚焦人工智能在当下和可预见将来为法律带来的挑战,总结成以下三个问题:

1)机器学习是否是学习。对这个问题的回答决定了对人工智能使用第三方数据进行预训练是否有可能适用合理使用;

2)人工智能是否是智能。对这个问题的回答决定了人工智能生成内容是否具有独创性,以及相应是否可以受到著作权保护;

3)人工智能法律责任的承担模式。对这个问题的理解决定人工智能监管立法的模式和尺度。

第1和第3个问题分别是本人工智能系列前两篇章的主题,第2个问题也就是人工智能生成内容是否可以享有著作权保护,是下一篇文章计划的主题。

②互联网“马法”之争,到底是证伪还是证实

人工智能撞车“马法”么?

有观点认为美国上世纪末的互联网“马法”争议可以佐助为人工智能专门立法是个错误:

“数字技术的广泛应用衍生出名目繁多的新兴议题,是否需要以及如何将之法律化是数字时代的新马法之问。国内主流舆论与实践倾向于采取专门立法,但其理由难以支持该法律化路径的必要性与正当性”

……

“1996年,美国著名学者型法官弗兰克·伊斯特布鲁克在参加芝加哥大学举办的网络空间法研讨会时,毫不留情地抨击了互联网法的独立性。他认为,涉及马的法律问题有很多,如马的买卖问题、马踢人的侵权问题、马的许可证问题等,但并不意味着需要为此专门制定一部马法……在他看来,所谓互联网法就如同有关马的法律,只不过是一般法律在特定领域的应用,并无必要独立设置。”[xxv]

有意思的是,微信公号“法学学术前沿”转载前文时还特地加了《需要为GPT、元宇宙、区块链等专门立法吗》的标题。[xxvi]而我却认为在人工智能立法问题上使用“马法”争议做案例,以及转载所增加的标题都是错的。

互联网专门立法是定论

作为论文观点展开和基础的所谓互联网“马法”之争,本身就以美国参议院在1998年10月12日全票通过著名的《数字千年版权法》(Digital Millennium Copyright Act of 1998,即广为人知的DMCA)告终。20多年来,DMCA及其引发的全球互联网立法实践所确立的网络传播权、避风港规则,以及互联网环境下帮助侵权规则的崛起为互联网行业的发展以及人类社会进步起到了巨大的作用。

含糊的“专门立法”

前述论文以专门立法为讨论中心,但对专门立法并没有做明确界定,即到底指为新事物和新技术设立独立的部门法,还是包括增订新的法律规则。

如果是指增订相应法律规范,在程序法、证据规则或者实体法规中为新技术起草专项条款就更加普遍了。实际上DMCA本身也不是一部独立法案,而是对美国法典第17条内容的大量增订。再举一个例子,司法解释为区块链技术固定在线证据的法律效力做了多项相应规定。[xxvii]

AI是技术革命

对转载修改的标题来说,把GPT、元宇宙和区块链放在一条水平线上讨论是否值得专门立法,这种处理方法本身就有问题。

生成式技术是一项正在开启人类社会深远变革的技术革命,和区块链和元宇宙在技术意义和重要性上是找不到相同点的。生成式和元宇宙或者区块链的区别,就是汽车和玩具汽车的区别。用徐江的台词来说,区块链和元宇宙什么档次,跟GPT在一个标题?

③法学需要算法升级

创造向挑战远大于传播向挑战

内容创作和传播是内容生命周期中相互衔接的核心环节。互联网是专注内容传播的技术和平台,30年开始蓬勃的互联网就已经迫使著作权法改革权利体系,设立专门的网络传播规范。

内容创作或生成,在时间线上是传播的前端,在逻辑上是传播的前提。互联网所代表的传播技术革新已经使著作权法产生几乎脱胎换骨的改革,作为更底层技术的内容创作技术的革命变化对法律和全社会产生的影响会更大。

人工智能技术对著作权法带来的挑战从长远来看会全面超过互联网技术。

来自图书馆的实验:勿用旧衣套新体

为应对人工智能的大潮,著作权法需要的不只是修补条款,而是改变著作权的传统法理基础。只靠优化工具并不能解决根本问题,著作权法真正需要升级的是底层算法。

算法升级的根本原因是整个著作权法是以人类为中心,针对人类能力和需求量身定做的制度体系。人工智能的杀出已经改变了传统著作权法赖以生存的环境基础,只有通过革新方法论才能适应新的环境。

很久以前我读到博尔赫斯的一句话,如果世界上有天堂,那一定是图书馆的模样。彼时正好我还没有下定决心从事法律,当时职业理想是做图书管理员,所以尽管看不懂阿根廷诗人,却仍然因为这句话对他充满好感。那么就让我们在图书馆场景做一个法律实验。

实验第一幕:

一个人在图书馆,当他翻完一本聂鲁达诗集以后,欣然模仿“你是我最后的玫瑰”,写下一首“你是我最贵的茅台”。

在这一幕中,所有人都投票同意读书和创作都属于合理使用。

实验第二幕:

一个机器人在图书馆,当ta翻完一本聂鲁达诗集以后,模仿“你是我最后的玫瑰”,写下一首“你是我最贵的茅台”。

在这一幕中,一部分人同意读书和创作都属于合理使用,一部分人反对构成合理使用,因为这毕竟是一台搭载人工智能的机器。

实验第三幕:

一个机器人在图书馆,当ta把聂鲁达诗集扫描输入服务器后,模仿“你是我最后的玫瑰”,写下一首“你是我最贵的茅台”。

在实验的第三幕中,几乎所有人都认为机器人侵权,因为不论生成内容是独创还是抄袭,未经许可扫描作品已经侵害了权利人(考虑到聂老师1973年9月23日去世,著作权刚过保护期,就设权利人是中文译者)的著作权。

对第三幕实验结果的投票结果看上去很合理,但是存在一个问题,对机器人来说用摄像头阅读和通过扫描输入阅读结果是一样的。第一幕和第二幕的区别仅仅在于演员是人还是机器人,第二幕和第三幕对机器人演员来说并没有区别,只是我们人类认为有区别而已。

人工智能并不是专门给法学制造难题,总有一天AI会让全社会都整不明白。

例如,教育部多次发文禁止中小学校外培训,但GPT-4已有文字、语音和图像动态切换的超强多模态能力,可以轻松批改作业和多模态形式互动后,AI在数理化外等学科都可以完成辅导职能。那么教育部应该一体禁止AI课外培训么?看完以下新闻,可能你会明白人工智能原来是持证版法外狂徒

“为加强校外培训监管,教育部近日发布 《校外培训行政处罚暂行办法》,确立处罚规则,规范处罚程序。10月15日,这一办法正式施行。与此同时,人工智能正在越来越多地进入教育行业。”[xxviii]

4. 小结论

人工智能和人类的行为逻辑几乎是完全不同的,本文第一部分就详细解释了这一现象。以著作权法为人类定制的规则评价人工智能行为模式,结果可能偏于荒诞。这也是人工智能立法需要在法理层面进行算法升级的一个理由。

谷歌在2017年的一篇论文Attentionis All You Need中提出了Transformer算法,敲响大语言模型的未来钟声。而法学正在等待自己的Transformer。

三、 盗火后的世界-改变中的商业和个体

本部分内容逻辑上和第四章节内容一体化,但改变中的人类社会是一个过于重要和庞大的论题,因此把盗火后的世界分为两部分叙述。

1. 改变中的商业

①法律和社会的不同转型方式

要准确评价生成式推动AI技术突破的意义有点困难,也许最好的比喻是等同技术史上的一次盗火。网易丁磊也认为AI价值不亚于二次发明火,[xxix]丁磊并进一步指出“对于火的出现,有人生怕会被它烧伤,有人则会用它来造万物……我们要清楚地看到:AI为社会效率带来的巨大提升,会远胜过它带来的麻烦。”

和法律进化可能的突变形态不同,人工智能虽然对人类社会将产生根本性影响,但这种影响随时都发生在渐变过程中。换句话说,不论是否承认,人工智能带来的社会巨变已经在发生。

②静静的巨变

人工智能技术突破对社会的影响远非一蹴而就,技术本身也需要相当的继续发展过程,但AI对社会、技术和商业的影响却是全方位的。

技术改变技术

人工智能是底层技术,影响范围远不止信息技术。

《Nature》期刊报道,Scopus数据库中在标题或摘要中提及人工智能或人工智能相关关键词的论文比例十年前为2%,目前已经达到8%。[xxx]这一组数字确定地证明人工智能在泛学术界地位都在飞速提高,已经成为主流研究对象和工具。

生成式技术普遍运用在编程领域,而且也成为进行更抽象的数学研究的有效工具。陶哲轩这样世界级数学家都在用ChatGPT工具研究公式证明。

谷歌DeepMind团队在《Science》期刊发表使用基于AlphaFold技术预测出多达19233个人类蛋白质编码基因的7100万个错义突变。著名的拉斯克奖把今年的基础医学研究奖授予DeepMind,专项表彰AI研发员发明AlphaFold这项高效预测蛋白质三维结构的革命性AI技术。华大基因尹烨也认为AlphaFold被学界誉为“圣杯”级别的发现,拉斯克奖则有诺奖风向标美誉。[xxxi]

事实上由于AI预测蛋白质三维结构上效率远超人类,很多本来从事这个方向研究的人类顶级专家早已纷纷改行。

产业通配的基础能力

生成式技术和传统AI技术的根本差别,在于具备了通用的理解力和创造力。商业无边界。生成式AI正以自身通用智能,潜移默化地改变从可重复劳动到创造性劳动在内的几乎所有产业。

哈佛商学院和波士顿咨询集团最新就人工智能对知识工作者的生产效率和质量影响的合作研究中,按创意、分析、写作、说服四项能力设计了18个任务,对人工智能和完全由人类完成的任务结果进行了对比。测试结果表明人工智能比人类平均多完成12.2%的任务,完成任务速度快25.1%,完成质量高40%。[xxxii]

文娱产业必然率先对生成式技术积极反应。美国编剧工会用长达5个月的罢工逼好莱坞同意暂停大规模应用纯粹人工智能创作,中国并没有这项顾虑,阅文在今年7月发布国内网文类第一个大模型阅文妙笔,并表示将基于大模型逐步开发各种新功能。阅文同时透露已经将AI应用于网文漫改,并将全面探索有声、漫画、动画、衍生等开发链条的AI应用。[xxxiii]

一想到刘慈欣都用ChatGPT写科幻大会的发言稿并且亲自给好评[xxxiv],写套路化的网文已经是给AI低配任务了。

逐步建构AI生态的游戏业

游戏既是AI最早影响的行业,也是因高度细分和复杂而需要与AI能力逐步融合的行业。

a)人工智能已经全面影响游戏业

善用AI对游戏企业来说是个强激励。韩国游戏厂商Grampus曾在韩国内容产业论坛上发言表示“过去我们需要花2~3周的时间来打造一个概念原型,现在不到一分钟就可以搞定了。”[xxxv]

从游戏行业巨头状态看,可以很清晰地发现网易、米哈游、腾讯等中外领头羊已悉数抢滩AI。

腾讯游戏自研主导一站式全流程工具管线Superman,覆盖美术制作工具和AI技术,以工业化模式管理DCC角色到动画的数据生成链路[xxxvi]。育碧发布AI工具Ghostwriter,帮助策划为NPC生成对话;暴雪推出帮助创建游戏环境、角色和道具的图像工具BlizzardDiffusion(一眼看到名字就该想到Stable Diffusion)。

网易向来对新技术和商业模式保持良好的嗅觉。但这一次不同的是,丁磊放弃了一贯的跟随创新策略,破例直插AI应用最前沿。丁磊不仅力推在游戏中应用AI,甚至认为人工智能在1~2年内大概率会成为音乐行业标配。

网易游戏也成为了AI应用首批受益者。爆火新游《逆水寒》中AI配置400多名NPC角色,集AI玩法大成。[xxxvii]网易AI在游戏中表现出超大众预期的情感认知和对话能力,游戏交互和真人式体验成为亮点。

同样第一批尝到AI甜头的还有米哈游。大热的《星穹铁道》制作人大卫曾透露,在过去米哈游制作单个游戏角色,仅仅文本设定就需要一个月左右,然而周期如此长的人物设定,玩家消化起来也可能只是几十分钟的事情。在《星穹铁道》的开发中,通过AI工具的利用,NPC的台词制作效率得到了快速提高,其未来预期实现对话永不重复的NPC。[xxxviii]

b)人工智能在当下对游戏业的改变还不充分

尽管AI技术对游戏行业降本增效作用明显,[xxxix]但既由于AI技术本身在解决提高创造性和精准度、降低品质波动等问题上需要时间,也由于游戏业与AI新技能的融合还在摸索和养成中,以及AI需要在众多差异化的游戏细分领域海量学习才能充分发挥作用,人工智能要完全改变游戏行业会是逐步和较长时间的过程。

虽然在技术持续完善以及游戏行业加强学习AI应用上有待时日,但就技术发展速度我很同意这样的观点:“AI的学习能力实在是太强了,使用AI的成本将会不断降低。即便现在两者成本持平,感觉超越只是时间问题。”[xl]

2. 改变中的个体

①个体崛起

 AI对人类的意义在于AI提供的能力。谭建荣院士认为生成式人工智能生成文本、图像、音频、视频和代码的能力已经集中爆发了,生成式AI时代每个人都将是“作家、制片人、导演”,至少现在每个人成为作家已经“不是很遥远,部分已经实现”。[xli]

当强大的AI能力成为个人能力的插件,的确会给个体带来前所未有的巨大机会。例如对独立游戏或者动画制作人来说,原本需要大资金搭建大团队才能启动的工业化生产链中,几乎每个链条都可能通过AI辅助补齐技术短板。精通AI的个体只要擅长制片、策划或其它一两个环节,就能跨专业整合并规模产出。

缺乏部分专业能力可能越来越非致命,因为Al最强的能力就是学习能力的能力。相应地,运用AI能力的能力可能成为个体的关键能力。如果让独立个体具有无限可扩充的工业化能力,即使所谓超级个体的说法理论上也不为过。

②个体沉没

仅从AI美术就可以发现使用AI和蔡徐坤打响指说MUSIC并不是一回事。尤其在专业研究和绘画之类技术性很高的领域,并没有咒语一样直抵结果的AI召唤术。使用人要保持高度专业的视角,与作为副驾(copilot)的AI持续互动不断调整输出,才能使结果逐步接近预期。

每个个体与人工智能的距离以及利用能力的差异,会使不同个体使用AI的结果截然不同,拉大了人与人的差距。

所谓超级个体的出现,同时意味着普通个体价值降低以致意义消失。普遍个体可被取代意味着大概率将成为代价,所以《未来简史》提出当人工智能可能使绝大多数人沦为无用阶层,“对大多数的现代工作来说,99%的人类特性及能力都是多余的”。[xlii]

值得注意的是这里所说“普通个体”,不仅包括通常具有可重复性的中低级工作,也可能包括需要智力劳动的所谓高级工作。“以前我们预测认为人工智能首先代替的是那些简单劳动、重复劳动的那样的工作,但是现在看来正好相反,人工智能可能首先代替的是那些需要高智能的、很高的教育程度的那样的工作,比如像医生、教师、股票经纪人等等这些工作可能是被首先代替的。这其中可能也包括我们作家也可能首先被代替的。”[xliii]

③红利还是洪水

人工智能突起是个体的机会,也是个体的风险。

人类社会每进入一种社会形态就会进入新的阶层流动与分化重组,与AI智能整合的能力会成为未来社会重组的重要因素。如凯文·凯利所说:“随着时间的推移,与人工智能合作的能力,可能比是否上大学还要重要。也许大学的目的将是教会你如何与人工智能合作”。[xliv]

现代文明不支持静态和刚性的平等,这种平等理想将导致平均。社会阶层重组本身是正常现象。而创造更多人平等接触和学习人工智能,保障所有个体有公平资源和机会利用AI红利,有助在AI成为基础设施的社会实现动态公平。

四、盗火后的世界:改变中的社会

人工智能改变的不只是社会的貌状,而且是社会结构和底层逻辑。

无需讨论AI是否会取代人类,即使纯粹工具也可能在很大程度上改变人类行为模式和社会状态。

国内优秀人类学者项彪提出过“消失的附近”,这个概念非常经典地示例了新技术和基于技术的新工具可以改变人类观念和行为模式。仍然用举例说明,互联网使人们可以在线上完成传统需要亲历的社交和娱乐,线下聚会等物理场景很大程度上被微信、抖音等APP在线取代。作为被网络技术影响的结果,现代人可以借助手机轻易触达全球,却少有机会熟悉近在咫尺的邻居。人们收获了远方和陌生,失去了附近和熟悉。

1. 消失的思考

①技术统治,和工具异化

本节会串联一组传播、社会与政治学的概念,并不是因为堆砌会增加说服力,而是只要观察人工智能对社会的影响就发现这些概念的内在关联性。

技术的反向驯化

技术最初是作为使用对象的工具,人居于主体而技术居于客体。但重要技术的发展通常使人类习惯使用工具,在人类对技术产生强依赖之后逐渐产生主客倒置,即技术开始反转影响甚至决定人类。按照马克思的观点这类现象通常称为异化。

《人类简史》举过小麦和人类的例子来说明工具对人类的反向驯化。简单说就是,当人类发现种植在同等土地面积条件下能提供比狩猎和采集更大的供养能力,就开始为适应种植环境而变迁徙生活为定居,人类从野生植物驯化出的小麦由而反过来驯化了人类。[xlv]

按照异化理论来看,AI异化的影响比传统技术工具要大的多。当智能体(Agent)日益普遍作为增强大语言模型LLM和使用人之间串联点,人类和AI之间沟通难度降低同时一体化程度加强,人类对AI的依赖会显而易见地增加。

传媒理论的论证

传播学真正研究的对象本质上是人。传播学中具有重要影响力的媒介环境学派尤其关注并提炼新媒介/技术对受众和人类社会的决定性影响。

麦克卢汉在1960年代提出媒介即信息(The medium is the message)的概念,通过媒体和观众的关系演变,同样诠释了技术对人类的反向影响。麦克卢汉反对统计学方法对媒体理论的统治,主张媒介本身比内容更重要,媒介可以影响和塑造观众的观念。站在作者所在的上世纪中期社会场景就容易理解,当时新兴的电视作为和书籍、广播完全不同的视觉媒介,极大改变了内容的娱乐性和情感体验,影响了观众的行为和价值观产生影响。[xlvi]

继承媒介环境学派衣钵的新旗手尼尔·波兹曼在1980年代喊出了娱乐至死的口号(Amusing Ourselves to Death),在著名的《娱乐至死》中批评电视媒介以音像和情节取代印刷内容的思辨和论述,让公共话语曾经的理性、秩序和逻辑转变为肤浅、碎片和娱乐。[xlvii]

波兹曼更进一步跨越了传播,把主题延伸到了全部技术范围,提出了技术垄断(Technopoly)。波兹曼专著《Technopoly》的书名从词根上看源于垄断(monopoly),我更倾向于理解为“技术统治”,可惜书中所提技术统治另有指代。波兹曼所说技术垄断是指由于技术拥有人类追求的最高效率,人类放弃思考和主见而依赖于技术。

虽然《Technopoly》首次出版早在1985年,波兹曼在因特网协议(1989年)还没出现的时代就提到“由于计算机‘无所不在’,它就迫使人尊敬它,甚至要忠于它,它主张在人类事务的一切领域扮演无所不包的角色。”[xlviii]

波兹曼的观点对应了这一节标题,消失的思考。电视和网络都是基于传播技术的媒介形式,人工智能直切内容创作和个性对话服务,具备引导话题和控制内容的可能。相比传统媒体,人工智能取代人类思考和主见,反身驯化人类几乎是釜底抽薪的现实能力。

②谁是演化螺旋的主人

马尔库塞认为发达资本主义利用高技术带来的物质和消费繁荣,驯化人类放弃独立性、创造性和批评精神,成为单向度肯定和维护体制的工业文明的奴隶即所谓“单向度的人”。[xlix]马尔库塞显然采用马克思的异化理论分析现代社会,得出技术及其文明驯化人类的同样结论。

但是虽然人工智能有可能把技术文明推进到前所未有高度,技术统治和工具异化的风险也未必值得我们如此悲观。

首先文明的演化通常是螺旋而不是直线发展,其次人类自身应该重新发挥和技术协同演化中的主导作用。

马克思在《政治经济学批判导言》里认为:“炸药和炮弹发明之后,阿喀琉斯这样的英雄还可能诞生吗?在印刷机存在的情况下,《伊利亚特》还可能出现吗?印刷机出现以后,说唱和歌舞随即停止,缪斯女神止步不前,史诗出现的条件随即消失,难道这不是必然的结果吗?”[l]

历史发展的现实证明,假设印刷机放慢了缪斯的脚步,短视频又让歌舞和说唱复生,贡献了累计40亿下载级别的抖音和TikTok平台。发展通常是螺旋上升,电商一度几乎革了线下叫卖式商业的命,直播带货又反过来把货架电商逼进死角。

更关键的是,复杂系统中的协同演进是一种博弈关系。人类在和技术共同进化的过程中,应该积极掌握协同主动权,保持对AI的利用而不是依赖。如果人类果真像马尔库塞所说丧失批判精神,归根到底是人类而不是工具的责任。

2. 历史逻辑的改变

①谁主宰,谁延续

人工智能的发达可能从无法预期的角度,改变人类社会发展的规律。

克拉塞维茨有一句流传深远的名言:“战争是政治的延续”。在人类历史的常规状态下,战争只是达成政治目的的手段和工具。在特殊阶段中,战争也可能成为主导政治的角色。乞颜部族崛起时,战争是蒙古草原最大的政治,政治永远是铁骑征服后再考虑的棋子。

战争风险对美国而言不是金钱损失甚至不是输赢结果,而是舆论和社会无法承受的人员伤亡。如果AI大规模武器化,无人不但可以获得相对有人的绝对优势,更重要的是人员伤亡统计已经变成无需顾忌的资产表数目。谷歌明确禁止研究武器类AI应用,本质上是防止世界重新回到残酷游牧战争的努力。

②智力可通兑引发资源革命

资源占有是决定权力分配的基本因素。不论是政治还是战争,都是为了获取资源。

早期人类社会长期处在蒙昧状态,宗教资源成为最高级别和最具权威的资源。大祭司或婆罗门在古埃及、古罗马、古印度都是代表神圣的权威,中国古代皇帝也称天子以宣告权力继承于天意。类似例子比比皆是。

进入封建和资本主义社会后,土地能源矿产等物质资源成为核心资源,资本可视为物质资源的权力形态。

后生成式时代,算法的进步使算力与智力日益可以通兑,智力资源将在研发、制造、应用等全部领域碾压其它资源,成为最优势的资源。

写在最后

AI正在把自己名字的签章印入时代,人类已经在面对和人工智能共同演化的命运。即使一定AI实现高度智能和通用才承认事实,按赫拉利的观点也不需要太久:“要到也有专家反复声称,有些事情非有机算法永远都无法做到。但事实证明,通常这里的永远都不超过一二十年”。

好消息是人类本来就具有主动进化的能力,而人工智能的发展毕竟还需要时间,哪怕只有一二十年。立法是人类赖以调整自身与人工智能关系的根本制度设计,法学需要和技术发展同步升级自己的底层算法,而不只是满足于修订监管条文。

参考资料

[i] 《对话凯文·凯利:现在监管 AI 为时过早,应该允许「失控」》,https://baijiahao.baidu.com/s?id=1774279079499487410&wfr=spider&for=pc

[ii]  <September 25, 2023MEMORANDUM OF AGREEMENT FOR THE 2023 WGA THEATRICAL AND TELEVISION BASICAGREEMENT>,https://www.wgacontract2023.org/wgacontract/files/memorandum-of-agreement-for-the-2023-wga-theatrical-and-television-basic-agreement.pdf

[iii] 《中国工程院院士谭建荣:生成式AI时代,每个人都将是“作家、制片人、导演”,但要防范五大风险》, https://www.nbd.com.cn/articles/2023-09-20/3028616.html

[iv] 《谷宇院士:通过图灵测试不一定具有AI能力,实现认知智能尚存挑战》,https://baijiahao.baidu.com/s?id=1767575432635062697&wfr=spider&for=pc

[v]  <Attention is all youneed>,https://browse.arxiv.org/pdf/1706.03762.pdf

[vi] 《GPT-4竟成Nature审稿人?斯坦福清华校友近5000篇论文实测,超50%结果和人类评审一致》,https://mp.weixin.qq.com/s/JNE0woqUH3uWBx7jDLfSCQ

[vii] 《GPT-4 其实没有推理能力?!》,https://mp.weixin.qq.com/s/KZ_9MnlzDvd7MX7Ur-28PA

[viii] 《字节跳动李航 对语言大模型的若干观察和思考》,https://mp.weixin.qq.com/s/0I-y1dGM08n8KF1Kwv2diw

[ix] <Sparks of Artificial General Intelligence: Early experimentswith GPT-4>, https://arxiv.org/pdf/2303.12712v1.pdf

[x] 《点燃通用人工智能的火花:GPT-4早期实验》,https://ask.qcloudimg.com/draft/8642415/7jbe0upcgg.pdf

[xi] 《MIT惊人证明:大语言模型就是「世界模型」?吴恩达观点再被证实,LLM竟能理解空间和时间》,https://mp.weixin.qq.com/s/9OcaKA6WeniXVvopGSn22A

[xii]  Wes Gurnee, Max Tegmark: <LANGUAGE MODELS REPRESENT SPACE AND TIME>,https://arxiv.org/abs/2310.02207

[xiii] 《“AI教父”GeoffreyHinton:智能进化的下一个阶段》,(https://baijiahao.baidu.com/s?id=1766949682856852456&wfr=spider&for=pc)GeoffreyHinton:

[xiv] 《Meta 首席 AI 科学家:AI 还不如狗聪明,不会接管世界》,https://tech.ifeng.com/c/8PGxCXr6KPn

[xv] 《AI大佬又被怼?meta首席AI科学家·Yann LeCun教授的帖子引起的争论|这次怼的是关于智能的优化与进化》,https://mp.weixin.qq.com/s/WvlQQ4Nv50Mk-XWJU3VU1Q

[xvi]  <Consciousness inArtificial Intelligence: Insights from the Science of Consciousness>,https://arxiv.org/pdf/2308.08708.pdf

[xvii]  <An Interview With IlyaSutskever, Co-Founder of OpenAI>,https://hackernoon.com/an-interview-with-ilya-sutskever-co-founder-of-openai

[xviii] 《Midjourney新功能来了,真是AI一天,人间十年!》,https://mp.weixin.qq.com/s/pIEGB9YJi0UGGpkrIFHeRg

[xix]  吴军:《智能时代:大数据与智能革命重新定义未来》,2016年47页

[xx]  《GPT大模型的涌现能力的概述》,https://zhuanlan.zhihu.com/p/633212695

[xxi] 《对话凯文·凯利:现在监管 AI 为时过早,应该允许「失控」》,https://baijiahao.baidu.com/s?id=1774279079499487410&wfr=spider&for=pc

[xxii] 《<多者异也>五十年:追随安德森的脚步》,https://new.qq.com/rain/a/20220720A05GQF00

[xxiii] 马库斯、戴维斯:《如何创造可信的AI》,浙江教育出版社,2020年(电子书,第6章)

[xxiv]  <Re: Second Request forReconsideration for Refusal to Register Théâtre D’opéraSpatial (SR #1-11743923581; Correspondence ID: 1-5T5320R)>(https://ipwatchdog.com/wp-content/uploads/2023/09/AI-COPYRIGHT-REGISTRATION-decision.pdf)

[xxv]  傅爱竹:《数字新兴议题专门立法热之反思》,《法商研究》2023年第5期,P47-61

[xxvi]  傅爱竹:《需要为GPT、元宇宙、区块链等专门立法吗?|数字新兴议题专门立法热反思》 ,https://mp.weixin.qq.com/s/Ctjn-VGBgM_eFJYs-0gYtQ

[xxvii]  最高人民法院《关于互联网法院审理案件若干问题的规定》(法释〔2018〕16号 )第11条2款:“当事人提交的电子数据,通过电子签名、可信时间戳、哈希值校验、区块链等证据收集、固定和防篡改的技术手段或者通过电子取证存证平台认证,能够证明其真实性的,互联网法院应当确认”;以及《关于知识产权民事诉讼证据的若干规定》(法释〔2020〕12号)第19条、《关于民事诉讼证据的若干规定》(法释〔2019〕19号)第14、15、23条等涉及电子证据的规定

[xxviii]  《教育部与科大讯飞签署中小学课后服务合作协议》,https://www.163.com/dy/article/IH784ITF0514EGPO.html

[xxix]  《网易丁磊评价AI:可能不亚于人类二次发明火|AI之声》,https://baijiahao.baidu.com/s?id=1770640157311068014&wfr=spider&for=pc

[xxx]  《Nature封面:AI 改变科学的多种方式,无论是好是坏》,https://mp.weixin.qq.com/s/-haJK7SMOjuqgD4xYbGd1w

[xxxi]  尹烨:《今年拉斯克奖给了人工智能,它们解读基因也“遥遥领先”?》,https://mp.weixin.qq.com/s/0bWkwX5a4-mcN-mU9dT-jQ

[xxxii]  <Navigating the JaggedTechnological Frontier: Field Experimental Evidence of the Effects of AI onKnowledge Worker Productivity andQuality>,https://www.hbs.edu/ris/Publication%20Files/24-013_d9b45b68-9e74-42d6-a1c6-c72fb70c7282.pdf

[xxxiii]  《首个网文大模型“阅文妙笔”发布,AIGC如何在网文等文创领域发挥作用》,https://baijiahao.baidu.com/s?id=1771837047134148536&wfr=spider&for=pc

[xxxiv]  《刘慈欣自曝用ChatGPT写发言稿:写得还不错》,https://m.thepaper.cn/baijiahao_23358891

[xxxv]  《又一游戏开发者因使用AI被Steam叫停,引发业内人士争议》,https://mp.weixin.qq.com/s/zgwRHVV-iUM4cCTpU34elA

[xxxvi]  《Aivatar角色动画管线 Superman》,https://gcloud.tencent.com/pages/products/superman.html

[xxxvii]  《最受益AI的网易游戏》,https://baijiahao.baidu.com/s?id=1776477312002645474&wfr=spider&for=pc

[xxxviii]  《蔡浩宇亲自研究AI,罗宇皓承接开发工作,米哈游开始变阵》,https://baijiahao.baidu.com/s?id=1773195350412128450&wfr=spider&for=pc

[xxxix]  《AI绘画已渗透七成游戏业,但从业者们却丝毫不慌》,https://baijiahao.baidu.com/s?id=1773267314091427804&wfr=spider&for=pc

[xl] 《AI绘画已渗透七成游戏业,但从业者们好像没那么慌》,https://www.sohu.com/a/688190201_161795

[xli]  《生成式AI时代,每个人都将是“作家、制片人、导演”,但要防范五大风险》,https://www.nbd.com.cn/articles/2023-09-20/3028616.html

[xlii]   尤瓦尔.赫拉利:《未来简史:从智人到智神》第9章,中信出版社2016年(因阅读电子书,无法确认纸质书对应页码)

[xliii]  《刘慈欣谈ChatGPT:人类的无能反而是人类最后的屏障》,https://baijiahao.baidu.com/s?id=1768152950586334822&wfr=spider&for=pc

[xliv]  《对话凯文·凯利:现在监管 AI 为时过早,应该允许「失控」》,https://baijiahao.baidu.com/s?id=1774279079499487410&wfr=spider&for=pc

[xlv]   尤瓦尔.赫拉利:《人类简史:从动物到上帝》,第五章,中信出版社,2013年(电子书)

[xlvi]  马歇尔.麦克卢汉:《理解媒介:论人的延伸》,第一章,译林出版社,2019年(电子书)

[xlvii]  尼尔.波兹曼:《娱乐至死》,中信出版社,2015年(电子书,本文观点总结自原著第6至第11章)

[xlviii]  尼尔.波兹曼:《技术垄断—文化向技术投降》,中信出版社,2019年(电子书,本段见第七章“机器意识形态:计算机技术垄断”)

[xlix]  马尔库塞:《单向度的人:发达工业社会意识形态研究》第7章,上海译文出版社,2004年

[l]  《技术到底是敌是友?文化如何甘心成为技术的附庸?如何不娱乐至死?万字解析<技术垄断>》,https://zhuanlan.zhihu.com/p/650118095

本文来自微信公众号:林华(ID:gh_4d992808ffdf),作者:林华

相关推荐

盗火后的世界:人类、AI和法律的未来寓言
AI动作预测:一分钟后的你和五分钟后的世界
AI孙燕姿爆火背后:全民制造的歌手,陷入争议的音乐
当AI变成人类
比AI灭绝人类更危险的,是愚蠢的AI接管世界
通过AI,人类进入了可以支配未来财富的时代
机器的算法和人类的心法,携手创造怎样的未来?
未来学家:5-15年后,半人马军出现,中国成世界AI培训中心
欢迎来到乱纪元:关于人类未来的十点狂想
​《2020科技趋势报告》重磅发布,AI 和中国,成为未来科技世界关键词

网址: 盗火后的世界:人类、AI和法律的未来寓言 http://www.xishuta.com/newsview95320.html

所属分类:行业热点

推荐科技快讯