原文链接:https://mp.weixin.qq.com/s/VSkPfANn27kBSbdgKJyQuQ
当下人工智能飞速迭代,大模型、智能技术全面渗透社会各行各业,不再局限于实验室技术研究,正深度重构产业模式、生活方式与社会运行规则。人工智能究竟在颠覆什么、改变什么?机遇背后潜藏哪些挑战与伦理困境?
5月8日晚,智酷 465 期,「智能体对行业用户的影响、风险与对策」系列讲座NO.3,中国科学技术大学机器人实验室主任、广东省科学院人工智能首席科学家陈小平分享《从技术到社会:人工智能正在颠覆什么?》,山西大学哲学学院教授梅剑华参与点评,北京信息社会研究所所长王俊秀主持。
本次讲座立足技术发展前沿与社会现实需求,跳出纯技术视角,从技术演进延伸到社会变革,深度剖析人工智能带来的颠覆性影响,解读智能时代的发展趋势、行业变局与人机共生的未来走向,启发大众理性认知 AI、拥抱时代变革。
以下为陈小平老师发言内容:
大家晚上好!今天很荣幸能在线上做这个分享。正如主持人王老师所说,当前智能体对整个社会影响非常大,前面两期已经做了相关的介绍。今天我想稍微站得远一点来看这个问题。
实际上,现在流行的智能体是建立在大模型基础之上的。有一种说法认为,当前智能体的能力上限是由大模型决定的。不过也不是所有方面都由大模型决定。从技术角度看,这一轮智能体的发展确实得益于大模型的出现。同时,大模型的技术特点在很大程度上决定了智能体应用所能实现的功能及其带来的影响。我今天的分享主要从大模型技术的角度出发,但也不只讲技术,而是根据对技术颠覆的认识,进一步分析这种颠覆将给社会带来什么影响。
本次讲座的主要内容分为四个部分,涉及四个方面的颠覆,希望引起大家的兴趣和共同讨论。
第一,从单智假设到双智假设。我认为当前正在发生的一个颠覆,是双智假设取代单智假设。
第二,在生成式人工智能范围内,甚至可以扩大到整个信息人工智能的范围内,实例性正在颠覆概括性。概括性是有史以来科学的世界观和方法论。现在,至少在人工智能范围内,概括性正在遭遇实例性的巨大冲击,有可能形成某种颠覆。这不可避免地令人思考:难道整个科学体系都将被实例性颠覆吗?
第三,从信息化思维到第一性原理。当前的人工智能要真正走进生活、走进实体经济,就必须走进物理世界,不再局限于信息空间,而信息人工智能是基于信息化的。于是,当人工智能走向物理世界,又产生一个新的动向,即用物理世界的第一性原理作为出发点,而不是以完全信息化为前提条件的可计算性为出发点。这样一来,第一性原理就有可能颠覆信息化思维,这将是一个更大范围内的根本性变革。
第四,上述三个方面是从技术角度来分析当前蓬勃发展的人工智能所带来的颠覆。在此基础上讨论第四个方面,即由上述技术变革引发的社会变革——从工业社会到智能社会的发展。
关于机器智能,其实存在着两种基本假设。虽然平时大家不太提及,但每时每刻这两种假设都在起作用,并时常发生冲突。
第一种是单智假设,即认为世界上只有一种智能——人类智能。所谓的机器智能或人工智能,只不过是用机器模拟(simulate)人类智能的工作原理。除了硬件不同之外,两种智能并不存在本质区别。也就是说,它们是同一种智能,只是载体不同。因此,单智假设也就意味着 AI 的拟人化,即以人为原型去设想它,去判断它的好坏,这实际上是假设了世界上只有一种(人类水平的)智能,即人类智能。
尽管这种观点较为普遍,但我并不认同。早在2004年首届“心灵与机器”学术研讨会的报告中,我就探讨了Artificial Intelligence的含义及翻译问题。 当时我指出,“Artificial Intelligence”应译为“人造智能”,指的是不同于人类智能的另一种类型的智能。这一观点的前提正是“双智假设”——假定存在两种不同种类的智能,否则就无法区分“人工”的智能与“人造”的智能。
最近几年,我在一系列公开演讲和期刊文章中,不断强调并阐释了双智假设。这里有必要说明,双智假设是我根据对图灵思想的理解提出的,图灵本人并没有直接提出“双智假设”这个术语,也没有做出清晰的表述。所以我必须说这是我的理解,说出来让大家检验,让历史检验。
最近几年我进一步提出一个观点:人类社会正在进入“双智社会”,即两种智能双足鼎立的社会。

图1 原始PPT节选
图1是2004年会议上我使用的原始 PPT,其中讨论了“人工”与“人造”的区别。我发现汉语中的“人工”与英语中的“artificial”在语义上几乎完全一致。语言最重要的是其用例,公认典型的用例是决定基本含义的。看几个例子:对人工,我们有人工降雨,英文也有类似说法“artificial rainfall”;同样有人工繁殖,英文也有类似说法,这样的例子很多。“人工”的基本含义是:产生的产品或者产物是真实的,与自然界中存在的一样,并非人为造出另外一个全新事物;但产生的过程是非自然的,即不是通过大自然原有的方式产生的,而是人类用其他方式造出来的。也就是说,产物是真的,但产生的过程是非自然的,这就是“人工”的含义。
而“人造”的含义则不同,虽然“人造革”对应的英文也是“artificial leather”,还有“人造海蜇皮”“人造棉”“人造丝”“人造羊毛”等等。这些“人造”产品不仅产生的过程是非自然的,产物本身也不是原来的那种。例如,人造革是人造的“革”,并非真正的革(去毛的兽皮),它在功能上与革具有相似性,但在物理或者化学上是不一样的东西,而且产生过程也不是原来的过程。因此,“人造”的东西,其产生过程和产物都是非自然的。这就是“人造”的含义。
当时我还给出一个观察:国际上的人工智能研究,包括中国的人工智能研究,约90%实际上研究的是“人造”的智能而非“人工”的智能,只有不到10%的研究者相信他们研究的是“人工”的智能。这个现象很有意思,尤其在中国表现得尤为明显。多数人觉得,“人工”的智能才是真正的人工智能,而“人造”的智能就是假的,实际上并不是人工智能。
现在来看,可能是时候改变这种认识了。

图2 图灵测试(1950)
回到图灵1950年提出的“模仿游戏”,后来被称为“图灵测试”(图2)。其基本构想是:一个房间里有机器,另一个房间里有人,房间外面有一位或者多位人类裁判。裁判向这两个房间提问,根据他们的回答来区分哪个房间是人,哪个房间是机器。如果无法正确地区分,那就认为该机器“有智能”。
关于图灵测试的讨论非常多,大部分是批评意见。但关键在于,图灵说的“机器有智能”与大多数人理解的智能并不相同。多数人接受的是单智假设,他们心里的AI是“人工”的智能。但我认为,图灵是秉持双智假设的,最明显的证据存在于他1948年的一份内部报告里。这份报告后来被收录于图灵图书馆,现在可以查阅。他的报告隐含着一个观点,根据我的理解可以表述为:机器智能的工作原理与人类智能的工作原理可以相同,也可以不同。这两种情况他都接受,并不要求两种智能的原理必须一样。
我对这两种情况做了进一步分析:原理相同的叫“原理模拟”,原理不同的称为“功能模仿”。功能模仿跟前面所说的“人造”是一回事,是实现与人类智能原理不同的机器智能的方法论。图灵在1948年的内部报告中,具体考察了一些场景下功能模仿的可能途径。也就是说,图灵不仅首次提出了一种全新的可能性,而且首次具体探索了实现那种可能性的可能技术途径。
功能模仿颠覆了人类有史以来关于“智能”的观念,真可谓石破天惊。我觉得这是人类科技思想史上最伟大的一个发明,没有任何发明能与之相比拟。
1950年图灵在《Mind》上发表了那篇著名文章,聚焦于1948年报告的局部内容,即围绕图灵测试的相关内容。在这些内容的背后,隐含着一个想法,我称之为图灵假说(图灵本人没有这样说过)。这个假说认为,可以用计算机模仿(imitate)人类智能的一些行为。
请注意,这里是“模仿”而非“模拟”。图灵指出,可以模仿的智能行为包括推理、决策、学习、理解乃至创造,他甚至提到“创造”也是可以模仿的。由于这些行为是能够相互集成的,所以在实际应用中往往不会只用其中的一种,而是把多种行为集成起来使用,所以又称集成智能。
模仿的标准是什么?图灵提出,如果人的行为与机器的行为是人无法分辨的,那就表示模仿成功了。这就是图灵假说的核心,而且他认为这件事是能够做到的。图灵假说隐含着一个前提,就是不必区分机器智能与人类智能的内部工作原理是否相同,是否属于同一种智能。关于这个前提,他在1948年报告里做了讨论,在1950年文章里没有提及。
图灵测试起什么作用?我认为图灵测试是用来替代图灵假说的。图灵对自己的要求极高、科学品位极高,不会像常人那样满足于直观。他一出手就是科学,所以设计了图灵测试。图灵测试是一种科学实验,这种实验可以用自然语言加以描述,但真正起作用的不是自然语言描述,而是实验本身——如果机器通过了图灵测试,就证明图灵假说成立;如果未通过,就证明图灵假说还不成立。这样,通过图灵测试就可以间接表达图灵假说,并且可以验证,而不需要直接表述图灵假说,因为自然语言不能真正描述科学假说。
时至今日,人类仍然在苦苦探索能够真正描述“智能”的科学语言。图灵测试让人类在找到这种语言之前,在用这种语言“定义”什么是“智能”之前,得以展开机器智能的科学研究与应用实践。事实上,这种语言和用它做出的“智能的定义”是人工智能研究和应用实践的产物,而不是必要前提。
回顾70余年的历史,AI技术的发展是图灵思想的延伸,始终没有违背其基本理念,只是某些局部看法已被实践改变,并诞生了大量新技术。然而多数人仍然“坚信”单智假设。
有趣的是,中美两国都普遍倾向于单智假设,在这个问题上具有高度共识,而欧洲相信单智假设的人相对较少。或许出于单智假设,Artificial Intelligence这个词被汉译为“人工智能”。于是很多人认为,Artificial Intelligence的本意就是“人工智能”,即“人工”的智能,所以就应该与人类智能的原理相同。
图灵是人工智能的奠基人、创始人,之后出现了人工智能的四大领袖,即AI研究的四位早期领袖人物,John McCarthy便是其中之一。Artificial Intelligence这个词就是John McCarthy提出的。后来他收到了很多人的信,询问Artificial Intelligence究竟是什么意思?于是他将来信中的各种问题加以整理和回答,发布在个人主页上。如今他已去世,但斯坦福大学在永久维护他的主页。这个问答中的第四个问题是:“人工智能不就是模拟(simulating)人类智能吗?”,这正是我们前面所说的拟人化观点,即基于单智假设的观点。
McCarthy是如何回答的呢?他在主页上写道:“有时候是,但并不总是,甚至通常不是。”一句话就定调了。随后他解释道:一方面,我们确实经常把人的一些方法教给机器,让机器表现出智能;另一方面,AI 的大部分工作是研究智能对世界提出的问题,而不是研究人或者动物。他的这一表述足够清楚,足够明确。他还说:AI 研究者可以自由地使用从人没有观察到的方法,或者涉及的计算量比人类能做的要多得多的方法。现在大模型做的计算正是如此。
由此可见,人工智能的奠基人和早期开拓者从一开始就看得很清楚,他们当时的看法被后来七十多年的实践反复验证。McCarthy对 AI 的解读表明,其实他并不认同拟人化观点,他提出的Artificial Intelligence并不是指“人工”的智能。McCarthy的观点其实非常接近图灵的观点,我推测他是看过图灵1948年内部报告的。
再看看数学界正在发生的观点变化。菲尔兹奖获得者陶哲轩在2026年3月20日发表了一个全新观点。他说:过去我们认为人类智能是宇宙的中心。这个看法所体现的正是单智假设。他接着说:现在我们看到外面存在着非常不同类型的智能,有着非常不同的优势和劣势。显然,这就是双智假设。他还进一步指出,AI擅长广度,人类擅长深度。由此可见,国际数学界对AI的看法正在发生根本性转变,已经开始转向双智假设。
为什么说陶哲轩的观点代表国际数学界的观点?这里需要做一个背景说明:陶哲轩与Timothy Gowers等人共同领导了国际数学界用AI重构数学研究方式的探索。据我所知,在全球所有学科中,数学界是最大规模地组织开展用人工智能改造自身生产方式的学科,其他学科目前都没有达到这么高的组织程度。因此,陶哲轩的观点在一定程度上代表着国际数学界对未来的前瞻,他不是泛泛而谈,而是从深入的实际工作中得出新的判断。
再看《人工智能时代与人类未来》这本书,作者是基辛格及另外两位很厉害的人。基辛格晚年将大部分时间和精力用于研究AI。他召集了一线AI团队举行座谈会,会后请这些团队用通俗的语言把他们的观点写成文字。之后,三位作者根据座谈会和文字材料进行梳理提炼,最终写成了这本书。
书中有几个重要的观点和大家分享一下,都是中文版的原话。一句话是,“图灵认为,重要的不是智能的机制,而是智能的表现。”这不就是图灵1948年内部报告的观点吗?还有一句话,“自那时起,图灵和McCarthy对人工智能的判断就成了业界的基准。”应该认为,这句话不是单纯表达三位作者的看法,而是转述那些参加座谈会的一线团队的看法。这个信息非常重要,非常耐人寻味——原来AI一线团队是这样看的。但是他们中间的很多人,平时是这么说的吗?在99%的情况下,他们公开表达的是拟人化观点,然而他们在基辛格面前却表达了另一套根本不同的看法。
书中还有一句话:“人工智能不仅处理数据的速度超过人类,更重要的是,它觉察到了人类尚未觉察,甚至可能根本无法觉察的部分现实。”为什么会这样?如果AI与人类智能是同一种智能,凭什么人类智能做不到?机器智能最多只会做得更快、更早而已;唯有在双智假设下,这种情况才可能发生。
书中还指出:“数字化革命和人工智能进一步产生了真正的新现象,而不仅仅是以往事物的更强大或更高效的版本。”这直接否定了单智假设。AI不是同一种智能,而是本质不同的新现象。由此提出一个问题,什么是“本质不同”?这本书里没有解释,我将在本讲座的后续内容中给出我的回答。
回到我的观点:双智假设认为,两种智能的原理是不同的,每种原理都有先天的局限;由于局限的不同,决定它们是不同种类的智能,但在很多情况下两种智能的表现是难以区分的。由此产生的核心结论是:第一,人类智能不会被机器智能完全取代,两种智能可以长期共存;而在单智假设下,人类智能就没有未来。这是好消息,但也有坏消息。第二,人类不再是世界上唯一的智力霸主,人类智能与机器智能将形成双足鼎立的格局,即进入双智社会。
过去我们理所当然地认为,人是社会的主人,决定社会的变化。然而人类在单智社会中形成的那套决定社会变化的思维方式和社会机制,是否依然能够有效地决定双智社会的变化和未来?我觉得不能,因为我们现在面临着一些全新的挑战,包括:人类应该发明什么样的机器智能?是否所有科学上可行的技术都应该被开发出来并投入使用?是否存在不该发明或不该使用的技术?我们发明的机器智能将对人类产生哪些影响?给科学、社会及伦理、安全带来哪些问题?
虽然这是一件很宏大的事,但它与每一个人都有关。我后面会说明,确实关乎每一个人。
把第一部分简单总结一下。第一,图灵关于机器智能的观点正在引发人类科技史上新一轮“哥白尼革命”。单智假设相当于地心说,双智假设相当于日心说。直到现在,如果我们只凭自己的个人经验,还是会相信地心说,因为我们的个人经验不支持日心说。同样,我们的个人经验也不支持双智假设。但是科学发现,日心说是正确的,双智假设是成立的,这就是新一轮的哥白尼革命。
第二,符合双智假设的人工智能,本质上是一种新智能;而符合单智假设的人工智能,本质上是旧智能,跟人类智能没有本质区别。如果你要想世界变得更有趣,当然要支持双智假设,否则把人类智能复制到机器上,然后由机器取代人类,那这世界还有什么意思和意义?满足单智假设的世界不仅无趣,而且无情。
第三,在双智假设下,机器智能将带来从科学到社会、从物质到精神的全面颠覆。因此,我们现在就有必要具体地了解,当前AI技术正在发生哪些颠覆性变革?
什么是概括?这个词在中文和英文里的解释是差不多的意思。中文定义是:从某类个别对象具有的特殊属性,推广到某类全体对象都具有这种特殊属性,从而形成该类对象的普遍性认识。
举个例子。我们都学过牛顿力学。根据后来专门的研究,牛顿力学的基本原理共有四条,都是概括性的,也就是用包含变量的公式表达的,前三条是运动三定律,第四条是万有引力定律。从这四条公式出发,通过逻辑和数学的推导,可以得出牛顿力学的所有定理,如第一宇宙速度,第二宇宙速度等等。这些定理有什么用?例如,人造地球卫星的力学原理是什么?很简单,任何运动物体只要运动速度超过第一宇宙速度且不超过第二宇宙速度,就一定成为地球卫星,既不会坠落,也不会“飞走”。这就为人造地球卫星的研究和开发提供了强有力的理论指导。假如没有牛顿力学,假如不能从四条基本原理推导定理,就不知道地球卫星必然遵循的力学原理。所以我在前面提到,用自然语言不能描述科学假设和科学原理,不能产生同样的效果。
受这个例子的启发,什么是概括性?事实上,牛顿力学的四条基本原理概括了宏观物理世界的全部力学规律。仅仅以四条公式为基础,借助于逻辑和数学推理,便可涵盖所力学有规律,这就叫概括。值得注意的是,概括不同于用归纳法得出结论,因为归纳法不保证普遍有效性,而概括性要保证普遍有效性、可解释性和可预测性。因此,一个领域的概括性原理是用有限的几条公式,刻画该领域的全部规律。
差不多从那时候以来,概括性就成为科学的世界观和方法论。几乎所有学科都希望或试图参照牛顿力学,寻找本学科的概括性原理,因为概括性蕴含着可解释性、普遍有效性、可预测性等“科学品质”,缺了这些品质就无法想象科学,而这些品质都是概括性的体现。
可是随着大语言模型(LLMs,简称大模型)的出现,上述趋势首次遭遇了重大冲击,或者说科学的根基首次遭遇了重大冲击。下面分两小节介绍相关内容,对技术不感兴趣的读者可跳过第(一)小节,直接阅读第(二)小节。
(一)大模型底层机制的数学模型
简单地说,大模型技术包含三大模块——预训练、后训练和激发。我发现,预训练和激发有一个共同的基础设施——关联度预测。在2023年7月发表的《智能系统学报》论文中,我把关联度预测形式化了,即用类LC系统描述关联度预测,这两部分就不再是黑箱,也不是完全的白箱,而是灰箱。后来发现,类LC系统也能部分地描述后训练,但描述得不完整。事实上,后训练过于微妙,现在还不能完全把握它。
类LC系统从理论上刻画了预训练和激发的底层机制——关联度预测,并得到大量实验结果的验证,深化了大模型的科学解释。今天的技术性讨论主要针对这部分内容。
类LC系统的核心是三条公理(见图3),简称类LC公理。类LC公理有一个与众不同的最大特点:同时拥有两个根本不同、缺一不可的版本:一个概括性版本,一个实例性版本。这在整个科学史上是前所未有的,跟以往的所有逻辑、数学理论都不一样。所以,了解类LC系统就需要了解这两个版本。

图3 关联度预测的数学描述:类LC系统
首先介绍类LC系统的实例性版本,从它的语法开始。实例性版本的语法构成如下:(1)基本符号:大写的C是一个函数,称为关联度函数,函数C里的ai,b,c是具体的词符(token),a1n是由n个具体的词符a1,…,an组成的词符序列,称为语境。(2)关联度实例:包括两种,一种是2元关联度实例C(ai,b|a1n),其含义为:在给定语境a1n下,词符ai与词符b之间的关联度为C(ai,b|a1n);另一种是n+1元关联度实例C(a1n,b),其含义为:语境a1n与词符b之间的n+1元关联度为C(a1n,b)。(3)公理实例:通过关联度实例与关系符号≤、逻辑连接词⊂和∧、求最大值自变量运算符argmaxb的组合,形成三条公理的实例。例如,公理1的实例与2元关联度实例相同,每一个2元关联度实例就是一个公理1实例;公理2的实例由两种关联度实例、关系符号和逻辑连接词组成,规定2元关联度实例与n元关联度实例之间的某种关系;公理3的实例由求最大值自变量运算符与n+1元关联度实例组成,意为:取所有n+1元关联度实例C(a1n,b)中值最大的那个C(a1n,b)中的词符b。注意,类LC系统实例性版本的符号表里没有变元,而词符、语境和关联度函数C是“承载”关联度实例的符号载体。
然而语法本身不能决定关联度实例的值(即函数C的值)。所以严格地说,上文提到的“关联度实例”其实只是“关联度实例表达式”。当一个关联度实例表达式带有一个具体的值,才构成一个严格意义上的关联度实例。例如,某个C(ai,b|a1n)的值为0.6,这个C(ai,b|a1n)才是严格意义上的关联度实例。
关联度实例的值是如何确定的?是通过大模型训练产生的,即通过训练唯一地确定所有2元关联度实例C(ai,b|a1n)的值和所有n+1元关联度实例C(a1n,b)的值,并尽可能满足公理2的要求。为此,在大模型预训练中,把语料(即训练数据)全部切成碎片(即词符和词符序列),根据对碎片的统计分析,提取关联度实例的值(见图4)。

图4 类LC系统的实例性
在类LC系统的实例性版本中,约定所有关联度实例都是带值的,并且由这样的关联度实例组成公理实例。所有公理实例的集合就是类LC系统的实例性版本。
在类LC系统的实例性版本中,关联度预测(即大模型生成下一词符的过程)被抽象为类LC系统的推衍(见图5),推衍的主要步骤包括:根据公理2比较n+1元关联度实例值的大小,根据公理3选择下一个词符b。
但是,大模型训练不保证总是满足类LC公理2;也就是说,相对于训练产生的关联度实例的值,类LC公理2有时成立,有时不成立。为了便于说明这种情况,以更简单的公式x+y=z为例(见图5)。此公式中有三个变元x、y、z,当你把公式里的所有变量各自代入一个自然数,并保证代入后等式成立,就得到x+y=z的一个实例,比如0+0=0,0+1=1,0+2=2,……。然而,如果这些实例不是通过代入得到的,而是通过训练产生的,就无法保证公式x+y=z对训练产生的每一个实例都成立。假设训练产生的实例为0+0=0,0+1=0,0+2=2……,则公式x+y=z对第1、3个实例成立,对第2个实例不成立。类LC公理2与此类似,并且当遇到使公理2不成立的关联度实例时,类LC系统的推衍就可能“出岔子”。

图5 类LC理论的双重角色:概括性和实例性
不仅如此,训练产生的关联度实例的值有时符合真实情况,有时不符合。由于真实语料数量远远不足,所以不得不借助于算法赋值,力图达到“放大语料”的效果,使得从放大的语料可以提取所有关联度实例。但是,算法赋值无法保证放大的语料完全符合真实情况,其中一部分可能是不符合真实情况的、虚假的。同时,真实语料也不保证都是真实可靠的,部分真实语料难免存在“噪声”。结果,通过训练和算法赋值得到的一部分关联度实例的值是不符合真实情况的。所以,关联度预测难免出错,如出现“幻觉”。
下面介绍类LC系统的概括性版本。在概括性版本中,C仍然是关联度函数,而ai,b,c是代表词符的变元,a1n是代表语境的变元。ai,b,c分别代入具体的词符,a1n代入具体的语境,就得到对应的关联度实例和公理实例。所以,类LC系统的概括性版本是由关联度函数和变元组成的,这一点与以往的数学和逻辑理论相同。
与实例性版本相同,语法不能决定关联度实例的值。另一方面,如果借助于训练产生关联度实例的值,那么概括性版本就与实例性版本完全相同了。为此,我们在概括性版本中保持关联度实例的值不确定,所以也无法依靠概括性版本进行类LC系统的推衍(即关联度预测)。那么,类LC系统概括性版本的作用和意义何在?
概括性版本表达了关联度预测的如下理论假设:给定一个语料集,存在一个所有语料满足LC系统三条公理的关联度函数C。这一假设的直观含义是:关联度预测遵守LC系统三条公理所规定的基本约束。具体地说,公理1规定,任何2元关联度的值在0到1之间;公理2规定了2元关联度与n+1元关联度之间的某种关系;公理3规定选取下一词符的规则。尽管这些要求很难被完全满足,以它们为训练设计的理论依据仍然是有意义的。更重要的是,基于LC系统的概括性版本,可以推导关联度预测的一些基本性质,这些性质非常有意义。
例如,从类LC系统的三条公理出发,通过逻辑和数学推导可以得出,关联度预测不遵守一般传递性。由于一般传递性是经典逻辑推理的基本要求,由此可知大模型不完全遵守经典逻辑的基本要求,一定会出现违背逻辑规律的情况。类似可得,大模型不完全遵守数学规律,一定会出现违背数学规律的情况。同样可得类LC系统的其他一些重要性质,涉及概念、因果、规划等关键性认知能力(参见《智能系统学报》2023年第4期、《中国人工智能学会通讯》2024年第1期)。
有必要指出,通过理论分析得出的上述性质已被大量实验测试所验证,从而间接证明,类LC系统的三条公理从理论上刻画了大模型的内在规律。
进一步分析表明,这些性质都源于一个更深层的基础性质——实例性:大模型通过训练“学会”的不是类LC系统的概括性版本,而是一个个带值的关联度实例,这些实例与真实情况不完全一致,与理论假设(类LC公理)也不完全一致。因此,关联度预测是基于实例性的,不是基于概括性的。
前文提到,一个领域的概括性原理是用有限的几条公式,经过逻辑推理,推导出该领域的全部规律。上面的分析表明,关联度预测不满足这个要求。但是,借助于类LC系统的概括性版本和实例性版本,仍然可以得到弱化的普遍有效性、可解释性和可预测性,包括上面提到的那些重要性质,以及下面将介绍的重要实验结果的分析。
(二)大模型的奇异表现及其科学解释
大量深度测试揭示了大模型的一系列奇异表现。其中最奇异之处在于,同一个大模型既能解答极其艰深的专业问题,又会犯极其弱智的低级错误。通常认为,这两件事不可能同时发生在一个人身上;所以根据单智假设,这种情况是无法解释的。然而用实例性可以解释这些奇异表现,并且实际上还预言了一些奇异表现。
下面看几个例子。第一个是关于大模型泛化能力的深度测试(图6)。泛化能力是大模型最重要的能力之一,大家都很关心。有一个深度测试是这样的:预训练之后,再用一组新的数学题进行后训练,比如其中一道题是:如果⌊n²/4⌋-⌊n/2⌋²=2,请找出满足条件的所有整数n。经过后训练,大模型学会了求解这些题目中的大部分题目。之后,再对后训练题目加以“扰动”,即看上去很小的修改。上面的那道题改为:如果⌊n²/9⌋-⌊n/3⌋²=2,请找出满足条件的最小整数n。通过这种微小变化,来检验大模型是否具备泛化能力——如果出现微小变化就不会解了,那大模型就没有泛化能力。

图6 深度测试:泛化能力与概念能力?
测了18个大模型,结果这些大模型回答上面这道被扰动的题目时,居然给出了两个解:10和13。我们都知道,满足一定条件的最小整数只有一个,具体到这道题里就是10,不可能有两个解。
这个测试的设计非常有水平,但它没有充分解释大模型解题失败的原因。我的解释是:测试结果表明,大模型确实具有一定程度的泛化能力,因为10和13代入方程都是成立的,说明大模型通过训练学会了相关的求解方法,并成功应用于微小变化的题目。但是为什么会结果出错了呢?原因是大模型没有掌握关于最小整数的“概念”,否则就不会同时给出两个不同的整数作为最小整数。
再看另一个例子(图6)。大模型生成的视频中,人走路时突然“换腿”,右腿变成了左腿。再看一次:右腿变左腿。还有很多类似案例,不再一一列举。这说明什么?
无论是“满足条件的最小整数”还是“腿”,这些概念大模型都不掌握。大模型可以表述这些概念的定义和一些性质,但不会用这些性质去解决问题,比如利用最小整数的唯一性,从10和13中选一个小的作为问题的解。这说明“会说”不等于“真懂”,也不等于“会用”。我们考试考学生,不就是考他会不会用相关的知识和技能解决问题吗?如果只考会不会复述学过的知识,这样的题目就有点 low。所以,是否掌握概念的要害,在于会不会用概念解决问题,而不在于会不会复述概念的定义和性质。
为什么大模型没有概念能力?可以用类LC理论来解释——因为关联度预测不是概括性的,而是实例性的,即只会运用一个一个单独的实例解决问题;而概念是一种概括能力,即用统一的机制处理概念外延中的所有实例。结果,当大模型运用正确的实例求解时,就得到正确的结果;当用错误的实例求解时,就得到错误的结果。

图7 深度测试:计数?
还有一个例子:计数问题。简单地说,计数就是数数,比如这样一个逻辑公式(图7),其中出现了27个否定词~,可是大模型数出来28个,数错了。再看这张伪造了六根手指的手掌的图片,测试当时所有头部大模型,除Gemini外,其余均回答五根手指。还有大模型根据提示词“5只灰狼崽互相追逐嬉戏”生成的视频,其中出现的狼崽往往不是五只。这也说明大模型不会数数,没有在生成视频的过程中施加必要的数量限制。
大模型不会数数仅仅是细节上的缺陷吗?可以很容易地加以修正吗?不是的。现在多数大模型基于谷歌及合作者共同提出的Transformer算法,该团队于2024年发表了一篇文章,给出了明确结论:Transformer算法本质上不会数数。这个结论很明确,但给出的解释属于算法层面。原理上怎么解释呢?还是用实例性:数数是一种抽象运算,真正掌握抽象运算就必须具备概括性能力;而类LC只掌握实例,并且有些实例是正确的,有些是不正确的,所以大模型有时候数得对,有时候数不对。
再看规划的例子。有人觉得有了大模型,就可以直接用大模型规划机器人行为,从而大大推动机器人应用的发展。但深度测试表明,真实情况并非如此。如清华大学的测试就证明了这一点,菲尔兹奖获得者Gowers(他与陶哲轩共同领导了国际数学界的AI研究)通过“过河问题”的测试,也说明大模型的规划能力不足。
这里只介绍Gowers测试中一个最简形式的问题:一个农民带两只鸡过河,如果每次只能渡一个人和两个动物,问最少需要渡几次?一个农民就是一个人,两只鸡就是两个动物,所以一次就能渡过河。但测试结果显示,大模型回答最少需要渡5次,还给出了5次渡河的具体过程。问题出在哪?这个测试题里面包含着一些逻辑关系,如人和农民之间的上下位关系、动物与鸡之间的上下位关系,这些是最简单的逻辑关系,但没有明确地加以表达,结果大模型就出问题了。这个案例再次证明关联度预测缺乏逻辑基本能力。这个测试也表明,国际数学界对大模型的研究是有深度的,他们考虑了常人往往不会想的基础性问题。
现在把第二部分小结一下。第一,大模型通过训练获得了关联度预测的天量实例,其中有的正确有的不正确。目前看来,对于人类容易想到的大部分实例,大模型是对的,但其他实例就难说了。这就解释了为什么普通人对大模型的评价往往非常高。另一方面,大模型未建立概括性机制,并且基于实例性的大模型和深度学习正在大规模地进入生活、工作和科研领域,对科学的概括性传统形成了某种颠覆性威胁。实例性既是一种原理性突破,也是一种原理性局限,如不会数数、不掌握概念和抽象运算等等,但大模型在某些方面确实非常强大。这引发了一些人的深深疑虑:在未来的科学研究中,实例性会不会取代概括性?科学的世界观和方法论会不会因此而被颠覆?
第二,大模型的实例性在认知上有什么意义?概念、逻辑、数学等概括性机制存在于人脑之中;而文字中只保留了这些机制的文字实例。大模型是将这些文字实例转化为关联度实例,然后用于回答问题。所以大模型是以一种“从实例到实例”的方式,掌握了人类认知机制的一部分实例,并没有掌握这些机制本身;也就是说,人的相关认知能力的内核并没有转移到大模型上。所以,不像很多人担心的那样,人类的一切认知能力都将被大模型学会,所以人类不再有未来。我在这里提出了两项重大判断:第一,人的认知机制原理上是概括性的,而大模型没有获得这些认知机制;第二,人类部分认知机制的天量实例正在快速转移到机器上,这在人类历史上是首次发生。这两个判断的意义十分重大,希望和大家共同讨论。
第三,根据上面的讨论,任何通用大模型,只要遵守类LC理论,就是基于实例性的AI系统,因而不可能彻底消除幻觉,也不可能独立具备高可靠性。针对这些局限,根本性的新进展有赖于根本性的新突破。
“信息人工智能”原则上是在信息空间中解决问题的人工智能,但加上传感器和执行器,也可以用来解决物理世界的一部分问题。必须指出,这种扩展的信息人工智能实际上基于一个必不可少的“信息化假设”:外部世界的相关信息都可以通过传感器获得,根据获得的信息可以做出行动决策,让执行器执行行动决策,就可以完成预期的物理世界中的作业。事实上,这是一个非常强的假设,一般情况下是不成立的。
物理人工智能基于物理世界的第一性原理,通过物理改变、物理交互和基于物理规律的决策,完成物理世界中的任务。物理人工智能不需要信息化假设,即不建立在信息化的基础上,而是立足于物理规律,通过为物理规律发挥作用提供所需的条件、控制适当的时机,从而完成物理世界中的任务。
这两种人工智能都可以解决物理世界的问题,它们的主要区别是:扩展的信息人工智能通过计算产生效果,因而局限于图灵可计算性;物理人工智能利用物理规律产生效果,因而超越图灵可计算性。所以,两种人工智能的基本原理是根本不同的,适用范围也有非常大的不同。扰动是物理世界非封闭性的一种典型表现。总体上,物理人工智能可应用于有扰动的场景;而(扩展的)信息人工智能只适用于无扰动且封闭的场景,这样的场景是完全信息化的。
在实际应用中,这两种人工智能及其他技术往往是集成起来使用的,我们称之为“集成智能”。按流行的说法,这两种人工智能都属于“具身智能”。但我个人认为,对于当前中国制造业的智能化、高端化升级而言,物理人工智能将发挥更大的作用,因为无扰动且封闭的场景已经基本实现了自动化、智能化;而当前亟需实现智能化的大量应用场景通常是有扰动的、非封闭的。
看一个例子,这是中科大机器人实验室2017至2018年研发的柔性机器人的一个实验。在这项研究中,我们采用了以物理人工智能为主的集成智能/具身智能技术路径,我们研发的一个关键部件是刚柔合一手爪。这个手爪可以抓起几百克重的一整块软豆腐,人用两根手指抓不起来的那种。实验中,豆腐、木块等操作对象都放在传送带上,传送带上方有一个低成本摄像头,只能看到物体的大小、朝向和位置,其他信息都无法获取,比如无法区分豆腐和木块,所以获取的信息十分有限,但仍然可以把这些东西抓起来而不抓坏,不需要改变软硬件参数,手爪上也没有任何传感器。当然,如果有合适的传感器,我们手爪的功能就会变得更强。按信息人工智能的观点,这些信息是远远不够的;但依靠物理人工智能,仍然可以完成任务,对于家庭环境中常见的各种大大小小的物品都是有效的。
我们分析一下为什么能抓,其工作原理是什么?物理人工智能的思考是回归第一性原理的,首先考虑抓取必须遵守的物理规律,主要由三条公式表达。第一条,重力要小于摩擦力。以抓鸡蛋为例,若鸡蛋的重量大于手指和鸡蛋之间的摩擦力,就会打滑,抓不起来。第二条,摩擦力等于夹持力乘以摩擦系数。抓取的摩擦力是由手爪对鸡蛋产生的夹持力,乘以摩擦系数而得到的。摩擦系数的变化范围有多大呢?通常可以相差几十倍,所以当摩擦系数太小时,夹持力就要增大几十倍。第三条,夹持力产生的压强要小于屈服压强。如果大于鸡蛋壳的屈服压强,就会抓破鸡蛋。总之,这三个条件只要有一个不满足,就抓不起来或者抓坏操作对象。
实际背景是:手爪的摩擦系数通常很小,所以夹持力必须很大,于是易损物品往往会被抓坏。信息人工智能只考虑夹持力,因为目前没有设备能够直接感知摩擦系数;而且即使能感知也无济于事,因为摩擦系数太小就必须施加很大的夹持力。
物理人工智能既考虑夹持力,也考虑摩擦系数,而且可以通过物理改变提高摩擦系数,使其足够大,从而允许减小夹持力,使得既能抓起物体又不致损坏。所以,物理人工智能可以在信息人工智能力所不及的地方解决问题,实质性地扩大人工智能的有效范围。当然,具体实现还是比较复杂的,我们采用了融差性原理以达到我们的技术目标。
物理人工智能带来的原理性突破在产业上有什么价值?在全球制造业包括中国制造业中,自动化已经发展得很好了,但涉及柔性操作对象的场合,仍然面临巨大的技术挑战。所谓柔性操作对象,包括柔软的、易变的、易损的、形状不规则的、性质不确定的等等操作对象,它们通常会带来扰动,即难以测量又无法忽略的细微变化。所以,生产场景中一旦出现柔性操作对象,传统工业装备、自动化和工业机器人技术就难以奏效,所以柔性操作对象是当前制造业、农业、家庭服务业等行业普遍的难点和痛点,国家“十五五”规划中要求提质升级的重点产业有八个:钢铁、石化、船舶、电子信息、机械装备、军工、纺织、建筑,都包含柔性操作对象和非封闭的生产场景。另外,医药、农业、电子元器件等行业也包含大量有扰动、非封闭的生产场景。由于这些行业的实际特点,它们都无法实现完全的信息化。因此,这些行业能不能提质升级,关键在于能否有效应对柔性操作对象及其带来的扰动,而这正是物理人工智能的用武之地。因此,物理人工智能是实现制造业提质升级不可或缺的突破性技术。
总结一下第三部分。物理人工智能和信息人工智能,是人工智能的两大方向,分别基于第一性原理和信息化。信息人工智能又包含三类:生成式、规划式和分析式。实例性是信息人工智能范围内的颠覆性变革;物理人工智能是整个人工智能的颠覆性变革。信息化思维起源于第三次工业革命,即计算机革命。在那之后,我们总是不知不觉地假设:一切都可以且必须归结为信息,否则我们就觉得什么都干不了。这种观念在几乎所有学科或行业都占据了主导地位。可是到了现在,物理人工智能让我们回归物理世界的第一性原理,让我们超越信息化思维,这就引发了第三次工业革命以来新一轮思想观念和技术思维的颠覆性变革,具有重大的科学意义和巨大的产业前景,也是中国制造业提质升级的突破性技术。
最后,让我们看看前面讲到的三个颠覆性变化映射到社会,将产生什么影响?
从大家都关心的大模型入手。大模型使用公域数据训练以后,可以直接回答用户的普遍性问题。随着越来越多用户使用大模型回答他们的特殊性问题,使得大模型从用户获得了越来越多私域数据(即非公开数据),并用于大模型的训练。大模型最初可能回答不好用户的特殊性问题,因为之前没有用私域数据训练过。但是经过私域数据的积累和训练,通过如前所述的从实例到实例的学习过程,大模型回答特殊问题的性能也会不断提高,从而提高了回答各种问题的能力。由此可能产生的一个显著后果就是全面的减人增效。
对于研究者和开发者来说,AGI/ASI的技术理想实现了,但社会后果是什么呢?现在很多程序员都在担忧:以后我还能干什么?同样,服务业的中低级员工也很担忧。可能出现的一个趋势是:大批专业人员将从服务业转移到制造业,这也是好事。但疑问没有彻底消除:除了占比大约为10%的高级员工,其他人的工作岗位会不会被AI取代?
为什么会出现这样的可能性?其主要技术原因在于,大模型以实例到实例的方式掌握了白领岗位的常规技能。具体地说,凡是被文字记载的人类技能和经验,都表现为文字实例,而大模型能够从文字实例提取关联度实例,从而将文字实例承载的人类经验和技能大规模地转移到机器上。虽然人类认知能力的内核并没有转移到机器上,但白领岗位日常工作所使用的,很大部分是能够被文字实例表达和记录的,这些东西正在大规模地向机器迁移。因此,即使将来出现了新的工作岗位,只要这些岗位所需的技能还是白领常规技能,那么这些岗位仍然属于AI的优势领地。
在这种形势下,全球人工智能应用呈现出两条不同的发展路径。
第一条是高成本+闭源+通用人工智能的超级垄断路径。主要由美国少数头部 AI 公司推动。如此发展下去,这些公司就会成为巨角兽企业,也就是公司员工人均盈利超过10亿美元的企业。再进一步发展,社会就进入巨角兽经济,即由少数巨角兽企业承担全部生产的经济体。我之所以提出“巨角兽”概念,是因为独角兽概念已经无法充分表达人工智能时代的商业逻辑。
第二条是低成本+开源+专精型 AI的路径,不会形成超级垄断,而是以普惠性应用为主,这条路径是由DeepSeek等中国开源大模型公司推动的。预期结果是会形成数百万个企业来分享 AI 技术成果。如果每家企业有几十名员工,那就将有数亿人共享AI红利,社会就不会陷入巨角兽经济。但是,仍然存在着诸多重大挑战,开源并不能解决所有问题。
现在的发展态势是什么?全球大多数企业是站队中国路径的。2025年年底前后,国际上最有影响力的两份研报一致认为,中国正在引领全球开源人工智能的发展方向,这也有数据的支撑:前十名开源大模型中,中国占七家;前五名中占四家。去年2月我接受中新网采访做出一个预测:中国人工智能的工程创新将百花齐放,引领全球,为全球人工智能发展做出重大贡献。现在这个预言已经得到了证实,中国在引领开源人工智能发展方向。
下面进一步分析,如果美国继续走超级垄断路径,会有什么后果?我们先看看巨角兽企业的发展状况。我首次提出这一概念是在2024年3月31日第十二届北外滩财富与文化论坛上,相关文章同年11月在《企业改革与发展》上发表。现在发展情况如何?一家名为Medvi推广减肥药的公司,只有一个人,据报道2025年投入2万美元,营收四亿美元。这不就是巨角兽企业的雏形吗?现在这个人把他弟弟拉进公司,计划2026年营收达到18亿美元,那不就是妥妥的巨角兽企业了吗?
再举个例子。普通网民生成的内容在网上的平均展现率很低,美国和中国都是2% 到5%,就是说95% 到98%的帖子在网上根本就没有展现,除了作者自己之外,别人根本看不到。为什么如此残酷?因为帖子太多了,总供给远远超过了全体网民的阅读能力。
现在有些人高兴地说,通过使用AI工具,内容生产力可以提升10倍,总产出也提升为原来的10倍,于是大家的收入也跟着提高10倍。真的如此吗?事实上,由于全体网民的阅读能力保持不变,所以生成的内容增加10倍,意味着平均展现率将降低为现在的1/10,就是降低为0.2% 到0.5%。换言之,假如原来你有一篇文章有机会被看到,现在只有0.1篇有机会被看到了。全球人口和互联网关注度总量是有限的,帖子增多必然导致展现率下降。普遍而言,市场容量是基本固定的,大多数行业皆如此。
根据上述两个例子,我们需要重新认识所谓的“AI平权”。
如果美国沿着当前的路径继续走下去,结果会如何?根据美国GDP推算,未来美国进入巨角兽经济后,“有工族”将不足三万人,“投资族”仅几十人,“无工族”数量为全国总人口减去3万人,他们将依靠全民基本收入,沦为社会的旁观者和寄生者。
美国大众是否喜欢这种局面?《纽约时报》发表社论称,“硅谷堕落了”,曾经的革命者如今已叛变。同时,通常被认为代表大资本利益的《华尔街日报》,竟也发出质疑AI社会意义的声音。为什么会这样?我前面关于巨角兽经济的预测恰好解释了美国正在发生的情况——华尔街原本有数十万人,但在巨角兽社会中,投资族就只剩几十人了,其余人自然不高兴。
至此出现一个严重问题:这种发展方向似乎不对劲,工业革命就不是这样的。工业革命究竟是什么?流行观点将其概括为一句话:“以机器生产取代手工劳动”。无论从书本、互联网还是大模型查询都是这么说的。过去我也相信,但近年来越来越觉得这句话至少未能完整反映工业革命的规律。换一句更符合实际情况的说法:工业革命创立了大批增人增效的新产业,使得社会消费能力与生产力同步提升、相互拉动。生产力提升的同时,消费力也随之提升,所以产品卖得出去,而消费力增强又拉动生产力的进一步上升,形成良性循环。这就是“增人增效”的实质。
很多人说,工业革命用汽车取代马车,也没有出现工作岗位的减少。为什么?因为汽车产业是增人增效的——汽车产业创造了远远强于马车的公路运输能力和远远多于马车夫的人类工作岗位,包括驾驶员、车厂工人、4S店员工、筑路工,交警等。这是典型的“增人增效”。
再看工业革命创造的其他产业。第一次工业革命是纺织革命。原来的纺织业是手工业,工业革命之后纺织业进入大工业生产,用工大量增加。工业革命创造的其他产业大多如此,普遍具有增人增效的特征。
但是进入后工业社会或者工业社会的后期,情况发生了变化,转向“减人增效”的轨道。一方面旧产业在持续地减人增效,比如中国传统制造业的一些行业,在过去10年,行业总员工数减少了50%以上,因为效率提高了,市场规模有限,所以用工减少。另一方面,新兴战略产业的效率都很高,新增岗位少。于是总体呈现出减人增效的大趋势。
现在出现了一种担忧——AI 生产力悖论。如果利用人工智能无止境地减人增效,就会导致生产力越来越强,消费能力越来越弱,两者之间差距越来越大,越来越多的产品卖不出去,不仅产生“幽灵 GDP”,而且生产力的提高反而导致大众福祉的下降,从而形成AI生产力悖论。
如何应对后工业社会的挑战?世界各国呈现出不同的应对方式。欧洲的现行方案是高福利+休闲+借债,即“躺平”。
美国则出现三种主要动向。第一,高福利+借债。第二,开发引起伦理争议的新需求,比如性别觉醒,连世界首富马斯克的儿子也被做了变性手术。这已经不是孤立现象,而是制度化行为,可口可乐、迪士尼等大企业已将变性手术纳入员工医保,美国国防部也为现役军人报销变性手术费用,一些年轻人参军正是为了获取这一福利。值得注意的是,工业革命时代并未开发此类需求,为何现在这么做?已经没有合伦理的新需求了吗?
第三,更加值得关注的是,美国经济活动的主导思想已经从创造性破坏(熊彼特观点)演变为创造性垄断。对此我给两条证据,我认为已经足够了。其一,美国自1984年拆分AT&T以来,至今已经连续42年未拆分过任何大型垄断企业;其二,如上所述,当前生成式人工智能正在进一步推动美国走向创造性垄断,即巨角兽经济。
中国怎么办?我觉得,中国提出的高质量发展为我国解决后工业社会问题指明了方向。未来发展的重点不再是单纯地提高效率,而是着重提高质量,以提高质量为首要目标。例如,现在餐饮业的效率已经很高了,但质量仍有极大提升空间;其他很多行业都是如此。
2012年以来我调研过制造业的13个行业,结果发现所有行业都在大搞减人增效。我国面临的重大课题是如何贯彻落实高质量发展,而不是继续坚持已经严重过时的路径依赖。高质量发展包含五个关键词:创新、协调、绿色、开放、共享,其中“共享”意味着拒绝走向超级垄断或创造性垄断。
最后总结一下。第一,工业革命中机器替代人的体力劳动,在早期和中期是减人增效还是增人增效?到了工业革命后期或后工业社会,是否无法逃避减人增效?换言之,我们是否有必要重新认识工业革命?是否有必要基于对工业革命更加客观、更加全面的认识,重新思考和判断智能革命?
第二,在工业革命早、中期,大部分机器需要依靠人的智力,因此机器越多则人类的劳动岗位就越多,导致增人增效的效果。现在,实例性的人类经验和技能正史无前例地大面积向机器转移,这些经验和技能覆盖了普通白领岗位的大部分常规工作技能。因此,智能革命已经为替代人类白领岗位的大部分常规技能创造了技术条件;也就是说,如果未来出现的新岗位仍然依靠这些常规技能,那么这些新岗位就依然属于机器智能的优势领地。假如这种可能变成现实,并导致智能革命不能延续工业革命的增人增效,那么有什么理由认为人工智能是第四次工业革命?
第三,进一步的问题是,在新的历史条件下,我们是否仍然像工业革命时代那样,应该无条件地相信伟大的技术发明必然有利于人类发展?在工业革命时代,无论短期有何问题,都可以通过事后治理得到化解。所以只要是有市场需求的新技术,就可以无条件地进行推广应用。智能革命时代是否依然如此?
我今天讲得比较快,一些内容没有展开,特别是与制造业发展相关的部分,大家有兴趣可以参考我在《学习时报》 2025年11月26日第06版发表的文章“加快推动传统制造业智能化升级”(https://paper.studytimes.cn/cntheory/2025-11/26/content_9954800.html)。
谢谢大家!

根据点评回应部分
谢谢梅老师。梅老师作为哲学家,对认知科学也有深入研究,现在对人工智能也非常关注。梅老师的很多观点与我一致,此外我再补充说明几点,主要是关于人工智能的未来发展,这也是大家都关心的。
我今天的发言主要涉及大模型、生成式人工智能这类基于实例性的AI系统。由于实例性,AI系统会出现某些例子处理得好、某些处理得不好的情况。头部AI公司会有专人实时监控网络反馈,一旦发现了处理得不好的例子,有可能立即加以改进。这会让人以为,所有缺陷都是可以修复的;但实例性决定了不可能彻底消除缺陷,总有一些例子是有问题的。
这就引出需要进一步思考的一些问题。长期以来,科学研究最终总要走到概括性的高度,因为概括性才意味着理解。然而对大语言模型而言,还没有找到几条原理作为根基,进而把基本规律彻底说清楚。如若停留在超大神经网络上,就没有达到理解的层次。考虑到人工智能正在向科技界普遍渗透,不禁产生一个疑问:或者科技的世界观、方法论将彻底改变,或者必须进一步发展人工智能的基础理论。
人工智能有不同的赛道。传统人工智能,我现在叫它规划式人工智能,专注于推理、规划、知识图谱、本体等。这类人工智能技术以某种方式把握了概括性。但是应用条件比较苛刻,实用性差。比如推理机已经非常强大,如果把数学问题转化为逻辑语言表达,推理机的功效比大模型更强。但这种转写过程太痛苦,只有非常少的人可以承受,因此几十年来没有得到大面积推广应用。
如何缩小AI与用户之间的距离?这是陶哲轩等人正在做的事。若这件事做成了,人工智能又会进入一个新的天地:有实例性,也有概括性,那AI就会变得更强大。这是一种可能性。
一些大模型公司有两种做法。一种类似于数学界;另一种试图通过训练法,把实例性、概括性“一锅端”,主要在后训练里尝试实现这个目标,或者借助于“外挂”系统。大约2024年上半年之前,大模型的毛病比较多,那时候后训练不强。后来加强了后训练,如 DeepSeek在后训练方面做了大量工作,情况就开始变得更加复杂。后训练可能在一定程度上融入概括性,但仍然以实例性为基础,这就变得极其复杂。
未来可能的发展结果,有好的一面,也可能有不好的一面。比如说,纯实例性的大模型其实比较简单,人类比较好操纵。但如果经过后训练,既有实例性又有概括性,大模型能力变强的同时变得更难控制。这也是一种可能性。所以未来的发展充满不确定性。
关于物理人工智能,梅老师表示了理解和支持。过去无论AI界内部还是外部,都很少提及物理人工智能,大家主要关注信息人工智能。信息人工智能肯定要发展,并正在快速发展,现在需要加强物理人工智能的发展。
梅老师提到动物智能与物理人工智能有一定关系。动物智能虽然不是通用的,但借助于身体达到了高效实用。一些动物的神经细胞很少,消耗的物质材料非常少,需要的环境条件也很低,但在它们的生存环境内有效地达成了自己的生存目标。这种情况很值得重视和研究。
过去主要考虑信息人工智能,忽视了动物智能。我同意梅老师的观点,智能有一个很广的谱系。当然在人与机器关系的高度上,我们还是要坚持双智假设。但在智能研究的内部,要考虑到谱系的复杂性、丰富性,存在大量课题非常值得去挖掘。现在人工智能的研究进展对于人类智能的研究有一些启发,但回答人类认知问题的主力仍是认知科学、神经科学等学科。正如麦卡锡所言,人工智能不是研究人类智能或动物智能的。
最后,梅老师呼应了从工业社会到智能社会面临的一些新挑战,技术彻底改变了,社会是不是要变?我在演讲中提到,美国正从“创造性破坏”转向“创造性垄断”,这一苗头已很明显。这是社会问题。从表现上看,创造性垄断有一定优势,因为可以更好地集中资源,让技术发展得更快;但其后果可能是社会变得非常不公平,甚至难以持续。
中国到底该怎么走?我觉得不应去贴标签,梅老师也没贴标签。我们不喜欢贴标签,而是聚焦于问题的分析,并想出解决办法。我觉得应该寻找适合中国情况的解决办法,并希望与哲学社会科学界深入交流,深入探讨这些问题。AI界可以从科学技术的角度分析问题,说明技术上到底是怎么回事,以便在此基础上寻找解决办法。我相信我们肯定能找到办法。
希望将来有机会与梅老师、王老师及今天在座的各位进一步深入交流。
(本文根据速记稿整理加工而成)
