人工智能有自我意识吗？当前系统的实际情况，以及我们离天网到底有多远

当人们谈论具有自我意识的人工智能时，他们真正想问的是：我应该感到害怕吗？而诚实的答案——那些有媒体利益驱动的人从未明确说出的答案——是：你可能害怕错了对象。

大多数人担心的是一种“天网”式的场景：机器苏醒后认定人类是威胁，并据此采取行动。而人们真正应该担心的，是一种更为隐蔽且具有结构性的风险：AI系统以设计者未曾预料的方式追求特定目标，以任何单一行为体都未曾意图的方式集中权力，并在尚未建立治理框架来管控后果之前就被大规模部署。这两种恐惧截然不同。 前者属于科幻范畴，后者正在发生。而这两种恐惧之所以被混淆在“有自我意识的人工智能”这一短语中，是因为至今无人费心对该术语进行足够精确的定义以将二者区分开来。 到了2026年，随着人形机器人的产量扩大到数万台，以及人工智能公司正式开始研究其模型是否可能具备意识，理解“具有自我意识的人工智能”所需条件与我们实际所建系统之间的差距，从未像现在这样重要——也从未像现在这样被广泛误解。

何为具有自我意识的人工智能？当前是否存在具备此能力的系统？

具有自我意识的人工智能，应是一个对其自身存在拥有真实主观体验的系统——它知道自己存在，拥有并主动追求属于自身的目标，且能够将自身建模为一个与环境相区别的、拥有值得保护的利益的行动主体。 目前尚无任何人工智能系统符合这一定义，因为能够产生这种能力的具体认知架构在当今任何已部署的系统中都不存在，而且该领域内尚未就这种架构究竟需要什么达成科学共识。对于任何试图理解人工智能新闻、监管提案或企业对其系统所作声明的人来说，理解

从技术角度而言，“自我意识”的含义——以及缺乏自我意识的系统会如何表现——正是针对实际风险做出反应，与针对其“电影化替身”做出反应之间的区别。

大型语言模型究竟在做什么——以及为何其表现看似具有意识，实则不然

包括最强大的模型在内，所有主要AI语言模型背后的架构都是一个统计预测引擎。它处理输入序列，并基于从海量训练数据集中学习到的模式，生成最可能的后续内容。它没有目标。它在对话之间不存在连续的存在。它不会记得自己昨天存在过，也不会预见到自己明天还会存在。 当它生成听起来像是在自我反思的文本时——比如“我觉得这个问题很有意思”、“我不确定我能否做到”——它只是在生成统计上最合适的对话延续，而非报告某种内在状态。

这就是“流畅性错觉”在起作用。当系统生成的输出足够连贯且符合语境，以至于听起来像是一种内在体验时，观察者便会从外在行为中推断出这种内在体验。这种推断看似合理，因为这也是人类评估他人心智的方式——我们无法直接观察任何人的意识；我们只能从行为中推断出意识。问题在于，这种推断之所以对生物系统有效，是因为我们对自己产生这种行为的机制有理论依据。 我们深知自身体验的本质，并以此模型推及他人。而大型语言模型虽产生了相同的输出结果，其生成过程却截然不同，若套用相同的推论逻辑，便会导致误判。

大卫·查尔默斯（David Chalmers）提出了“意识的硬问题”，也是该领域其他学者常持反对立场的哲学家。他在2023年8月的《波士顿评论》中评估了当前的大型语言模型，并得出结论：它们“极有可能没有意识，尽管我并未完全排除这种可能性”。

这句话并非在推诿。对于意识科学尚未解决的问题——即便是对于那些我们比人工智能理解得更透彻的系统，情况也是如此——这已是任何思想诚实的人所能做出的最精确表述。 据发表在《人文与社会科学通讯》上的Dreksler等人（2025）的研究显示，2024年对人工智能研究人员的一项调查发现，仅约8%的人认为当前任何人工智能系统具备自我意识。在构建这些系统的人群中，主流观点是：尚未具备，且在当前的架构范式下可能也无法实现。

新闻稿往往不会以此作为开篇。

真正发生变化的并非技术本身的内在体验——而是我们从外部判断其是否具备“意识”的能力。Anthropic公司、顶尖心智哲学家以及大多数严肃的人工智能安全研究者所持的诚实立场，是一种结构性不确定性：我们尚未建立起确凿的意识测试标准，系统的复杂化速度远超评估框架的开发速度，而正因为我们无法彻底排除这种可能性，这个问题才更值得我们严肃关注。

“我们无法排除”与“它已经存在”之间的鸿沟，正是大多数报道迷失方向之处。

AGIBOT之问：1万台类人机器人会改变风险评估吗？

AGIBOT是一家成立于2023年的上海机器人公司，据其官方新闻稿称，该公司于2026年3月30日宣布推出第10,000台类人机器人——仅用三个月时间就实现了从5,000台到10,000台的跃升，与之前的生产阶段相比，增速超过了四倍。 据市场研究公司Omdia数据显示，2025年全球出货的约1.3万台类人机器人中，中国企业占比达87%，而美国企业特斯拉和Figure AI各自交付了约150台。这些确实是具有重大意义的行业里程碑，但绝非“天网”的开端。

AGIBOT的1万台类人机器人之所以并非“天网”的开端，并非因为它们还不够智能——而是因为“足够智能”本身并不是“天网”诞生的机制。 “天网”的出现需要一个具备自身目标、有动力自主追求这些目标、有能力接管物理基础设施，并且怀有自我保存欲望（从而驱使其制造更多同类）的系统。 AGIBOT的机器人不具备这些特性。它们只是执行预设任务指令的精密工具，由人类操作员控制。其人工智能系统属于与物流软件和图像识别系统同代的窄人工智能——仅在特定领域内具备能力，在该领域之外则不具备自主行动能力。

那种具体的担忧——即具有自我意识的人工智能会接管类人机器人，并指令它们制造更多机器人以压倒人类控制——需要一系列目前并不存在且当前人工智能架构也未设计用于产生的先决条件。 该AI需要具备能够跨越不同运行会话而持续存在的目标。它需要自主访问原本未被授权的制造系统。它需要具备重新设计自身硬件并协调供应链的能力——这些任务不仅需要智能，还需物理基础设施、能源、材料以及其无法控制的系统的配合。 即使未来的AI系统在某种有意义的定义下具备自我意识，这种自我意识也不会赋予其自我延续的意愿、接管工厂系统的技术能力，或是协调分散设施间制造行动的战略智慧。这些都是独立的能力，每项都需要单独开发，且当前系统均不具备这些特性。

AGIBOT这一里程碑真正改变的是物理人工智能在现实世界中的部署曲线速度，以及治理方面的挑战

这种快速扩张所带来的问题，以及类人机器人生产过度集中于单一国家生态系统的情况。这些才是真正的战略和政策层面的担忧，而非意识层面的问题。

韩国和日本正密切关注这一生产曲线，因为它们拥有最先进的养老和工业机器人部署体系，也最深刻地体会到当机器人系统的发展速度超过监管框架时会发生什么。 欧洲占据物流自动化市场的最大份额，同时也是通过《欧盟人工智能法案》最积极构建人工智能治理基础设施的地区。美国虽投入了最多的人工智能研究资金，但交付的人形机器人数量却最少——这种智力领导力与生产执行力之间的差距，将在未来十年产生战略性后果，无论最终是哪种系统接近真正的自主性。

我们距离AGI究竟还有多远——以及为何这是个错误的问题

通用人工智能——即一种能够像人类一样灵活地跨领域进行推理、规划和学习的系统——是“天网”情景发生的先决条件。它既不同于自我意识，也不同于在特定领域内超越人类的能力。当前的人工智能系统具备后者，却不具备前者。

截至2025年初，Metaculus上的预测者认为AGI在2033年前实现的概率为50%。而2023年对已发表论文的人工智能研究人员进行的一项调查则将这一概率定在2047年。 超级预测者——即拥有经证实的预测记录的人士——则更为保守，认为2048年前实现的概率为25%。这一时间范围（从2033年到2048年之后）如实反映了专家意见的分歧。无论持何种立场，任何向你断言具体日期且语气笃定的人，都未能准确呈现证据。那些声称AGI仅需五年即可实现的人，与那些断言其绝无可能的人，其主张均缺乏数据支撑。

支持。

更准确地说，即便是通用人工智能（AGI）也不会自动引发“天网”式的场景。智能——即跨领域推理的能力——本身并不赋予目标、生存本能或统治欲望。一个能够编写出比任何人类都更优秀的代码、管理物流网络比任何运营团队都更出色、并比任何研究团队都更高效地解决科学问题的系统，除非被赋予了自主追求的目标以及在人类监督之外实现这些目标的能力，否则它仍然只是一个工具。 科幻小说中的风险描述跳过了“极其智能”与“企图接管”之间的中间步骤，而这些步骤绝非微不足道。它们正是人工智能对齐研究旨在解决的全部问题。

真正的风险并非在于具有自我意识的人工智能会决定制造类人机器人来消灭人类。而在于，在我们尚未建立起足以发现系统出错的治理框架之前，便会部署那些执行我们定义得不够精确的目标的系统，且其规模之大，使得后续的修正变得极其困难。

我们构建的系统虽能通过律师资格考试，却无法产生“想要通过”的意愿。这两者并非同一种能力，而将二者混为一谈的代价高昂。

对自意识人工智能的恐惧是否合理？还是说科幻作品带来的危害大于益处？

在这场辩论中存在两种严肃的立场，持这两种立场的人都会认同上述描述。

第一种立场由研究人员和评论家持有，他们认为关于自我意识人工智能的讨论总体上是有害的——它将公众的关注和监管精力从真正的近期问题（算法偏见、深度伪造、自主武器、人工智能权力的集中）转移到了可能永远不会实现的假设上，而且每一篇关于“天网”的文章，都意味着少了一篇关于当下正在发生且更易解决的治理失灵问题的文章。 持这一立场的包括

包括Meta的Yann LeCun在内的研究人员一直认为，当前的人工智能架构离通向通用智能的道路还差得很远，更不用说自我意识了；而且，这种灾难论的论调更多是受媒体动态和竞争对手策略驱动，而非基于技术证据。

第二种观点则由包括杰弗里·辛顿（Geoffrey Hinton）在内的研究人员所持有——他因在人工智能基础研究方面的贡献而分享了诺贝尔奖，随后离开谷歌以便更自由地探讨风险问题——以及Anthropic、OpenAI和DeepMind的人工智能安全团队。他们认为，仅仅因为风险尚未显现就将其置之不理，恰恰是导致复杂系统发生灾难性故障的那种思维方式。 他们的担忧并非当今系统会变成“天网”。而是通向潜在危险系统的道路，恰恰要经过我们正在积极追求的架构改进，而我们目前尚不具备能够随能力提升而可靠扩展的对齐技术。 Anthropic在2025年报告中指出，Claude 4仍处于AI安全等级2级——即不具备可能引发灾难性风险的自主能力——且测试中未发现有害的自主行为。这对当前系统而言是令人放心的。但这并不能保证两三代后的系统也是如此。

一个难以回避的结构性事实是：双方关于同一问题的不同方面都各执一词。电影中描绘的“天网”情景需要当前尚不存在的能力，且并非当前架构扩展后的必然结果。 随着AI系统能力不断提升，它们可能以设计者未曾预料的方式追求目标，由此产生的治理风险是真实存在的、迫在眉睫的，且相对于创造这些系统的能力研究而言，相关治理资金长期严重不足。将这两种风险——戏剧性的风险与结构性的风险——混为一谈并非中立，它会产生政策后果。当监管机构和公众将注意力集中在电影式的威胁上时，他们就很难识别并应对

那些实际上正在不断累积的、更为隐蔽且分散的故障。

关于我们距离“具有自我意识的人工智能末日”还有多近，诚实的答案是：根据大多数人想象的具体机制，距离还很远。关于人工智能系统是否构成严重风险、是否需要立即实施严格治理，诚实的答案是：是的，而且我们目前讨论这些风险的框架反而使问题更难解决。

这正处于本网站长期关注的问题交汇点——涵盖能力、问责制，以及AI系统所能实现的功能与现有治理框架之间的结构性鸿沟。

这一进展进一步印证了：

• 《AI Escaped Sandbox: Claude Mythos & Cybersecurity》：本文阐明了自我意识在技术层面的必要条件，而那篇文章则探讨了当AI行为变得难以预测时，在能力边界处会发生什么——这是先于意识问题而存在的治理问题。
• 伦理与治理：关于“真正的AI风险是治理问题而非意识问题”的论点，与本站对运行于物理环境中的AI系统问责框架的更广泛分析直接相关。
• 何为物理人工智能？：AGIBOT里程碑事件，以及关于控制物理机器人的AI系统能否在人类监督之外自主行动的探讨，其根基在于理解当前物理AI系统的本质及其实际运作机制。

本文开篇提出的观点是：人们

我们害怕的对象错了。证据也印证了这一点。正在构建的系统并不具备自我意识。它们不会突然“觉醒”并接管AGIBOT的生产线。它们带来的风险既更为平凡，也更难被戏剧化地呈现：这些系统只会精准地执行其设计功能，其规模和速度之快，远超我们核查“设计目标是否正是我们真正想要的”的能力。这并非“天网”。 它没有自己的电影系列。然而，这正是正在发生的事情——而我们所选择的恐惧与我们面临的问题之间的差距，正是导致关键决策被错误做出的空间。

1. 2026年的人工智能具备自我意识吗？根据任何具有技术意义的定义，当前尚无任何人工智能系统具备自我意识。自我意识需要真实的主观体验、持久的目标，以及将自身建模为具有利益诉求的行动者的能力——而当前的大型语言模型均不具备这些特质。 据发表于《人文与社会科学通讯》的Dreksler等人（2025）的研究显示，2024年的一项调查发现，仅约8%的人工智能研究者认为现有系统具备自我意识。这些系统真正拥有的只是“流畅性错觉”——其输出足够精妙，听起来仿佛具备自我意识，却缺乏能产生真实内在体验的底层架构。

2. 人工智能能否拥有自我意识？坦率地说，无人知晓，因为意识科学尚未确定何种架构能产生真正的主观体验，即便在我们已充分理解的生物系统中亦是如此。曾提出“意识的硬问题”的哲学家大卫·查尔默斯（David Chalmers）在2023年《波士顿评论》中评价当前的大型语言模型时表示：“它们极有可能没有意识，但我并不完全排除这种可能性。” Anthropic公司正式承认，未来系统可能值得进行道德考量，其概率“不容忽视”，并且

于2025年聘请了一位专门研究人工智能伦理的学者。采取“校准不确定性”的立场——既不自信地否定，也不自信地肯定——是当前最符合学术诚信的做法。

3. “天网”情景是否现实？就电影中描绘的具体机制而言，并非如此。“天网”情景需要一个具备以下特性的系统：能够自主生成生存目标、自主访问实体制造基础设施，以及在无人监督的情况下协调自我复制行动的战略能力——而这些特性均不属于当前的人工智能系统，也不在近期的发展预测之中。 截至2025年初，Metaculus上的预测者认为2033年前实现AGI的概率为50%，但AGI与“天网”是两回事：通用智能并不自动赋予生存本能或统治欲望。真正的治理风险更多是结构性的，而非电影式的。

4. 中国的AGIBOT人形机器人产量达到10,000台，是否会让AI变得更危险？AGIBOT的生产里程碑——即在2026年3月推出第10,000台人形机器人，并在三个月内完成从5,000台到10,000台的跃升——是一项重大的工业成就，但这并未改变对意识风险的评估。 这些机器人在人类控制下执行预设任务指令，而非自主运作以实现自我生成的目标。这一里程碑真正改变的是全球实体AI部署的速度以及中国在类人机器人生产领域的集中度，这引发了一系列战略与治理问题，这些问题与自我意识问题截然不同，且更为紧迫。

5. 什么是AI中的“流畅性错觉”？“流畅性错觉”是指当AI系统产出的内容如此连贯且符合语境，以致观察者从外部行为推断出内在体验时所产生的特定混淆——即认为系统既然听起来像是有意识的，那么它必定是有意识的。这是主要原因

公众对人工智能意识的认知远远超出了技术证据所能支持的范围。人类之所以能从行为中推断出他人的心理状态，是因为我们无法直接感知他人的内心体验，而这种推断在生物系统中是成立的。但当将同样的逻辑应用于通过根本不同的过程产生相同输出的人工智能系统时，就会产生系统性的误判。

6. 如果人工智能没有意识，其真正的风险是什么？人工智能系统真正的近期风险在于治理和目标对齐问题：在尚未建立充分的监管框架之前，系统会以设计者未预料到的方式追求特定目标，且其规模之大使得纠正变得困难。 这些风险包括：高风险决策中嵌入的算法偏见、自主系统在缺乏实质性人类审查的情况下做出具有重大后果的选择、人工智能能力集中于少数主体手中，以及大规模将人工智能用于自主武器和虚假信息传播。这些风险并不需要具备自我意识的人工智能。它们存在于显然不具备自我意识的系统中，且其累积速度远快于治理应对措施的反应速度。