特斯拉AI前成员卡帕西给Agent泼冷水：真正成熟还需十年

OpenAI创始成员、特斯拉前AI总监安德烈·卡帕西（Andrej Karpathy）近日在接受播客节目采访。

AGI为何还需要十年

卡帕西认为，尽管当前大语言模型展现出令人惊叹的能力，但Agent真正能够使用的标志是它成为一个员工或实习生，人类愿意雇佣它和自己一起干活、工作。显然，Agent当前还做不到这一步。

原因在于Agent还存在三大核心缺陷：无法持续学习、非真正的多模态、不能自如操作电脑。现在的AI无法记住和用户的每一次互动，当关掉对话窗口后，它就会忘掉。它无法像人类一样，通过日常经历持续学习巩固。

AI虽然能看图写字，但无法真正理解并完成复杂任务。卡帕西举例，AI能写代码，但无法制作一张精美的PPT，因为超出了本质是文本处理器的能力范围。同时，AI操作电脑、点击软件的能力还非常初级和不可靠。

卡帕西借用其在特斯拉开发自动驾驶的经验提出，从“演示”到“产品”有着巨大的鸿沟，“这是一场向数字‘9’的进军，一个在90%的情况下能工作的演示达成了第一个9，但要达到99.99999%的可靠性，还有更多的‘9’需要走。这就是为什么这些事情要花这么长时间。”

强化学习很糟糕

谈及强化学习（Reinforcement Learning），卡帕西直言，“强化学习很糟糕，只是碰巧之前的其他方法更糟糕。”

在强化学习中，试图找到一个问题的解决方案，AI可能会进行数百种不同的尝试。“就像做选择题，它蒙了100次，只有最后1次对了，但它会把整个蒙题过程都当成‘正确经验’，这种学习方式存在严重的效率问题。而⼈类永远不会这样做。”其中的原因是第一，现实世界⼈类不会进行数百次试运行；第二，当人类找到解决⽅案时，会有⼀个相当复杂的反思复盘过程。

另一个深层问题是模型坍塌（model collapse）。模型生成的内容多样性会悄然减少，分布范围变窄，即使单个输出看起来仍然合理。卡帕西举例，你可以让 ChatGPT讲个笑话，但它反复输出的可能只是少数几个模式化的笑话。这一特性阻碍了AI实现持续学习，而如果让AI使用自己产出的数据，就会导致模型在自有数据上产生更加同质化的内容，陷入恶性循坏。

虽然人类也会存在类似的思维定式，但可以通过交流、阅读等方式来对抗这一趋势。儿童之所以是高效的学习者，正因为他们不擅长记忆，反而被迫去发现通用模式。当前AI缺乏这种主动寻求并整合多样性的内在机制，必须依赖人类产生的真实数据，这是个很大的瓶颈。

但卡帕西同时也深刻认识到，强化学习仍是当前AI发展道路上不可或缺的一环。原因在于，传统的监督学习（Supervised Learning）存在明显的天花板。监督学习严重依赖大量、高质量的标注数据。但对于“好代码”、“好决策”这类无法明确定义、无法通过标注数据学习的概念，只能通过设计一个奖励函数来让模型自己摸索什么是“好”。这正是强化学习的应用场景。

AGI的渐进式路径

卡帕西坚持AGI的早期定义——能执行任何具有经济价值任务的人类水平系统。但目前AI的实际影响仍有限，其应用高度集中在编码等高度结构化、文本驱动的领域。“人们把物理的东西都拿走了，只是在讨论数字知识工作，这是一个相当重大的让步。原始定义是人类可以做的任何任务，包括举起一件东西。”

与很多人对AGI“奇点”时刻的想象不同，卡帕西认为，AGI不会在某一天突然降临并引爆智能爆炸，而是会像蒸汽机、电力和互联网等历史上的通用技术一样，缓慢地融入并延续过去2.5个世纪来约2%的年度GDP增长趋势。

卡帕西一直试图在GDP（Gross Domestic Product，国内生产总值）的增长趋势中找到AI对其产生的明显影响，理论上GDP应该显著上升。“但后来我看了⼀些我认为⾮常具有变⾰性的其他技术，⽐如计算机或移动电话等。你在GDP中找不到它们，GDP是同样的指数。” 他进一步举例，即使人们认为2008年iPhone 推出是个重⼤的地震式变化，而实际上不是，一切都如此分散、如此缓慢地扩散，以⾄于⼀切最终都被平均到同样的指数中。

这种渐进性源于技术革命的本质：新技术从演示到成熟产品的扩散需要时间。就像自动驾驶关于一场向数字“‘9’的进军”，每一个“9”的可靠性提升都需要付出巨大努力。AGI的发展同样会遵循这条路径，先自动化一些封闭、结构化的任务，再逐步攻克更复杂的工作，其间社会需要时间来调整基础设施、法律和技能体系。

卡帕西相信未来将会是多个AI实体逐渐增强自主性，与人类社会协同演进。因此人们拥有宝贵的窗口期进行准备，可以系统地调整教育、社会保障和法律法规，以确保人类在AGI时代能够持续繁荣。