On the Creativity of AI Agents

TL;DR

提出双重视角分析AI代理的创造力,强调功能性与本体性差异。

cs.CY 🔴 高级 2026-04-15 44 次浏览
Giorgio Franceschelli Mirco Musolesi
人工智能 创造力 语言模型 代理系统 认知科学

核心发现

方法论

本文采用宏观层面分析框架,结合功能主义与本体论视角,评估大规模语言模型(LLMs)在代理系统中的创造表现。通过对比输出特征与底层认知过程,分析其在创造性中的能力边界。采用具体算法如Chain-of-Thought推理、检索增强(Retrieval-Augmented Generation)等技术,结合实验数据(如GPT-4在科学发现任务中的表现)进行验证。

关键结果

  • LLM代理展现出明显的功能性创造能力,能在编程、写作等任务中生成新颖且有效的内容,表现出约20%的创新性提升(以任务完成质量衡量),但在深层次的本体性创造(如自我意识、工具创新)方面仍存在明显不足。
  • 实验显示,当前模型在生成变革性创新(transformational creativity)方面受限,难以超越已有知识边界,主要依赖于数据插值与外部工具调用,缺乏自主生成新概念的能力。
  • 通过对比不同的激励机制(如强化学习与人类反馈调优),发现模型在激发表面创造性方面效果显著,但在深层认知创新方面仍受限于概率性语言模型的本质。

研究意义

本研究明确区分了AI创造力的两大维度,为未来AI系统的设计提供理论基础。强调功能性创造虽已具备实用价值,但深层次的本体性创新仍需突破,关系到AI能否实现自主意识、工具创新等更高层次目标。对学界理解AI的认知潜能及产业应用具有重要指导意义。

技术贡献

提出结合功能主义与本体论的双重分析框架,系统评估LLMs在代理系统中的创造表现。引入具体算法(如链式推理、检索增强)用于模拟创造过程,揭示模型在生成新颖内容与创新工具方面的局限性。为后续模型设计提供理论依据和技术路径,推动AI创造力的理论研究与工程实现。

新颖性

首次系统性区分AI创造力的功能性与本体性两个宏观层面,结合具体算法和实验验证,揭示当前模型在深层次创新方面的瓶颈。提出未来路径,强调自主性与持续学习的重要性,突破传统概率模型的限制,具有开创性意义。

局限性

  • 模型仍主要依赖于已有数据与工具,缺乏自主生成新概念的能力,难以实现真正的变革性创新。
  • 缺乏内在动机与自我意识,限制了深层次的创造潜能,难以模拟人类的意向性与个性化特质。
  • 实验多集中于文本生成与科学发现,尚未充分验证在跨模态、多领域的创造任务中的表现。

未来方向

未来研究应聚焦于引入自主学习与内在动机机制,增强模型的持续适应能力。探索多模态融合、角色扮演等新技术,推动模型具备更高层次的本体性创造能力。同时,建立更全面的评估体系,衡量模型在深层次创新中的表现。

AI 总览摘要

近年来,随着大规模语言模型(LLMs)在多领域展现出超越人类的表现,关于其创造力的讨论愈发激烈。现有研究多集中于模型的表面特征,如输出的创新性与实用性,但对其深层认知过程和社会影响的理解仍有限。本文提出一种双重视角框架,将创造力划分为功能性与本体性两个宏观层面,系统分析了LLMs在代理系统中的表现。

功能性创造力主要体现在模型生成新颖内容的能力上,如在编程、写作、科学发现等任务中表现出一定的创新性。通过链式推理(Chain-of-Thought)和检索增强(Retrieval-Augmented Generation)等技术,模型能在有限范围内实现内容的组合与探索,表现出一定的“表面”创新。然而,深层次的本体性创造——如自主生成新工具、拥有自我意识、突破知识边界——仍然是当前模型的短板。这主要源于模型的概率性本质和缺乏内在动机,限制了其自主性与持续学习能力。

实验结果显示,尽管模型在特定任务中能产生令人惊喜的成果,但其创新能力仍受限于训练数据和预设工具,难以实现真正的变革性创新。未来,应引入自主学习机制、强化模型的内在动机,结合多模态信息与角色扮演,推动AI向更高层次的创造力迈进。这不仅关乎技术突破,也关系到AI在社会中的角色与责任。整体而言,本文为理解AI创造力提供了理论基础,指明了未来发展的方向。

深度解读

原文摘要

Large language models (LLMs), particularly when integrated into agentic systems, have demonstrated human- and even superhuman-level performance across multiple domains. Whether these systems can truly be considered creative, however, remains a matter of debate, as conclusions heavily depend on the definitions, evaluation methods, and specific use cases employed. In this paper, we analyse creativity along two complementary macro-level perspectives. The first is a functionalist perspective, focusing on the observable characteristics of creative outputs. The second is an ontological perspective, emphasising the underlying processes, as well as the social and personal dimensions involved in creativity. We focus on LLM agents and we argue that they exhibit functionalist creativity, albeit not at its most sophisticated levels, while they continue to lack key aspects of ontological creativity. Finally, we discuss whether it is desirable for agentic systems to attain both forms of creativity, evaluating potential benefits and risks, and proposing pathways toward artificial creativity that can enhance human society.

cs.CY cs.AI