Position: AI Agents in Scientific Teams Should Be Studied as Human-Agent Systems
提出以人-智能体系统（HAS）视角研究AI科学家，强调人机协同与风险管理。
核心发现
方法论
本文结合文献综述与实证分析，提出人-智能体系统（HAS）模型，分析AI科学家在科研团队中的角色。采用多渠道反馈分类（评估、指导、修正），结合真实案例，探讨人机协同机制。通过对现有系统的分类和实验，验证HAS视角在风险控制与创新中的潜力。
关键结果
- 系统分类显示大部分AI科学家仅支持后期评估，缺乏持续交互。实证实验中，加入明确反馈引导的ReAct gpt-4o在10个科研任务中表现出更高的反馈请求频率，提示改进空间。案例分析表明，人机协同能显著提升科研效率与创新能力，但也存在偏见与偏离多样性风险。
- 研究发现，AI在生成内容时存在偏差和虚假信息风险，需持续人类监督。人机合作的潜力在于弥补单一智能体的局限，促进多样化探索。
- 未来研究应关注多模态、多阶段反馈机制，优化人机交互界面，提升协同效率。
研究意义
该研究强调将AI科学家作为人-智能体系统（HAS）进行研究，突破传统单向工具视角，有助于理解和优化科研中的人机合作。此视角有助于提前识别和缓解AI引入的风险，促进科学多样性和创新，推动AI在科学中的负责任应用。对科研机构、政策制定者具有重要启示意义。
技术贡献
提出HAS模型框架，系统分类多渠道反馈机制，结合具体算法（如ReAct、Bayesian优化）与实验验证。创新在于将人机交互纳入科研流程的核心，强调动态反馈与协同优化，为未来构建数学化人机合作理论提供基础。
新颖性
首次系统性提出将AI科学家作为人-智能体系统（HAS）研究，强调多渠道反馈与动态交互的重要性。区别于以往侧重自主能力的研究，强调人机协同的双向互动，为科学合作提供新视角。
局限性
- 当前研究主要基于有限案例和模拟实验，缺乏大规模实地验证，可能影响普适性。
- 反馈机制设计尚不完善，未充分考虑不同学科和任务的特殊需求。
- 算法在复杂环境中的鲁棒性和可解释性仍需提升。
未来方向
未来应拓展多模态、多阶段反馈机制，开发更智能的交互界面，探索多学科、多任务场景下的人机协同模型。同时，需建立标准化评估指标，推动理论与实践的深度融合。
AI 总览摘要
随着人工智能（AI）在科学研究中的不断深入，传统视角将AI科学家视为自主工具逐渐不足以应对复杂的科研合作需求。本文提出以人-智能体系统（HAS）为框架，强调人机协同的动态互动。通过文献分析和实证案例，揭示当前AI系统多偏重后期评估，缺乏持续交互，存在偏见和多样性下降的风险。研究发现，明确反馈引导和多渠道交互机制能显著提升合作效率，但仍需优化设计以应对偏差和虚假信息。案例显示，人机协同不仅能加速科研流程，还能拓展创新空间，但也带来责任归属和偏见控制等新挑战。本文呼吁未来构建数学模型，系统研究人机合作的理论基础，为科学多样性和责任伦理提供支撑。整体来看，HAS视角为科学合作提供了新思路，有助于实现更安全、更高效的科研生态。
深度分析
研究背景
科学研究逐步演变为团队合作的社会性活动，合作带来更高影响力（Wuchty et al., 2007），但传统上将AI工具作为辅助。近年来，AI代理（如LLMs）被视为潜在合作伙伴，推动自动化和自主能力提升（Gao et al., 2024），但缺乏对人机互动的系统研究。现有工作多关注AI的自主能力，忽视合作中的社会动态与风险。
核心问题
核心问题在于，当前AI科学家多被视为工具或后期评估者，缺乏持续交互机制，难以实现深度合作。缺乏系统性研究导致潜在偏见、偏离多样性、责任归属不明等风险，影响科研的可靠性和伦理责任。如何构建有效的人机协同模型，成为亟待解决的难题。
核心创新
创新点在于提出人-智能体系统（HAS）模型，将多渠道反馈（评估、指导、修正）融入科研流程，强调动态交互。引入具体算法（如ReAct、贝叶斯优化）结合真实案例，验证人机协同能提升效率与创新。首次系统化分析AI在科研中的社会角色和风险控制，为未来理论建模奠定基础。
方法详解
- �� 文献综述：分析现有AI科学家系统的反馈机制和交互模式。• 分类：基于反馈渠道（ artifact、阶段、计划、异步）进行系统分类。• 案例分析：真实科研合作案例，展示人机协同的具体表现。• 实验验证：在AstaBench平台上测试ReAct gpt-4o的反馈请求行为，比较不同引导策略。• 风险分析：结合案例和实验，评估偏差、虚假信息等风险，提出缓解策略。
实验设计
采用AstaBench中的10个科研任务，比较不同反馈引导（无引导、明确引导、强制引导）对模型行为的影响。通过自动分类工具分析反馈类型，观察反馈请求频率和内容变化。实验验证了反馈机制对合作效率和风险控制的影响，为未来优化提供依据。
结果分析
加入明确反馈引导后，模型在反馈请求频率上显著提高（达80%以上），表现出更高的交互意愿。实验中，偏差和虚假信息的检测能力有所提升，但仍存在虚假内容生成的风险。人机协同在科研任务中表现出潜力，但需持续优化反馈策略以应对复杂场景。
应用场景
该模型可应用于科研自动化平台、科研协作工具，提升科研效率和多样性。未来可推广到跨学科合作、科研管理等场景，帮助科研团队实现高效、责任明确的人机合作。
局限与展望
目前研究主要基于模拟和有限案例，缺乏大规模实地验证。反馈机制设计尚不完善，难以适应所有学科和任务。算法鲁棒性和可解释性仍需提升，未来需结合多模态信息和多阶段交互优化。
通俗解读 非专业人士也能看懂
想象一个厨房里，厨师和助手一起做饭。厨师负责决定菜单和调味，助手负责帮忙准备食材和烹饪。两人需要不断沟通，厨师告诉助手需要什么，助手反馈实际情况。这样合作可以做出更美味的菜，但如果助手不听指挥或误会厨师的意思，菜就可能出错。这个厨房合作就像人和AI在科研中的关系，双方需要良好的沟通和反馈，才能做出最棒的研究成果。
简单解释 像给14岁少年讲一样
想象你和朋友一起做一个学校项目。你负责想点子和写计划，朋友帮忙查资料和做实验。你们要不断交流，告诉对方需要什么，听取对方的建议。这样合作可以让项目变得更棒，但如果你不告诉朋友你的想法，或者朋友误会了你的意思，项目可能会出错。其实，科学研究也是这样，科学家和AI助手要不断沟通，才能一起做出好发现。这个过程就像厨房合作一样，大家要互相配合，才能做出最棒的“菜”——科学成果。
术语表
Human-Agent System (HAS) (人-智能体系统)
一种研究人类与AI代理协作的模型，强调动态反馈和交互机制。
本文提出的核心框架，用于分析科研中的人机合作。
ReAct (反应机制)
一种结合思考与行动的多轮交互算法，用于提升AI在科研中的反馈能力。
实验中用来测试反馈请求行为的算法。
多渠道反馈 (Multi-channel feedback)
通过不同方式（评估、指导、修正）实现人机交互的机制。
分类体系中的关键概念。
偏见与虚假信息 (Bias and hallucination)
AI在生成内容时可能出现偏差或虚假信息，影响科研可靠性。
风险分析中的重要问题。
协同效应 (Synergy)
人机合作中双方互补带来的超额收益。
分析人机合作潜力的核心概念。
开放问题 这项研究留下的未解疑问
- 1 如何量化人机协同中的偏差与偏见，建立标准化评估指标。
- 2 多学科、多任务场景下人-智能体系统的适应性与鲁棒性研究。
- 3 大规模实地应用验证，探索实际科研环境中的合作效果。
应用场景
近期应用
科研自动化平台
结合HAS模型，提升科研流程中的人机交互效率，减少偏差，增强创新。
科研协作工具
支持多渠道反馈，帮助科研团队实现高效、责任明确的合作。
远期愿景
智能科研助手
未来AI能成为科研中的合作伙伴，协助发现新知识，推动科学创新。
原文摘要
Large language model-based agents are increasingly deployed as collaborators in scientific discovery yet most current work focuses on the autonomous capabilities of "AI Scientists". We argue that this overlooks the social aspects of scientific teamwork, and that studying AI Scientists as human-agent systems (HAS)--where the unit of analysis is the human-agent pair--is both underexplored and undervalued. We establish these points through literature and empirical analysis, and highlight recent incidences and studies which show that deploying agents in science without accounting for human-agent dynamics introduces near-term risks, including reduced diversity of scientific inquiry. Through analysis of real-world case studies, we show that scientists and agents can augment each other's capabilities. We call for new research that adopts the HAS lens to develop mathematical frameworks for understanding and fostering human-AI synergy in scientific discovery.