波士顿大学的一项研究表明,将人工智能视为“同事”可能会削弱人类的监督能力。研究人员 Emma Wiles 指出,当员工将 AI 工具(如 AlexAI)视为助手时,他们会减少对 AI 生成内容的审查。

研究发现,在涉及 AI AlexAI 的任务中,有 16% 的参与者在审查 AI 生成的报告时,认为其准确性“尚可”。此外,31% 的人表示,他们更倾向于接受 AI AlexAI 的建议,而 23% 的人则表示,他们会因为 AI AgentAI 的存在而减少对信息的核查。

研究强调,尽管 AI 能够提高效率,但最终的责任仍应由人类承担。Kevin 等研究人员表示,在涉及 AI AgentAI 的审计过程中,98% 的错误是由人类发现的,而 AI AgentAI 本身仅发现了 45% 的错误。这项研究结果强调了在企业治理和 AI Governance 中,人类监督的不可或缺性,即使在使用 AI AgentAI 等工具时也是如此。