为什么使用AI的你,变得越来越笨?
过度依赖与认知卸载

ChatGPT在上线三年后,周活跃用户数破8亿,业已成为许多人工作不可或缺的生产力工具,融入日常生活的速度也在进一步加快。山姆·阿尔特曼在发布这一最新数据时说:“感谢大家,AI已从人们把玩的东西,转变为每天用来构建东西的工具。”
然而大模型的火爆也衍生了一个非预期后果——出现对人工智能的过度依赖。所谓“过度依赖”,是指人们对人工智能系统的输出过分信任或依赖,哪怕这些结果是错误的或不可靠的,也会照单全收。
换言之,用户在没有经过充分判断或验证的情况下,盲目采纳AI的建议,从而导致错误——业界称之为“执行性错误”。这种情况通常发生在用户并不完全了解以下内容时:AI能做什么(它的功能与适用范围);AI能做得多好(它的准确性与局限性);以及AI是如何工作的(它的逻辑、数据来源或决策机制)。
过度依赖可能导致现实问题和错误丛生,最终令人们丧失对AI系统的信任。不过担忧还不止于此。虽然AI能够提升某些认知能力,但人们害怕,过度依赖 AI,或许会使自己变得懒于思考;遇到问题就求助于AI,可能会对长期认知发展和批判性思维能力造成影响。这一现象有时被称为“认知卸载”(cognitive offloading),指当AI接管更多任务时,人类独立完成这些任务的能力可能会下降。
认知卸载是我们在日常工作和生活中经常采取的一种策略,个体通过利用外部资源来减少完成任务的认知需求。其形式可以很简单(如写购物清单、记笔记),也可以很复杂(如依赖高科技设备处理信息、使用GPS导航)。在今天,把认知负担转移给人工智能已经成为我们的“第二天性”。
例如,在医疗影像诊断中,AI能通过深度学习识别X光片或CT影像中的病变。如果一名放射科医生在看到AI系统标注出“疑似肺癌”区域后,并未仔细复核图像,也没有结合患者的病史,而是直接依据AI结论就下诊断。那么,这位医生就不仅是认知卸载,而且形成了对AI的过度依赖。
这方面的例子我们可以举出很多:企业的HR人员依靠AI系统筛选应聘者;某些智能电动汽车用户过度信任“自动驾驶模式”;学生要求AI生成整篇论文,未加审查便直接提交;客服人员不再阅读用户情绪或问题语气,只是机械采纳AI推荐答案,等等。
随着AI使用频率和依赖程度的增加,人类大脑的思考能力也随之受到限制,导致人类的思维水平迅速下降。人类的智力能力被部分转移到人工系统上,使得人类变得“更加人工化”。此外,与技术的高度互动使我们开始用类似算法的方式思考,却缺乏对过程的真正理解。
另一个问题是人类在生活的几乎所有方面对AI技术的依赖。尽管这提高了生活水平并使生活更加便利,但也对人类活动产生了负面影响,使人变得急躁和懒惰。随着AI深度介入诸如规划与组织等活动,它会逐渐“饿死”人类大脑的思考深度和心理努力。高度依赖AI可能导致技能退化,并在需要身体或脑力操作时产生压力。
在讨论人工智能对我们大脑的影响时,大多数研究都集中在生成式人工智能(GenAI)上,这是一种让我们比以往任何时候都更多地将认知负担转移出去的工具。任何拥有手机或电脑的人,都可以瞬间获取几乎任何答案、撰写论文或编写代码、创作艺术或设计作品。然而,过度依赖AI完成创作等任务,可能抑制独立思考,并导致语言和表达方式的多样性下降。
AI对创造力的深层影响同样令人担忧。研究表明,AI确实能帮助个人产生比他们单独思考时更多的创意,但在整个群体层面上,AI生成的创意却较为单一,意味着真正的“灵光一现”的创新时刻变得更少。
点个赞吧!您的鼓励让我们进步
好新闻没人评论怎么行,我来说几句

ChatGPT在上线三年后,周活跃用户数破8亿,业已成为许多人工作不可或缺的生产力工具,融入日常生活的速度也在进一步加快。山姆·阿尔特曼在发布这一最新数据时说:“感谢大家,AI已从人们把玩的东西,转变为每天用来构建东西的工具。”
然而大模型的火爆也衍生了一个非预期后果——出现对人工智能的过度依赖。所谓“过度依赖”,是指人们对人工智能系统的输出过分信任或依赖,哪怕这些结果是错误的或不可靠的,也会照单全收。
换言之,用户在没有经过充分判断或验证的情况下,盲目采纳AI的建议,从而导致错误——业界称之为“执行性错误”。这种情况通常发生在用户并不完全了解以下内容时:AI能做什么(它的功能与适用范围);AI能做得多好(它的准确性与局限性);以及AI是如何工作的(它的逻辑、数据来源或决策机制)。
过度依赖可能导致现实问题和错误丛生,最终令人们丧失对AI系统的信任。不过担忧还不止于此。虽然AI能够提升某些认知能力,但人们害怕,过度依赖 AI,或许会使自己变得懒于思考;遇到问题就求助于AI,可能会对长期认知发展和批判性思维能力造成影响。这一现象有时被称为“认知卸载”(cognitive offloading),指当AI接管更多任务时,人类独立完成这些任务的能力可能会下降。
认知卸载是我们在日常工作和生活中经常采取的一种策略,个体通过利用外部资源来减少完成任务的认知需求。其形式可以很简单(如写购物清单、记笔记),也可以很复杂(如依赖高科技设备处理信息、使用GPS导航)。在今天,把认知负担转移给人工智能已经成为我们的“第二天性”。
例如,在医疗影像诊断中,AI能通过深度学习识别X光片或CT影像中的病变。如果一名放射科医生在看到AI系统标注出“疑似肺癌”区域后,并未仔细复核图像,也没有结合患者的病史,而是直接依据AI结论就下诊断。那么,这位医生就不仅是认知卸载,而且形成了对AI的过度依赖。
这方面的例子我们可以举出很多:企业的HR人员依靠AI系统筛选应聘者;某些智能电动汽车用户过度信任“自动驾驶模式”;学生要求AI生成整篇论文,未加审查便直接提交;客服人员不再阅读用户情绪或问题语气,只是机械采纳AI推荐答案,等等。
随着AI使用频率和依赖程度的增加,人类大脑的思考能力也随之受到限制,导致人类的思维水平迅速下降。人类的智力能力被部分转移到人工系统上,使得人类变得“更加人工化”。此外,与技术的高度互动使我们开始用类似算法的方式思考,却缺乏对过程的真正理解。
另一个问题是人类在生活的几乎所有方面对AI技术的依赖。尽管这提高了生活水平并使生活更加便利,但也对人类活动产生了负面影响,使人变得急躁和懒惰。随着AI深度介入诸如规划与组织等活动,它会逐渐“饿死”人类大脑的思考深度和心理努力。高度依赖AI可能导致技能退化,并在需要身体或脑力操作时产生压力。
在讨论人工智能对我们大脑的影响时,大多数研究都集中在生成式人工智能(GenAI)上,这是一种让我们比以往任何时候都更多地将认知负担转移出去的工具。任何拥有手机或电脑的人,都可以瞬间获取几乎任何答案、撰写论文或编写代码、创作艺术或设计作品。然而,过度依赖AI完成创作等任务,可能抑制独立思考,并导致语言和表达方式的多样性下降。
AI对创造力的深层影响同样令人担忧。研究表明,AI确实能帮助个人产生比他们单独思考时更多的创意,但在整个群体层面上,AI生成的创意却较为单一,意味着真正的“灵光一现”的创新时刻变得更少。
| 分享: |
| 注: | 在此页阅读全文 |




为什么使用AI的你,变得越来越笨?