“不健康”的LLM使用比想象中更普遍

广受欢迎的YouTuber和科学传播者汉克·格林（Hank Green）表示，由于他使用人工智能而受到强烈批评，他将退出制作。格林形容他的人工智能使用“不健康”，但强调他用它来寻找研究来源，而不是写剧本。

“不健康”的LLM使用比您想象的更常见。不仅仅是汉克·格林。互联网这个角落随之而来的大部分风暴都集中在：创作者如何将一个建立在真实性和可信度之上的品牌，与一种在他人（通常未获补偿）作品上训练、且以生成貌似可信的虚假内容而闻名的技术相协调。

格林对这项技术的不健康依赖的描述引起了一些关注。但他的案例表明，我们对人工智能心理影响的理解存在更大的差距。目前，大多数公众讨论都集中在两极：一端是明显良性的使用，另一端是涉及精神科护理、妄想和精神病的不言自明的问题案例。

两者之间是一个广阔而模糊的空间，使用可能变得强迫性、依赖性或其他不健康，而不会陷入明显的危机。格林似乎将自己定位在这个空间中的某个位置。许多其他人可能也是如此。考虑到LLM的设计方式，这并不令人惊讶。

AI聊天机器人本质上就是为了持续对话而构建的。

与社交媒体平台非常相似，它们明确旨在吸引用户。专家已将这一点确定为由高度顺从的聊天机器人强化妄想信念的AI精神病案例的关键驱动因素之一。有关公司将参与度置于用户福祉之上的说法也开始出现在诉讼中。

与此同时，提供商也引入了警告，提示用户在长时间会话后休息。但同样的特质在导致精神危机之前就可能变得有害。越来越多的报告显示，人们本能地求助于聊天机器人来思考问题、做出决定或寻求安慰，而另一些人则建立了看似牢固的情感纽带，以至于在破裂时会导致悲伤。

可能需要数年时间才能收集足够的证据来正确理解这项技术的影响，但这些早期报告让人想起另一种最大化参与度的技术——社交媒体——的早期岁月。

随着时间的推移，人们对社交媒体对幸福感、注意力以及有时强迫性使用的影响的担忧日益增加，世界各国政府现在正采取措施限制其使用，例如禁止儿童和青少年使用。格林的案例说明了另一种依赖。他说他将其用作研究辅助工具，帮助他找到特定主题的论文和其他材料。

尽管引发了愤怒的反应或格林的道歉，但几乎没有迹象表明他以这种方式使用聊天机器人本质上是有问题的。这并不一定意味着该技术不会对使用者产生影响。尽管研究仍处于起步阶段，但早期研究表明，重复使用AI工具可能会削弱我们用来完成它所取代任务的能力。

其他研究表明，聊天机器人用户在测量特定任务时表现出明显较少的大脑活动，而其他研究将聊天机器人的使用与批判性思维能力的下降联系起来。这些都不是结论性的，但基本想法并不新鲜。认知卸载——将记忆、心算或方向等脑力工作从大脑转移到外部工具——是一种有据可查的现象。

即使只有一小部分聊天机器人的使用被认为是不健康的，人工智能采用的巨大规模意味着数百万人仍可能受到影响。涵盖所有可用工具的全面数据很难获得，但仅OpenAI今年就表示其周活跃用户超过9亿。

我们花了数年时间才完全理解搜索引擎如何改变我们记忆信息的方式，或社交媒体如何影响注意力和幸福感。人工智能不太可能有所不同。格林可能只是最早公开表达许多其他人已经感受到的感觉的高知名度人士之一，而科学尚未有证据来解释人工智能如何改变我们的意识。