法院如何应对AI生成诉讼潮：法官审视聊天机器人权利与责任

法院如何应对人工智能引发的大量诉讼法官们想知道聊天机器人在代表律师时应该拥有哪些权利和义务。科罗拉多州的联邦地方法官玛丽扎·布拉斯韦尔（Maritza Braswell）大部分时间都在办公室里筛选没有律师的人撰写的成堆文件。

他们中的许多人负担不起聘请律师的费用，而另一些人的案件太弱或太小，引不起律师的兴趣。她仔细阅读每一份文件，意识到独自走进法庭是多么令人畏惧。最近，像美国各地的许多法官一样，她看到此类文件明显增加。

根据一项新研究，该研究检查了2005年至2026年间450万起联邦民事案件，由自我代表的人提起的诉讼比例从2022年的11%增加到2025年的16.8%。在这些案件中，提交数量比2023年之前的水平增加了一倍多。

布拉斯韦尔法官将这一增长归因于人工智能。“我确实将其与人工智能联系起来，部分原因是我看到了人工智能的使用，”她说。作为一名精通技术、使用人工智能审查法庭文件的法官，她学会了识别大型语言模型的写作方式。

她可以从行文中看出，有时还能看出幻觉案例和捏造的引文。“我实际上还看到了起草更好的诉状，”她说。但是，尽管人工智能似乎正在扩大诉诸司法的机会，但它似乎并没有提高人们获胜的机会。

法官们也开始质疑大型语言模型在接替律师时应该承担哪些权利和责任。例如，他们询问聊天机器人是否有义务像人类律师那样提供好的建议。美国各地越来越多的立法者开始思考，当聊天机器人提供糟糕的法律建议时，谁应该付出代价。

人工智能加剧诉讼为了测试人工智能是否导致没有律师的人提起的诉讼增加，该研究的作者、麻省理工学院的阿南德·沙阿（Anand Shah）和南加州大学的约书亚·利维（Joshua Levy）通过Pangram（一种商业人工智能文本检测器）随机抽取了1600份法庭文件。

标记为包含人工智能生成内容的份额从2023年的1%上升到2026年的18%。对于布拉斯韦尔法官来说，这不一定是令人担忧的原因。

虽然人工智能协助提交的文件激增可能会增加他们的工作量，但她和许多其他法官发现这些案件更容易裁决，因为人工智能正在帮助未经法律培训的人更好地表达他们的论点。众所周知，由没有律师的人撰写的法庭文件很难破译。

有些是以近乎胡言乱语的手写涂鸦形式出现的，法官需要一段时间才能解码。无论多么晦涩，法官都必须善意地阅读它们。如今，布拉斯韦尔法官对人工智能起草的动议的处理速度比诉讼当事人撰写的动议还要快。

她说：“我必须非常小心，因为其中一些包含幻觉和错误，但在人工智能的帮助下，我总体上能比没有人工智能时更好地理解他们在争论什么。”更清晰的文件让布拉斯韦尔法官更好地听取他们的意见。“如果我更好地理解一个论点，我可能就能够提供更多帮助，”她说。

在线社区如雨后春笋般涌现，交流有关使用人工智能起诉的自助指南。

2024年12月，Reddit上的一篇广为流传的帖子帮助移民申请人起诉美国公民及移民服务局，指控其申请延迟审查：与Microsoft Copilot一起起草一份执行令状，支付律师150美元进行润色，并在佛蒙特州的便利区提交。

佛蒙特州没有律师的人提起的案件从2022年前的每年约45起增加到2024年的1100多起。即便如此，研究发现，没有律师的人比有律师的人败诉的可能性要大得多，而且即使增加了人工智能，这种情况也不会改变。

“事实证明，提起诉讼是一项复杂、多方面的任务。并非所有这些都只是起草文本，”利维说。聊天机器人客户特权威廉·加芬克尔法官是康涅狄格州的联邦治安法官，他担任法官已有三十年，思考有关律师与客户关系的各种问题。

最近，他一直在想，人们与提供法律建议的聊天机器人的对话是否应该像他们与律师的对话一样享有特权。“你可以提出一个很好的论点，即……与Claude、ChatGPT或Grok等大型语言模型的对话应该得到一些保护，”他说。

法院开始解决这个问题。今年2月，密歇根州的一家联邦法院裁定，一名自我辩护者与ChatGPT为准备案件而进行的对话是工作产品——不受对方侵犯的法律工作。该决定是在同一天做出的，纽约联邦法院认为，刑事被告使用Claude生成的文件不是特权律师与委托人对话或工作成果。

法院辩称，Claude不是律师，用户在与其沟通中没有“合理的保密期望”，因为人工智能公司可以向第三方披露用户数据。今年3月，布拉斯韦尔法官裁定，自我代表的人不应使用聊天机器人。“ChatGPT、Claude、Gemini等人工智能系统确实会收集用户数据用于培训和其他目的。

但是……这并不能消除对隐私的所有期望，”她写道。此后，法院在这个问题上仍然存在分歧。没有脉搏的不当行为一些法官还想知道聊天机器人，像律师一样，是否有义务提供良好的法律建议。

加利福尼亚州联邦治安法官艾莉森·戈达德（Allison Goddard）法官注意到，没有律师的人在和解谈判期间试图评估案件价值时，经常会从ChatGPT那里得到错误的建议。在一起案件中，一名原告在商店滑倒并摔倒，向商店索要70万美元，这远远超出了案件的价值。

“你从哪里知道自己会得到70万美元？你去ChatGPT了吗？”戈达德法官问道。“嗯……”原告咕哝道。然后，她向该人解释了法律，说明为什么ChatGPT是错误的，并建议降低金额。“就像谷歌博士上了法学院一样，”她说。

还有一个问题是，当聊天机器人犯下这样的错误时，谁应该承担责任。今年3月，日本人寿保险公司起诉OpenAI，指控ChatGPT在没有执照的情况下从事法律工作，并帮助一名妇女重新提起已经解决的诉讼，使法院充斥着无聊的文件。

“ChatGPT不是律师，”诉讼称。今年5月，OpenAI要求法院驳回此案，认为ChatGPT不从事法律工作。OpenAI在文件中表示：“ChatGPT不是一个人，既没有也没有使用任何程度的法律知识或技能。

”该案仍在法院审理中。各州已开始考虑立法，要求人工智能公司在聊天机器人提供不良法律建议时承担责任。

纽约州三月份提出了一项法案，禁止聊天机器人冒充律师，即使它们通知用户他们正在与聊天机器人互动。国会提出了一系列法案，禁止聊天机器人冒充律师、医生和其他持照专业人士。这些法案尚未获得支持。目前，人们将继续求助于人工智能作为他们的律师。

对于他们中的许多人来说，回报大于风险。不久前，当布拉斯韦尔法官询问自我辩护的诉讼当事人为什么想要一份特定的证据时，他们胆怯地咕哝着。现在，他们在与聊天机器人排练后自信地回答了她的问题。“这是一个非常难操作的系统。

不过，有了人工智能，事情就不那么复杂了，”她说。深度探索人工智能想了解人工智能的现状吗？查看这些图表。根据斯坦福大学的2026年AI指数，AI正在冲刺，我们正在努力跟上。人工智能中最重要的10件事