AI智能体正以新请求“淹没”公共服务

随着AI让填写表格和提出投诉变得更容易，世界各地的公共服务正经历申请和其他请求数量的巨大激增。 在英国，自ChatGPT推出以来，向住房监察专员提出的投诉增加了一倍多，从2022年的2600件升至去年的略高于7000件。美国消费者金融保护局（CFPB）同期收到的投诉增长了5倍。巴西的司法申请和德国的议会请愿也出现类似跃升。 研究者克里斯·施米茨（Chris Schmitz）正在追踪这一上升趋势，并将其视为一种更广泛趋势的一部分，他称之为“智能体泛滥”。在一篇将于下月在AI伦理与社会会议上发表的论文中，他考察了11个司法辖区中84个可能发生此类泛滥的案例，发现广泛证据表明AI工具正在改变人们与公共服务互动的方式。 更难的问题是该如何应对。虽然一些新提交的材料明显带有对抗性，但另一些则是合法申请人利用AI提交原本可能被放弃的申请。尽管有些人可能将这些新申请视为AI生成的垃圾信息，施米茨却认为，这是为AI时代重塑社会服务的难得机会。 施米茨考察的服务范围从福利申请到正式司法上诉，但它们都拥有可由AI助手访问的在线服务。（完整数据集在此托管，供参考。）出于方法论原因，施米茨的论文没有直接断言AI正在导致新申请者激增。但84个案例中的大多数都遵循相同的基本走势：2022年之前提交量大致持平，随后随着AI技术扩散而加速上升。至关重要的是，大多数案例中这种增长并未放缓，表明未来数年很可能继续上升。 对施米茨而言，不难看出AI使用技能和可及性的提升会如何推动使用量增加。 他说：“人们正发现这是可以做到的事，而且它正逐步变得更容易……以前可能需要把大量上下文拼凑起来，并非常精确地提示ChatGPT 3.5；现在可能只需用Claude应用粘贴一封信或给它拍张照，就能一次获得相当不错的回复。” 申请量的跃升与许多漏洞赏金项目去年的经历相似：企业发现自己的收件箱被大语言模型生成的低质量报告淹没。这些报告很少包含重大安全问题，但公司仍必须对收到的报告进行审查，造成了显著资源消耗。不难想象，公共服务也会面临类似问题：它们要以相同预算处理五倍于以往的申请者。 但不同于漏洞赏金项目被无价值提交淹没，施米茨表示，公共服务收到的大多数新申请来自具有合法诉求的真实个人。 他告诉TechCrunch：“我们发现绝大多数案例中，人们有权申请某项权益，并正在为此提出申请。” 如果这些人此前没有申请，原因可能是申请工作过于令人望而却步——这在政策领域被称为行政负担。如今AI能够减轻这一负担，这或许是一个机会，以更适合AI的方式重塑许多此类服务。 这是一项重大任务，而我们大多尚未开始着手，但施米茨认为这有理由保持乐观。 施米茨说：“让AI往好的方向发展，很大一部分在于能够详细描绘出好的版本是什么样。任何用过ChatGPT报税的人都知道，这里存在一个能得到帮助的理想版本。这或许正是这样一个时刻：我们需要重新思考这一流程的几乎方方面面。”