Sullivan & Cromwell在AI生成虚假法律引文后向法院致歉

TLDR

• 知名律师事务所提交含AI伪造引文的法庭文件

• Sullivan & Cromwell承认在破产案中存在核实失误

• AI生成的不准确内容损害联邦法院提交文件的可信度

• 对方律师在法律文件中发现伪造案例法

• 事件凸显加强AI验证机制的迫切需要

继一家美国顶级律师事务所犯下重大失误后，法律行业对人工智能可靠性的审视再度升温。Sullivan & Cromwell公开承认提交了一份充斥AI伪造案例引文及不准确法律参考资料的法庭文件。此事件促使该事务所就其人工智能安全保障机制展开全面内部调查。

伪造引文损害联邦法院提交文件的可信度

这家知名律师事务所在与Prince Group诉讼相关的第15章破产文件中发现了重大缺陷。人工智能系统捏造了虚假案例参考资料，并对美国破产法规中的条款作出错误分析。这些捏造内容被纳入提交给纽约联邦破产法院的材料中。

负责监管事务所重组部门的Andrew Dietderich就文件的不足之处承担了个人责任。他证实，尽管事务所设有既定的AI使用准则，但在这份文件的起草过程中并未遵守相关规程。该机构此后已采取补救措施，以避免在后续法律文件提交中再次出现AI导致的失误。

代表对方当事人的Boies Schiller Flexner发现了相关差异，并将其提请司法机关注意。其审查发现，部分被引用的案例根本不存在，或引用了与案情完全无关的司法意见。为此，该事务所提交了修订版文件，并附注清楚标明了AI生成的错误内容。

核实失误凸显AI系统性挑战

此次事件揭示了律师事务所在引入人工智能以提升工作效率、管理案件负荷时所面临的普遍困难。众多法律机构部署AI系统用于法律研究和文件起草，然而不完善的核实规程持续造成漏洞。法律专业人员在将AI嵌入工作流程时，必须在运营效率与精准度之间寻求平衡。

Sullivan & Cromwell表示，其执行严格的AI使用政策，包括强制要求人工审核所有AI生成材料。该事务所承认，在此次事件中质量控制机制出现失效，导致存在缺陷的内容未经检查便得以通过。此事件进一步加剧了各界对关键法律场景中人工智能治理框架的审视。

行业数据显示，出现在司法文件中的AI幻觉现象频率不断攀升，尤其集中于捏造法律先例方面。研究记录了全球逾1,300起此类事件，其中大多数集中在美国法院。这一新兴趋势凸显了在法律文件制作过程中部署AI时，加强认证机制的必要性。

影响超越单一事件

Prince Group诉讼案的核心是对大规模欺诈计划的指控，涵盖强迫劳动行为及金融不当行为。美国检察官已就该机构的运营启动刑事诉讼程序及财产没收行动。因此，在涉及复杂跨国指控的案件中，法律文件的精准性至关重要。

Sullivan & Cromwell此前曾在多宗重大案件中代理客户，包括FTX交易所的破产程序。该事务所收取高额费用，并处理跨越多个法律管辖区的复杂重组案件。这次与AI相关的失误引发了外界对大型法律企业质量控制的质疑。

该事务所在持续推进内部调查的同时，正重新评估有关人工智能部署的教育培训计划与合规框架。其目标包括强化防护措施，并提升文件起草工作流程中各环节的问责机制。随着人工智能整合步伐加快，法律行业面临日益增长的压力，须确保其可靠性并避免代价高昂的失误。

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.