近日，美国加州一名律师因在上诉文件中使用AI工具ChatGPT伪造法律引文，被法院判处1万美元（约合人民币7.1万元）的罚款。
这起案件创下了加州法院在AI伪造内容领域的最高罚款记录。法院文件显示，该律师提交的23条判例引用中竟有21条为虚假编造。法官特别强调，所有法律文书中的引文必须由律师亲自审核确认，绝不能使用未经核实的来源。
加州第二区上诉法院此次作出的裁决，向整个法律界发出了严厉警告。法院指出，全美各地法院正日益面临因引用虚假先例而导致的问题。这一判决出台之际，正值加州加强对AI监管之时。司法委员会已要求所有法官和工作人员在年底前制定相关政策：要么禁止使用生成式AI，要么明确允许其使用。
被处罚的律师阿米尔·穆斯塔法维承认，在提交上诉文件前，他并未仔细审查ChatGPT生成的内容。他表示，自己只是想借助该工具优化法律文书的表达，却未意识到AI会编造虚假案例。他认为，完全放弃使用AI对律师来说并不现实，毕竟AI已成为法律工作中不可或缺的工具，就像当年从实体图书馆转向在线数据库一样。
此次对穆斯塔法维的处罚是针对律师滥用AI行为开出的最重罚单之一。此前，加州一联邦地区法院法官曾判处两家律所因使用AI生成错误信息而赔偿3.1万美元（约合人民币22万元），并强调必须建立严格的惩戒机制来杜绝类似事件。
专家认为，随着生成式AI在法律行业的广泛应用，未来引用虚构判例的案例数量恐将持续增加。统计显示，美国已发生600多起相关案件，其中52起发生在加州。这一趋势凸显出律师行业亟需加强教育和培训，尤其是在识别和验证AI生成信息方面的能力。
法律界人士指出，提升对AI技术的认知至关重要，因为相当一部分律师尚未充分意识到AI”幻觉”（编造虚假信息）的风险。有建议提出，应对误用AI的律师实施强制性培训课程作为补救措施。同时，业界还担忧虚假判例可能被法官在判决书中引用，表明这一问题的影响范围或将超出律师行业本身。
相关文章
