法官指责AI企业家在法庭上使用生成的‘律师’

一名男子最近试图在法律上诉中使用AI生成的头像，这在纽约法庭上引起了激烈反响，但显然并不是他所期望的效果。74岁的杰罗姆·德瓦尔德（Jerome Dewald）是一家声称“用AI革命化法律自我辩护”的初创公司的创始人。在3月26日的一场就业纠纷听证会上，德瓦尔德因未能告知法官他所呈现口头辩论的男子是人工生成的而遭到指责。虽然法庭已批准德瓦尔德提交视频，但当屏幕上出现明显不是德瓦尔德的未知发言者时，法官萨莉·曼扎内特-丹尼尔斯（Sallie Manzanet-Daniels）感到困惑。曼扎内特-丹尼尔斯在头像刚说完第一句后便打断了视频，问道：“等一下，那是案件的辩护律师吗？”“这是我生成的，”德瓦尔德回应道。“它不是一个真实的人。”德瓦尔德告诉报道称，这个被称为吉姆（Jim）的“美丽大块头”头像是由AI头像公司Tavus提供的素材选项。德瓦尔德表示提交该视频是因为他在长时间发言时遇到困难，然而法庭并不知道视频内容是人工生成的。曼扎内特-丹尼尔斯对此回应称：“你在申请时如果能提前告知我，那就太好了。先生，你没有告诉我这件事，我不喜欢被误导。你不会在这个法庭上将其作为你事业的起点。”这是人们尝试将法律程序与AI技术结合时发生的最新一宗乌龙事件。2023年，两名律师和一家律师事务所因提交ChatGPT编造的虚假法律研究而受到惩罚。另一家名为DoNotPay的“机器人律师”公司在2月份被命令向FTC支付19.3万美元的和解金，因其未经证据支持而宣传其AI法律服务与真实人类律师相当。