律师使用 ChatGPT 处理谋杀案上诉，ChatGPT 编造了不存在的证人

发生了什么

新墨西哥州的一名律师使用 ChatGPT 来协助准备一份谋杀案上诉状。该上诉状包含捏造的警方陈述和证人陈述。该州最高法院表示，该律师未能核实 AI 生成的内容，其中包含虚假证词。

已确认

全球影响 / 市场背景

这表明 AI 工具在未经检查的情况下可能会生成虚假信息。律师和其他人可能会依赖此类工具，从而导致法律错误。这可能会增加对准确性检查的需求，影响提供 AI 服务的科技公司和使用这些服务的律师事务所。

分析师推断

AI 在各行业的应用日益广泛，但此类错误引起了担忧。投资者可能会担心 AI 提供商的法律风险。这可能导致更严格的监管，可能增加制造 AI 系统的公司的成本，同时为验证服务创造机会。

分析师推断

下一步关注

1. 新墨西哥州最高法院发现，由于律师未核实 AI 生成的材料，因此上诉状包含虚假证词。 已确认
2. 法院或监管机构可能要求在法律工作中对 AI 输出进行人工检查。请关注关于在法律文件中使用 AI 的新规定。 提议
3. 投资者应关注 AI 公司如何应对此案。它们可能会增加更多验证功能，这可能会提高其成本，但也能增强信任度。 分析师推断

证据

• cryptopolitan.com