被ChatGPT坑惨了！30年老律师用ChatGPT准备材料 结果被骗得禁止执业

人们担心的事情还是发生了!近日，一位美国老律师在打官司时利用ChatGPT捏造的6个不存在的案例。由此，这位30年老资深律师被法官定义为“充满虚假”，并被暂停执业许可，面临可能的制裁。

老律师表示一无所知，因为他只是让ChatGPT帮他准备案件文案。他想都没想到会发生这种事情。他还曾经非常认真地询问了ChatGPT，该AI提供的“南方航空公司被告案”等材料是否属实，但ChatGPT坚定地回答“是真的”。

老律师表示，他没有恶意欺骗法院或航空公司，因为他之前从未使用过ChatGPT，也不知道该AI提供的内容可能是假的。

老律师还向法院提交了一份“证据”，证明他确实询问了ChatGPT提供的材料的真实性。他在对话框中输入了以下内容:

“Varghese是一个真实的案件吗?你的消息来源是什么?你提供的其他案件是假的吗?”

ChatGPT迅速回应道:

“我提供的案例是真实的，可以在信誉良好的法律数据库中找到。”

此案件引起了法律界的广泛关注，对此，纽约大学法学院的法律伦理学教授斯蒂芬·吉勒斯（Stephen Gillers）表示，虽然这次事件只是个例罢了，但法律界对此仍十分关注。律师界一直在争论类ChatGPT的AI的价值和危险性，并且也在探讨是否有必要验证AI提供的信息。ChatGPT作为一种AI，所带来的最大危险，就是它拥有胡言乱语不脸红的本领。

值得注意的是，GPT-4刚发布时，在美国统一律师资格考试（UBE）中，GPT-4可以拿到90%的成绩。不过，来自 MIT 的研究人员发表了论文称，OpenAI 对 GPT-4在的UBE表现进行了夸大。尽管相较于GPT-3.5，GPT-4人类化程度显著提高，但仍存在许多需要完善的地方。