世界就是个巨大的草台班子！德勤用AI瞎编澳洲政府报告，如今丢大脸还赔钱
世界就是个草台班子
“世界就是个草台班子” 的句话的含金量还在不断上升。
如今，用AI糊弄工作已经是人尽皆知了。
如果里面有你，请不要感到愧疚，
因为不仅仅是你，现在很多所谓的 “行业大牛” 也都是这么做的。
德勤澳洲近日承认：其为联邦政府撰写的一份价值44万澳元的报告中使用了AI，
并因此产生多处严重错误，包括三条不存在的学术引用以及一段捏造的联邦法院判词。
目前，德勤已同意向政府退还部分费用。
这份由德勤为就业与职场关系部（DEWR）撰写的报告，
主要内容是评估澳洲福利系统中用于自动暂停补贴发放的IT系统。
报告初版早在今年7月发布，而经过修订的新版则在上周末被悄悄更新至DEWR官网。
新版删除了十多处虚假引用和脚注，重写了参考文献列表，并修正了多项拼写和格式错误。
事件起因是悉尼大学学者Christopher Rudge发现该报告中存在大量错误，
并公开质疑这些问题可能是由生成式AI “幻觉” 造成的。
所谓“幻觉”，是指AI在生成内容时凭空捏造信息，如引用和判词等。
当时德勤未予回应。
Rudge称：这已经不是 “合理推测”，而是事实。
德勤现在在新版报告的方法部分，悄悄承认使用了生成式AI完成核心分析工作，
但最初并未披露这一点。
他进一步指出：既然报告的核心分析由AI完成，其建议和结论的可信度已无法保障。
一份建立在错误、未经说明、且非专家方法之上的报告，怎么可能值得信任？
新版报告承认：德勤为了解决 “追溯性和文档缺失问题”，
使用了一个部署在DEWR的Azure云系统上的 “由OpenAI GPT-4o驱动的生成式AI工具链”。
讽刺的是，德勤作为全球AI咨询与培训的重要服务商之一，
近年来大力宣传其AI能力，并强调 “所有AI输出必须经过人工审阅” 。
如今，却因使用AI生成错误百出的报告而尴尬收场。
值得注意的是，德勤并未在最初报告中披露AI参与，而是在被质疑后才修改并承认。
Rudge强调：这种不透明的做法加剧了外界对AI在职场中被滥用的担忧。
联邦就业与职场关系部发言人回应称：报告的独立审查实质内容未变，建议也没有更改。
不过，对于是否认为错误由AI引起，该发言人未作正面回答。
他确认德勤将 “退还合同中最后一笔付款”，
但未透露金额，也未回应是否考虑彻底终止与德勤的合作。
自2021年以来，德勤已与DEWR签下近2500万澳元的合同。
据了解：在报告错误被曝光后，德勤内部进行了一次审查，
结果称 “问题源于人为错误” ，但未就AI使用是否得当作出结论。
新版报告删除了两位学者的 “幽灵文献”，
包括悉尼大学法学教授Lisa Burton Crawford和瑞典Lund大学的Björn Regnell。
这些文献在现实中根本不存在。
报告还删去了对知名 “robo-debt” 案件的伪造判决引用，
原文中甚至还误写了“Justice Davis”（应为Justice Jennifer Davies），
并虚构了一段法官根本未发表的判词内容。
*以上内容系网友YOYO丫米自行转载自墨尔本微生活，该文仅代表原作者观点和态度。本站系信息发布平台，仅提供信息存储空间服务，不代表赞同其观点和对其真实性负责。如果对文章或图片/视频版权有异议，请邮件至我们反馈，平台将会及时处理。