世界就是個巨大的草台班子！德勤用AI瞎編澳洲政府報告，如今丟大臉還賠錢
世界就是個草台班子
「世界就是個草台班子」 的句話的含金量還在不斷上升。
如今，用AI糊弄工作已經是人盡皆知了。
如果裏面有你，請不要感到愧疚，
因為不僅僅是你，現在很多所謂的 「行業大牛」 也都是這麼做的。
德勤澳洲近日承認：其為聯邦政府撰寫的一份價值44萬澳元的報告中使用了AI，
並因此產生多處嚴重錯誤，包括三條不存在的學術引用以及一段捏造的聯邦法院判詞。
目前，德勤已同意向政府退還部分費用。
這份由德勤為就業與職場關係部（DEWR）撰寫的報告，
主要內容是評估澳洲福利系統中用於自動暫停補貼發放的IT系統。
報告初版早在今年7月發布，而經過修訂的新版則在上周末被悄悄更新至DEWR官網。
新版刪除了十多處虛假引用和腳註，重寫了參考文獻列表，並修正了多項拼寫和格式錯誤。
事件起因是悉尼大學學者Christopher Rudge發現該報告中存在大量錯誤，
並公開質疑這些問題可能是由生成式AI 「幻覺」 造成的。
所謂「幻覺」，是指AI在生成內容時憑空捏造信息，如引用和判詞等。
當時德勤未予回應。
Rudge稱：這已經不是 「合理推測」，而是事實。
德勤現在在新版報告的方法部分，悄悄承認使用了生成式AI完成核心分析工作，
但最初並未披露這一點。
他進一步指出：既然報告的核心分析由AI完成，其建議和結論的可信度已無法保障。
一份建立在錯誤、未經說明、且非專家方法之上的報告，怎麼可能值得信任？
新版報告承認：德勤為了解決 「追溯性和文檔缺失問題」，
使用了一個部署在DEWR的Azure雲系統上的 「由OpenAI GPT-4o驅動的生成式AI工具鏈」。
諷刺的是，德勤作為全球AI諮詢與培訓的重要服務商之一，
近年來大力宣傳其AI能力，並強調 「所有AI輸出必須經過人工審閱」 。
如今，卻因使用AI生成錯誤百出的報告而尷尬收場。
值得注意的是，德勤並未在最初報告中披露AI參与，而是在被質疑后才修改並承認。
Rudge強調：這種不透明的做法加劇了外界對AI在職場中被濫用的擔憂。
聯邦就業與職場關係部發言人回應稱：報告的獨立審查實質內容未變，建議也沒有更改。
不過，對於是否認為錯誤由AI引起，該發言人未作正面回答。
他確認德勤將 「退還合同中最後一筆付款」，
但未透露金額，也未回應是否考慮徹底終止與德勤的合作。
自2021年以來，德勤已與DEWR簽下近2500萬澳元的合同。
據了解：在報告錯誤被曝光后，德勤內部進行了一次審查，
結果稱 「問題源於人為錯誤」 ，但未就AI使用是否得當作出結論。
新版報告刪除了兩位學者的 「幽靈文獻」，
包括悉尼大學法學教授Lisa Burton Crawford和瑞典Lund大學的Björn Regnell。
這些文獻在現實中根本不存在。
報告還刪去了對知名 「robo-debt」 案件的偽造判決引用，
原文中甚至還誤寫了「Justice Davis」（應為Justice Jennifer Davies），
並虛構了一段法官根本未發表的判詞內容。
*以上內容系網友YOYO丫米自行轉載自墨爾本微生活，該文僅代表原作者觀點和態度。本站系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。