據報道，珀斯一所頂級女子私校正從其公開社交媒體平台上，逐步移除所有可識別學生身份的照片，以防止相關影像被下載后，利用AI技術篡改成具有傷害性的深度偽造內容（deepfake）。
St Hilda』s Anglican School for Girls已透露，從今年起，學校官方賬號將只發布無法識別個人身份的圖片，例如剪影、背影或遠距離的集體合影，以應對日益嚴峻的相關風險。
這所位於Mosman Park的學校在致家長的說明中表示：「在海外，已經發生過多起嚴重案例，學校社交媒體上的學生照片和姓名被惡意篡改成有害的深度偽造內容，並被用於勒索威脅。」
校方指出：「一旦圖片被公開發布，就可能在我們不知情、也未經同意的情況下，被下載、篡改並再次傳播。」
該學校校長Fiona Johnston表示，目前她尚未發現有任何涉及該校學生影像被濫用或製作成深度偽造內容的事件。
「我們認為，與其在傷害發生之後被動應對，不如提前採取行動，防患於未然。」「照片一旦在公開平台上分享，就有可能在學校或家庭毫不知情的情況下，被下載、篡改或再次傳播。」
Johnston女士表示，隨著人工智慧、圖像處理和深度偽造技術的快速發展，近年來數字環境已經 「發生了巨大變化」。
她指出：「這些技術進步，給孩子們帶來了學校過去從未需要考慮的新風險。」
「據我們所知，St Hilda』s是澳洲首所公開承諾，將作為正式策略的一部分，從公共社交媒體平台上移除清晰可識別學生影像的學校。」
不過，學生的相關照片仍將通過媒體管理平台Pixevety運營的密碼保護網站，供家長查看。
此次舉措出台之際，正值馬斯克旗下社交平台X以及AI聊天機器人Grok因允許用戶對女性和兒童照片進行「數字脫衣」處理，生成性暗示深偽圖像而引起國際輿論嘩然，同時，各類 「脫衣」 應用的出現也持續引發擔憂。
珀斯網路安全專家Paul Litherland表示，近年來，越來越多學校就如何在社交媒體上使用學生照片向他諮詢建議。
他說：「至少嘗試減少學生在網路平台上暴露影像的機會，我覺得這會是一個不錯的開始。」
Litherland表示，他認為利用AI製作有害深度偽造內容的趨勢，未來仍將持續演變。「這將成為教育領域面臨的下一波重大挑戰，同時我也希望，相關的立法回應能夠儘快跟上。」他說。
他指出，儘管澳洲已加強對兒童使用社交媒體的監管，但在AI工具方面，仍缺乏足夠的約束與審查機制。
他呼籲家長、教育工作者及各類機構務必意識到：任何內容一旦上線，就有可能被下載、篡改和濫用。
澳洲網路安全專員辦公室（eSafety Commission）去年也曾向學校發出警告，露骨的深度偽造影像正迅速增加，並被用於羞辱、霸凌以及對兒童實施性勒索，其影響已從校園內蔓延至更廣泛的社會空間。
*以上內容系網友指點山河自行轉載自最西澳，該文僅代表原作者觀點和態度。yeeyi系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。