英兒童事務專員呼籲禁用AI生成兒童裸照應用程式

2025/04/28 | 科技

英國兒童事務專員瑞秋·迪·索薩女爵（Dame Rachel de Souza）近日呼籲政府，應全面禁止利用人工智慧（AI）技術生成兒童性暴露圖像的應用程式。她強調，必須對允許「裸化」（nudification）功能的應用程式進行全面封鎖，這類應用程式透過AI編輯真實人物照片，使其呈現裸體狀態。



迪·索薩女爵表示，政府對此類應用程式的監管不足，已造成嚴重的現實後果。她指出，現有技術正不成比例地針對女孩和年輕女性，許多客製化應用程式似乎只對女性身體有效。



一份最新報告顯示，女孩們正積極避免發布照片或參與網路互動，以降低成為目標的風險，如同她們在現實生活中遵守其他規則以保護自己一樣，例如避免在夜間獨自回家。



兒童們擔心，陌生人、同學甚至朋友都可能利用在常見搜尋引擎和社交媒體平台上找到的技術來針對他們。迪·索薩女爵強調，這些工具的演變速度和規模令人難以掌握，我們不能袖手旁觀，任由這些AI應用程式嚴重威脅兒童的生活。



目前，根據《網路安全法》，分享或威脅分享深度偽造性暴露圖像屬於違法行為。政府也於今年二月宣布，將立法處理AI生成兒童性虐待圖像的威脅，包括將持有、創建或散布用於創建此類內容的AI工具定為非法。



然而，迪·索薩女爵認為這些措施遠遠不夠，她表示，應該全面禁止「裸化」應用程式，而不僅僅是那些被歸類為兒童性虐待生成器的應用程式。



英國網路觀察基金會（IWF）的數據顯示，2024年已收到245起AI生成兒童性虐待的舉報，相較於2023年的51起，增幅高達380%。IWF臨時執行長德瑞克·雷-希爾（Derek Ray-Hill）表示，這些應用程式在學校中被濫用，且相關圖像迅速失控。



科技創新部的發言人強調，創建、持有或散布兒童性虐待材料，包括AI生成的圖像，是令人髮指的非法行為。根據《網路安全法》，所有規模的平台都必須移除此類內容，否則將面臨巨額罰款。英國是世界上第一個針對AI兒童性虐待犯罪採取進一步措施的國家，將持有、創建或散布旨在生成令人髮指的兒童性虐待材料的AI工具定為非法。



校長工會NAHT的秘書長保羅·懷特曼（Paul Whiteman）表示，工會成員對此表示關切，並認為應緊急審查該領域，因為技術發展速度可能已超過相關法律和教育。