AI重現謀殺受害者影像引爭議，受害者家屬籲立法管制

2025/04/24 | 社會

英國一名在1993年遭謀殺的男童James Bulger的母親Denise Fergus，近日呼籲政府盡速通過新法，以管制AI生成兒童謀殺受害者影像的行為。她表示，社群平台TikTok未能及時移除以AI重現她兩歲兒子談論當年被綁架細節的影片，這對家屬造成極大的精神傷害。



據了解，這些AI影片利用動畫呈現兒童形象，以第一人稱口吻講述謀殺案的經過。其他社群平台如YouTube和Instagram也曾出現類似內容，隨後已因違反平台規定而下架。 Fergus女士認為，現行法律未能有效強制平台移除這些有害內容，並防止AI技術被濫用。



英國政府表示，根據現行的《網路安全法》，這類影片已屬非法內容，平台應予移除。然而， Fergus女士認為現行法律的約束力不足。她與英國司法大臣Shabana Mahmood會面，表達對此問題的關切。



James Bulger於1993年在購物中心被兩名年僅10歲的男童Jon Venables和Robert Thompson綁架，並被帶到鐵軌附近虐待致死。此案震驚英國社會，Venables和Thompson也成為英國近代史上最年輕的謀殺犯。



James Bulger Memorial Trust主席Kym Morris指出，政府可以修正《網路安全法》，納入針對有害AI生成內容的具體保護措施，並制定新的法律來涵蓋合成媒體和AI濫用問題。 Morris強調，這並非審查言論，而是為了保護受害者及其家屬的尊嚴、真相和情感健康。



儘管政府消息人士表示，發布這些影片的用戶可能因違反《通信法》中關於淫穢或不雅材料的公共秩序罪而被起訴，但網路安全倡議者認為，需要收緊關於移除有害內容的規定，以堵住法律漏洞。



英國政府表示，正在透過《網路安全法》採取有力行動，並將毫不猶豫地採取進一步措施來保護兒童的網路安全。