南韓計劃投資91億韓圜開發系統 打擊深度偽造犯罪及假新聞傳播

南韓長期以來深受深度偽造（Deepfake）技術合成影像犯罪的困擾。社交媒體上的照片常被用於製作色情內容，甚至政界人士也曾受到合成照片等虛假內容的威脅。為了應對這些問題，當地政府和警方計劃投資91億韓圜（約4,800萬港元），開發一套能夠識別深度偽造和虛假資訊的系統。

根據韓聯社引述當地官員報道，南韓警方正計劃開發一套使用多模態演算法的系統。這個系統將通過分析噪音和聲音頻率來檢測深度偽造影片和AI生成的聲音，並追蹤資訊來源，以便在早期階段應對，阻止假新聞和錯誤訊息的傳播。預計該系統將在2027年12月前完成開發。

事實上，南韓政府近年來已經採取多項措施應對AI生成圖像、聲音以及深度偽造犯罪案件激增的情況。去年，當地政府通過了《關於處罰性暴力犯罪的特例法》修正案，規定持有、購買、保存或觀看深度偽造淫穢影像者，可被判處三年以下有期徒刑或3,000萬韓元罰金。而製作、散佈此類影像者的刑罰則從五年以下有期徒刑提升至七年以下。