震驚全球的韓國「N號房」案件主犯趙主彬仍在服刑，加大針對數字性犯罪處罰力度的「N號房預防法」實施也已近3年，但當下韓國又被借助深度偽造技術實施的性犯罪帶來的恐懼所籠罩。在社交媒體上，特別是「電報」（Telegram）聊天室中，針對女性的深偽色情內容被廣泛傳播，波及到大量未成年人、女大學生、女教師、女兵等。《韓民族日報》報導稱，深度偽造性犯罪已讓韓國女性「陷入恐慌」。韓國女性民友會日前發表聲明稱，女性失去日常生活的安全感，「仿佛生活在沒有國家的狀態中」。近日，韓國媒體和專家紛紛就造成深度偽造性犯罪潮的複雜原因展開反思，這背後既有人工智慧技術發展帶來的新風險，也有韓國青少年性教育的缺失和法律意識的淡薄，還有懲罰力度弱、國家機關人手短缺以及結構性性別歧視等一系列問題。
  深度偽造+機器人分發+加密交易
  《韓國時報》今年4月報道稱，隨著數字技術在人們的日常生活中發揮越來越大的作用，韓國超過1/4的性犯罪都是借助數字設備實施並在網路上發生的。韓國統計廳的報告顯示，韓國數字性犯罪數量已連續兩年增加一倍以上。《韓國先驅報》報導稱，當下，一些不法分子開始以惡劣的方式利用網路平臺的新功能，數字性犯罪正呈現出新形式，更難預防和打擊。
  深度偽造是在生成式人工智慧（AI）近兩年迅猛發展後被最新運用到數字性犯罪中的技術。韓國《亞洲日報》分析稱，韓國「Z世代」對生成式AI接受能力強，普遍對其持積極態度。三星近日面向韓國、美國、英國、法國、德國的「Z世代」上班族進行調查發現，在業務上需要幫助時，韓國受訪者最優先選擇AI的占比高達80%，顯著高於其他國家。專家認為，這一方面說明AI在韓國賦能範圍廣、影響程度深，另一方面也提醒人們，AI的潛在風險更不容忽視。
  據韓國《時事》雜誌8月31日報道，目前在很多海外網站上都能用深度偽造技術製作色情內容。有些網站只要輸入合成對象的社交媒體鏈接，就能製作色情內容，甚至還有調節對象身材等功能，整個生成過程只需要不到兩分鐘。韓國女性人權振興院自2018年設立數字性犯罪受害者支援中心以來，截至今年8月25日，共向2154名深度偽造性犯罪案件受害者提供幫助，僅今年就有781人求助。照此趨勢，今年全年受害者恐超1000人。美國一家網路安全企業的研究顯示，全世界一半以上深偽性剝削內容受害者都是韓國人。
  韓國梨花女子大學媒體融合專業教授劉承哲（音）表示，除了內容生產，網路空間中非法內容的分發和傳播方式也已發生變化，這就是為什麼數字性犯罪在呈指數級增長的同時卻一直處於「隱藏狀態」。《時事》雜誌報導稱，「電報」具有加密聊天功能，這也是其避開調查機關追蹤、成為數字性犯罪巢穴的原因。加害者製作完深度偽造色情內容後，便通過簡單編程利用機器人進行內容分發。截至8月28日，首爾警方已確認8個相關機器人並展開調查。據悉，這些機器人最多可同時服務40萬人。
  在深度偽造性犯罪潮的背後，是一條涉及加密貨幣的利益鏈條。據韓國《今日亞洲》報導，「電報」聊天群運營者們初期會免費製作並傳播深度偽造色情視頻，後期便開始培養會員並收錢斂財。用戶一開始可以免費製作深度偽造色情內容，之後需要支付電報上的虛擬貨幣才能合成。而如果沒有虛擬貨幣，可以通過邀請新用戶獲得貨幣。今年4月，「電報」開始向擁有1000名以上訂閱者的聊天群群主支付廣告收益，該收益只能通過加密貨幣支付，對用戶的匿名性有很徹底的保障。目前，「電報」上的一個非法深度偽造內容製作頻道的訂閱者數量已經超過27萬。
  韓國《世界日報》報導稱，事件曝光後，聊天室運營者們仍在有組織地繼續開展活動。一些聊天室被關閉後，會以「避難所」等其他形式重新開放。用戶們通過邀請鏈接加入，一個聊天室可能瞬間超過2000人。甚至在某聊天室裏，有用戶煽動道：「即使新聞報導出來，也不要害怕，讓我們淩辱熟人，淩辱寫報導的記者。」
  《韓民族日報》報導稱，大部分深度偽造性犯罪受害者都要經歷面對自己的臉被合成到色情圖像視頻中的痛苦。但是在韓國社會中，深度偽造性犯罪的嚴重性被大大低估，即使這種性犯罪廣泛發生的事實被曝光後，也有不少韓國線民表示「不知道這種犯罪為什麼會造成很大的傷害」「如果是幾個人自己製作的，傷害應該很小吧」。首爾大學媒體資訊學教授金秀雅（音）表示：「數字性犯罪法規體系以受害者是否感受到性羞恥為中心，但人們會以合成圖裏的身體不是真實存在的為由，將深度偽造性犯罪視為比非法拍攝嚴重程度更低的犯罪。」她強調：「但無論這種影像是否是真實的，只要有這樣的影像存在或有這樣的傳聞，受害者就會經歷痛苦。」
  七成加害者為10至19歲青少年
  值得關注的是，在近期的深偽性犯罪浪潮中，未成年人的涉案之廣。韓國總統尹錫悅8月27日表示，此次曝光的事件中，不少受害者是未成年人，加害者也大多是十多歲的青少年。據韓聯社8月30日報道，韓國近3年深度偽造性犯罪案件受害者中未成年人占比近六成，而涉嫌製作虛假色情視頻被立案的加害者中，10-19歲人群的占比去年達到75.8%，今年1至7月為73.6%。
  「這不是突然在青少年中爆發的，而是一直存在。」首爾青少年文化中心主任李明和（音）表示，「深度偽造正像一種遊戲文化一樣傳播開來。」《韓國時報》報導稱，儘管教育部已作出努力，但校園暴力事件仍在激增。從校園暴力的類型來看，身體暴力和辱罵最常見，而性暴力和網路暴力緊隨其後。
  目前，一些深度偽造案件加害者的父母開始為了保護自己的孩子展開行動。韓國紐西斯通訊社8月28日報道稱，繼深偽性犯罪受害地區和學校等資訊被曝光後，加害者名單也開始在社交媒體上流傳，其中一些據推測是十多歲男學生的父母正在委託相關公司刪除社交媒體上關於自家孩子的資訊及其使用深偽技術製作的非法圖像。
  《韓國先驅報》報導稱，未成年人性觀念的扭曲和法律意識的淡薄，助長了此類內容的氾濫。漢沽嶺南大學社會學教授許昌德（音）表示，在韓國社會，談論性仍是一個禁忌，人們在家庭和課堂上都避免討論性問題，導致韓國年輕一代對性缺乏充分瞭解。許多年輕人只能通過互聯網和色情作品瞭解性，這往往導致他們對性的看法扭曲、態度不健康。根據教育部的指導方針，目前韓國小學、初中和高中每年的性教育時間為15個小時。教育部對地方層面的性教育沒有標準化指導，性教育課程也常由韓語、英語、體育等科目的老師代為教授。此外，韓國官方媒體和學校也沒有對性犯罪進行足夠的普法教育，所以網路上的案件曝光只會激起學生的獵奇心理，使得他們更容易模仿或參與數字性犯罪。
  近日，韓國專家呼籲學校用更系統的方式開展性教育，並強調需要更新課程內容以反映當前的社會問題。韓國翰林大學社會學教授申慶雅（音）建議，將性別平等教育納入正規學校課程，並更頻繁地教授此類課程，例如每月一次。她說：「學生從小就開始接觸數碼設備，因此應儘早開始這種教育，確保他們從小學低年級開始接受統一指導。」
  「說到底，預防深度偽造性犯罪的根本措施不就是通過教育讓人們不要成為犯罪者嗎？」韓國未來技術文化研究院院長河敏會（音）9月2日刊文稱，如此多未成年人參與深偽性犯罪表明，韓國的數字公民教育和媒體素養教育沒有得到落實。在她看來，對「技術該用來做什麼、不該用來做什麼」的正確認知比掌握技術更重要。相比較之下，越來越多的美國大學要求新生接受媒體素養培訓，包括如何理智地使用媒體、如何適當地撰寫評論等，但這些在韓國並沒有被教授。
  「大多數參與者都沒受到懲罰」
  據韓國《亞洲經濟》報導，政府宣佈對深偽性犯罪採取強有力回應後，一個討論如何應對調查的線上社區隨之出現，不少加害者或其父母在社區中表達擔憂。一位用戶發帖問：「我的兒子在一個深偽聊天室中，這樣可以嗎？」該社區一名管理層用戶揚言：「4年前發生過類似的事情，除了主犯和幾名共犯外，大多數參與者都沒受到懲罰……聊天室裏的孩子們可以放心。」
  「在英國和美國，製作深偽內容就會受罰。在韓國，只有分發才會。」韓國《朝鮮日報》報導稱，根據韓國《性暴力犯罪處罰等相關特例法》第十四條第二款，任何人對他人的面部、身體、聲音或視頻進行淫穢編輯、合成或傳播，將被處以最高5年監禁或最高5000萬韓元的罰款。但如果無法充分證明加害者想分發該內容，只是製作和觀看是不會受到懲罰的。相較之下，英國司法部今年4月宣佈，利用深度偽造製作色情內容的人將被定罪，無論是否共用或分發。今年7月，美國參議院也通過法案，對深度偽造內容受害者進行賠償。9月1日，美國加州立法機構批准打擊深度偽造相關提案的做法也受到韓媒的關注。
  事實上，「N號房」事件被曝光後，韓國國會也通過了被稱為「N號房預防法」的《資訊通信網法》修訂案，並於2021年12月生效。修正案已實施近3年，但關於其效果有限的討論一直存在。8月28日，用大學校友等數十名女性的照片非法合成色情內容的案件，即「首爾大學非法合成物性犯罪案」的共犯在一審中被判處5年有期徒刑，這是該案涉案人員首次被判刑，但也有批評聲音稱處罰過輕。8月29日，韓國執政黨國民力量黨和政府決定，將制定加強深度偽造性犯罪處罰力度的立法，包括考慮將傳播深度偽造色情視頻的刑期上限由5年提高至7年，以及降低「觸法少年」（10歲以上未滿14歲不受刑事處罰）最低年齡標準。韓國教育部近日還成立「應對校園深度偽造事件緊急工作組」，並宣佈違規學生可能會被開除。
  據《亞洲日報》報導，深度偽造性犯罪事態嚴重，但數字性犯罪受害者支援中心的預算預計明年將進一步被削減。韓聯社9月2日報道稱，儘管韓國數字性犯罪加害者可能達數十萬人，但在某些地區，偵查人員的數量反而有所減少。截至今年6月，韓國18個市道網路性暴力調查組總人數僅為131人。
  《韓民族日報》援引韓國女性人權專家金秀晶（音）的話報導稱，女性成為深偽色情內容的目標，「是因為不僅在日常生活中，在公共領域也不把女性視為平等存在的性別歧視觀念在起作用」。韓國女性民友會批評稱，這次集體犯罪是性別歧視的延長線，「政府此前還試圖廢除女性家族部，漠視女性的社會痛苦」。該組織呼籲：「政府應設立性別平等部門，制定跨部門、綜合性的長短期對策，以解決結構性性別歧視問題。」
  （莽九晨 韓雯／文）