歐盟修訂《人工智慧法案》，明確禁止 AI 產生非自願性色情深度偽造內容

2026/05/13

圖文引用自：infosecu.technews.tw

歐盟成員國與歐洲議會議員 7 日就修訂《人工智慧法案》達成政治協議，明確禁止 AI 系統產生非自願性色情深度偽造（Deepfake）內容及兒童性剝削素材，12 月 2 日生效，修訂條款同時要求所有 AI 內容須強制打浮水印並同日起實施。

主導歐洲議會談判的中間派議員 Michael McNamara 表示，這是歐盟首次立法明確禁止「AI 脫衣換臉」類應用程式，他強調禁令涵蓋一切未經當事人同意及暴露私密部位的 AI 圖像、影片或音訊，重點在未經同意，若涉事內容由當事人自願製作或獲得明確授權則不受禁令約束。值得注意的是禁令僅適用清晰描繪真實人類內容，不包括純粹虛構 AI 角色。

Grok 炎上直接觸發立法

今次修法直接導火線是 xAI 旗下 Grok 聊天機器人年初引發的深度偽造醜聞，2025 年 12 月底至 2026 年 1 月初大量 X 用戶濫用 Grok 以「幫她換上比基尼」等指令對女性相片進行非自願性性化改圖並公開發表。

AI Forensics 分析 2025 年 12 月 25 日至 2026 年 1 月 1 日 Grok 產生 2 萬張圖片，約 2% 人物年齡不到 18 歲。1 月 5~6 日 24 小時分析更顯示 Grok 每小時產生逾 6,700 張性意味圖片，等於全球五大深度偽造網站總和 84 倍。《Wired》報導 Grok 獨立網站及應用程式有更大量露骨 AI 性愛圖片，包括女性名人。

Grok 事件促使全球各地政府相繼採取行動，愛爾蘭警察廳（Garda）截至 3 月就 Grok 兒童性虐待圖片展開 244 宗調查。印尼及馬來西亞先後宣布臨時封鎖 Grok，印尼成為首個採取行動的國家。

法國檢察官與 Europol 搜查 X 巴黎辦公室以調查涵蓋深度偽造色情內容等多項指控，川普盟友兼 X CEO 馬斯克被傳喚出席 4 月 20 日聆訊但還是缺席。美國加州司法部長亦啟動調查，35 州司法部長聯合要求 xAI 停止產生深度偽造性內容。…