● 顏廷棟／銘傳大學財金法律系教授
網紅小玉利用人工智能AI Deepfake變臉科技軟體，將多名網紅及政治人物的臉部圖像，合成到色情影片角色身上，並在網路公開販售牟取暴利。
蔡總統聞訊後震驚表示，此類犯罪手法有一天可能傷害到你我，這些假訊息、假影片可能威脅到台灣民主制度，尤其是疫情期間試圖擾亂人心，因此強調政府加強資安維護工作及推動修法打擊網路犯罪的決心。
▲針對此次Deepfake爭議，蔡總統表示，政府會重新盤點法規，並研擬推動修法工作。（圖／翻攝自Facebook／蔡英文）
依照現行法律規定，小玉的變臉行為可能構成的犯罪為，刑法第235條「製造、播送及販賣猥褻影音紀錄物品罪」、第310條「散布圖畫毀損他人名譽加重誹謗罪」；此外，小玉非法更改他人電腦圖像個資檔案，致妨害個資檔案正確足生損害於他人，違反個人資料保護法第42條規定。
AI如何影響民主社會
以上犯罪行為，最重可處5年有期徒刑及併科一百萬元罰金。至於以假訊息散播流行病疫情之謠言，依傳染病防治法第63條規定，得科三百萬元以下罰金。蔡總統可能認為這些違法行為情節重大，有必要修法加重刑責處罰。
說到人工智能與民主制度的關係，近年歐美先進國家關注的焦點是，政府機關使用AI人臉辨識系統（FRS）有無侵害人權之虞的問題。
例如，美國審計總署（GAO）今年8 月公布的調查報告，指出人權維護團體不滿各州及聯邦政府機關普遍使用FRS侵害民眾隱私權，尤其是對於有色人種辨識誤差導致執法過當的人種差別待遇問題表達抗議，因此引起IBM、Amazon、Microsoft等科技大廠響應拒售辨識系統給警察、出入境管理局等機關。
又如，歐盟委員會在今年4月提出「人工智慧管理法草案」，依據AI發展及使用風險高低，分成不可接受的風險（Unacceptable risk）、高風險（High-risk）、有限風險（Limited risk）及最小風險（Minimal risk）等四類。
▲歐盟委員會在今年4月提出「人工智慧管理法草案」。（圖／EUROPEAN COMMISSION）
其中，對於明顯威脅人身安全、生活與權利的AI系統絕對禁止。此外，遠端生物辨識系統被歸類為高風險系統，原則禁止在公共場所為執法目的而使用；僅例外在尋找失蹤兒童、防止緊急恐怖攻擊活動、偵測重大刑事案件嫌疑人等特定情形，始得被司法或其他獨立機關授權許可使用。
倘若企業提供或使用AI技術違反管制規定，最高將被處3,000萬歐元或全球營收6%金額的罰鍰。儘管業界對此法案發出可能增加AI使用成本、限制科技創新的反彈聲浪，但歐盟仍然堅持推動法案以建立安全安心AI使用環境的必要性。
相較於歐美AI系統使用規範，我國相關法制顯然不足。是以盡速完成設立數位發展部等相關法案立法工作，統合資安、AI、軟體、電子商務，數位內容等產業發展政策及資通安全管制措施，應是政府當局刻不容緩的施政課題。
熱門點閱》
► 朱楚文／釐清個人投資「技能樹」 是投資小白關鍵「第一課」
► 孫維德／新加坡、英國政府主動出擊 推動國家金融科技能力發展
► 解讀經濟學人》林建甫／大宗商品價格在亂 但不到金融危機程度
●本文獲授權，轉載自《聯合報》，原標題為「管AI變臉 也要管政府辨臉」。以上言論不代表本網立場，歡迎投書《雲論》讓優質好文被更多人看見，請寄editor88@ettoday.net，本網保有文字刪修權。
我們想讓你知道…說到人工智能與民主制度的關係，近年歐美先進國家關注的焦點是，政府機關使用AI人臉辨識系統（FRS）有無侵害人權之虞的問題。