Sora效應! KPMG警告:「超級深偽」挑戰資安防線

▲▼OpenAI影片生成模型Sora範例影片。(圖/翻數字X/OpenAI)

▲OpenAI影片生成模型Sora範例影片。(圖/翻數字X/OpenAI)

記者陳瑩欣/台北報導

隨著OpenAI推出可以「一句話創造一分鐘AI高畫質影片」的Sora平台示範影片成品後,不但以眼球經濟為核心的影視藝術創作產業受到巨大的震撼,更有潛在資安風暴正在生成。

KPMG安侯企管董事總經理謝昀澤表示,過去一段時間,以生成式AI技術創作或偽冒影片的深假技術(Deepfake)越來越普及,但多數影片都無法達到高畫質、長時間,且多鏡位的品質,深偽的工具使用門檻也較高,使用者仍有機會肉眼識別。但Sora的橫空出世,卻一舉突破了這些障礙,其根據簡單的提示詞,所生成的4K超高畫質影片,真實感已經達到專業人士難以分辨真偽的程度。

[廣告]請繼續往下閱讀...

謝昀澤認為,過去大家都擔心會有超越專家能力的「超級人工智慧(Super AI)」出現,但是現在「超級深偽(Super Deepfake)」欺詐技術,已隨著越來越多的網路AI影音服務就在眼前,如果沒有適當的風險控制,將形成「深偽即服務(Deepfake as a Service, DaaS)」暗黑產業鏈。

謝昀澤強調,儘管Sora最初的目的是推進AI領域的創新,但其帶來的潛在風險不容被忽視。這項技術不但可能被用來製造更加精細和難以辨識的假新聞,對公眾意識形態、選舉、乃至國家安全構成前所未有的挑戰,連過去傳統的資安防護與認證基礎工程,如遠距身分識別等機制,都可能被撼動。

KPMG安侯企業管理股份有限公司執行副總經理林大馗依據近期資安情資分析,有多起犯罪集團利用深偽技術生成的AI人像來欺騙金融機構面部識別系統進行詐貸;更有多宗利用深度偽造技術針對跨國公司進行詐騙的事件,更造成了至少8億台幣的損失,顯示了以AI深偽技術結合傳統詐騙手法的「新智慧詐騙工程」正在蔓延。

謝昀澤認為要防止被Sora等AI影片「耍啦」,必須有要靠「使用者提升AI風險素養」,及「服務廠商建構AI內容的透明度與可識別度」等兩大防禦策略。

謝昀澤提醒,使用者對網路影音過去的認知是「有片有真相」,以後要轉變為「保持懷疑,確信來源」,才能夠在生成式AI普及的網路世界中,具備基本的「防深(偽)術」。

林大馗也建議應用生成式AI提供服務的企業或服務提供商,未來的資安不只要重視傳統的「機密性」,並於所產出的成品提供「透明的告知或識別」,讓使用者可以輕易分辨是AI生成的內容外,更要對「真實性」加強驗證,建構足夠的防偽機制。

例如,針對所欲發佈影音檔案,使用AI反偽冒工具,透過在原始檔中添加雜訊或其他浮水印的技術,來阻擋超級深偽的偽冒或複製;企業在高風險的網路交易中,可考慮以零知識證明(Zero-knowledge proof, ZKP)不透漏使用者自身資訊等新型密碼學技術,進行身分認證。

林大馗表示,生成式AI究竟會成為未來眼球經濟的「沉浸式利器」還是「沉沒式利刃」,關鍵就在資安防護能力。

關鍵字: AI影片生成資安深假技術Sora

分享給朋友:

※本文版權所有,非經授權,不得轉載。[ETtoday著作權聲明]

推薦閱讀

股匯雙殺!台積電失守800元指數挫逾270點 台幣貶破32.4

股匯雙殺!台積電失守800元指數挫逾270點 台幣貶破32.4

股匯雙殺!受到國際地緣政治因素影響,資本市場空襲聲浪四起,日韓股今(16)日開盤重挫逾1.5%,台股也殺聲隆隆,開盤11分鐘,台積電跌9元至797元,跌幅超過1.12%,指數殺逾270點來到20177.64點。

2024-04-16 09:17

台積電800元保衛戰!跌5元至801 指數跌170點失守20300

台積電800元保衛戰!跌5元至801 指數跌170點失守20300

美國周一(15日)全面收跌,台股今(16)日續走跌,下跌84.66點、20365.11點開出,跌勢擴大,指數下挫170點,20300失守,台積電(2330)下跌5元至801元,800元保衛戰。

2024-04-16 09:02

5檔銅板價市值型ETF出列!它報酬最好、股價最便宜

5檔銅板價市值型ETF出列!它報酬最好、股價最便宜

台股創新高,市值型ETF股價也隨漲船高,不過,元大台灣50(0050)、永豐臺灣加權(006204)好貴,一張要10多萬元,很多人根本買不起!沒關係,還有FT臺灣Smart(00905)、永豐台灣ESG(00888)等五檔市值型ETF,只要銅板價就可入手。其中,00905最優。

2024-04-16 08:00

台驊與萬泰新任總座謝齡誼、練崇德 分別來自鴻霖與長榮

台驊與萬泰新任總座謝齡誼、練崇德 分別來自鴻霖與長榮

海空運承攬業今年兩位新任總座,台驊控股的航空事業部總經理謝齡誼、萬泰物流供應鏈公司總經理練崇德,都是業界知名專業經理人,謝齡誼原在國內第二大航空貨運承攬公司鴻霖擔任華中區總經理,練崇德則是長榮海運前業務副總經理。據了解,台驊主要借重謝齡誼在大陸電商市場的業務能力,萬泰則是借重練崇德在貨櫃船運的完整資歷。

2024-04-16 02:08

30萬人搶進!00679B規模衝破2000億 刷新美債ETF紀錄

30萬人搶進!00679B規模衝破2000億 刷新美債ETF紀錄

市場把握美國利率維持相對高檔機會,加速進場長天期債券ETF,其中規模最大、投資人最多的元大美債20年(00679B)經過13次追加募集,至4月15日最新規模突破2000億,受益人來到30萬,成為首檔達成此里程碑的債券ETF。

2024-04-16 00:12

5大銀行3月信用卡刷爆2344億 中信銀4項指標全稱王

5大銀行3月信用卡刷爆2344億 中信銀4項指標全稱王

3月信用卡戰蹟出爐,5大銀行單月刷卡金額共達2344.88億元,累計2024年第1季刷逾7261億元。中信銀光是3月在流通卡數、有效卡數、簽帳金額與發卡量等4大指標皆稱冠,市場估計中信銀2024年第1季刷卡金額已破1733.53億元,若刷卡成長動能不變,有望在4月衝破2000億元大關。

2024-04-16 00:01

靠台積電神救援!台電4機組故障 北台灣差點大停電

靠台積電神救援!台電4機組故障 北台灣差點大停電

受到地震影響,今(15)日傍晚起台電共有4部發電機組跳機,台灣供電吃緊,備轉容量率一度低於3%,但因連開兩場供電運轉會議,透過各項緊急調度機制,協調台積電等大廠減少用電,才確保國人供電安全,避開北台灣大停電的危機。

2024-04-15 20:48

MSC船隻遭伊朗扣押 英美法籍船隻恐短期內不敢進波斯灣

MSC船隻遭伊朗扣押 英美法籍船隻恐短期內不敢進波斯灣

本月13日,伊朗革命衛隊在荷莫茲海峽扣押了全球最大貨櫃船公司地中海航運(MSC)租用的一艘貨櫃船,因為該船是登記在英國的公司,由以色列商投資,美國和英國呼籲立即釋放被伊朗扣押的「MSC Aries」號貨櫃船。海運界高階分析,目前伊朗與以色列間屬於報復性的紛爭,不算是戰爭,但估計與伊朗關既不好的英美法籍船隻短期內會避開航行波斯灣。

2024-04-15 20:29

台北國際工具機展明年30周年 4月23日啟動參展報名

台北國際工具機展明年30周年 4月23日啟動參展報名

由外貿協會與機械公會共同主辦的「台北國際工具機展(TIMTOS)」將於2025年3月3-8日盛大舉辦,明年屆滿30周年,展覽地點將橫跨南港展覽1、2館及台北世貿1館,總體規模預計超越2023年,逾1,000家廠商使用6300個攤位,穩居台灣規模最大也最具國際指標性的工具機專業展。

2024-04-15 18:19

外資倒貨!狠砍聯電2.4萬張 00929遭賣超5.5萬張殺最兇

外資倒貨!狠砍聯電2.4萬張 00929遭賣超5.5萬張殺最兇

外資今(15)日賣超台股267億元,狙擊重心鎖定晶圓雙雄,其中聯電(2303)倒貨2.4萬張,聯電也因此股價受挫失守52元大關,終場以51.6元作收,跌幅2.09%;台積電(2330)則被賣超1.18萬張名列單日賣超第6大。

2024-04-15 18:16

讀者迴響