製造真相屬憲法表意自由?當臉都能「偷」 台灣深偽技術管制腳步凌亂(陳柏良專文)

網路流通的不實訊息難以管制,如今深偽技術的多重使用可能性恐為社會帶來更嚴重的衝擊。示意圖。(資料照,美聯社)

日前YouTuber小玉透過深度偽造技術,製作多位政治人物與實況直播主的成人片影像,引起軒然大波。此案不僅觸及線上的不實訊息應如何在《憲法》表意自由權的框架下予以管制的難題,也突顯深偽技術對於性隱私權、國家安全及選舉制度的重大挑戰,值得執政與立法者正視。

當代民主國家,正面臨應如何管制製造或傳播不實訊息(disinformation)或假新聞的難題。深度偽造(Deepfakes,簡稱深偽)因大量合成製造影片、畫面與音軌,混淆或稀釋閱聽人辨識資訊的可信性指標與真正性跡證,嚴重動搖人類的知識與社會實踐的基礎。

立法者除應關注深偽技術對於性隱私權的相關立法外,也應留意該技術的普及應用,對國家安全及民主制度的潛在衝擊,並即早修正《公職人員選舉罷免法》、《總統副總統選舉罷免法》、《公民投票法》等相關法制,就利用深偽技術的資訊製作者、散布者,及網路平台業者,課以強制揭露及查證義務。

合成製作栩栩如生 恐干預選舉、衝擊國際關係

深偽乃搜集特定人物的畫面、影像或音軌後,透過人工智慧與機器學習,結合人臉辨識技術,撈取資料庫的的畫面或影像,合成製作出栩栩如生,貌似該人物說話或行動的畫面或影像,顯著提高人類偽造畫面、音軌或影像的能力。

20210920-總統蔡英文。(柯承惠攝)
日前有網路名人以深偽技術牟利引發社會關注,總統蔡英文(中)更親自喊話盼能杜絕。(資料照,柯承惠攝)

生成對抗網絡(Generative Adversarial Network,GAN)由生成網絡(generative network)以及判別網絡(discriminative network)共同組成。生成網絡係由隨機抽取樣本輸入,盡量模仿訓練的真正樣本後再輸出。判別網絡係由真正樣本或生成網絡的輸出作為輸入來源,將生成網絡的輸出從真正樣本中分辨出來為目的;生成網絡以欺騙判別網絡為目的。透過2個網絡相互對抗、持續調整參數,最終使判別網絡無法判斷輸入的資訊,是來自於生成網絡的輸出,或是來自於真正樣本。

影像竄改並非始於今日,不論是調整照片或影片色彩、亮度或品質之Photoshop,早已被廣泛使用。相應地,電子鑑識技術以區辨照片或影片是否經過數位方式調整,也已發展出自動辨識技術,不再大量依賴人類的肉眼進行辨識。深偽技術的出現,打破影像竄改與電子鑑識真偽技術間的動態平衡。

深偽技術有多重使用可能性,目前最廣泛的應用方式乃是合成製作色情影片,約有高達96%的線上深偽影片屬於色情影片,且被合成者多為女性名人。深偽可能造成被描繪人情緒或心理極大的困擾,甚至對影片中的被描繪人構成騷擾。此外,深偽影片也被用於指涉特定政治人物,影響選民對該公職人員或候選人的觀感與喜好,達到干預選舉結果的目的,甚至透過製造、散布深偽影片(例如:製造恐怖攻擊、國家領導人的開戰宣言等),衝擊國際關係。

近期案例是美國聯邦眾議院議長Nancy Pelosi在眾議院內的演講,聲音遭放慢,貌似酒醉口齒不清的影片。該影片嗣後雖經證實使用深偽技術,然臉書、推特等社群媒體平台,第一時間未移除該影片,導致該影片短期間內觸及超過250萬使用者。

美國總統川普彈劾、解職審判關鍵人物,眾議院議長裴洛西(Nancy Pelosi)(AP)
美國眾議院議長裴洛西(Nancy Pelosi)曾是深偽技術「受害者」。(資料照,美聯社

有鑒於深偽技術的各種潛在威脅,美國加州、德州、維吉尼亞州及聯邦立法者,有兩種立法管制模式予以回應。

選舉法模式:美國加州、德州

德州為全美第一個對深偽技術立法,並對使用者或散布者課以刑事責任的州。德州議會於2019年6月14日立法通過,同年9月1日正式生效。德州議會修正選舉法255.004條,增訂(d)、(e)兩款,處罰意圖影響選舉結果,以深偽技術製造欺騙性影片。該州立法如下:(d)任何人,意圖傷害候選人或影響選舉結果,在選舉前30天,製造和散布深偽影片,處1年以下有期徒刑,併科4000美元以下罰金。(e)深偽係意圖欺騙,而製造指涉真實人物實際未發生的行動舉止影片。

加州議會對於深偽,分別修正民法及選舉法。民法部分,加州議會修正1708.86條,賦予遭深偽影片描繪性行為或身體私密部分的被害人,有提出暫時性禁制令(類似我國定暫時狀態假處分)與懲罰性賠償金的權利。

選舉法部分,加州議會在2019年通過修正20010條,要求在選舉前60天,禁止未經合理標註,且在具備真實惡意的心態下(actual malice),製造或散布指涉該候選人的重大欺騙性影像或畫面(Materially deceptive audio or visual media),以避免損害候選人名譽或欺騙選民支持或反對特定候選人。該立法乃因應深偽技術對2020年及2022年聯邦及地方選舉威脅的限時性立法,僅生效至2023年1月1日。該法亦提供候選人於選舉前,若發現有關其自身的深偽影片、畫面或音軌,得向加州法院提請禁制令。

2016美國總統大選8日開始投票,一名加州選民開心和女兒在投票所自拍。(美聯社)
針對深偽技術,加州分別修正民法及選舉法。圖為加州選民於投票所自拍,非關新聞個案。(資料照,美聯社)

但在保障表意自由權的框架下,加州議會為避免侵害《憲法》保障的表意自由權,對以下4種情形設置例外免責條款:1. 大眾傳播公司(包含:衛星及有線電視公司、廣播公司從業工作者)製作、播放。2. 諷刺或戲謔模仿作品。3. 大眾傳播公司或其他新興新聞頻道,基於善意,將深偽影片、畫面或音軌,作為新聞、紀錄片或新聞訪談的部分內容。4. 網站或其他定期對公眾發佈有關公共利益的新聞或評論,經合理揭露(disclaimer)者。

色情圖像管制模式:維吉尼亞州

針對深偽技術應用於色情部分,維吉尼亞州議會增訂18.2-386.2條,2019年7月1日生效。該法規定:任何人明知或可得而知,其未獲授權,意圖騷擾、恐嚇、脅迫,惡意散布或販賣描繪他人全裸,或暴露陰部、生殖器、臀部或女性胸部的影片或靜止圖像,構成一級輕罪(1年以下有期徒刑,併科2500美元以下罰金)。「他人」包含被用以製造、調整或修正真實人物的影片或靜止圖像者;該真實人物因臉部或其他特徵而得以辨識。

然維吉尼亞州立法者,於該條第二項特別針對網路服務提供者、電子郵件提供者或資訊服務、系統或近用軟體服務提供者,訂立免責條款。

美聯邦國會提國防授權法、深偽責任法草案因應

美國聯邦國會針對深偽技術對於國家安全及社群溝通信賴基礎的衝擊,有兩方向的回應。對於國家安全部分,美國聯邦國會於2019年通過的National Defense Authorization Act for fiscal year 2020(2020年美國國防授權法,NDA)。該法要求:1.國家情報局必須對外國政府利用深偽技術作為武器進行完整報告。2.要求國家情報局於NDA通過6個月內,通知國會情報委員會有關外國政府利用深偽技術或不實訊息干預美國選舉的情況。3.編列特別預算舉辦競賽,獎勵民間機構或學術單位發展反制/偵測深偽影片或音軌的技術。

對於社群溝通信賴基礎部分,美國聯邦眾議員Yvette Clarke在2019年6月,提出聯邦深偽責任法草案(Deepfake Accountability Act),要求所有以新興科技方式「冒用身分的電磁紀錄」(advanced technological false personation record),都須加註標記、加蓋浮水印或以音軌方式,明確且清晰地揭露。

20211030-美國聯邦眾議員Yvette Clarke(取自Yvette Clarke臉書)
美國聯邦眾議員Yvette Clarke提出聯邦深偽責任法草案。(取自Yvette Clarke臉書)

該草案對於立法例幾個關鍵用語定義如下:「冒用身分的電磁紀錄」係指:利用深偽技術,足使理性人依照影像及音軌品質及傳遞頻道性質,誤信遭指涉之特定人曾為特定實質活動;或足使理性人誤信某往生者曾為特定實質活動,有促進犯罪行為或干預行政程序、公共政策辯論或選舉之實質風險。且該影像或音軌之製作,未獲該特定人或往生者之繼承人同意。「實質活動(material activity)係指遭捏造的言論、行為或其他描寫方式,已生或足生個人或社會危險。

若使用深偽技術之影片製作者,違反揭露義務,且意圖羞辱或騷擾,合成製作性行為或裸體影像;或意圖造成暴力、傷害、挑唆武裝或外交衝突;或意圖干預選舉,合成製作冒充的個人資料;或意圖詐欺;或為境外勢力,或為其代理人,意圖干預境內公共政策辯論或聯邦或地方選舉,課以5年以下有期徒刑之刑事處罰。

「法官從未對虛偽言論表態」 台灣民主應在乎真相

虛偽言論的「內容」,受《憲法》表意自由權保障。但台灣或美國大法官從未對訊息「來源」(source)或「媒介」(medium)予以竄改的虛偽言論,有任何表態。在網路時代,閱聽者可以由陳述的來源(例如:專業媒體、醫療、司法機構或從業工作者)或媒介(文字、畫面、影片或音軌),作為分辨真正與虛偽資訊的可信性指標(indicia of reliability)或真正性跡證(authenticity)。

深偽混淆或稀釋閱聽人辨識資訊的可信性指標與真正性跡證,嚴重動搖人類知識與社會共識基礎。該技術的廣泛運用,民主共同體成員將對事實與真相缺乏共識,造成集體情緒凌駕客觀或科學證據。共同體成員間,對於基礎事實的認知與觀點,延續黨派、意識形態或身分認同的多重社會分歧線撕裂,甚至出現公民社群對基礎事實認知與共識全面破碎化的後真相現象,從而造成民主體制的系統性危機。

我國現行《選罷法》(第52條及104條)及《總統選罷法》(第48及90條)均對政治文宣採取實名制。但對於文宣的定義,依中選會解釋,僅限於紙本,不包含數位文宣。《公投法》更對實體及數位文宣,採自由放任態度。2018年行政院兩選罷法修正案,仍延續過去中選會立場,對數位文宣未為任何著墨,更遑論深偽技術。

本次公投打破「魔咒」,共有7件公投案成立。(郭晉瑋攝)
我國現行法令明訂政治文宣須採實名制,但不包含數位文宣。示意圖。(資料照,郭晉瑋攝)

選舉制度乃是民主制度的核心,政治謊言以欺騙選民方式,使選民在候選人間做出錯誤選擇,或是以錯誤方式參與投票,降低公共論壇或辯論品質,從而使選民不信任選舉程序,將造成民主制度系統性危機。

借鏡國際 修訂《選罷法》、《總統選罷法》、《公投法》

建議我國立法者宜參考外國立法例,修訂《選罷法》、《總統選罷法》及《公投法》:1. 明文禁止境外勢力或外國人或法人,利用深偽技術製作或散布數位文宣。2.要求達一定使用者的大型社群媒體、影音與搜尋引擎平台業者,以業界合理技術偵測,強制標記曾使用深偽技術的影像、畫面與音軌。3. 在競選期間,宜提高網路平台業者,對使用深偽技術的政治訊息與數位文宣,課以高密度偵測義務及授與廣泛的移除權限。

4. 在競選期間對所有製造或散布深偽的政治影片或音軌者,課以強制揭露義務,並增訂相關罰則。5. 針對製造或散布未經當事人授權的深偽色情影片或音軌,課以刑責。6. 針對境內外政治勢力或政治經濟利益團體,利用深偽干預我國的國際(或兩岸)關係,或干預我國選舉或公民投票,應課以相關機構向立法院及時報告的義務!

*作者為美國華盛頓大學法學博士,現為政治大學創新國際學院助理教授、政治大學法學院合聘助理教授

讓事實說話,讓政治人物不敢說謊話

──《新新聞》需要您的贊助支持

在1987解嚴那一年創立的《新新聞》,秉持「公正」、「真實」、「進步」的信念,我們在紙本媒體時代曾創造了「讓事實說話,讓政治人物不敢說謊話」的口碑,如今我們要在網路媒體時代把這個責任延續下去。

我們要打造獨立自主的優質媒體,才能無所偏倚、無所忌憚、發揮專業能力,全心全力檢視公共政策,以監督政府,滿足人民知的權利。

這一切都需要您以實際行動支持我們──就是現在,請您與《新新聞》攜手前進!