張瑞雄／台北商業大學前校長
2024年的選舉週期將成為世界各地民主國家的關鍵，全球一半以上的人口將參與投票，但是一種新的威脅正在出現，它有可能破壞人們對選舉過程的信心，並播下混亂和不和的種子，那就是AI生成的深度造假（Deepfake，又譯「深偽」）的興起。
深度造假是指使用AI來合成音訊、影像或影片，隨著AI的快速發展和生成式AI工具的日益普及，建立高度真實且令人信服的深度偽造品變得相對容易，這讓人們對該技術可能被濫用於惡意目的的擔憂，特別是在選舉時空下。
選舉中的深度造假的主要擔憂之一是虛假訊息和誤導性宣傳的傳播，任何人都有可能製造出深度偽造品，描繪他們的對手處於不妥的情境，或發表對手從未真正發表過的有爭議的言論。然後這些假影片或聲音片段可能會在社群媒體平台上有策略地發布和放大，從而造成混亂並影響公眾輿論。
這種策略不僅會損害特定候選人的可信度，還會削弱對選舉過程本身的信任。 如果描述選舉舞弊或選民操縱的深度造假廣泛傳播，可能會導致人們對選舉結果的公正性產生懷疑，從而可能引發內亂和政治不穩定。
深度造假的擴散也可能對政治參與產生寒蟬效應，特別是對某些群體。女性和少數族裔候選人可能會成為深度造假的不成比例的目標，從而導致人格暗殺和網路騷擾，阻礙個人競選公職或參與政治。
因應選舉中深度造假帶來的挑戰是一項複雜且多方面的工作，需要政策制定者、科技公司和民間社會組織等各利益相關者的共同努力。
在監管方面，一些國家已開始推出遏制深度造假傳播的法律和準則，特別是在選舉背景下。這些措施包括對製造或傳播欺騙性深度假貨的罰款和處罰，以及對AI生成或操縱的內容強制披露要求。
這些法規的實施和執行仍然充滿挑戰，網路的去中心化性質以及深度造假的跨境傳播速度之快，使得各個司法管轄區很難自行有效地解決這個問題，重要的是協調一致的國際努力與合作和制定強而有力的法律架構和執行機制。
社群媒體平台和AI科技公司在打擊深度造假的傳播方面也可以發揮重要的作用，許多公司已承諾實施內容審核政策、偵測工具和內容來源系統等措施來識別和標記AI產生的內容，但是要避免意外的後果，如審查或壓制合法內容，這些都需要謹慎和深思熟慮的方法。
除了監管和技術解決方案之外，也需要對大眾進行媒體素養和批判性思考教育，以提高人們對深度造假的存在和潛在危險的認識，這樣每個人在分享或相信資訊之前能以更敏銳的眼光來進行事實查核。
深度造假帶來的威脅清楚地提醒我們現代民主國家在數位時代面臨的挑戰，雖然該技術本身是中立的，但其濫用和操縱的可能性突顯了需要採取積極措施來預防，以維護選舉過程的公正和完整性。
在監管AI生成內容的使用與保護言論自由和創新之間取得適當的平衡將是一項微妙的任務，但是不採取行動並不是一種選擇，因為不受控制的深度造假擴散的後果可能對選舉的可信度和民主社會的基礎造成毀滅性的打擊。雖然這是一項艱鉅的挑戰，但還是必須面對，以保護民主進程的公正性並確保結果真的是人民意願的展現，而不是受深度造假影響的結果。
※以上言論不代表梅花媒體集團立場※