2017年「深度偽造」（Deepfake）技術問世，取名自「深度學習」（Deep learning）和「偽造」（Fake），代表結合電腦視覺與深度學習的技術，得供電腦對多媒體進行人工智慧（Artificial Intelligence，AI）學習，製作出高度逼真的虛假影音，隨著深度偽造技術日趨成熟、製作門檻降低及成品的高擬真性，深度偽造技術也淪為有心人士的犯罪工具。
鑑於防範深度偽造技術危害我國家安全與社會安定，立法院於今（112）年1月7日三讀通過刑法增訂第28章之1「妨害性隱私及不實性影像罪章」及「犯罪被害人權益保障法」，新法業已奉總統於112年2月8日公布，自2月10日起生效，未來製作或散布不實性影音檔案，最重可判有期徒刑7年；面臨即將到來的113年總統及立委二合一選舉，立法院業於民國112年6月正式公布修正版的總統副總統選舉罷免法（第90條）和公職人員選舉罷免法（第104條），未來意圖使候選人當選或不當選而散布、播送候選人之深度偽造影音，最重處七年以下有期徒刑。因應時代變遷與科技更迭，透過專法保護、加重罪責之立法方向，展現政府打擊深度偽造技術相關犯罪的決心。
為有效防制深度偽造影音對我國帶來的威脅，本局業已加強發掘疑似使用深度偽造技術之爭議影片，輔以本局之深度偽造影片檢測流程進行分析，以速辦速移之原則進行偵辦，適時公布結果導正視聽。針對影片之檢測，本局除採用具有成熟辨識技術之商用偵測軟體以實現自動檢測及偽造信心值之估算，另搭配網路開源平臺及開源程式碼作為輔助工具作為二次驗證。此外，本局也運用傳統的影像分析方法，包括錯誤級別分析（Error Level Analysis）和雜訊分析（Noise Analysis），針對影片中可疑之影像識別疑似遭變造處，最終輔以人工識別的方法，針對畫面中臉部、顏色、生物特徵等異常處進行觀察。綜合上述，本局使用多工具、多模型分析爭議影片，搭配人為觀察與查證，綜合研判影片偽造之可能性。
本局針對爭議影片之真偽辨別及溯源偵處，係為查明爭議影片製作者或最早散布者，以瞭解其製作散布之目的，俾利維護國家安全及選舉公平。為加強調查能量，本局亦加強與友軍單位及社群平臺合作，查處國人在地協力對我國進行認知作戰案件，積極阻斷假訊息傳播源頭。對於涉嫌違法案件，本局將報請六都檢察署之「AI生成或深度偽造（Deepfake）假訊息案件處理中心」指揮偵辦，達到「立即澄清」、「迅速下架」、「溯源追查主嫌」的目標，以保護我國選舉制度公平性及維護社會穩定性，並為即將到來的113年總統及立委二合一選舉作好準備。
