AI技術帶來的進步與挑戰

    近日，司警通報了澳門首宗利用AI深度偽造手法進行的電腦偽造詐騙案件。一名澳門居民向司警舉報，指被不知名人士上載以其肖像製作的影片推介“穩賺必贏”投資項目，吸引居民點擊。在這宗案件中，詐騙者不但利用AI技術，盜用澳門居民的肖像，製作虛假投資視頻，還假冒了一個澳門報章的網站來傳播這段換臉、換聲的視頻。

    科技發展日新月異，數字化浪潮席捲全球，AI技術正逐步滲透到我們生活的方方面面。然而，AI技術在提高效率、創新服務等方面有巨大潛力的同時，也被濫用。AI技術的進步使偽造內容變得更加容易和逼真，成為不法分子實施詐騙的新工具，網絡世界出現真假難辨現象，給網絡安全帶來了新的挑戰。澳門首宗利用AI手法的電腦詐騙案，給我們敲響了警鐘。

    AI造假案不斷湧現

    類似AI詐騙和虛假資訊的案件在全球範圍內已屢見不鮮，較常見的是金融詐騙，甚至已被詐騙集團產業化，如在緬北。還有利用AI技術製作色情視頻，利用社交媒體洩露的個人資訊生成逼真偽造內容，侵犯隱私，甚至作為政治操弄工具。去年十二月的全國圍棋錦標賽上，一名十九歲的職業棋手就因使用人工智能程式作弊而被中國圍棋協會撤銷職業段位、取消比賽成績，並禁賽八年。

    這些揭發出來的事件，進一步證實了AI技術被濫用的普遍性，尤其是在金融詐騙、虛假新聞和侵犯隱私方面。AI在帶來便利的同時，也成為了不法分子實施詐騙的新工具，技術濫用的背後是犯罪成本的“平民化”。這需要政府、企業和社會共同應對，促使相關法律的完善，加強對AI詐騙的打擊力度。

    深偽難辨媒體警惕

    深度偽造技術可能被用於詐騙、虛假資訊傳播等非法活動，導致公眾難以辨別真偽。除了導致被害者經濟損失，更動搖了社會信任的根基。當每一條視頻、每一段音訊都被懷疑可能是精心偽造的產物，是極為可怕的。幸好本澳的新聞媒體都能堅守客觀、真實和準確的新聞立場，社會大眾也非常信任新聞媒體。

    另外，據外地報載，馬來西亞有兩份報紙在有關中國國家主席習近平訪問馬來西亞的新聞中，分別刊登的插圖有馬中兩國國旗，但馬來西亞國旗卻不見象徵國家官方宗教伊斯蘭教的新月圖案。由於刊登錯誤及不完整的國旗，因此被內政部調查。儘管是製圖時無心之失，但基於問責原則，報紙對總編輯及副編輯主任採取停職處分。據悉，這個插圖是用AI繪製。有關報紙因此強化了審核程序，特別是人工智能（AI）技術的應用規範。

    馬來西亞報紙的事件可能推動媒體行業制訂更嚴格的AI使用規範，避免類似錯誤。有關案例顯示，AI生成的插圖因技術缺陷遺漏了新月圖案，看似無心之失，實則暴露了技術應用中的深層風險，國家象徵的嚴肅性被演算法錯誤消解，本質上是技術理性對人文價值的僭越，引發嚴重的後果。國旗作為國家象徵，任何錯誤都可能被視為不尊重或冒犯，因此報紙需要承擔責任。這反映了在使用AI工具時，人工審核的重要性，尤其在涉及敏感內容時，應該強化審核流程，不能完全依賴技術，必須有人工審核干預和技術檢測結合，防止無心之失引發的嚴重後果。

    立法防止深偽濫用

    如何應對上述挑戰值得探討。在法律和監管措施方面，應該加強法律監管，明確AI濫用的法律責任，吸取其他國家和地區在應對深度偽造方面的法律措施。如中國在今年三月實施的《人工智能生成合成內容標識辦法》，要求對AI生成內容強制添加浮水印，違反者最高可處一百萬元罰款。歐盟也有《人工智能法案》，將深度偽造技術列為“高風險”，要求對AI生成內容明確標註，要求服務商建立內容溯源機制。這些法規的出台表明各國區正在加強立法應對AI濫用問題。

    在發展檢測技術方面，除識別深度偽造內容，還要提高公眾的媒體素養，增強辨別能力，企業和機構應該建立嚴格的審核流程，避免技術應用中的風險，特別是在處理敏感資訊時。還需要加強公眾對於AI深度偽造技術的認知和警惕性，以免上當受騙的風險。此外，還需要國際合作，共同打擊跨國AI犯罪。如中緬泰老四國建立“湄公河反詐聯盟”，去年聯合破獲三百多宗跨境詐騙案件。另外，還需要確保技術被用於正當目的，制定AI倫理指南，規範開發者和使用者的行為，防止技術被濫用。這方面，中國也發佈了《新一代人工智能倫理規範》，強調以人為本和資料隱私保護。這些倫理框架為技術發展提供了指導，但在實際應用中仍需加強執行。

    在本澳，立法會辯論保安範疇今年施政方針時，對於保安範疇有否AI立法規劃，保安司司長黃少澤指AI發展得太快，法律制度肯定滯後，制度有效監管需要時間，目前刑事角度不存在障礙，電腦法證檢測不存在問題，會緊跟國際潮流做好分析立法。他表示，司警局設有二十四小時網絡安全巡查機制，主要針對明顯的網絡安全犯罪行為。司警局長薛仲明就加強反詐工作表示，將更新反詐程式和增加功能，包括推出長者模式、開放使用者上傳涉嫌詐騙資訊的圖片以便即時開展調查工作、使用者可以通過程式訂閱警情通報和最新的反詐資訊等。這些舉措無疑將進一步提升澳門反詐工作的效率和覆蓋面。

    短暫失序重新平衡

    總結AI帶來的機遇與挑戰，我們不能因噎廢食地拒絕技術進步，必須強調多方合作的重要性，以及在技術發展中平衡創新與安全的必要性。如前一段時間AI在醫療領域的應用，就引起關注。在充分利用AI技術的同時，還需關注合規使用等問題，避免誤用、濫用。實質上，這場AI技術濫用與治理的博弈，其實也是人類文明面對新技術衝擊的自我調適。歷史經驗表明，每一次技術革命都會帶來一段時間的失序，但人類總能通過制度創新重建平衡。如互聯網時代的網絡匿名亂象，促使各國制定《網絡安全法》和《資料保護條例》。隨着AI技術的進步，偽造內容的難度會降低，檢測技術也需要不斷更新，建立“技術創新與風險防控”的動態平衡。這是一個長期的對抗過程，需要持續的投入和研究，以及政府、企業、學界和公眾的共同努力。

    郭濟修