繫好人工智能高速發展“安全帶”

    科技浪潮奔湧，人工智能已成為引領新一輪科技革命和產業變革的戰略性力量。中共中央政治局日前就加強人工智能發展和監管進行第二十次集體學習，彰顯國家對人工智能這一前沿領域的高度重視。

    中共中央總書記習近平強調，要把握人工智能發展趨勢和規律，加緊制定完善相關法律法規、政策制度、應用規範、倫理準則，構建技術監測、風險預警、應急回應體系，確保人工智能安全、可靠、可控。

    人工智能推動經濟社會進步，帶來的安全風險也日益凸顯，對國家安全、社會穩定和人類文明構成系統性挑戰。從技術層面看，演算法黑箱、資料偏差、模型缺陷等底層問題始終存在，使人工智能系統在面對複雜多變的現實場景時，容易決策錯誤。早前社會上出現多個涉及人工智能的案例，為日後使用人工智能敲響了警鐘。如在智能醫療診斷中，不準確的診斷結果可能延誤患者病情；在金融風控系統裡，錯誤的風險評估可能導致金融機構遭受重大損失。

    從社會維度，深度偽造技術的發展令人擔憂。通過人工智能，能夠生成以假亂真的虛假資訊，無論是虛假圖像、音訊還是視頻，都足以混淆視聽。

    虛假資訊在社交媒體等平台迅速傳播，嚴重衝擊社會信任體系。在一些突發事件中，虛假資訊的擴散可能引發社會恐慌，破壞社會秩序。別有用心者利用人工智能在意識形態領域滲透，衝擊國家的意識形態安全防線，影響社會穩定。由於人工智能系統中暗含的演算法歧視正悄然解構社會公平正義。如在招聘、貸款審批等過程中，演算法可能因數據偏差或設計缺陷，不公平對待特定群體。

    面對這些嚴峻挑戰，建立健全人工智能安全風險防範體系刻不容緩。我國積極行動，以制定全面、長遠的國家級人工智能安全風險防範戰略規劃為依託，着力構建系統完備的法律法規體系，強化制度約束。

    目前，《新一代人工智能發展規劃》、《生成式人工智能服務管理暫行辦法》等一系列部門規章相繼發佈，初步明確了資料安全、演算法透明、責任追溯等核心規則。相關行政法規對企業公開訓練資料來源、演算法邏輯，標識生成內容等提出要求，並推動AI服務安全評估制度落地。然而，針對深度偽造、自動駕駛等重點領域，也有了初步的專項治理規範。但從長遠計，還需針對資料安全、演算法公平、隱私保護等問題，出台更具體的實施細則和標準規範，讓人工智能產業發展真正做到有法可依、有章可循。

    加強人工智能安全風險防範體系建設任重道遠。必須堅持科技發展與安全並重的原則，以時不我與的緊迫感，積極應對人工智能發展帶來的安全挑戰，推動人工智能技術朝着安全、可靠、可控的方向穩健發展。