完善人工智能倫理治理工作

《關于加強科技倫理治理的意見》（簡稱《意見》），是新時代我國科技倫理治理領域具有里程碑意義的綱領性文件，為推動“科技向善”發展、服務我國社會進步及造福人類提供了基本準繩，對有效防范科技倫理風險、促進科技治理體系和治理能力現代化具有十分深遠的意義。

人工智能的研究內容常會涉及科技倫理敏感領域，根據《意見》的精神，我認為應主要開展以下工作：

一是道德層面。要根據《意見》精神，完善人工智能領域科技倫理規范、指南，對科技人員進行倫理道德約束和引導，使科研人員具有較好的倫理道德意識，在研發過程中始終以倫理道德紅線來約束自己。推動人工智能科研院所和企業建立倫理委員會，自覺開展人工智能倫理風險評估、監控和實時應對，使道德引導和道德約束貫穿在人工智能設計、研發和應用的全流程之中。

二是技術層面。要加強一線科技人員的技術管控和預判能力，使其能夠及時識別各類潛在風險的發展階段和發展程度（如：風險目前沒有嚴重表現，但潛在風險肯定是有的；風險的近期緊迫性不強，但長期嚴重性絕不可低估；風險的嚴重性被普遍低估，也沒有受到有效的監督與管控等）。同時，要加強算法、數據以及應用的管理、檢測和評估，構建有效的風險預警機制，通過不斷改進技術而降低倫理風險。

三是法制方面。要將法律法規建設放在重要的位置上，將其作為人工智能倫理治理的最高依據，不斷完善人工智能倫理治理的法律體系，使人工智能技術從設計、研發、測試、產業化到應用的全過程都有法可依，消除人工智能倫理治理的法律監管盲區。

人工智能研究工作應以《意見》為指南，準確把握人工智能治理的要求，既要促進人工智能技術的快速發展，又要保證人工智能技術符合社會倫理。

首先，要牢固樹立道德倫理紅線意識，劃出倫理治理的底線。技術發展常常會超前于倫理，所以更要始終將道德倫理作為科技創新、技術應用的先決條件，特別是在進入未知領域探索或拓荒式應用之前，要全面研判潛在道德倫理風險，通過思想實驗和倫理悖論推演等多種形式評估風險程度，識別可能引發道德倫理的潛在風險點。科學家要始終將人類基本的道德倫理作為不可逾越的紅線，在科研活動中形成嚴格的道德倫理邊界和底線，并在道德倫理安全域內從事各類科研創新和應用實踐活動。

其次，要建立敏捷響應機制，積極應對科技倫理治理中出現的問題。在科技活動的實踐中，人類會面臨諸多新的、沒有預見到的倫理治理挑戰。一方面，要堅持倫理先行；另一方面，更要建立一套完善的敏捷響應機制，對新出現的道德倫理風險隱患進行快速處理，及時組織倫理學、人文社科、法律、科技政策等專家與科學技術研發者共同開展評估和研究，及時出臺行業公約、科技道德倫理規范、法律法規等，將倫理治理滯后于科技發展所帶來的負面影響降到最低。

最后，要加強國際交流與合作，探索形成科技倫理治理的中國方案。在道德倫理觀方面，不同國家、不同民族、不同文化之間既有相同、相通之處，也有自己獨特的角度和定位。我們要站在人類命運共同體的戰略高度，堅持“增進人類福祉、尊重生命權力、堅持公平公正、合理控制風險、保持公開透明”的科技倫理治理的基本原則，努力推進符合全人類的科技倫理治理方案。同時，也要結合我國五千年的文化傳統，深入研究我國獨有的科技倫理治理路徑。特別是要從最廣大人民利益出發，積極防范數據安全和隱私泄露、算法歧視、基于深度偽造的安全風險、法治風險、科技貧困等一系列道德倫理問題。既要著重解決好中國自身面臨的倫理治理問題，又要為全人類的發展作出中國貢獻。