多模態認知計算、生成式大模型等技術的突破驅動人工智能走進我們的生活，加速了智能系統在醫療、教育等各領域的應用，智能系統越來越多的參與人類生活和決策，從智能棋手到智能手術機器人。越來越多智能機器人相伴的生產生活中，你是否擔心過智能機器人反叛人類？你的智能機器人又有多大程度是可靠的？盡管在當前技術條件下，智能機器人還沒有到想象中產生自由意志、實現強人工智能的程度，拋開這些帶有未來主義色彩的構想，人工智能的應用場景逐步涉及人類健康與隱私等安全領域。如何讓人工智能恪守倫理秩序，從而更好地服務人類？技術社會化的深入引發了一系列技術倫理問題的討論。
近日，西北工業大學李學龍教授團隊在《中國科學：信息科學》中發表《人工智能倫理計算》一文，全文34頁探討了倫理可能的度量方式，嘗試建立AI倫理的定量計算框架，指出倫理計算將是促進技術倫理實踐的關鍵交叉領域和構建倫理規范的重要基礎工具，旨在引發更多關于人工智能倫理的思考。人工智能倫理計算是人工智能和倫理學等學科的交叉領域，通過定量描述、度量或模擬技術對倫理原則進行數學符號化或算法化，并在此基礎上約束智能算法的倫理表現。
高漪瀾, 張睿, 李學龍, 人工智能倫理計算, 中國科學: 信息科學, 2023, doi: 10.0000/SSI-2023-0076．
全文下載:
https://www.sciengine.com/SSI/doi/10.0000/SSI-2023-0076
倫理問題的討論由來已久，阿西莫夫的科幻小說中曾提出了著名的機器人三定律用以限制人工智能行為，但隨著技術社會化的深入，我們的倫理憂慮顯然已不再處于科幻小說或電影的虛構場景。手術機器人是否值得信任？輔助決策系統的決策是否公正？生成模型的成果是否侵犯了版權？這些技術倫理問題都是當下與你我切身相關，迫切需要更具體且可操作的人工智能技術倫理治理方案。
AI應用場景決策要素對比
作為人工智能發展的重要議題，人工智能倫理治理引起了各界的廣泛關注。聯合國教科文組織于2021年12月發布了《人工智能倫理問題建議書》用于規范人工智能技術的發展，同時各個國家也積極參與到人工智能治理的討論中來。研究表明，全球各國已經在技術透明度、公平公正、不傷害、隱私等方面形成了初步共識。
主要的人工智能倫理原則
2023年10月08日，科技部、教育部、工業和信息化部等十個部門聯合發布了《科技倫理審查辦法（試行）》，重點關注了智能領域相關技術在實際應用中產生的技術倫理審查問題，這是我國邁出科技倫理治理實踐的關鍵一步，為人工智能領域健康發展提供了方向指引。
然而，我們需要清醒地意識到，人工智能倫理治理在進步的同時，依然面臨著諸多問題。如何確保智能系統以善意、公平的方式做出決策？如何衡量一個系統的倫理表現或者如何評價其決策結果？如何建立統一、明確的倫理規范？導致種種問題的深層原因，在于倫理本身的抽象性。關注倫理的定性分析，缺少定量計算，導致相關規范難以付諸實踐，這也成為人工智能倫理治理的阿克琉斯之踵。
隨著智能深入到人類社會的各個領域，倫理治理已經成為人工智能健康、可持續發展的必答題。倫理計算的理論與技術研究，能夠推動解決抽象倫理定量分析的難題，這或許將成為約束人工智能遵循人類倫理的一把鎖，同時也是打通AI應用落地的一把鑰匙。
人工智能是大勢所趨，相關的立法和規范也會逐步出現，這些規則由誰來制定？是熟悉領域的科研人員，還是并不足夠了解具體技術的群體？這個問題很難回答，但至少，人工智能倫理的數值度量可以為規則指定提供一個參考指標體系。
倫理計算的核心在于通過量化計算將抽象倫理具體化，強調將倫理原則融入計算技術的實踐中，例如公平、透明性、隱私保護和可信等。這不僅有助于人工智能的可控發展，鼓勵研究人員更深入地理解技術倫理并在構建算法系統時更主動地考慮倫理問題，同時也將為制定倫理治理的原則、法律法規等提供至關重要要的技術參考指標。
然而，倫理計算也面臨著諸多挑戰。在自主搜救、無人巡檢等開放性的臨地安防場景中，智能系統需要動態感知和適應環境變化的能力，以減少潛在的倫理風險。同時，倫理決策通常牽涉到情感和認知等因素，需要借助多模態認知計算和因果推理等技術來應對倫理推理的復雜性，也需要更多關于人類倫理決策方式的認識。這些挑戰需要跨學科深入合作，以確保倫理計算技術能夠有效處理不斷演化的倫理問題。
總之，人工智能倫理計算將作為推動倫理治理發展的重要工具，通過促進倫理治理理論與實踐的迭代發展，倫理計算將更安全地釋放人工智能的潛力，并有望在協助制定法規等方面發揮作用，確保人工智能以符合倫理和道德原則的方式發展，最終造福人類社會。
通訊作者簡介
李學龍 西北工業大學校學術委員會副主任、光電與智能研究院（iOPEN）教授，主要研究方向為臨地安防、圖像處理、成像。
E-mail: [email protected]
參考閱讀：
李學龍，多模態認知計算（Multi-modal cognitive computing）, 中國科學：信息科學，53 (1), 1-32, 2023, doi: 10.1360/SSI-2022-0226.
全文下載:
https://www.sciengine.com/SSI/doi/10.1360/SSI-2022-0226
李學龍，臨地安防（Vicinagearth security）, 中國計算機學會通訊，18 (11), 44-52, 2022.
全文下載:
https://dl.ccf.org.cn/article/articleDetail.html?type=xhtx_thesis&_ack=1&id=6219452051015680
（文字：張睿；攝影：高漪瀾；審核：馬西平）
