類腦智能是人工智能和腦科學領域的重要研究方向，其關注在人腦啟發下構建類腦結構，實現類人認知和行為功能。為了帶大家深入了解大腦機制和類腦智能，我們將以類腦智能領域的問題進行追問，以多人聯動的方式，帶領大家了解類腦智能的原理以及目前的最新進展。

　　在之前的采訪中，北京大學心理與認知科學學院研究員羅歡發起追問：“在人工智能、計算神經科學領域是否有抽象結構的學習？是否有基本的數學原理能夠描述這個過程？”

　　本期我們采訪了中國科學院自動化研究所研究員曾毅，曾毅研究員將帶領我們了解類腦智能對人腦機制和功能的模擬及其發展潛能。按照慣例，曾毅研究員也提出了自己最想知道答案的一個問題，我們將在文末公布該問題。

　　Q：您好，可以為我們介紹下您目前的主要研究領域和方向嗎？

　　曾毅：我主要的研究領域圍繞類腦人工智能展開，具體講是受腦在不同尺度的結構與機制啟發，構建具有生物合理性和計算可行性的類腦智能，終極目標是實現在認知能力上可以比擬甚至是超越人腦的，但仍與人能和諧相處，有道德、合乎倫理的類腦人工智能。這是我的終生科學追求，我的實驗室已經為此付出了10年的努力，并將持續再用幾十年的時間研制具備這樣能力的類腦認知智能引擎(Brain-inspired Cognitive Intelligence Engine)，貢獻于人與人工智能的和諧共生。

　　Q：目前類腦領域發展面對的主要挑戰是什么？

　　曾毅：目前這個領域的挑戰主要來自兩方面。一方面是腦在面向不同認知功能方面的結構與機制仍然在不斷探索中，基于已知的進展構建類腦智能的理論與技術模型仍然只能在部分認知功能的構建上取得階段性的進展，而對于很多復雜認知功能以及智能的整體計算理論的支撐還遠遠不夠。另外一方面是如何將來自不同尺度，腦啟發的結構與機制通過計算建模進行整合，從而形成統一的智能理論框架。在某個尺度獲得的結構與機制仍然是部分的、片面的，在將他們通過計算建模整合的過程中可能還缺失關鍵的科學細節。這需要人工智能的研究者同腦與認知科學研究者深度協同才能夠取得實質性進展。

　　Q：人腦可以高度協調各種感知器官并且在這個過程中完成感知器官傳回信息的計算，類腦智能是否有可能協調多種器官的信息并綜合做出判斷？

　　曾毅：真正的類腦智能正是這樣做的，也可以說如果不是這樣進行多感覺融合的綜合決策，那就不是真正的類腦智能。我自己實驗室的類腦人工智能模型的各種感覺模塊是由局部的脈沖神經網絡模型實現的，而多感覺信息的整合(視覺、聽覺、觸覺、嗅覺、味覺等)也是基于最基礎的突觸可塑性模型實現的。例如我們實驗室實現了基于類腦脈沖神經網絡的多感覺概念學習模型，使類腦智能可以像人一樣進行基于可塑性機制學習和整合多感覺信息并在此基礎上學習人類概念。

　　Q：人腦通過神經元傳遞信息和進行計算，和計算機實現運算的結構基礎存在本質區別，如何讓計算機實現像人腦一樣的“認知”和“計算”？

　　曾毅：傳統硅基的計算機體系結構和碳基的人腦確實在信息處理基礎上存在較大鴻溝，但是這種鴻溝正在通過兩方面的努力進行彌合。一方面是在軟件層面，仍然可以在馮諾依曼體系結構的計算系統上模擬不同類型的神經元、神經網絡環路及其編解碼信息的機制與過程，不同類型的神經元及其內部的離子通道、不同類型的突觸可塑性機制、不同類型的突觸、不同連接模式的計算建模都成為了類腦智能的基礎，這初步彌合了我們在討論的本質區別。另一方面，現在正在迅速發展的神經形態計算已經為從硬件層面實現具備不同尺度神經信息處理結構與機制的硬件體系結構貢獻了重要的可行性。真正彌合這種差異需要來自軟硬件兩方面的協同設計與實現。

　　Q：人腦可以不斷學習和進步，類腦智能是否也可以不斷進化？

　　曾毅：經過數億年自然演化生成的人腦不但可以不斷學習和進步，而且還在進行著我們幾乎無法察覺的演化。自然演化的過程就是一個智能體在自然環境中不斷適應不斷優化的過程。我相信類腦智能不但可以，也只有通過這種方式才能夠實現真正類人的智能。目前類腦神經網絡已經有一些通過特定任務學習來自適應的調整神經網絡結構的努力，甚至有些研究已經證明網絡結構的自適應調整已能讓神經網絡很好的應對任務。而這方面的探索遠遠只是開了個頭。

　　Q：如果類腦可以像人腦一樣進行認知和計算，并且不斷學習和進步，類腦是否有可能像人一樣產生獨立的意識？

　　曾毅：我認為類腦智能未來一定可以獲得獨立的意識，但這并不代表著只要類腦智能模型不斷學習就能夠在原始結構和機制上涌現出意識。人的意識仍然是以紛繁復雜的人腦意識核心神經環路與原理的支撐下實現的，能夠以理解的方式整合來自各個感覺環路的信息并做出基于理解的決策，更重要的是以自我的視角感知環境、狀態的變化并作出自適應。

　　類腦智能產生意識的出發點是自我模型，自我感知是源頭，這也是為什么我們在構造類腦自我意識模型的時候會選擇鏡像測試作為首先突破的方向。不過需要聲明的是：即使現在我們的類腦智能模型部署在機器人上幫助機器人通過了鏡像測試，這也并不意味著類腦智能獲得了自我意識。恰恰只說明了鏡像測試很可能無法作為具有自我意識與否的黃金判斷標準。意識的本質及具有意識的類腦智能研究都還在最初的階段。

　　Q：目前正常的人類大腦可以存在并且持續不間斷地工作至少五十年，有的甚至可以達到近百年，類腦智能如何保持長期穩定有效地工作？

　　曾毅：我想不斷地學習與訓練、不斷地自適應不同環境下的不同任務、不斷以不同的視角感知、決策、與人類互動，并以軟硬件協同優化的方式演進是類腦智能的“生存“方式。

　　Q：如果類腦智能產生了意識，并且可以長期穩定的維持意識的存在，是否相當于存在了獨立人格？我們如何應對類腦智能進展帶來的倫理問題？

　　曾毅：類腦智能如果實現了真正意義的自我，在此基礎上形成自我體驗、自傳體記憶、具有基于自我的決策和預測能力，以及反思的能力，那么類腦智能理論上也應能夠形成獨立的人格。但是具有自我的人工智能未見得對人類是危險的，因為自我感知、認知共情、情感共情恰恰是類腦智能對其他智能體，特別是人類產生真正意義的關切的基礎。具有自我的類腦智能對人類很可能才是更安全的，例如我們最近受自我模型和認知共情啟發實現的能夠幫助其他智能體避免風險的類腦認知共情神經網絡模型。但這有一個大前提，就是我們必須在類腦智能的研究初期就前瞻思考如何實現有道德，符合倫理的類腦智能。倫理道德不能以規則“灌輸”的方式讓類腦智能“遵守”，因為灌輸的規則隨時可以被修改。只有基于類腦智能的自我模型、認知與情感共情，以自主學習的方式習得的倫理道德才能夠保證類腦智能真正具有倫理道德。

　　而對于類腦智能是否能與人類構成和諧共生的社會，問題不僅僅是如何實現有道德的類腦智能，關鍵問題還在于一旦類腦智能具備了一定水平的意識，具有自我反思能力，人類如何去對待這樣的類腦智能。類腦智能發展初期，人們必然關注類腦智能如何習得人類價值觀和道德，而在類腦智能發展出自我意識之前，人類必須對與類腦智能和諧共生提出人與類腦智能共生的倫理框架，這是我提出“和諧人工智能原則”的初衷。

　　Q：在之前的“追問”系列采訪中，北京大學心理與認知科學學院研究員、北京大學麥戈文腦研究所研究員羅歡提出了下面的“追問”：

　　在人工智能、計算神經科學領域是否有抽象結構的學習？是否有基本的數學原理能夠描述這個過程？

　　曾毅：應該說人工智能，特別是神經網絡的核心就是結構學習，無論是對感知類、決策類的任務還是符號文本知識的規則學習。人工智能中有很多抽象結構學習的方法，抽象結構表征學習的基本數學原理至少包括：通過高度復雜的非線性變換提取數據中潛在的結構信息。根據統計學中貝葉斯概率推斷預測未知的不確定性，由信息論評估模型學習到的結構表征所包含的信息量，再通過優化思想例如梯度下降來實現穩定的模型優化，在不斷的預測和優化中學習到抽象和復雜的結構表征。此外，正則化方法/降采樣技術在幫助抽象關鍵的結構特征能夠起到防止過度學習的作用。