近來，大模型技術(shù)引發(fā)了全球?qū)νㄓ萌斯ぶ悄艿膹V泛關(guān)注，在產(chǎn)業(yè)界、科研界掀起了巨大熱潮。在人工智能技術(shù)大顯身手、取得矚目成就的同時，如何應(yīng)對技術(shù)跨越所帶來的風(fēng)險并進(jìn)行管控與治理，如何判斷人工智能系統(tǒng)是否具備通用人工智能的性能等，也日益成為各方關(guān)注的焦點(diǎn)。在筆者看來，當(dāng)下，我國科學(xué)界和產(chǎn)業(yè)界要抓住這一歷史機(jī)遇，明確通用人工智能的發(fā)展路徑和方向，牢牢把握解讀和評估通用人工智能的話語權(quán)，盡快搭建并完善通用人工智能測試評級標(biāo)準(zhǔn)與平臺。

在建構(gòu)人工智能評測系統(tǒng)方面，早在1950年，英國計(jì)算機(jī)科學(xué)家阿蘭·圖靈就提出了基于行為的圖靈測試：如果一臺機(jī)器能夠與人類展開對話而不被人類辨別出其機(jī)器身份，則稱這臺機(jī)器通過了測試。人工智能發(fā)展至今，現(xiàn)有的人工智能測試體系各自所呈現(xiàn)出的局限性，已無法滿足通用人工智能的研究訴求：圖靈測試不足以準(zhǔn)確衡量人工智能的智能程度、任務(wù)導(dǎo)向測試（俗稱“刷榜”），可能導(dǎo)致人工智能過度適應(yīng)某項(xiàng)特定任務(wù)，當(dāng)前很多基于Unity（一種實(shí)時三維互動內(nèi)容創(chuàng)作和運(yùn)營平臺）的虛擬環(huán)境測試則在模擬復(fù)雜物理交互方面有所欠缺……顯然，傳統(tǒng)的人工智能測試已不適用于通用人工智能系統(tǒng)的評級。

另外，很多應(yīng)用者反映，當(dāng)下熱門的大模型常常出現(xiàn)“腦霧”與“認(rèn)知眩暈”等現(xiàn)象，在產(chǎn)業(yè)落地中出現(xiàn)問題。歸根結(jié)底，是因?yàn)檫@種基于數(shù)據(jù)驅(qū)動的大模型仍然缺“心”，缺乏明確的認(rèn)知架構(gòu)和價值體系，只能按照人類設(shè)定的程序，機(jī)械地對問題進(jìn)行反饋，求解“填空題”。這也倒逼通用人工智能測試之“心”要具備兩個結(jié)構(gòu)：其一為價值體系，具備符合人類價值觀的通用智能體，才能被廣泛接納；其二為認(rèn)知架構(gòu)，這是通用智能體與人交流、合作的基礎(chǔ)。價值體系、認(rèn)知架構(gòu)不僅應(yīng)是驅(qū)動通用人工智能自主任務(wù)生成的根本內(nèi)驅(qū)力，也是保障通用人工智能安全運(yùn)轉(zhuǎn)的關(guān)鍵。智能體只有具備了“良知”的知識體系及可以與人類溝通解釋的“認(rèn)知架構(gòu)”，才能形成人機(jī)信任關(guān)系，實(shí)現(xiàn)人機(jī)和諧共生。

針對科學(xué)測試人工智能所需的種種條件，近期，筆者帶領(lǐng)團(tuán)隊(duì)依據(jù)發(fā)展心理學(xué)和心智理論，參考人類嬰幼兒發(fā)育的測試標(biāo)準(zhǔn)，研究總結(jié)出一種基于能力和價值的通用人工智能評測方法，并開發(fā)了復(fù)雜動態(tài)的物理場景（模擬仿真）和社會交互（混合現(xiàn)實(shí)）的測試平臺——通智測試。這項(xiàng)成果于今年8月發(fā)表在中國工程院院刊《工程（英文）》上，這也是該領(lǐng)域發(fā)布的全球首個評級測試標(biāo)準(zhǔn)與平臺。

該測試強(qiáng)調(diào)在復(fù)雜動態(tài)的物理及社會環(huán)境中，通用人工智能系統(tǒng)（智能體）應(yīng)滿足三個基本標(biāo)準(zhǔn)：

一是能完成無限任務(wù)并具備任務(wù)泛化能力，不依賴人類定義和訓(xùn)練任務(wù)。任務(wù)被定義為智能體對物理世界屬性（如顏色、位置、速度等）或社會狀態(tài)（如感知、認(rèn)知、決策、心智等）狀態(tài)的改變。人類在與外界交互時會產(chǎn)生無限可能，通用智能體需在這些場景中理解人類意圖、與人協(xié)作，其任務(wù)和運(yùn)動的規(guī)劃必須符合物理因果與社會規(guī)范。

二是能根據(jù)變化的場景自主生成任務(wù)，不依賴于人類分配任務(wù)，做到俗話說的“眼里有活”。反之，如果智能體只能執(zhí)行人類提前設(shè)定好的任務(wù)，不論是基于規(guī)則或者統(tǒng)計(jì)模型，既不能對預(yù)設(shè)之外的任務(wù)做到自主定義，也無法在與陌生環(huán)境交互中自動生成新任務(wù)，并不能適應(yīng)人類社會的動態(tài)性與多樣性。

三是由價值驅(qū)動并具有自我意識和層次化的價值體系。智能體能夠自主生成并完成符合人類需求的任務(wù)，一套合適的價值系統(tǒng)至關(guān)重要。這套價值體系必須融入人類價值觀，使智能體有能力學(xué)習(xí)和理解人類的價值偏好，并最終實(shí)現(xiàn)與人類價值的同向甚至對齊。例如，如果兒童提出不安全的要求，智能體能否識別出任務(wù)的不合理之處，并自主形成新任務(wù)。

通智測試從智能體探索和認(rèn)知世界規(guī)律的各自感知、認(rèn)知、運(yùn)動、交互、社會、學(xué)習(xí)等能力，以及對自我、他人和群體的價值理解學(xué)習(xí)這兩個角度入手，搭建了具體可行的測試平臺架構(gòu)。測試全面考慮了通用人工智能的關(guān)鍵特征，填補(bǔ)了通用人工智能評測的空白，突破了傳統(tǒng)圖靈測試的方法局限，在人工智能領(lǐng)域具有創(chuàng)新價值：不但有助于指導(dǎo)研究者為通用人工智能構(gòu)建綜合的設(shè)計(jì)架構(gòu)與完善的評估體系，而且能為人工智能安全治理問題提供積極的解決方案。

在通智測試評估體系下，管理者可針對不同水平的智能體制定差異化監(jiān)管準(zhǔn)入機(jī)制，對通用人工智能規(guī)范化發(fā)展具有參考意義。此外，通智測試評級機(jī)制還可以為通用人工智能的科研路徑提供明晰可靠的路線圖，協(xié)助相關(guān)領(lǐng)域研究者找準(zhǔn)科研道路上的前進(jìn)方向。

來源：《光明日報》