新浪科技訊 5月20日下午消息，在2024搜狐科技年度論壇上，中國(guó)工程院院士、國(guó)家數(shù)字交換系統(tǒng)工程技術(shù)研究中心主任、復(fù)旦大學(xué)大數(shù)據(jù)研究院院長(zhǎng)鄔江興指出，“AI內(nèi)生安全個(gè)性問(wèn)題是當(dāng)前AI應(yīng)用推廣中的最大障礙，在不確定性中構(gòu)建更安全的AI應(yīng)用系統(tǒng)，是當(dāng)前人類(lèi)必須破解的安全難題?！?

鄔江興認(rèn)為，基于內(nèi)生安全理論方法可以在應(yīng)用系統(tǒng)層面破解AI內(nèi)生安全個(gè)性化難題，理論研究認(rèn)為內(nèi)生安全構(gòu)造可以一體化地解決個(gè)性化和共性化的問(wèn)題。據(jù)他介紹，“他們團(tuán)隊(duì)對(duì)當(dāng)前最流行的10種大模型進(jìn)行安全分析發(fā)現(xiàn)，90%以上的主流大模型是不可信的，而采用內(nèi)生安全構(gòu)造的問(wèn)題，相比單一安全具有顯著優(yōu)勢(shì)，達(dá)到了幾個(gè)數(shù)量級(jí)的提升?！?

鄔江興指出，深度學(xué)習(xí)模型存在“三不可”基因缺陷。分別是：第一，不可解釋性，從數(shù)據(jù)提供AI模型訓(xùn)練到知識(shí)規(guī)律，到獲得應(yīng)用推理階段，工作原理到現(xiàn)在不明確，問(wèn)題發(fā)現(xiàn)定位非常困難，AI系統(tǒng)中的安全問(wèn)題比破解密碼還要難。第二，不可判識(shí)性，因?yàn)锳I對(duì)序列性強(qiáng)依賴(lài)，不具備對(duì)內(nèi)容的判識(shí)能力，所以數(shù)據(jù)存在質(zhì)量差異，來(lái)源差異，就可能導(dǎo)致訓(xùn)練出的結(jié)果有差異。第三，不可推論性，AI的推理是從已知數(shù)據(jù)中獲得規(guī)律性，難以勝任對(duì)中長(zhǎng)期未來(lái)事物變遷的預(yù)測(cè)和推理，只是把現(xiàn)有的東西歸納起來(lái)，看起來(lái)它聰明無(wú)比，但僅僅是比我看得多，并沒(méi)有產(chǎn)生什么新的認(rèn)知。

在鄔江興看來(lái)，AI的安全問(wèn)題，是不能用AI完全解決的，因?yàn)檫@在數(shù)學(xué)上不成立?！皳?jù)著名數(shù)學(xué)家哥德?tīng)柼岢龅摹煌陚湫远伞?，一個(gè)具有初級(jí)數(shù)論的系統(tǒng)，它既不能證明自己為真，也不能證明自己為假，這就是現(xiàn)在AI的困境，它是一個(gè)哥德?tīng)柌煌陚湎到y(tǒng)。”因此，人工智能作為一種賦能技術(shù)，“我們絕對(duì)不能再走先發(fā)展再治理的路，它能誘發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)、社會(huì)倫理災(zāi)難、技術(shù)層面風(fēng)險(xiǎn)、訓(xùn)練語(yǔ)料庫(kù)泄露、模型算法以及社會(huì)影響面用戶隱私泄露等問(wèn)題?！?

那么，怎么解決這個(gè)問(wèn)題呢？鄔江興提出了一種網(wǎng)絡(luò)空間內(nèi)生安全基本方法――動(dòng)態(tài)異構(gòu)冗余架構(gòu)（DHR）。在鄔江興看來(lái)，基于這一內(nèi)生安全架構(gòu)的一體化增強(qiáng)AI應(yīng)用系統(tǒng)，將具備四方面的安全能力：第一，它可以利用不同算法模型之間的差異，有效提升AI控制系統(tǒng)抗攻擊能力；第二，對(duì)樣本遷移性與算法網(wǎng)絡(luò)結(jié)構(gòu)存在強(qiáng)關(guān)聯(lián)，模型多樣異構(gòu)化是必要的安全機(jī)制，以后的AI系統(tǒng)如果是由單一模型提供，那將不存在必要多樣性；第三，針對(duì)同一應(yīng)用目標(biāo)，差異化的網(wǎng)絡(luò)算法可構(gòu)建多個(gè)具有特異性的深度學(xué)習(xí)模型；第四，模型不確定度估計(jì)方法能夠?yàn)镈HR架構(gòu)動(dòng)態(tài)調(diào)度算法提供最優(yōu)的理論支撐。

“我們?cè)谌ツ昴暇┡e行的強(qiáng)網(wǎng)國(guó)際精英挑戰(zhàn)賽上看到，全世界選手中只要不是必要多樣性的AI系統(tǒng)，無(wú)一例外都是被按在地上摩擦的，很凄慘！非內(nèi)生安全的AI應(yīng)用系統(tǒng)正確識(shí)別性能普遍下降到不到10%，實(shí)用化前景令人堪憂?！编w江興表示。

責(zé)任編輯：何俊熹