4月29日，在第八屆數(shù)字中國(guó)建設(shè)峰會(huì)數(shù)字經(jīng)濟(jì)分論壇上，奇安信集團(tuán)董事長(zhǎng)齊向東指出，人工智能大模型應(yīng)用面臨三重安全挑戰(zhàn)，需把握五大關(guān)鍵筑牢安全底線，為數(shù)字經(jīng)濟(jì)發(fā)展注入“強(qiáng)心劑”。

齊向東表示，小數(shù)據(jù)安全成數(shù)字經(jīng)濟(jì)時(shí)代的核心命脈。企業(yè)通過(guò)AI大模型提煉出的核心“小數(shù)據(jù)”，一旦遭竊取或篡改，將導(dǎo)致多年積累的競(jìng)爭(zhēng)優(yōu)勢(shì)瞬間崩塌。這類數(shù)據(jù)已成為數(shù)字經(jīng)濟(jì)時(shí)代的“數(shù)字石油”。

而大模型“裸奔”觸發(fā)鏈?zhǔn)轿C(jī)。奇安信監(jiān)測(cè)數(shù)據(jù)顯示，超71%的Ollama大模型活躍服務(wù)器處于無(wú)防護(hù)狀態(tài)，攻擊者無(wú)需認(rèn)證即可調(diào)用服務(wù)、刪除模型文件，威脅智慧城市等關(guān)鍵領(lǐng)域業(yè)務(wù)連續(xù)性。

AI決策失準(zhǔn)或引發(fā)系統(tǒng)性風(fēng)險(xiǎn)。外部黑客通過(guò)數(shù)據(jù)投毒干擾決策，內(nèi)部錯(cuò)誤信息污染學(xué)習(xí)環(huán)境，過(guò)度依賴AI可能導(dǎo)致“蝴蝶效應(yīng)”，造成難以預(yù)估的連鎖反應(yīng)。

為此，奇安信打造五大防護(hù)體系筑牢安全底座。首先是創(chuàng)新設(shè)立多維邊界隔離，在數(shù)據(jù)、算力等關(guān)鍵節(jié)點(diǎn)部署安全控制單元，形成專屬防護(hù)空間。其次，采用零信任架構(gòu)，通過(guò)“角色+行為基線”雙重認(rèn)證，實(shí)現(xiàn)數(shù)據(jù)訪問(wèn)的時(shí)空動(dòng)態(tài)管理，杜絕內(nèi)外部越權(quán)風(fēng)險(xiǎn)。另外，進(jìn)行全生命周期內(nèi)容治理。建立從開(kāi)發(fā)到應(yīng)用的監(jiān)測(cè)審計(jì)機(jī)制，實(shí)時(shí)攔截異常訪問(wèn)與不良內(nèi)容，優(yōu)化安全策略響應(yīng)速度。還通過(guò)模擬攻擊驗(yàn)證防御體系，檢測(cè)模型、組件及運(yùn)行環(huán)境漏洞，建立縱深防御技術(shù)矩陣。最后是AI驅(qū)動(dòng)安全運(yùn)營(yíng)，推出AISOC系統(tǒng)，將AI深度嵌入威脅研判、響應(yīng)處置全流程，形成“以AI制AI”的閉環(huán)管理。

“安全是數(shù)字經(jīng)濟(jì)的剎車片，更是加速器。”齊向東強(qiáng)調(diào)，奇安信將通過(guò)“AI驅(qū)動(dòng)安全”戰(zhàn)略，構(gòu)建包含防護(hù)、管控、評(píng)估、運(yùn)營(yíng)的全棧式安全體系，為人工智能應(yīng)用落地打造可信環(huán)境。目前該集團(tuán)研發(fā)的AISOC系統(tǒng)已實(shí)現(xiàn)分鐘級(jí)威脅處置，助力政企機(jī)構(gòu)在數(shù)字化轉(zhuǎn)型中“放心用、大膽闖”。（圖據(jù)受訪者）