過(guò)去幾天，DeepSeek的持續(xù)火爆也引發(fā)了包含敏感數(shù)據(jù)泄露在內(nèi)的諸多安全風(fēng)險(xiǎn)。作為一種有內(nèi)容生成能力的新型數(shù)字系統(tǒng)，以DeepSeek為代表的AI大模型在實(shí)現(xiàn)其科技、生產(chǎn)和社會(huì)價(jià)值的同時(shí)，要如何保障其“原生安全”？

基于AI技術(shù)構(gòu)建的新型數(shù)字系統(tǒng)與傳統(tǒng)系統(tǒng)相比，由于數(shù)字資產(chǎn)類型的復(fù)雜性、用戶交互方式以及業(yè)務(wù)處理流程的變化，使其面臨網(wǎng)絡(luò)與數(shù)據(jù)安全、模型安全、內(nèi)容安全和供應(yīng)鏈安全等風(fēng)險(xiǎn)挑戰(zhàn)。此外，不同于傳統(tǒng)軟件“需求-開發(fā)-測(cè)試-發(fā)布”的線性生命周期，AI大模型形成了“數(shù)據(jù)采集-訓(xùn)練-推理-再訓(xùn)練”的動(dòng)態(tài)生命周期，它自身的持續(xù)進(jìn)化和迭代也會(huì)不斷引入新的風(fēng)險(xiǎn)。

那么有沒有一種全新的模式，來(lái)讓AI驅(qū)動(dòng)的智能原生數(shù)字系統(tǒng)，建立更高效穩(wěn)健的安全能力呢？對(duì)此，“原生安全”理念應(yīng)運(yùn)而生?！霸踩睆?qiáng)調(diào)從AI大模型的內(nèi)在架構(gòu)、數(shù)據(jù)處理、算法訓(xùn)練、工作流量等方面進(jìn)行安全管理，確保安全從模型的源頭就被構(gòu)建起來(lái)。

基于這一理念，永信至誠(chéng)(688244)依托「數(shù)字風(fēng)洞」產(chǎn)品體系構(gòu)建了針對(duì)AI大模型整個(gè)生命周期的風(fēng)險(xiǎn)管理機(jī)制。該機(jī)制以實(shí)現(xiàn)AI大模型的原生安全為目的，圍繞AI大模型構(gòu)建、部署到運(yùn)營(yíng)的各個(gè)階段，開展多維風(fēng)險(xiǎn)測(cè)評(píng)與驗(yàn)證，幫助開發(fā)、使用AI智能數(shù)字系統(tǒng)的企業(yè)讓AI大模型及其構(gòu)建的數(shù)字系統(tǒng)具備原生的安全能力。

對(duì)此，永信至誠(chéng)提出通過(guò)建立AI大模型資產(chǎn)臺(tái)賬、AI大模型全生命周期測(cè)試評(píng)估、風(fēng)洞時(shí)光機(jī)全生命周期管理、威脅情報(bào)監(jiān)控與“家庭醫(yī)生”服務(wù)、實(shí)時(shí)防護(hù)的AI智能體內(nèi)容合規(guī)和數(shù)據(jù)隱私的“安全圍欄”等一系列針對(duì)不同階段的防護(hù)目標(biāo)與風(fēng)險(xiǎn)特點(diǎn)的「數(shù)字風(fēng)洞」健康管理方案。

同時(shí)，隨著大模型逐步應(yīng)用于各行各業(yè)，確保其合規(guī)性，并具備有效的輸入輸出信息過(guò)濾能力，尤其是防止泄露商業(yè)信息、國(guó)家機(jī)密、個(gè)人隱私及敏感社會(huì)價(jià)值觀等內(nèi)容，已成為關(guān)鍵任務(wù)。以智能體來(lái)管理智能體，在每一個(gè)AI大模型誕生時(shí)，配備原生、獨(dú)立的安全“智能體”，能夠協(xié)助迅速識(shí)別、過(guò)濾并有效阻斷潛在的安全風(fēng)險(xiǎn)，幫助企業(yè)提高AI大模型風(fēng)險(xiǎn)管理準(zhǔn)確性和效率，讓AI大模型更高效地賦能業(yè)務(wù)發(fā)展。（燕云）

校對(duì)：廖勝超