近年來，人工智能（AI）技術(shù)蓬勃發(fā)展，尤其是最近以DeepSeek為代表的大模型問世，憑借其強(qiáng)大的推理能力和便捷的操作方式，迅速成為AI領(lǐng)域的“頂流”。

2月12日，2025首屆AI引領(lǐng)數(shù)字安全新浪潮專題論壇會(huì)議成功召開。與會(huì)專家圍繞AI技術(shù)的快速發(fā)展對數(shù)字安全帶來的挑戰(zhàn)與機(jī)遇展開深入探討，提出“以AI管AI”的理念，推動(dòng)人工智能與網(wǎng)絡(luò)安全技術(shù)的深度融合，為經(jīng)濟(jì)社會(huì)發(fā)展和國家安全提供有力保障。 

以AI管AI 

中國網(wǎng)絡(luò)安全協(xié)會(huì)專家李彬在會(huì)上指出，新技術(shù)的出現(xiàn)帶來了全新的生態(tài)環(huán)境和產(chǎn)業(yè)格局，但相應(yīng)的配套管理技術(shù)措施也需要及時(shí)跟上。隨著AI技術(shù)的廣泛應(yīng)用，數(shù)據(jù)安全、算法安全、隱私保護(hù)等問題日益凸顯，傳統(tǒng)的安全防護(hù)手段已難以應(yīng)對復(fù)雜的數(shù)字安全挑戰(zhàn)。

國雄資本有限公司董事長姚尚坤表示，人工智能的飛速發(fā)展對數(shù)字安全帶來了全新的機(jī)遇與挑戰(zhàn)。他指出，人工智能正從傳統(tǒng)模式向生成式跨越，AIGC（生成式人工智能）不斷取得突破，多模態(tài)大模型快速發(fā)展。然而，AI技術(shù)的廣泛應(yīng)用也伴隨著數(shù)據(jù)泄露、深度偽造等風(fēng)險(xiǎn)，人工智能安全保障已成為AI可靠可控應(yīng)用的重要基礎(chǔ)。

針對AI技術(shù)帶來的安全挑戰(zhàn)，與會(huì)專家提出“以AI管AI”的理念，即利用人工智能技術(shù)來管理和應(yīng)對AI自身可能引發(fā)的安全問題。姚尚坤強(qiáng)調(diào)，規(guī)避AIGC風(fēng)險(xiǎn)不能單純依賴智能算法，而是需要將人類的創(chuàng)造能力與AI的生成能力有效結(jié)合。他建議，通過AIGC合成內(nèi)容鑒別技術(shù)應(yīng)對AI的惡意應(yīng)用，利用大模型糾偏提升AI的安全能力，并借助生成式模型水印技術(shù)保護(hù)AI賦能的系統(tǒng)。

北京郵電大學(xué)災(zāi)備技術(shù)國家工程研究中心主任李鳳華認(rèn)為，隨著人工智能的快遞發(fā)展，數(shù)據(jù)化成為富礦，數(shù)據(jù)在帶來便利的同時(shí)，個(gè)人信息泄露、非法交易和濫用等問題如影隨形。對此，必須采取全方位、多層次的措施予以防范，應(yīng)完善法律法規(guī)，加強(qiáng)企業(yè)自律，重視并保護(hù)弱勢群體的利益。

“我們在擁抱AI的同時(shí)，也不能不嚴(yán)防AI可能帶來的數(shù)據(jù)泄露、深度偽造等風(fēng)險(xiǎn)?！币ι欣け硎?，人工智能創(chuàng)立之初即是模擬、延伸和擴(kuò)展人類智能的一門技術(shù)學(xué)科。相比于過往的AI技術(shù)，大模型在理解指令、思維鏈能力和快速學(xué)習(xí)能力等維度得到了顯著增強(qiáng)，這為數(shù)字安全領(lǐng)域提供了新的解決方案。

推動(dòng)AI技術(shù)普惠，但也伴生安全問題

企業(yè)自律是防范數(shù)據(jù)濫用的關(guān)鍵環(huán)節(jié)。姚尚坤認(rèn)為，企業(yè)作為數(shù)據(jù)的主要收集者和使用者，應(yīng)當(dāng)樹立正確的數(shù)據(jù)安全觀，建立健全數(shù)據(jù)安全管理體系，加強(qiáng)內(nèi)部管理，規(guī)范數(shù)據(jù)的使用流程。同時(shí)，積極承擔(dān)社會(huì)責(zé)任，保護(hù)用戶的數(shù)據(jù)權(quán)益，為用戶提供安全可靠的服務(wù)。行業(yè)自律組織也要發(fā)揮引導(dǎo)和監(jiān)督作用，制定行業(yè)規(guī)范和標(biāo)準(zhǔn)，加強(qiáng)行業(yè)內(nèi)的交流與合作，共同推動(dòng)行業(yè)的健康發(fā)展。 

姚尚坤特別提到，DeepSeek等AI大模型的出現(xiàn)，將AI從“科技貴族”手中解放出來，賦予普通企業(yè)和個(gè)人參與AI競爭的機(jī)會(huì)。這種變革讓更多創(chuàng)新者和中小企業(yè)能夠在AI戰(zhàn)場上爭得一席之地，推動(dòng)整個(gè)行業(yè)的多元化發(fā)展。然而，隨著AI技術(shù)的普及，數(shù)據(jù)安全保護(hù)需求也將大幅增加。

“DeepSeek的普及不僅推動(dòng)了AI技術(shù)的普惠化，也為數(shù)字安全領(lǐng)域帶來了新的挑戰(zhàn)和機(jī)遇?！币ι欣け硎?，未來需要進(jìn)一步加強(qiáng)AI技術(shù)的安全能力建設(shè)，確保AI在賦能經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí)，不會(huì)成為安全風(fēng)險(xiǎn)的源頭。