近年來，人工智能（AI）技術蓬勃發(fā)展，尤其是最近以DeepSeek為代表的大模型問世，憑借其強大的推理能力和便捷的操作方式，迅速成為AI領域的“頂流”。

2月12日，2025首屆AI引領數字安全新浪潮專題論壇會議成功召開。與會專家圍繞AI技術的快速發(fā)展對數字安全帶來的挑戰(zhàn)與機遇展開深入探討，提出“以AI管AI”的理念，推動人工智能與網絡安全技術的深度融合，為經濟社會發(fā)展和國家安全提供有力保障。 

以AI管AI 

中國網絡安全協會專家李彬在會上指出，新技術的出現帶來了全新的生態(tài)環(huán)境和產業(yè)格局，但相應的配套管理技術措施也需要及時跟上。隨著AI技術的廣泛應用，數據安全、算法安全、隱私保護等問題日益凸顯，傳統(tǒng)的安全防護手段已難以應對復雜的數字安全挑戰(zhàn)。

國雄資本有限公司董事長姚尚坤表示，人工智能的飛速發(fā)展對數字安全帶來了全新的機遇與挑戰(zhàn)。他指出，人工智能正從傳統(tǒng)模式向生成式跨越，AIGC（生成式人工智能）不斷取得突破，多模態(tài)大模型快速發(fā)展。然而，AI技術的廣泛應用也伴隨著數據泄露、深度偽造等風險，人工智能安全保障已成為AI可靠可控應用的重要基礎。

針對AI技術帶來的安全挑戰(zhàn)，與會專家提出“以AI管AI”的理念，即利用人工智能技術來管理和應對AI自身可能引發(fā)的安全問題。姚尚坤強調，規(guī)避AIGC風險不能單純依賴智能算法，而是需要將人類的創(chuàng)造能力與AI的生成能力有效結合。他建議，通過AIGC合成內容鑒別技術應對AI的惡意應用，利用大模型糾偏提升AI的安全能力，并借助生成式模型水印技術保護AI賦能的系統(tǒng)。

北京郵電大學災備技術國家工程研究中心主任李鳳華認為，隨著人工智能的快遞發(fā)展，數據化成為富礦，數據在帶來便利的同時，個人信息泄露、非法交易和濫用等問題如影隨形。對此，必須采取全方位、多層次的措施予以防范，應完善法律法規(guī)，加強企業(yè)自律，重視并保護弱勢群體的利益。

“我們在擁抱AI的同時，也不能不嚴防AI可能帶來的數據泄露、深度偽造等風險。”姚尚坤表示，人工智能創(chuàng)立之初即是模擬、延伸和擴展人類智能的一門技術學科。相比于過往的AI技術，大模型在理解指令、思維鏈能力和快速學習能力等維度得到了顯著增強，這為數字安全領域提供了新的解決方案。

推動AI技術普惠，但也伴生安全問題

企業(yè)自律是防范數據濫用的關鍵環(huán)節(jié)。姚尚坤認為，企業(yè)作為數據的主要收集者和使用者，應當樹立正確的數據安全觀，建立健全數據安全管理體系，加強內部管理，規(guī)范數據的使用流程。同時，積極承擔社會責任，保護用戶的數據權益，為用戶提供安全可靠的服務。行業(yè)自律組織也要發(fā)揮引導和監(jiān)督作用，制定行業(yè)規(guī)范和標準，加強行業(yè)內的交流與合作，共同推動行業(yè)的健康發(fā)展。 

姚尚坤特別提到，DeepSeek等AI大模型的出現，將AI從“科技貴族”手中解放出來，賦予普通企業(yè)和個人參與AI競爭的機會。這種變革讓更多創(chuàng)新者和中小企業(yè)能夠在AI戰(zhàn)場上爭得一席之地，推動整個行業(yè)的多元化發(fā)展。然而，隨著AI技術的普及，數據安全保護需求也將大幅增加。

“DeepSeek的普及不僅推動了AI技術的普惠化，也為數字安全領域帶來了新的挑戰(zhàn)和機遇。”姚尚坤表示，未來需要進一步加強AI技術的安全能力建設，確保AI在賦能經濟社會發(fā)展的同時，不會成為安全風險的源頭。