特約評(píng)論員 劉遠(yuǎn)舉

3月4日，雷軍的建言上了熱搜頭條，其中討論度最高的是他提出加強(qiáng)“AI換臉擬聲”違法侵權(quán)治理的建議。

雷軍表示，“AI換臉擬聲”不當(dāng)濫用造成了違法侵權(quán)行為的重災(zāi)區(qū)，易引發(fā)侵犯肖像權(quán)、侵犯公民個(gè)人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽(yù)損害，帶來(lái)社會(huì)治理等風(fēng)險(xiǎn)。AI深度合成技術(shù)所需素材獲取便利、技術(shù)使用門檻低、侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，給治理帶來(lái)較大挑戰(zhàn)。

應(yīng)該說(shuō)，這個(gè)建言回應(yīng)了社會(huì)關(guān)切的熱點(diǎn)。現(xiàn)在隨著AI技術(shù)的發(fā)展，“AI換臉擬聲”主要在兩方面會(huì)產(chǎn)生較大風(fēng)險(xiǎn)，一類是電信詐騙，利用生成的視頻和聲音，假冒他人進(jìn)行詐騙。另一類，是生成色情內(nèi)容，并進(jìn)行傳播，損害公民聲譽(yù)。

解決辦法，也正如雷軍所說(shuō)，加快單行法立法進(jìn)程，在安全與發(fā)展并重的基礎(chǔ)上提升立法位階；其次，強(qiáng)化行業(yè)自律共治，壓實(shí)平臺(tái)企業(yè)等各方的責(zé)任和義務(wù)；最后，加大普法宣傳的廣度力度，增強(qiáng)民眾的警惕性和鑒別力。

監(jiān)管是必要的，但如何監(jiān)管，卻需要循著專業(yè)、理性、科學(xué)、寬容的范式去進(jìn)行。

對(duì)于生成式AI的監(jiān)管，首先要分清楚創(chuàng)作內(nèi)容和傳播內(nèi)容的區(qū)別。AI根據(jù)用戶意圖進(jìn)行內(nèi)容的生成，雖然具有智能化的特征，但本質(zhì)仍然是工具。AI生成的內(nèi)容，不像網(wǎng)頁(yè)那樣面向大規(guī)模受眾，而是僅面向一個(gè)用戶。

當(dāng)用戶用word寫文章，或者用Photoshop創(chuàng)作內(nèi)容的時(shí)候，這些軟件并不會(huì)限制用戶的創(chuàng)作。但是，如果用戶把這些內(nèi)容進(jìn)行傳播的時(shí)候，已經(jīng)有明確的法律法規(guī)進(jìn)行監(jiān)管。這就意味著，以前法律并不監(jiān)管創(chuàng)作層面，或者單個(gè)的私人活動(dòng)層面，但如果對(duì)于AI的監(jiān)管直接降低到了創(chuàng)作層面，那么也會(huì)在一定程度上加大AI行業(yè)的合規(guī)成本。

如果要求AI對(duì)他人利用AI自行生成的文本、圖像、聲音承擔(dān)作為“內(nèi)容生產(chǎn)者的責(zé)任”，這就相當(dāng)于把監(jiān)管，不是放在網(wǎng)站層面，而是放在了WORD、輸入法、photoshop層面，要求這些公司對(duì)最終發(fā)布的內(nèi)容負(fù)責(zé)。顯然，微軟、金山、搜狗、Adobe等都做不到這一點(diǎn)。

具體到換臉擬聲這一項(xiàng)上，對(duì)于某一類的換臉擬聲，AI是無(wú)法區(qū)別惡意還是善意的，是想著損害他人聲譽(yù)，還是只是自己使用，那么，就只能是完全封禁。而且，應(yīng)該看到的是，隨著以Deepseek為代表的高性價(jià)比人工智能技術(shù)路線的出現(xiàn)，私人部署的價(jià)格已經(jīng)降低到200萬(wàn)元，如果再容忍生成內(nèi)容的速度慢一些，這個(gè)價(jià)格還可以進(jìn)一步降低到50萬(wàn)元。也就是說(shuō)，AI算力越來(lái)越出現(xiàn)分散化、私人化的趨勢(shì)。這就意味著監(jiān)管是不對(duì)稱的，越是大型的AI廠商，受到的監(jiān)管越大，小型廠商或者私人部署反而受到的監(jiān)管約束較小，可能會(huì)讓一些不法分子利用“AI換臉擬聲”進(jìn)行的違法活動(dòng)得到規(guī)避。一些電詐分子或想著損害他人聲譽(yù)的人，如果使用國(guó)外的生成式AI工具，那么國(guó)內(nèi)如果僅僅對(duì)相關(guān)工具進(jìn)行監(jiān)管，對(duì)他們可能不會(huì)有太大影響。 

用戶可以，也應(yīng)該對(duì)產(chǎn)生的內(nèi)容負(fù)責(zé)，那么，相應(yīng)的監(jiān)管，就應(yīng)該放到傳播層面，在平臺(tái)上進(jìn)行中游式監(jiān)管，這更合乎邏輯，而不是對(duì)生成式人工智能服務(wù)者和供應(yīng)商提出過(guò)高的合規(guī)義務(wù)。

總之，任何技術(shù)帶來(lái)好處的同時(shí)，都必然伴隨內(nèi)生的、不可剔除的風(fēng)險(xiǎn)。AI技術(shù)也是如此。大語(yǔ)言模式、多模態(tài)生成式AI，都會(huì)同時(shí)伴隨一些負(fù)面問(wèn)題。所以，一方面需要加強(qiáng)防范和監(jiān)管，另一方面也應(yīng)該考慮如何在精細(xì)化地管理內(nèi)生風(fēng)險(xiǎn)的同時(shí)，為新技術(shù)創(chuàng)造安全的成長(zhǎng)空間。