南方財經(jīng)全媒體集團全國兩會報道組 記者王俊 北京報道
技術(shù)進步在帶來發(fā)展的同時,往往裹挾著風險因素。在人工智能快速迭代的數(shù)字空間中,AI換臉、語音合成等技術(shù)既拓展了內(nèi)容生產(chǎn)的想象力邊界,也成為一些不法分子詐騙犯罪的溫床。
“詐騙分子頻繁利用AI換臉、加密通信等技術(shù)實施精準詐騙,防范打擊難度越來越大。”今年兩會期間,最高法刑事審判第三庭庭長陳鴻翔在接受南方財經(jīng)全媒體集團全國兩會報道組-21世紀經(jīng)濟報道專訪時表示。
他強調(diào),技術(shù)的發(fā)展應(yīng)當要服務(wù)于人類需要,要加強對技術(shù)的監(jiān)管和規(guī)范。針對AI深度偽造帶來的新情況新問題,最高法將加強研究,會同相關(guān)部門及時出臺規(guī)范性法律文件或?qū)嵤┘殑t,完善法律適用。并且,應(yīng)建立完善的追蹤溯源體系,在深度偽造的創(chuàng)作、傳播等各個環(huán)節(jié)嵌入可追溯的標識,進而為后續(xù)的責任倒查等提供有力線索。
對于近年來備受關(guān)注的幫信罪,陳鴻翔表示,會積極出臺專門性的規(guī)范性文件,統(tǒng)一裁判標準和政策。
(最高法刑事審判第三庭庭長陳鴻翔 受訪者供圖)
電詐犯罪跨境化、集團化、暴力化 將加強國際合作
《21世紀》:近年來,網(wǎng)絡(luò)詐騙在數(shù)量、犯罪組織模式等方面有哪些新趨勢?
陳鴻翔:隨著AI深度偽造等技術(shù)的廣泛應(yīng)用,一些不法分子利用這些新技術(shù),不斷翻新詐騙手法,新型騙局花樣百出,電信網(wǎng)絡(luò)詐騙犯罪案件仍居高不下。近三年來,人民法院審理的電信網(wǎng)絡(luò)詐騙案件數(shù)量呈逐年上升趨勢,其中2024年審結(jié)4萬余件8.2萬余人,案件數(shù)和被告人數(shù)同比分別上升29.4%、26.7%。除了案件數(shù)量仍處高位運行外,犯罪團伙有組織化、規(guī)模化、集團化的趨勢亦十分明顯,一些境外電信網(wǎng)絡(luò)詐騙團伙形成大型犯罪集團,人員分工配合、流水線運作實施詐騙,迷惑性極強,詐騙容易得逞;同時又以“海外高薪”等利誘、裹挾人員出境實施詐騙,為海外詐騙犯罪集團輸送人力,衍生了一系列關(guān)聯(lián)犯罪。
《21世紀》:AI詐騙對司法審判帶來了哪些新的挑戰(zhàn)?法院準備如何應(yīng)對這些挑戰(zhàn)?
陳鴻翔:當前,網(wǎng)絡(luò)犯罪手段越來越趨向智能化,詐騙分子頻繁利用AI換臉、語音合成、加密通信等技術(shù)實施精準詐騙,防范打擊難度越來越大,對司法審判帶來了諸多挑戰(zhàn):一是案件辦理難度大。隨著作案手段高度智能化、技術(shù)化,偵查取證難問題十分突出,部分案件數(shù)額查證難,情節(jié)認定難,定罪處罰難度越來越大。二是法律規(guī)范待完善。規(guī)范性法律文件存在一定的滯后性,難以完全適應(yīng)網(wǎng)絡(luò)技術(shù)快速發(fā)展的新形勢,亟需完善相關(guān)法律規(guī)范。三是預(yù)警防范需加強。詐騙分子蠱惑誘騙大批人員出境作案,涉案人員呈現(xiàn)低齡化、專業(yè)化等趨勢,精準預(yù)警和宣傳防范工作需進一步加強。
針對這些問題和挑戰(zhàn),人民法院將積極應(yīng)對,有序開展以下工作:一是強化法律支撐。針對新情況新問題加強研究,會同相關(guān)部門及時出臺規(guī)范性法律文件或?qū)嵤┘殑t,完善法律適用,確保對電信網(wǎng)絡(luò)詐騙犯罪認定更加準確,打擊更加全面,效果更加良好。二是抓好法治宣傳。結(jié)合電信網(wǎng)絡(luò)詐騙犯罪新特點,有針對性地開展重點宣傳、精準宣傳,增強群眾防范意識和識別能力,讓不法分子無可乘之機。三是加強審判專業(yè)化建設(shè)。加強審判隊伍培訓,提高法官對案件的把握和處理能力,切實提高辦案水平;加強專家“智庫”等專業(yè)力量,為司法審判提供必要的技術(shù)輔助。
《21世紀》:近期多起泰緬邊境失聯(lián)事件在社交媒體上引發(fā)廣泛關(guān)注。您認為該如何應(yīng)對目前的詐騙案件呈現(xiàn)出的跨境犯罪和集團化趨勢?如何對跨國詐騙犯罪形成更有效的震懾和懲罰?
陳鴻翔:當前,一些詐騙犯罪集團盤踞在境外,利用電信網(wǎng)絡(luò)對境內(nèi)居民實施詐騙,社會危害嚴重,人民群眾反映強烈。針對電信網(wǎng)絡(luò)詐騙犯罪跨境化、集團化、暴力化等新特點、新問題,我們應(yīng)注重標本兼治,從防范和打擊兩個層面進一步加大力度:一是注重反詐科技支撐,提升反詐技防能力。要注重加強反詐技術(shù)的研發(fā),不斷開發(fā)更為先進的防范和預(yù)警檢測工具,完善信息通訊行業(yè)反詐技術(shù)平臺,提高境外涉詐電話識別、涉詐APP攔截封堵能力,不斷增強精準預(yù)警能力和技術(shù)反制。二是加強打擊電信網(wǎng)絡(luò)詐騙犯罪國際合作。要注重推動建立跨國信息共享機制,加強國際執(zhí)法司法合作,開展聯(lián)合行動,打擊跨境電信網(wǎng)絡(luò)詐騙犯罪集團。 三是進一步加強法治宣傳。要針對詐騙分子的新手法新技術(shù),推陳出新,用好用足網(wǎng)絡(luò)平臺傳播資源,針對易受騙群體開展重點推送,不斷增強法治宣傳的精準性、實效性。
下一步,人民法院將充分發(fā)揮刑事審判職能作用,在堅持對電信網(wǎng)絡(luò)詐騙犯罪依法從嚴懲處總體方針前提下,明確打擊重點,加大精準打擊力度,用足用好法律規(guī)定,集中力量審理好一批大要案,堅決震懾跨境電信網(wǎng)絡(luò)詐騙犯罪。
規(guī)制深度偽造技術(shù) 建立完善的追蹤溯源體系
《21世紀》:“深度偽造”(Deepfake)技術(shù)已被用于詐騙、色情敲詐等犯罪行為。部分國家已對該技術(shù)單獨立法加以規(guī)制,您認為我國在規(guī)范深度偽造技術(shù)發(fā)展時,應(yīng)該優(yōu)先關(guān)注哪些問題?
陳鴻翔:對于深度偽造技術(shù),一方面在技術(shù)層面,要加強對這種技術(shù)的安全研究,鼓勵技術(shù)開發(fā)的透明度,配套更為先進的檢測和防范技術(shù),確保技術(shù)不被濫用;同時,應(yīng)建立完善的追蹤溯源體系,在深度偽造的創(chuàng)作、傳播等各個環(huán)節(jié)嵌入可追溯的標識,進而能夠為后續(xù)的責任倒查等提供有力線索;另一方面在法律層面,要及時跟蹤研究深度偽造技術(shù)帶來的新情況、新問題,適時出臺規(guī)范性法律文件,不僅從正向確定深度偽造技術(shù)在不同場景下的合法使用邊界,也要從反向明確深度偽造技術(shù)相關(guān)違法犯罪行為的認定標準,確保深度偽造技術(shù)發(fā)展規(guī)范化、可持續(xù)。
《21世紀》:近些年來,網(wǎng)絡(luò)暴力頻繁發(fā)生。有聲音指出,司法實踐中,網(wǎng)絡(luò)暴力侵權(quán)行為屢見不鮮,刑法規(guī)制相較于民法不足。您如何看待這種觀點?法院對于懲治網(wǎng)暴行為有何建議,比如是否考慮強化刑事手段?
陳鴻翔:近年來,在互聯(lián)網(wǎng)技術(shù)和產(chǎn)業(yè)快速發(fā)展的大背景下,受“流量經(jīng)濟”刺激,網(wǎng)絡(luò)暴力事件頻發(fā),嚴重侵害公民人格權(quán)、名譽權(quán),嚴重影響人民群眾安全感,嚴重破壞網(wǎng)絡(luò)生態(tài)。針對網(wǎng)絡(luò)暴力行為人侵犯公民名譽權(quán)、隱私權(quán)等,被害人可以依法提起民事訴訟,或者提起刑事自訴。由于網(wǎng)絡(luò)侮辱、誹謗有一些明顯區(qū)別于傳統(tǒng)侮辱、誹謗的特征,致使刑事自訴難、取證難、打擊難等問題更為突出。
最高人民法院高度重視打擊網(wǎng)絡(luò)暴力違法犯罪,會同相關(guān)部門先后出臺《關(guān)于辦理利用信息網(wǎng)絡(luò)實施誹謗等刑事案件適用法律若干問題的解釋》《關(guān)于辦理非法利用信息網(wǎng)絡(luò)、幫助信息網(wǎng)絡(luò)犯罪活動等刑事案件適用法律若干問題的解釋》《關(guān)于依法懲治網(wǎng)絡(luò)暴力違法犯罪的指導(dǎo)意見》等司法解釋和指導(dǎo)性意見,明確網(wǎng)絡(luò)侮辱、誹謗的認定標準、公訴條件以及自訴轉(zhuǎn)公訴程序等,全力維護人民群眾合法權(quán)益。
同時,我們認為,網(wǎng)絡(luò)暴力行為類型復(fù)雜多樣,危害程度各有差異,要著力健全完善網(wǎng)絡(luò)暴力綜合治理體系,綜合運用刑事、民事、行政等多種手段,促進網(wǎng)絡(luò)暴力多元共治。下一步,最高人民法院將重點抓好相關(guān)司法解釋和規(guī)范性法律文件的貫徹落實,依法審理好網(wǎng)絡(luò)暴力違法犯罪案件,發(fā)揮好運用好典型案例的警示、引導(dǎo)和指引作用,共同營造風清氣正的良好網(wǎng)絡(luò)生態(tài)。
出臺專門性指導(dǎo)規(guī)范 統(tǒng)一幫信罪裁判標準和政策
《21世紀》:幫信罪(幫助信息網(wǎng)絡(luò)犯罪活動罪)案件近年持續(xù)高發(fā),有聲音指出,幫信罪的犯罪群體低齡,社會認知不足等問題突出,比如許多幫信罪群體為高中生、農(nóng)民等。就您的觀察,幫信罪案件呈現(xiàn)何種趨勢?人民法院在辦案中如何加強治理?
陳鴻翔:當前,幫信罪犯罪群體除呈現(xiàn)出低齡化和學生等群體涉案較突出等問題外,還呈現(xiàn)出犯罪鏈條化、層次化、智能化特征明顯,犯罪組織形式、手段、方式升級快,犯罪類型以涉手機卡、銀行卡的“兩卡”案件為主等特點和趨勢。人民法院在辦理幫信罪案件過程中從多方著力,堅持懲治與預(yù)防相結(jié)合,注重源頭治理和綜合治理,通過以下工作和舉措積極加強對此類犯罪的有效治理:一是積極出臺專門性的指導(dǎo)規(guī)范,統(tǒng)一裁判標準和政策;二是推動優(yōu)化行刑銜接機制,積極構(gòu)建多層次懲戒處罰體系;三是持續(xù)加強部門協(xié)作配合,共同推動幫信罪的源頭治理和綜合治理;四是深入開展法治宣傳教育,營造全社會共同參與治理的積極氛圍。