21世紀(jì)經(jīng)濟(jì)報(bào)道記者 邊萬莉 北京報(bào)道 ChatGPT帶火了一系列GPT產(chǎn)品，AIGC（AI generated content，生成式AI）技術(shù)逐步走向?qū)嵱谩８鶕?jù)奇富科技對104家中小機(jī)構(gòu)的訪談，64%的受訪金融機(jī)構(gòu)認(rèn)為，GPT產(chǎn)品的能力將有助于提煉信息、整合材料、生成報(bào)告，減輕金融機(jī)構(gòu)內(nèi)部繁重的案頭工作。
ChatGPT的面世推動(dòng)人工智能發(fā)展史走到了奇點(diǎn)，但不得不承認(rèn)的是，同時(shí)也帶來了風(fēng)險(xiǎn)和挑戰(zhàn)。近期包頭警方公布的一則詐騙案例，正是利用“AI換臉”實(shí)施的詐騙，為各行各業(yè)都敲響了安全警鐘。
“我們迫切需要重構(gòu)人工智能信任，在技術(shù)上、制度上有效對抗AI虛假，建立防范AI操縱的防火墻，維護(hù)數(shù)字經(jīng)濟(jì)時(shí)代的國家安全與金融業(yè)安全。”中國銀行原行長李禮輝在近日“第八屆融城杯金融科技創(chuàng)新案例評選”啟動(dòng)儀式上發(fā)言時(shí)如是說。
實(shí)際上，應(yīng)對人工智能技術(shù)帶來的威脅，不僅僅是要依靠制度，更是需要技術(shù)公司、監(jiān)管部門的共同努力。此外，個(gè)人也應(yīng)當(dāng)樹立信息安全意識，謹(jǐn)防上當(dāng)受騙。
金融機(jī)構(gòu)對GPT產(chǎn)品的需求方向
ChatGPT熱度稍減，但關(guān)注度從未消失。如果將ChatGPT應(yīng)用金融行業(yè)，會有哪些可能性呢？此前，21世紀(jì)經(jīng)濟(jì)報(bào)道記者向金融從業(yè)人員發(fā)起采訪后發(fā)現(xiàn)，答案主要集中在以下幾個(gè)方面：寫企業(yè)宣傳稿、寫研報(bào)、做客服、做催收、營銷、專業(yè)分析等。
前不久，奇富科技就金融機(jī)構(gòu)對于GPT產(chǎn)品的需求，對104家中小金融機(jī)構(gòu)進(jìn)行訪談。92%的金融機(jī)構(gòu)一致認(rèn)為，標(biāo)準(zhǔn)化程度越高，AI可替代性就越強(qiáng)。與其坐等被替代，不如尋求主動(dòng)出擊。從調(diào)研結(jié)果看，金融機(jī)構(gòu)對GPT產(chǎn)品的需求主要集中在三個(gè)方面，即改善用戶體驗(yàn)、輔助風(fēng)控決策、資料查詢與信息提煉。
數(shù)據(jù)顯示，72%的受訪金融機(jī)構(gòu)相信，通過使用自然、流暢、個(gè)性化語言的GPT產(chǎn)品，可以有效緩解客戶情緒，降低客戶投訴率。67%的受訪金融機(jī)構(gòu)表示，他們需要一款能夠全面、準(zhǔn)確地解讀征信報(bào)告的GPT產(chǎn)品，以提高信貸人員的工作效率和精準(zhǔn)度。64%的受訪金融機(jī)構(gòu)認(rèn)為，GPT產(chǎn)品的能力將有助于提煉信息、整合材料、生成報(bào)告，減輕金融機(jī)構(gòu)內(nèi)部繁重的案頭工作。
某南方農(nóng)村信用社聯(lián)合社科技負(fù)責(zé)人表示：“我們認(rèn)為客戶對話是非常重要的一環(huán)，特別希望有一款能夠生成自然、流暢、個(gè)性化語言的GPT產(chǎn)品，能滿足客戶問題解答及處理，同時(shí)又能紓解客戶情緒，提升客戶體驗(yàn)和滿意度，減少客戶投訴率。”同時(shí)，他也指出，機(jī)構(gòu)也會相當(dāng)重視對話內(nèi)容的合規(guī)性、安全性、可信度和邏輯性，“如果GPT無法解決問題處理操作的準(zhǔn)確性，我們將會選擇僅回答問題，在操作環(huán)節(jié)再跳轉(zhuǎn)人工復(fù)核。”
某南方城商行副行長表示：“我們在數(shù)字化轉(zhuǎn)型的過程中迫切需要一款優(yōu)秀的GPT產(chǎn)品，來提高其業(yè)務(wù)的效率和質(zhì)量。GPT能夠快速查詢專業(yè)領(lǐng)域資料，提煉核心信息。當(dāng)然，AI提供的信息有些需要深入考究真實(shí)性，但是GPT肯定是未來金融業(yè)務(wù)發(fā)展的趨勢。因此，我們一定會加緊研究和選擇GPT產(chǎn)品，以適應(yīng)市場的需求并提高自身的競爭力。”
李禮輝認(rèn)為，ChatGPT的面世推動(dòng)人工智能發(fā)展史走到了奇點(diǎn)，是人工智能的迭代升級，標(biāo)志著數(shù)字技術(shù)的某種變局，將會帶來新的沖擊和挑戰(zhàn)。
一是在算力競爭上面臨挑戰(zhàn)。金融領(lǐng)域中，智能化的信用評估、客戶篩選、風(fēng)險(xiǎn)定價(jià)、數(shù)字員工等方面無不需要數(shù)據(jù)和算力的支撐，算力很大程度上決定金融業(yè)的競爭力。算力的競爭，今后是科技巨頭、資本巨頭之間的競爭。我們需要探討如何構(gòu)建一個(gè)既能占領(lǐng)全球技術(shù)高地、又能避免壟斷的國家級算力基礎(chǔ)設(shè)施；如何構(gòu)建一個(gè)資源可共享、商業(yè)可持續(xù)、監(jiān)管可包容、金融機(jī)構(gòu)和科技公司可受益的金融算力生態(tài)圈。
二是AI合成與信任面臨挑戰(zhàn)。深度內(nèi)容合成模糊了真實(shí)與虛假的邊界，最新的深度合成算法可以對抗通用的技術(shù)性的甄別，人們開始擔(dān)憂AI虛假與AI操縱對社會構(gòu)成的威脅。低級別的AI虛假用于詐騙、詆毀個(gè)人及企業(yè)名譽(yù)；高級別的AI操縱有可能用于詆毀政治人物或政權(quán)實(shí)體操控負(fù)面輿情、制造政治惡意、激化社會矛盾。
“AI換臉”詐騙敲響安全警鐘
風(fēng)控是金融機(jī)構(gòu)可持續(xù)發(fā)展的生命線，安全性是金融科技創(chuàng)新應(yīng)用關(guān)注的重要問題。近日，包頭警方公布了一則AI詐騙案例，敲響了人工智能的警鐘。
據(jù)警方通報(bào)，騙子冒充郭先生一名至交好友，通過微信聯(lián)系到郭先生。對方告訴郭先生，他的朋友在外地招標(biāo)，需要430萬元，且需要公對公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。郭先生說，“從頭至尾都沒有和我提借錢的事情，就說會先把錢給我打過來，再讓我給他朋友賬戶轉(zhuǎn)過去，而且當(dāng)時(shí)是給我打了視頻，我在視頻中也確認(rèn)了面孔和聲音，所以才放松了戒備。因?yàn)楫?dāng)時(shí)已經(jīng)臨近12點(diǎn)了，對方又說招標(biāo)款12點(diǎn)前必須到賬，所以基于信任的前提下，我還沒等錢到我的賬戶，就先把這430萬元給對方打了過去。”
沒想到的是，當(dāng)錢款打過去后，郭先生拿起手機(jī)給好朋友的微信發(fā)了一條消息，稱事情已經(jīng)辦妥。讓他沒想到的是，此次對方回過來的消息竟然是一個(gè)問號。很快，郭先生撥打了好朋友的電話，這一問才知道自己竟然是遇上了“高端”騙局，對方通過智能AI的詐騙手段，佯裝成好朋友對他實(shí)施了詐騙。
郭先生在視頻中看到的朋友面孔和聲音難道是假的？確實(shí)是假的。隨著AIGC技術(shù)的大爆發(fā)，普通人接觸到各種先進(jìn)生成工具變得不費(fèi)吹灰之力，制作出越發(fā)難以識別的高質(zhì)量deepfake視頻也越來越容易，想一眼識破這些造假內(nèi)容就更困難。
5月24日，中國互聯(lián)網(wǎng)協(xié)會發(fā)布提醒：伴隨著深度合成技術(shù)的開放開源，深度合成產(chǎn)品和服務(wù)逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻，進(jìn)行詐騙、誹謗的違法行為屢見不鮮。
包頭警方通報(bào)的案例中，不法分子利用AI技術(shù)，通過聲音合成，偽造成特定人物的聲音，通過AI換臉，偽裝成特定人物，實(shí)時(shí)與他人進(jìn)行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實(shí)施詐騙。面對利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強(qiáng)防范。
據(jù)度小滿數(shù)據(jù)智能部總經(jīng)理、度小滿技術(shù)委員會執(zhí)行主席楊青介紹，在金融行業(yè)，由deepfake產(chǎn)生的主要欺詐行為就是身份欺詐，也就是通過深度偽造的虛假圖像和視頻，來冒充他人身份，騙過金融信貸流程中的身份核驗(yàn)系統(tǒng)（包括活體檢測）。不法分子的欺詐方法其實(shí)也很簡單，就是先通過劫持root或者緩存文件注入等形式劫持手機(jī)的攝像頭，不讓它進(jìn)行真實(shí)采集。然后上傳提前準(zhǔn)備好的虛假證件信息（或經(jīng)過篡改處理，或直接從黑產(chǎn)處購買）和通過深偽技術(shù)/AIGC技術(shù)生成的人臉樣本了。如果系統(tǒng)恰好沒有檢測出來，盜刷和惡意注冊就可能隨之而來，給金融機(jī)構(gòu)和用戶造成不易挽回的經(jīng)濟(jì)損失。
中關(guān)村科金金融事業(yè)部技術(shù)專家張巍向記者表示，隨著技術(shù)的不斷進(jìn)步和計(jì)算能力的提升，AI換臉技術(shù)成本越來越低，更加易于使用，因此此類AI換臉案例逐步進(jìn)入公眾視野，監(jiān)管機(jī)構(gòu)、行業(yè)參與者及社會公眾需對此予以關(guān)注。該項(xiàng)技術(shù)的濫用，引發(fā)了行業(yè)很多思考，包括：隱私侵犯、虛假信息傳播、偽造身份、形象破壞和誹謗、法律和倫理問題。對于AI技術(shù)濫用，需要警惕所帶來的風(fēng)險(xiǎn)問題。
當(dāng)前應(yīng)對AI詐騙的探討與實(shí)踐
有數(shù)據(jù)顯示，國內(nèi)主要金融機(jī)構(gòu)及互聯(lián)網(wǎng)公司應(yīng)用的人臉驗(yàn)證流程，70%以上存在被繞過的風(fēng)險(xiǎn)。在全球范圍內(nèi)，也有快接近一半（46%）的企業(yè)遭受過合成身份的欺詐，有高達(dá)90%的受訪企業(yè)認(rèn)為這種行為已日益嚴(yán)重。
“新技術(shù)發(fā)展到現(xiàn)在這個(gè)階段，我們迫切需要重構(gòu)人工智能信任。需要探討的是如何在技術(shù)上和制度上有效對抗AI虛假，如何建立防范AI操縱的防火墻，維護(hù)數(shù)字經(jīng)濟(jì)時(shí)代的國家安全，當(dāng)然也要維護(hù)數(shù)字經(jīng)濟(jì)時(shí)代金融業(yè)的安全。”李禮輝如是說。
實(shí)際上，已有公司在破解deepfake視頻上有所研究和實(shí)踐。楊青告訴記者，一般來說，行業(yè)各家公司在破解deepfake視頻上采取的思路和以上所講差別不大。以度小滿為例，用防深偽檢測模型破解造假視頻，防深偽攻擊的算法策略主要從三方面的破綻入手。
具體來看，一是生成瑕疵，比如，眨眼頻率不正常、瞳孔形狀不規(guī)則、牙齒有缺陷，大到口型與聲音不吻合，肢體動(dòng)作與演講內(nèi)容不協(xié)調(diào)……二是固有屬性，指的是生成工具、攝像頭光感元件固有的噪聲指紋。由于單一特征難以適應(yīng)復(fù)雜的deepfake內(nèi)容，因此檢測模型的整體框架采用的是多特征融合，以此來保證決策的魯棒性。三是高層語義。它指的是檢測面部動(dòng)作單元（肌肉群）協(xié)調(diào)性、面部各區(qū)域朝向一致性、視頻微觀連續(xù)性等方面的問題，由于這些細(xì)節(jié)建模困難、難以復(fù)制，很容易抓到把柄。
應(yīng)對濫用AI技術(shù)進(jìn)行詐騙，人工智能科技公司、監(jiān)管部門均需發(fā)揮應(yīng)有的作用。張巍認(rèn)為，對于人工智能科技公司而言，一方面發(fā)展技術(shù)，另一方面也要對技術(shù)進(jìn)行迭代，避免技術(shù)所帶來的道德風(fēng)險(xiǎn)；對于監(jiān)管，期望能夠從行業(yè)秩序方面給予支持和規(guī)范，保障技術(shù)良性發(fā)展，為社會帶來幫助。
他進(jìn)一步指出，金融機(jī)構(gòu)應(yīng)從技術(shù)升級和組織升級角度予以防范，與相關(guān)監(jiān)管機(jī)構(gòu)、司法機(jī)構(gòu)開展合作，共同打擊欺詐。一方面，技術(shù)升級包括引入人工智能輔助技術(shù)，實(shí)施多層次、多模態(tài)身份核驗(yàn)，全面升級網(wǎng)絡(luò)安全和數(shù)據(jù)安全策略，針對異常行為進(jìn)行監(jiān)測；另一方面，組織升級包括加強(qiáng)員工安全培訓(xùn)，加強(qiáng)對新型欺詐手段的認(rèn)知和應(yīng)對，提升安全意識。
隨著AI技術(shù)近期的迅猛發(fā)展，新一輪的有針對性的監(jiān)管正在逐步完善。作為一家領(lǐng)先的對話式AI技術(shù)解決方案提供商，中關(guān)村科金有責(zé)任與行業(yè)各方一道，堅(jiān)定支持監(jiān)管機(jī)構(gòu)開展行業(yè)監(jiān)管，通過科技輔助相關(guān)監(jiān)管規(guī)范落地，共同維護(hù)行業(yè)秩序。
