警惕AI“深度偽造” 接陌生電話時建議先“變聲”

　　警惕AI“深度偽造”

　　接陌生電話時建議先“變聲”

　　專家：人體生物特征易被“移花接木” 電話、視頻聊天時需加強(qiáng)防范與甄別

　　“以前我們說‘眼見為實(shí)’，但隨著技術(shù)發(fā)展，不法分子的技術(shù)手段也在更新，造出‘假人說假話’，有時讓人防不勝防，必須要注意鑒別和防范。”近日，于深圳舉行的世界數(shù)字城市大會“生物特征識別技術(shù)應(yīng)用論壇”上，國家特聘專家陳友斌教授在接受本報全媒體記者專訪時談到：“人臉識別技術(shù)已經(jīng)落地各項應(yīng)用，由此引發(fā)的個人隱私泄露等問題也日漸突出，人臉識別技術(shù)應(yīng)用安全管理勢在必行。”

　　文、圖/廣州日報全媒體記者 馮秋瑜(除署名外)

　　AI換臉、聲音合成

　　“好友”以假亂真騙走錢財

　　“如今，社會生活中的不少業(yè)務(wù)都可以在線上進(jìn)行，金融方面如開戶、開卡、理財、信貸；民生方面如申領(lǐng)社保、修改密碼、開庭、辦案；商務(wù)方面如談判、簽約、公證等，然而你有沒有想過，屏幕上出現(xiàn)的那個人，是否真的是你以為的那個人？人工智能大時代下，這一點(diǎn)特別需要警惕。”陳友斌說。

　　前不久包頭警方就通報了一起利用AI實(shí)施詐騙的案件：福州市某公司法人代表郭先生10分鐘內(nèi)被騙430萬元。據(jù)通報，郭先生的一位“好友”突然通過微信視頻聯(lián)系他，稱自己的一位客戶朋友在外地競標(biāo)，需要430萬元保證金，且需要公對公賬戶過賬，想要借郭先生公司的賬戶走賬。基于對好友的信任，加上已經(jīng)視頻聊天核實(shí)了身份，郭先生沒有核實(shí)就直接分兩筆把430萬元轉(zhuǎn)到了對方指定的銀行卡上。事后，郭先生撥打好友電話才知道被騙，原來不法分子通過智能AI換臉和擬聲技術(shù)，佯裝成好友對他實(shí)施了詐騙。“不法分子用視頻對講的方式模擬受害者朋友的聲音，看起來，人也是這個人，聲音也是他的聲音，但其實(shí)根本就不是他朋友所為。” 陳友斌說。

　　無獨(dú)有偶，2022年2月，有位陳先生到派出所報案，稱自己被“好友”詐騙了近5萬元。經(jīng)警方核實(shí)，詐騙分子利用陳先生某好友在社交平臺發(fā)布的視頻，截取其面部畫面后利用“AI換臉”合成，制造陳先生與“好友”視頻聊天的假象騙取其信任，從而實(shí)施詐騙。

　　今年10月7日，國家金融監(jiān)督管理總局北京監(jiān)管局發(fā)布風(fēng)險提示稱，有不法分子非法獲取個人信息，通過計算機(jī)算法仿真合成受騙者親人、領(lǐng)導(dǎo)同事或公職人員的肖像面容與聲音，冒充上述人員身份行騙；在獲得受害者信任后使用事先準(zhǔn)備好的套路話術(shù)向受害人發(fā)送銀行卡轉(zhuǎn)賬、虛擬投資理財、刷單返利等詐騙信息，并利用視頻通話，語音轟炸等手段進(jìn)一步降低受害者的防備心，受害者往往在短時間內(nèi)難以察覺異樣，一旦聽信詐騙分子的騙術(shù)并完成轉(zhuǎn)賬，對方便杳無音訊。

　　AIGC數(shù)字人？自然人？

　　人體生物特征或被“深度偽造”

　　“不法分子通過AI換臉和擬聲技術(shù)，佯裝熟人實(shí)施詐騙。”陳友斌介紹，我國在人臉識別這一領(lǐng)域的應(yīng)用排在世界前列，因而人臉識別的風(fēng)險和隱私保護(hù)必須引起關(guān)注。

　　“在鏡頭前面的那個人，他是不是一個真實(shí)的自然人？人是不是真實(shí)的？證件是不是真的？人證是不是一致？需要遠(yuǎn)程核身的手段。”陳友斌介紹，出現(xiàn)在偽造圖像或者偽造視頻中，借助AI技術(shù)生成或者偽造的人稱為“AIGC數(shù)字人”。它可以是真實(shí)世界不存在的人，也可以是對真實(shí)世界存在的人的偽造。而“自然人”是出現(xiàn)在真實(shí)圖像或者真實(shí)視頻中，且存在于真實(shí)世界的人。

　　據(jù)了解，目前在廣深兩地，生產(chǎn)和銷售虛擬數(shù)字人的企業(yè)已達(dá)上千家，由AI技術(shù)創(chuàng)建的“數(shù)字人”具有高度逼真的外觀和自然的語言交互能力，能夠與用戶進(jìn)行實(shí)時對話互動，甚至達(dá)到“不仔細(xì)看看不出來”的逼真程度。

　　作為多年從事圖像識別與人工智能領(lǐng)域研究的專家，陳友斌提醒：“人臉、聲紋、指紋、虹膜、簽名等是最常用的人體生物特征，即便是自然人，但是否他本人此時此刻就在那個地方，還是別人移花接木把他粘到那里去？也需要鑒別。”

　　陳友斌介紹，與傳統(tǒng)技術(shù)相比，“AI換臉”的破壞力不僅在于“偽造”，更在于“深度”。“詐騙分子一般會先對公眾在網(wǎng)絡(luò)上發(fā)布的各類信息進(jìn)行大數(shù)據(jù)分析，包括社交媒體上的個人數(shù)據(jù)、工作信息、人際關(guān)系等，研究他們的日常生活習(xí)慣、工作習(xí)慣、資產(chǎn)狀況等，然后結(jié)合要實(shí)施的騙術(shù)，通過AI技術(shù)對人群進(jìn)行篩選，從而確定要實(shí)施詐騙的目標(biāo)人群，鎖定詐騙對象。”

　　警惕聲紋造假

　　接陌生電話“變個聲音再說”

　　陳友斌介紹，“深度偽造(Deep Fake)”是一種基于深度學(xué)習(xí)的多媒體篡改與合成技術(shù)，主要包括圖像、語音、視頻和文本的偽造及篡改等，在視頻通話、視頻會議中，模仿目標(biāo)人物去欺騙另外一個人。“深度偽造發(fā)展得非常快，這個技術(shù)最早用于好萊塢拍電影時去模擬一些現(xiàn)實(shí)中拍不到的部分，后來被不法分子所利用，讓人臉圖片的嘴巴動起來、眼睛眨起來，還能搖頭晃腦的，還有換臉等，現(xiàn)在這類模型非常多。”

　　他告訴記者，這種深度偽造技術(shù)在不改變身份的情況下，可以對人臉進(jìn)行年齡、性別、種族的改變，并且操縱口部或者表情；還可以通過人臉遷移、交換、堆疊等方式，以“換臉也換表情”“換臉不換表情”等多種方法混合來改變身份。“實(shí)時交互式的深度偽造將合成映射到現(xiàn)在的時刻，針對實(shí)時交互式的應(yīng)用場景，如在線會議中使用虛假身份竊取信息或擾亂秩序，或在視頻通話中模仿目標(biāo)人物去欺騙另一端的用戶等。”

　　陳友斌提醒：特別需要注意的是，聲音的信息也可以通過提取“聲紋”來進(jìn)行造假。什么是“聲紋”呢？陳友斌介紹，人類語言的產(chǎn)生是人體語言中樞與發(fā)音器官之間一個復(fù)雜的生理物理過程，發(fā)聲器官――舌、牙齒、喉頭、肺、鼻腔在尺寸和形態(tài)方面每個人的差異都很大，所以任何兩個人的聲紋圖譜都有差異。現(xiàn)在大家都常接到很多陌生人打來的廣告電話，殊不知在和陌生人說話的過程中，不知不覺就把自己的聲紋泄露了。

　　“不法分子可能通過不同的人向你打電話‘輪番轟炸’，也許他們的目的根本不是為了推銷，而是獲取你的聲紋、生活習(xí)性和社會關(guān)系，進(jìn)而實(shí)施詐騙。”陳友斌介紹，語音時長會影響聲紋識別的精度，有效語音時長越長，算法得到的數(shù)據(jù)越多，精度也會越高。因此他提醒：“不熟悉人工智能科技的老年人尤其需要提高警惕，包括年輕人也一樣，接到陌生電話千萬不要多說話，實(shí)在必須說話時可以捏著鼻子、變個聲音跟他說，否則經(jīng)過一段時間的數(shù)據(jù)學(xué)習(xí)，不法分子就可能會利用你的聲紋信息和講話習(xí)慣等，合成你的聲音、換成你的臉，在你的社交網(wǎng)絡(luò)里進(jìn)行詐騙。”

　　細(xì)心留意AI偽造“蛛絲馬跡”

　　多渠道確認(rèn)不輕信視頻內(nèi)容

　　如何防范AI深度偽造詐騙？陳友斌提醒：“如果這個人跟你很熟，你跟他多交互對話幾次，就可以發(fā)現(xiàn)問題了。”據(jù)了解，以銀行業(yè)務(wù)為例，是需要通過圖像、語音、自然語言處理再加上交互對話來完成金融業(yè)務(wù)，最大限度減小風(fēng)險。而普通人也可以通過多種核對的方式來發(fā)現(xiàn)AI深度偽造的“蛛絲馬跡”。

　　他介紹，因為人臉合成的素材大多使用的是睜眼照片，所以“缺少眨眼”可以被視為是合成視頻的“特征”之一，此外合成視頻還可能存在口型和發(fā)音不同步、情緒不符合、某個地方不自然或者不銜接、牙齒和嘴唇紋理不清，耳朵不對稱等情況。AI擬聲、AI換臉包裝作偽后的通話，雖能逼真地模仿原始人物的語言和行為，但仍充滿破綻，例如眨眼頻率過低、眼睛移動不協(xié)調(diào)、面部表情不自然、語句不連貫等――這些都是“數(shù)字人”的特點(diǎn)。以下防范口訣比較好記：“電話回?fù)茉俅_認(rèn)，視頻不可輕易信；私人問題記得問，答不上來不可信；眨眼能破AI面孔，關(guān)鍵時刻要常用。”

　　據(jù)悉，國家網(wǎng)信辦8月8日發(fā)布的 《人臉識別技術(shù)應(yīng)用安全管理規(guī)定(試行)(征求意見稿)》，也從公共場所、經(jīng)營場所、可能侵害他人隱私的場所等作出了要求。有關(guān)部門也提醒：要提高信息保護(hù)意識，特別警惕需要錄入個人信息的非正規(guī)軟件；在開啟“定位服務(wù)”、輸入身份證號或是錄入“人臉識別信息”“指紋識別信息”等個人生物信息時一定要慎之又慎；發(fā)現(xiàn)APP過度、強(qiáng)制收集個人信息時及時向有關(guān)部門投訴舉報。此外，妥善設(shè)置個人社交賬戶的瀏覽權(quán)限，不過度公開或分享涉及個人信息的動圖、視頻等，對不明平臺發(fā)來的鏈接提高警惕，不輕易向陌生人開啟手機(jī)屏幕共享。

　　《廣州日報》2023年10月29日第A5版