伴隨著AI深度合成技術的成熟,AI深度合成產品和服務井噴式涌現,不少如“AI換臉”“AI換聲”等尚處監管灰色地帶的產業野蠻生長,為不法分子提供了可乘之機,成為網絡欺詐和身份盜竊等犯罪活動的工具。這種利用AI技術融合他人面孔和聲音、制造逼真的合成圖像來實施的新型網絡詐騙,呈現手段愈發多樣、門檻大幅降低、辨別難度加大等特點,常令消費者放松警惕,短時間內造成較大損失。為保護金融消費者合法權益,廈門銀保監局提醒廣大消費者警惕利用AI技術的新型騙局:
騙局一:冒充熟人詐騙錢款。在實施犯罪前,不法分子首先分析公眾發布在網上的各類信息,根據所要實施的騙術篩選目標人群,通過撥打騷擾電話、盜用聊天軟件信息、收集網絡社交媒體信息等提取,或是通過非正規的借貸、兼職平臺購買注冊用戶的人聲人臉素材。不法分子再利用這些影音素材,借助AI聲音合成和AI換臉技術,向該目標的親友發送虛假語音信息,或實時視頻通話,用以假亂真的聲音、面容博取信任后實施詐騙。
騙局二:冒充明星虛假宣傳。不法分子通過AI換臉技術將現實中的人臉替換成某知名公眾人物的臉,并通過社交媒體傳播,誘導用戶和粉絲點擊鏈接下載惡意軟件或輸入個人信息,造成消費者信息泄露;或利用該公眾人物的社會影響力“直播帶貨”,誘導不明真相的消費者購買偽劣產品。這些依托AI手法大量生成并在社交媒體上廣泛傳播的侵權內容,既侵害消費者的公平交易權,也對被冒充公民的肖像權、名譽權和隱私權構成巨大威脅。
騙局三:盜開賬戶詐騙錢款。不法分子通過冒充公安、司法等部門工作人員與消費者聯系,通過視頻通話盜取消費者面部信息,隨后利用AI換臉等技術通過一些APP賬戶注冊人臉識別驗證,而后誘騙消費者提供驗證碼將銀行卡與賬戶綁定,從而將消費者銀行卡上資金轉移到不法分子控制的賬戶。
AI換臉進行視頻合成、實施詐騙的行為是利用新技術進行的詐騙,與傳統詐騙行為在本質上沒有區別,防范方式也萬變不離其宗。廈門銀保監局呼吁廣大消費者牢記以下防范要點,做好個人信息安全第一責任人,謹防AI換臉詐騙:
一是多方核實,確認身份。認真核實身份信息,對親友熟人線上發來的消息,若包含轉賬匯款、提供個人信息、提供短信驗證碼等涉及重要決策或敏感信息的請求時,應保持高度警惕,通過主動更換渠道如電話、視頻提問等方式多重確認對方身份。AI擬聲、AI換臉包裝作偽后的通話雖能逼真地模仿原始人物的語言和行為,但仍充滿破綻,例如眨眼頻率過低、眼睛移動不協調、面部表情不自然、唇形不匹配、語句不連貫等。若在與親友視頻語音溝通中發現上述異常行為,應立即警覺。在核實無誤后確需轉賬的情況下,應盡量向銀行賬戶轉賬,避免通過社交軟件轉賬,有助于進一步核實對方身份、跟進轉賬信息,一旦發現風險,及時報警求助。
二是保護信息,拒絕誘惑。提高信息保護意識,特別警惕需要錄入個人信息的非正規軟件,如走路賺錢、刷單兼職APP等。在開啟“定位服務”、輸入“身份證號”或是錄入“人臉識別信息”、“指紋識別信息”等個人生物信息時一定要慎之又慎;發現APP過度、強制收集個人信息時及時向有關部門投訴舉報。此外,妥善設置個人社交賬戶的瀏覽權限,不過度公開或分享涉及個人信息的動圖、視頻等,對不明平臺發來的廣告、中獎、交友等鏈接提高警惕,不隨意填寫個人信息,不輕易向陌生人開啟手機屏幕共享。
三是相互提示,共同預防。對身邊的親友多加提醒,互相交流,共同應對新型AI騙局。對新興AI技術不了解不敏感的中老年人往往成為AI換臉詐騙的潛在受害者,廣大消費者在對身邊的這類人群加強常規反詐提示的同時,也要注意揭示不法分子的新手段:視頻電話眼見、耳聽未必屬實;勿與陌生人視頻通話,個人信息切不可輕易對外提供,共同提高風險防范意識,保護個人信息安全。
亚洲XX00视频_人成无码区免费AⅤ片_开心五月激情中文在线观看_香蕉伊蕉中文在线视频播放